有模型厂商CPU需求提高5倍！计算设备迎来非人类用户

　　云计算产品运营总监周驰观察，涌入云平台的很多自动化任务用于处理日常琐事，不需要很多GPU，更需要CPU的调度、高并发执行大量小脚本能力。

　　一些业界人士认为CPU需求会倍数增长。Arm CEO Rene Haas近日表示，按出货量计算，CPU需求增长比原本预想的更快，他无法预计增长倍数是4、6还是8，但数字在变大。陈葆立认为，目前还难以定论未来CPU和GPU的比例是不是1:1，但基本逻辑是给AI更多任务，多数任务执行者是CPU。

　　数据中心的“C位”也在悄然变化。资本市场上，英伟达的股价自2022年底ChatGPT面世后经历了暴涨。CPU厂商AMD、英特尔以及与CPU关系密切的IP设计厂商Arm，股价迅猛提拉的时间点则在年内，这三家厂商年内股价都翻倍增长。

　　业界近期判断，以CPU需求增长为代表的数据中心计算硬件变迁只是开始，智能体将更加彻底地改变硬件的运行方式乃至形态。

　　Chris Bergey告诉，为支撑AI产业变革，芯片硬件层面配套算力与存储组件的设计复杂度、研发成本大幅攀升，同时产品还要面临严苛的功耗限制。随着AI成为核心工作负载，系统内每一类计算单元，都要尽可能强化AI任务的运行能力。因此，市场将会出现全新的计算硬件。

　　一些业界人士认为，面向智能体，CPU将变得与以往截然不同，新的工作负载对CPU的效率、能力、核心数都提出新要求。

　　智能硬件基础设施厂商云尖信息副总裁张欢军表示，运行智能体时，要解决的核心痛点是“单颗CPU处理业务的能力”，即单台设备能否承载更多智能体、每个智能体的运行成本和效率是否足够好。

　　要承载更多智能体，一种方式是增加CPU的核数，以增强并行计算能力。陈葆立认为，智能体需要更高的CPU核数，一些智能体适合使用核数极多、单核性能要求不太高的轻量核处理器。目前英特尔至强6+可以在单个CPU核心上同时运行3到4个用于处理简单日常工作的智能体。

　　上周Arm与英伟达合作推出的RTX Spark个人电脑芯片则搭载了20颗Arm处理器内核，是目前采用统一内存架构的PC类产品中CPU核心数最多的产品。“我们在云端和边缘侧都看到对更多CPU、对更高性能的强烈需求。大家真正需要的是更高的CPU密度，也就是更好的能效比 。”Chris Bergey告诉。

　　智能体在边缘硬件运行还面临一个难以回避的挑战：内存空间有限。创通联达CTO黄小严在近日高通与极视角主办的端侧AI开发者技术开发日上表示，智能体开始成为硬件的核心用户，智能体场景涉及多轮对话，需要长时间记忆，但移动端的内存容量受成本约束，内存紧缺且有算力约束，容易导致上下文溢出，由此形成AI智力鸿沟。

　　英伟达与Arm合作开发的RTX Spark采用了Grace CPU、Blackwell RTX GPU及统一内存紧密耦合的方式。Chris Bergey告诉，行业迈入智能体阶段，用户需要高性能GPU与CPU之间的紧密结合，统一内存是为了让CPU和GPU能完整调用全部DRAM及带宽资源，并让系统设计不再依赖PCIe或CXL等传统传输接口，提升CPU与GPU间的传输带宽。统一内存技术正在推动边缘计算变革。

　　陈葆立表示，AI运行时，海量KV Cache需要存，100万上下文约等于10G以上KV Cache，是一大笔闪存开销，而通过QAT技术可以让压缩比达到50%，节省闪存成本。多个智能体运行时，IAA则能实时性压缩内存数据以节省内存。

　　除了内存问题，黄小严还提到，智能体在移动计算设备上不停歇运行，设备需要在省电、高唤醒率之间找到平衡。传统物联网软件架构失效，设备必须重构，以便智能体理解和调用，智能体安全也需要新的保障。为解决这些问题，他所在的公司使用了高通开发工具链等，在软硬件和系统平台层面进行了设计，搭建了端侧智能体中间件运行平台等。

　　今年初，OpenClaw爆火带动了Mac Mini这类计算设备销售，人们买Mac Mini更多是为了让智能体在本地运行，而不是自己上手操控电脑。这是智能体专用设备的雏形。现在，真正为智能体设计的个人计算设备也开始出现了。

　　今年秋季将上市、搭载了RTX Spark芯片的笔记本和台式电脑，将由联想、华硕、Microsoft Surface等厂商推出。对这款芯片，英伟达CEO黄仁勋形容为“重新发明了个人电脑的工作方式”。

　　Arm也看到，个人电脑行业将发生巨大改变。“PC需求分化为两种，一种是电池好、随处可连接网络，就像一个大号手机加一个键盘，能用来工作；另一种需要有非常极致的性能，能运行智能体、模型或做开发工作。”Rene Haas上周表示。

　　Chris Bergey向进一步解释，以往的PC从入门级向高性能产品延伸演进，整体产品架构相对一致，高端机型靠提升主频、扩充核心数、选用更强性能内核来实现迭代。而随着智能体专用硬件平台兴起，现在对PC市场的区分已截然不同。

　　“用户对此类设备有明确需求：PC能7×24小时不间断运行智能体；设备依托高性能硬件，以高吞吐规格运行各类大模型；除了支出设备采购、供电及网络接入成本，不产生额外算力费用，模型本地运行，用户隐私数据留存本机。”Chris Bergey说，传统PC一天内只使用一小部分时间，新一代硬件作为本地token生成引擎，则要全时段输出算力。

　　Chris Bergey告诉，当下人们正在使用的传统PC还会继续迭代，整机趋于轻薄紧凑，主打便携属性。另一类可供智能体使用的设备便携性偏弱，可留在家中不间断运行。两种产品在外观、摆放结构等物理设计层面也有差异。

　　高通技术公司资深产品市场经理朱元堃则认为，个人用户使用AI的方式也会发生改变。以往人们以手机为核心使用AI，耳机、眼镜、手表等穿戴设备作为附属连接，未来将转向以AI和用户为中心的多终端体验，AI不再绑定某个具体的设备，而是通过多设备灵活协同服务用户。