今天,Arm 发布了 Arm AGI CPU ,这是一款基于Arm Neoverse平台打造的全新量产型芯片,旨在为下一代 AI 基础设施提供动力。

在 Arm超过 35 年的历史中,这是 Arm首次推出自主研发的芯片产品——将 Arm Neoverse 平台扩展到 IP 和 Arm 计算子系统 (CSS) 之外,为客户提供更丰富的 Arm 计算部署选择,从构建定制芯片到集成平台级解决方案,再到部署 Arm 自主设计的处理器。这既反映了 AI 基础设施的快速发展,也体现了生态系统对能够快速大规模部署、即用型 Arm 平台的日益增长的需求。

人工智能系统正日益在全球范围内持续运行。历史上,人类是计算的瓶颈——人与系统交互的速度决定了工作在系统中的流转速度。在智能体人工智能时代,这种限制不复存在,因为软件智能体可以协调任务、与多个模型交互并实时做出决策。

随着人工智能系统持续运行,工作负载日益复杂,CPU 已成为现代基础设施的驱动核心——负责确保分布式人工智能系统高效、大规模地运行。在现代人工智能数据中心,CPU 管理着数千个分布式任务——协调加速器、管理内存和存储、调度工作负载以及在系统间传输数据——而现在,随着智能体人工智能的出现,它还要协调大量智能体之间的任务分发。

这种转变对 CPU 提出了新的要求,这就需要处理器进行革新。

Arm Neoverse 已成为当今众多领先的超大规模和 AI 平台的基础架构,包括AWS Graviton、Google Axion、Microsoft Azure Cobalt和NVIDIA Vera。随着 AI 基础设施在全球范围内扩展,整个生态系统的合作伙伴都希望 Arm 能做得更多。Arm AGI CPU 的诞生正是为了应对这一转变。

智能体人工智能工作负载需要大规模、持续稳定的性能。Arm AGI CPU旨在并行处理数千个核心,在持续高负载下实现卓越的单任务性能,同时满足现代数据中心的功耗和散热要求。

Arm AGI CPU 的每个元素——从运行频率到内存和 I/O 架构——都经过精心设计,旨在支持在密集机架部署中大规模并行、高性能的代理工作负载。


Arm 的参考服务器配置采用 1OU 双节点设计,每个刀片服务器包含两颗芯片,分别配备专用内存和 I/O,共计 272 个核心。这些刀片服务器旨在完全填充一个标准的 36kW 风冷机架——30 个刀片服务器总共可提供 8160 个核心。此外,Arm 还与 Supermicro 合作开发了一种 200kW 液冷设计,可容纳 336 个 Arm AGI CPU,提供超过 45000 个核心。

在这种配置下,Arm AGI CPU 每个机架的性能比最新的 x86 系统高出 2 倍以上*,这是通过 Arm 架构的基本优势以及系统资源与计算的精心匹配实现的:

Arm AGI CPU 的领先内存带宽意味着每个机架可以执行更多高效的线程;x86 CPU 在持续负载下,随着核心之间的竞争,性能会下降。

高性能、高效率的单线程Arm Neoverse V3 CPU内核性能优于传统架构;每个 Arm 线程都能完成更多工作。

更多的可用螺纹和更多的单螺纹工作量,使得每个机架的性能大幅提升。

Arm AGI CPU 已展现出强劲的商业势头,其合作伙伴正处于扩展智能体 AI 基础设施的前沿。计划部署涵盖加速器管理、智能体编排以及智能体任务横向扩展所需的服务、应用程序和工具的密集化,同时还将增强网络和数据平面计算能力,以支持 AI 数据中心。

Meta 是我们的首席合作伙伴和客户,双方共同开发 Arm AGI CPU,旨在优化其 Meta 系列应用的千兆瓦级基础设施,并与 Meta 自有的定制 MTIA 加速器协同工作。其他首发合作伙伴包括 Cerebras、Cloudflare、F5、OpenAI、Positron、Rebellions、SAP 和 SK Telecom,他们都与 Arm 合作部署 Arm AGI CPU,以加速云端、网络和企业环境中的 AI 驱动服务。目前,ASRockRack、Lenovo 和 Supermicro 均已开始接受商用系统的订单。

为了进一步加速Arm架构的普及,Arm推出了Arm AGI CPU 1OU双节点参考服务器,这是一款符合开放计算项目(OCP)DC-MHS标准外形尺寸的服务器。Arm计划贡献这款参考服务器的设计和配套固件,以及其他贡献,包括系统架构规范、调试框架以及适用于所有基于Arm架构系统的诊断和验证工具。

Arm AGI CPU 的发布标志着 Arm 数据中心发展历程的新篇章,也巩固了其在计算创新领域的持续领先地位。随着人工智能重塑行业格局,Arm 将继续致力于推动整个生态系统的发展,满足从超大规模云服务提供商到人工智能初创公司等各类客户的需求。

Arm AGI CPU 是 Arm 全新数据中心芯片产品线的首款产品,现已开放订购。后续产品也将持续研发,力求在性能、扩展性和效率方面达到一流水平。与此同时,Arm Neoverse CSS产品路线图也在同步推进,确保所有 Arm 数据中心客户在平台架构和软件兼容性方面能够携手并进。

迈入新的篇章,我们的使命始终不变:提供赋能各行业创新的计算基础。整个生态系统也全力支持我们:超过 50 家来自超大规模、云计算、芯片、内存、网络、软件、系统设计和制造等领域的领先企业正在助力 Arm 计算平台向芯片领域拓展。借助 Arm AGI CPU,我们不仅在定义 AI 原生数据中心的架构,更在构建它。