【導讀】當生成式AI的第一波浪潮以模型規模和GPU供給為衡量標準時,智能體AI的到來正悄然改寫算力格局。微軟與亞馬遜近期財報電話會議不約而同地傳遞出同一信號:基于Arm架構的定制芯片,已從技術探索躍升為超大規模云基礎設施的核心支柱。微軟CEO納德拉直言“CPU與GPU同樣重要”,并披露Cobalt 200即將部署于全球超25個數據中心;亞馬遜則亮出芯片業務年化250億美元、三位數增長的硬核成績單。

微軟 CEO 薩提亞?納德拉 (Satya Nadella) 用一句話概括了這場架構變革:“在運行智能體負載時,CPU 與 GPU 同樣重要。”隨后他給出了有力的證據:微軟預計,到 7 月底搭載 Azure Cobalt 200的機架將部署在全球超過 25 個數據中心。
時隔一日,亞馬遜公布,其芯片業務(包括 Graviton、Trainium 和 Nitro)年化營收規模已突破 250 億美元,同比增長達到三位數。客戶對 Graviton 的采購承諾規模環比接近增長三倍,而 Graviton5 的采用速度也接近 Graviton4 的兩倍。
雖然產品不同、云平臺不同,但方向趨同:全球領先的超大規模云服務商正在將基于 Arm 架構的 CPU 打造成 AI 基礎設施的核心,并針對各自的工作負載需求和經濟效益目標進行優化。
智能體需要的不止是模型算力
生成式 AI 的第一波浪潮的衡量標準是模型規模、AI 加速器的供給能力以及詞元 (Token) 的生成能力。而智能體 AI 的運行方式則更加復雜,智能體需要檢索數據、調用工具、運行代碼、執行策略,并對結果進行驗證,所涉及的是更廣范疇的任務。
GPU 仍承擔絕大部分模型訓練與推理 Token 生成工作,而 CPU 則承擔著圍繞模型運行的各項任務,包括請求路由、數據預處理、工具編排、內存和存儲管理,并確保數千個并發交互任務能夠持續穩定地運行。
納德拉在財報電話會議上表示,基于 Azure Cobalt 的虛擬機 (VM) 產品組合目前已承載微軟自有服務,以及 Adobe、Arm、Elastic、OpenAI、Sprinklr 和 TomTom 等客戶的工作負載,表明其已在真實生產環境中應用。
亞馬遜云科技則從另一個角度印證同一趨勢。Graviton5 專為智能體 AI 工作負載設計,針對實時推理、代碼生成和多步驟編排等場景進行了優化。基于 Graviton5 的 M9g 實例相比采用 Graviton4 的 M8g 實例,計算性能最高提升 25%,機器學習推理速度最高提升 35%。
兩家超大規模云廠商,不同路徑通向規模化
Cobalt 與 Graviton 的成功證明,Arm 架構讓超大規模云廠商能夠針對自身大規模基礎設施要求定制芯片,同時共享同一架構和軟件。這有助于加快商業化進程,實現商業回報。微軟于 2025 年 11 月發布 Cobalt 200,2026 年 6 月開放虛擬機產品的預覽訪問。不到兩個月,搭載該芯片的機架方案已部署至全球超過 25 個數據中心,進展十分迅速。
Cobalt 200 基于 Arm Neoverse CSS V3 構建,是微軟第二代 Arm 架構云 CPU——相較前代產品,性能最高提升 50%,擴展到 128 個 vCPU,專為云原生、數據密集型以及智能體工作負載設計。
亞馬遜云科技已推出第五代 Graviton 產品。搭載 Graviton5 的 M9g 和 M9gd 實例已于今年 6 月正式商用,計算性能較 Graviton4 最高提升 25%。亞馬遜云科技表示,就整個 Graviton 產品線而言,其性價比較同類實例高出 30% 至 40%。
真正值得關注的是 Graviton 產品的客戶采用率:亞馬遜云科技排名前 1000 的 EC2 客戶中,98% 都在使用 Graviton,超過 12 萬家客戶基于 Graviton 構建服務。連續第三年,亞馬遜云科技新增 CPU 容量中超過一半采用了 Graviton。
效率釋放算力,算力創造營收
微軟將基礎設施效率與業績增長直接關聯起來。當季 Azure 營收同比增長 43%,而市場需求依然超過現有供給能力。微軟首席財務官艾米?胡德 (Amy Hood) 表示,CPU 和 GPU 基礎設施運營效率的持續提升,以及基礎設施擴容和啟用速度的加快,釋放了更多可用算力資源,而這些新增算力幾乎在上線后便被市場需求迅速消化并轉化為收入。
對于超大規模數據中心而言,CPU 效率提升的意義遠不止降低電費支出。當市場需求超過供給時,更高效的基礎設施能夠在相同機架規模和相同電力預算下釋放更多可用算力,而這些算力最終會轉化為營收。
微軟并未披露 Cobalt 200 對效率提升的具體貢獻比例,但背后的邏輯已經非常明確:性能、資源利用率和能效既是釋放更多算力的杠桿,也是推動業務增長的杠桿。
亞馬遜云科技提供了另一項佐證數據。250 億美元的年化營收涵蓋整個芯片業務,而不僅僅是 Graviton。然而采購承諾的快速增長以及 Graviton5 的加速采用表明,定制 CPU 產品線正成為這一規模龐大且高速增長的芯片業務的重要支柱。同時,其顯著的性價比優勢,也為客戶將更多工作負載遷移至 Graviton 平臺提供了充分理由。
行業面臨的壓力持續加大。國際能源署 (IEA) 數據顯示,面向 AI 的數據中心用電量在 2025 年增長了 50%。研究機構 Dell'Oro Group 統計顯示,2026 年第一季度,亞馬遜、谷歌、Meta 和微軟的數據中心資本支出同比增長 78%。相比一年前,如今每一瓦電力、每一個機架都變得更加重要。CPU 能效已不再是技術參數中的次要指標,而是超大規模云廠商釋放受限算力、提升現有基礎設施利用率并獲得更高回報的關鍵手段。
與此同時,市場需求正突破 GPU 單一范疇。IDC 預計,2026 年全球 AI 基礎設施支出將達到 4,970 億美元,同比增長約 56%,且需求不再局限于 GPU 系統,還包括編排平臺、數據流水線以及基于 CPU 的推理集群等領域。
超大規模云市場傳遞出更多利好 Arm 的信號
微軟和亞馬遜云科技是當下最受關注的案例,但它們只是這場更廣泛架構遷移的一部分。
Google Cloud 推出的 Axion 是基于 Arm 架構定制的 CPU 產品系列。Axion 不僅作為支撐其云基礎設施的通用 CPU,還在最新一代 TPU 系統中擔任 AI 頭節點 CPU,負責提供編排、網絡和基礎設施服務,支撐超大規模 AI 系統穩定運行。
NVIDIA 在 AI 工廠方案也做出了相同的架構選擇。Vera 是 NVIDIA 最新推出的基于 Arm 架構的 CPU,將作為 Rubin 等下一代 AI 系統的計算基礎。在這些機架級部署的系統中,CPU 負責協調內存、網絡和加速器資源。
綜合來看,Microsoft Cobalt、Amazon Graviton、Google Axion 以及 NVIDIA Vera 都指向了同一個結論:隨著 AI 基礎設施從模型推理階段邁向自主智能體執行階段,基于 Arm 架構的 CPU 正逐漸成為現代 AI 數據中心的通用計算底座,承擔資源編排與系統協調等關鍵職能。
結論
微軟Cobalt與亞馬遜Graviton的規模化進程證明,Arm定制芯片的商業價值已遠超技術試驗階段。無論是Cobalt 200的50%性能躍升,還是Graviton系列高達40%的性價比優勢,其核心邏輯高度一致:在電力與機架資源日益緊缺的當下,CPU能效直接轉化為可用算力與營收增量。而智能體AI對請求路由、工具編排、多任務協同的嚴苛需求,更讓CPU從配角走向舞臺中央。



