根據 Arm 執行長 Rene Haas 近期發表的評論,高效能 AI CPU 需求已達到前所未見的程度,客戶對處理器核心的要求從 128 核心激增至 192 核心。此波需求是由代理型 AI 工作負載所驅動,大量平行虛擬任務需要 CPU 進行編排、排程與工具執行,這些是 GPU 無法單獨處理的。
自 Arm 於 3 月推出採用台積電 3 奈米製程的新款 136 核心 Neoverse V3 CPU 以來,Arm 股價已翻倍。Haas 估計,在代理型 AI 時代,每吉瓦資料中心容量所需的 CPU 核心數將從去年的 3000 萬個躍升至 1.2 億個,使 CPU 成為決定整體 AI 基礎設施吞吐量的關鍵變數。