從GPU到CPU 誰是下個贏家

過去兩年，AI投資主線幾乎完全由GPU主導。然而，當AI進入另一階段，CPU重新回到投資者視野。
（一）AI代理。
過去，AI的主要形態是對話框，用戶提出問題，模型給出答案。但如今，AI的形態正悄然改變，逐漸由一問一答，演變成能夠自主執行任務的AI代理。與傳統對話框不同，AI代理需要搜尋網頁、調用外部工具、執行程式碼、查詢數據庫、驗證結果，並將多個步驟串連成一個完整的最終輸出，而這些任務正好更適合CPU。隨著AI代理被廣泛採用，CPU的角色變得更加重要。
（二）數據卸載。
隨AI逐步走向長上下文及代理應用，模型需要儲存更多歷史對話、中間數據，以及與注意力機制相關的資料。這些資料通常會以鍵值快取（KVcache）的形式儲存。問題在於，GPU記憶體，即HBM，雖然速度極快，但容量有限。當上下文長度持續增加時，部分資料便需要轉移至容量更大的系統記憶體，這個過程稱為數據卸載。

（三）後訓練。
AI模型的訓練大致可分為兩個階段。預訓練負責建立模型的基礎知識及語言模式；後訓練則透過強化學習等方式令模型變得更可靠、更有用，並提升在真實世界執行任務的能力。
由此可見，CPU已從AI基礎設施的配角，轉變為與GPU不可或缺的合作夥伴。
雖然CPU需求明顯回升，但真正的投資問題，不是誰出貨最多CPU，而是誰能把需求轉化為收入及利潤率。要理解這一點，首先要從CPU競爭的底層語言——指令集架構，即Instruction Set Architecture（ISA）——說起。
ISA定義了軟件如何與晶片溝通，而在當前數據中心CPU市場中，x86與ARM（美股代號：ARM）是兩大主要競爭架構。

x86與ARM競爭

x86一直是大部分數據中心的預設CPU架構。由於過去數十年企業數據庫、虛擬化平台及關鍵應用皆圍繞x86的建立與驗證，遷移成本高昂且風險較大，因此英特爾與AMD（美股代號：AMD）擁有深厚的傳統護城河。
ARM在全球超大型雲端服務商內部的市佔率正快速提升，而亞馬遜（Amazon，美股代號：AMZN）Graviton、谷歌（Google）母公司Alphabet（美股代號：GOOGL）Axion及微軟（Microsoft，美股代號：MSFT）Cobalt正正是採用ARM架構。
ARM的核心優勢，在於能夠為大規模雲端工作負載提供強勁的每瓦性能，以及較低的總擁有成本（TCO），特別適合網頁服務、應用程式介面（API）、微服務及資料庫查詢等常見工作。

隨著AI推理規模擴大，這項優勢變得更加重要。值得留意，雖然ARM在企業兼容性及部分通用工作負載方面仍落後於x86，但它在雲端及AI優化環境中快速增長。