AI下一站 從訓練模型走向真正落地

研究機構Gartner預計，AI基建開支中用於推理的比例，將由2026年的55%升至2029年的65%，反映AI投資週期正由模型訓練逐步走向實際應用。
訓練大型語言模型需要大量晶片同時運算，因此幾乎全部在大型雲端數據中心完成。
但推理的要求卻有所不同，除了運算能力、速度、成本外，私隱及穩定性同樣重要。
若每次AI回應都要把資料傳送到遙遠的雲端，再將結果傳回用戶，不但增加延遲，亦會提高網絡及運算成本。
因此，「邊緣AI」（Edge AI）便應運而生。邊緣AI是指由手機、汽車、工業設備等終端裝置，或鄰近使用者的小型數據中心處理部分AI工作，而非全部交由大型雲端平台負責。

投資機遇向外擴散

這並不代表邊緣AI會取代雲端，而是兩者各司其職：較複雜、需要大量運算的工作仍由雲端處理；講求即時反應及成本效益的應用，則可在終端裝置或附近的服務節點完成。
邊緣AI的興起，亦令原本主要用於傳送影片、遊戲及網頁內容的內容傳遞網絡（CDN）重新受到市場關注。
AI推理逐步走向邊緣端，意味受惠者不再局限於大型雲端平台及GPU供應商，整條科技價值鏈都有望迎來新需求。
首先是光通訊網絡。當AI運算由少數大型數據中心，擴展至全球數以千計的服務節點，資料需要高速傳輸，光通訊設備的重要性自然提升。
其次，是類比（Analog）半導體。隨AI逐步應用於汽車、工業設備及醫療等現實場景，市場對類比晶片的需求亦有望增加，因為類比晶片正是連接數碼系統與現實世界的橋樑。

記憶體同樣值得留意。除了高頻寬記憶體（HBM）及DRAM外，隨著AI推理日益普及，市場對不同類型記憶體的需求亦有望擴大。
以AI對話為例，系統需要暫時記住早前的內容；否則，每次生成新句子時都會像「失憶」一樣忘記上文。這類短期記憶需要快速存取的記憶體支援，為行業帶來新的增長動力。
邊緣AI並非要取代雲端，而是令AI更便宜快捷的方式融入日常生活，市場焦點亦逐步轉向如何有效地部署AI應用。
對投資者而言，AI機遇不再只是少數科技龍頭的專利，內容傳遞網絡、光通訊、類比半導體、記憶體及網絡安全等企業，都有望創造可持續的商業價值，成為下一階段的受惠者。