【Google擴充TPU陣容】TPU 8tx搭第五代AMD EPYC主打機密運算 保護模型權重運算中不外洩 延遲較TPU 8t最多減半

最新財經消息

廣告

當人工智能系統要處理客戶財務紀錄、政府機密文件甚至專屬商業模型時,運算過程中的資料安全,往往是企業最放心不下的一環。Google 近日擴充第八代 TPU(張量處理器)產品線,新增主打「機密運算」的 TPU 8tx,聲稱即使資料在晶片內正在被運算的瞬間,也能維持加密與隔離狀態。這項設計能否真正填補 AI 運算中「記憶體解密」留下的安全缺口?

Google 近日宣布擴充第八代 TPU 產品線,一口氣推出兩款新系統 — 主打機密運算的 TPU 8tx,以及鎖定超長上下文處理的 TPU 8i Max。連同今年較早時推出的 TPU 8t 與 TPU 8i,Google 今年內已累計發表四款第八代 TPU 系統,據報道為該公司首次在同一年內推出四款 TPU 系統,顯示其在 AI 專用晶片領域的投放力度持續加大。

【機密運算細節】硬體層防護 運算中資料不解密

TPU 8tx 採用與 TPU 8t 相同的矽晶片,但搭配第五代 AMD EPYC 主機處理器,組成一套專為「機密運算」設計的系統。據公開資料顯示,一般資料在儲存或透過網路傳輸時會被加密,但電腦實際處理資料時,必須在記憶體中將其解密,這個環節一直被視為安全缺口。TPU 8tx 的設計正是針對這一痛點 — 將安全機制直接內建於硬體層,確保敏感資料與模型權重即使在活躍運算狀態下,也能全程受到保護並維持隔離。换言之,企業專屬模型的參數、客戶的敏感資料,理論上在整個運算流程中都不會以未加密形式暴露。

據報道,TPU 8tx 同時沿用專為即時推論打造的低延遲 Boardfly 網路,令這套額外的加密防護幾乎不影響運算效能。有報道指,TPU 8tx 的延遲表現較 TPU 8t 最多降低一半(即低至二分之一),另有報道以「低最多 2 倍」描述同一數字,兩者數學上並無矛盾,均指向延遲大幅改善,而效能損耗則趨近於零。Google 將此定位為「硬體層級」的機密運算方案,目標客戶鎖定需要安全地執行先進模型、專屬模型或自主 AI 代理的高度監管企業與政府機構。

項目 TPU 8tx 內容 洞察
晶片基礎 與 TPU 8t 相同矽晶片 重用現有晶片設計,加快推出速度
主機處理器 第五代 AMD EPYC CPU 首度為雲端 TPU 引入硬體層機密運算
核心保護 資料與模型權重運算中維持加密隔離 填補記憶體解密安全缺口
延遲表現 較 TPU 8t 最多降低一半,效能損耗趨近於零 安全與速度兼顧
目標客戶 高度監管企業、政府機構 瞄準金融、公共部門等敏感數據場景

【產品陣容】第八代TPU一年四款 分工處理AI代理生命週期

除了 TPU 8tx,Google 同時公布 TPU 8i Max — 將兩顆低延遲的 TPU 8i 晶片整合封裝在單一模組上,提供雙倍運算能力、雙倍 SRAM,以及雙倍於 TPU 8i 的高頻寬記憶體(HBM)頻寬,設計目標是應付百萬詞元規模的龐大上下文視窗,並在現有機櫃空間內容納兩倍晶片數量,提升每平方英尺與每瓦電力所能部署的運算能力。

綜合公開資料,Google 第八代 TPU 現時共涵蓋四款系統,各自分工處理 AI 代理應用生命週期的不同階段:TPU 8t 主力負責大規模模型訓練;TPU 8i 鎖定低延遲推論;TPU 8tx 專攻機密運算;TPU 8i Max 則專為長上下文與高運算密度而設。有報道指,Google 在雲端 AI 晶片市場已累積接近 100 個客戶,當中包括蘋果與 Meta 等大型科技企業,而新系統預計要到 2027 年才會正式對外推出;惟此部分僅見單一消息來源,暫未有第二個獨立報道確證具體客戶名單與時間表,讀者宜視為初步消息。

【行業格局】雲端AI晶片競爭白熱化 自研晶片成角力重點

Google 今年內密集推出四款第八代 TPU 系統,反映雲端服務商之間的 AI 專用晶片競爭日趨激烈。目前主流 AI 加速器市場仍由獨立 GPU 廠商主導,而包括 Google 在內的多家雲端巨頭近年均加快自研晶片步伐,期望在訓練與推論成本、能源效率,以至資料安全層面建立差異化優勢。TPU 8tx 主打的「硬體層機密運算」,某程度上反映市場對 AI 運算安全性的要求正在提高 — 尤其當越來越多企業將專屬模型與敏感資料交由雲端運算處理,運算過程中的資料是否可信,將成為企業選擇雲端服務商時的重要考量之一。

免責聲明:本專頁刊載的所有投資分析技巧,只可作參考用途。市場瞬息萬變,讀者在作出投資決定前理應審慎,並主動掌握市場最新狀況。若不幸招致任何損失,概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點,僅屬筆者個人意見,與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。

—

撰文:經一編輯部