【Kimi K3開源震撼】2.8兆參數稱史上最大開源模型 自架需64張加速器耗電45kW 硬件成本逾港幣1872萬
中國AI實驗室月之暗面(Moonshot AI)於7月中推出新一代大型語言模型Kimi K3,總參數量高達2.8兆,成為公開資料顯示史上規模最大的開源(open-weight)模型,理論上一般開發者亦可下載使用。不過官方同時建議,若要在本地自行架設K3,最少需要64張加速器組成的「超節點」配置,單是顯示卡耗電已達約45千瓦,硬件採購成本更超過港幣1872萬元,令「開源」與「人人可用」出現明顯落差。
史上最大開源模型:2.8兆參數是甚麼概念?
根據公開資料顯示,Kimi K3採用混合專家(Mixture-of-Experts)架構,總參數規模達2.8兆,是上一代K2系列(約1兆參數)的近3倍,亦是目前已知全球規模最大的開源權重模型。模型設有896個專家模組,每次推理僅啟動當中16個,藉此在龐大參數規模下控制運算成本;同時支援長達100萬token的上下文視窗,並原生支援視覺理解,適用於長篇程式開發、知識工作及複雜推理任務。消息指,K3在多項基準測試的綜合表現僅次於市場上最頂尖的閉源模型,被視為中國開源陣營的一次重大突破。
開源也用不起?64張加速器與45千瓦電力門檻
雖然K3標榜開源,但官方部署指引建議,本地自行架設最少需要64張加速器組成的「超節點」配置,確保專家平行運算的網絡流量維持在單一高頻寬互聯網域內。以每張H100 SXM版本顯示卡最高功耗約700瓦計算,單是64張顯示卡運行已消耗約45千瓦電力,遠超一般家庭甚至中小企的供電容量,形同需要數據中心級別的電力基建才能負荷。與此同時,模型原始權重檔案體積龐大,以4-bit精度格式計算亦達約1.4TB,儲存與傳輸同樣對硬件提出極高要求。
| 項目 | 數據 | 洞察 |
|---|---|---|
| 總參數量 | 2.8兆(MoE,896專家中啟動16個) | 史上最大開源權重模型 |
| 最低部署要求 | 64張或以上加速器 | 需超節點級互聯配置 |
| 顯示卡耗電 | 約45千瓦(H100 SXM版) | 遠超家庭及中小企供電容量 |
| 硬件採購成本 | 超過港幣1872萬元 | 一般開發者難以負擔 |
| 替代方案 | K2系列(約1兆參數)或官方API | 務實用戶的折衷出路 |
1872萬元天價門檻:一般玩家出路在哪?
公開資料顯示,僅硬件採購一項,本地架設K3所需的64張加速器成本已超過200萬美元,折合港幣約1872萬元以上,尚未計算伺服器機箱、散熱及電力基建等額外開支,一般開發者以至中小型機構均難以負擔。正因如此,市場估計絕大部分用戶最終只有兩條出路:一是轉用參數規模較細、僅需約1兆參數且可於單張消費級顯示卡搭配大容量系統記憶體運行的K2系列;二是直接透過官方API按用量付費,毋須承擔龐大的硬件資本開支。這種「開源但用不起」的現象,也反映出當前頂尖大型語言模型競賽已進入資本與硬件規模的較量。
從2.8兆參數的技術突破,到64張加速器、45千瓦電力與逾1872萬元的部署天價,Kimi K3一役再次印證:開源與「人人可用」並非同義詞。對普通開發者而言,究竟是耐心等待硬件成本下降,還是轉用API或K2系列等折衷方案,恐怕仍需視乎個別應用場景與預算而定。
免責聲明:本專頁刊載的所有投資分析技巧,只可作參考用途。市場瞬息萬變,讀者在作出投資決定前理應審慎,並主動掌握市場最新狀況。若不幸招致任何損失,概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點,僅屬筆者個人意見,與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。

