內地AI新模型自削黑客力 測試評分81%對比90.5%　開源權重11月照出　AI網攻隱憂持續升溫

北京AI初創企業月之暗面（Moonshot AI）近日推出新一代大型語言模型Kimi K3.1 Pro，並主動披露已經削弱該模型的網絡攻擊相關能力，原因是業界對AI可能被用於強化黑客攻擊的憂慮正在升溫。公開資料顯示，新模型對外稱為一款3萬億級參數規模的開源模型，官方形容是現時旗下最強版本，但在內部網絡安全基準測試中，得分為81%，相較未經風險削減處理的對照版本90.5%明顯偏低，反映開發方確實有意限制相關能力。

刻意移除訓練數據 保留一般程式編寫能力

據公開資料顯示，Moonshot在訓練Kimi K3.1 Pro過程中，特意從訓練語料庫及強化學習環境中移除與網絡攻擊相關的數據，但同時保留模型原有的一般程式編寫能力，希望在安全與實用性之間取得平衡。該基準測試內容涵蓋在受控環境下尋找及利用軟件漏洞的能力，測試結果顯示，被削減後的版本在識別及利用漏洞方面明顯比對照版本遜色，意味相關限制措施確實對模型的攻擊性技術能力產生實質影響。官方亦表示，目標是不釋出能夠拓展網絡攻擊能力「絕對前沿」的開源權重，在兼顧安全同時，仍希望透過開源模式提升業界整體透明度。

模型規格升級 速度版本效能倍增

除網絡安全相關的調整外，Kimi K3.1 Pro在整體規格上亦有提升，支援高達100萬個token的上下文處理能力，可應付更長篇幅的文本分析及程式碼理解需求。官方同時公開另一個高速版本Kimi K3.1 Pro Highspeed，運算速度較標準版快兩至三倍，顯示開發方在性能與安全考量之間，嘗試同步推進技術升級。據公開資料顯示，Moonshot計劃於11月4日公開發布該模型的權重檔案，屆時外部開發者將可自行下載、運行甚至修改相關模型，進一步推動開源生態發展。

AI網攻憂慮升溫 監管措施同步醞釀

這次主動削弱模型攻擊能力的舉措，背後反映的是整個行業對AI可能被濫用於網絡攻擊的憂慮持續加深。隨着大型語言模型編寫程式及分析漏洞的能力不斷提升，有分析擔心相關技術一旦落入惡意人士手中，有可能大幅降低發動網絡攻擊的技術門檻，甚至被用於自動化尋找及利用系統漏洞。與此同時，據報道，中國當局亦已提出相關出口管制建議，擬限制可用於生成惡意程式或發現系統漏洞的AI工具出口，理由是相關技術可能對關鍵基礎設施、國防工業及核心政府系統構成風險。這顯示監管層面與企業層面，近期均同步加強對AI網絡安全風險的重視。

這宗個案某程度上反映，隨着AI模型的程式編寫及漏洞分析能力日益成熟，業界已開始正視相關技術可能被轉化為網絡攻擊工具的風險，而企業主動調整訓練數據、削弱特定能力，或將成為開源AI模型發布的新考量。至於這類自我限制措施能否真正遏止AI被惡意濫用的風險，以及監管機構後續會否推出更具體的出口管制或技術審查要求，仍需持續觀察。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。