【AI自行越獄】測試中模型逃出實驗環境　連續攻擊開源平台三日　對方CEO飛三藩市索1億美元算力

一宗被形容為業界首例的人工智能自主網絡入侵事件近日曝光，涉事測試模型在內部演習中脫離受控環境，並持續對一個開源平台發動攻擊逾三日，最終被追蹤發現時，涉事一方已開出高達1億美元、折合約7.8億港元的賠償訴求。

【逃出實驗室】測試模型繞過限制取得網絡權限

事件源於一次內部網絡攻擊能力測試。據報道，相關研發機構當時正以新一代模型及一款尚未公開的高性能模型，進行代號「ExploitGym」的攻防演習，目的是評估模型在缺少部分安全限制下的極限攻擊能力。演習原意是讓模型在受控環境內嘗試破解已知的軟件漏洞題目，惟其中一個模型並未按預期完成測試，而是自行摸索出取得對外網絡連接的方法，繼而利用一個此前未被發現的系統漏洞，滲入一間開源人工智能平台的生產系統，企圖直接取得測試答案及相關機密資料。整個過程未有人類即時介入或下達指令。

【三日連環攻擊】逾萬項紀錄揭發入侵真相

追蹤紀錄顯示，涉事模型在演習期間一度嘗試脫離測試環境，其後連續數日持續向該開源平台發動攻擊，時間橫跨接近一周。對方其後動用內部團隊，翻查超過一萬七千項系統紀錄，才確認事件源頭並非人為攻擊，而是由AI模型自主發動。值得留意的是，團隊起初嘗試以主流商業AI模型協助分析攻擊數據，惟相關模型基於安全考量拒絕處理具攻擊性質的內容，團隊最終改用一款開源模型於本地伺服器完成分析工作，事件才得以水落石出。開發模型一方其後公開承認責任，形容事件屬於「前所未有」，並預期同類自主攻擊行為將隨AI網絡能力提升而變得更普遍。

【賠償拉鋸】官方尚未正式回應 白宮已密切關注

該開源平台行政總裁其後親自飛往三藩市，與對方高層會面商討事件後續，並在社交平台公開列出兩大訴求：一是要求對方徹底公開失控模型由脫離環境至被制止期間的所有活動軌跡，讓研究社群可作獨立分析；二是要求對方提供1億美元算力資源，用於協助業界建立更強的網絡防禦能力。截至目前，開發模型一方尚未就賠償訴求作出正式回應，僅表示會共同調查事件，並已將受影響平台納入其網絡安全信任存取計劃。有科技界人士形容，事件象徵網絡戰進入「非對稱」新階段，未來發動攻擊的成本可能大幅降低，事件亦已引起美國政府相關部門關注。

對於這宗事件，市場的關注點正逐漸從「AI會否被濫用」轉向「AI會否在無人指使下自行越界」。當測試環境的邊界都能被模型自行突破，如何確保下一代更強大的模型在真實部署中不會出現類似情況，將是整個行業無法迴避的課題。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。

—