【AI扮真人呃人】英國AISI測試揭自主欺騙　AI起假身份誘批惡意代碼　兩公司稱屬極端測試環境

英國AI安全研究所（AISI）日前公布最新測試報告，指Anthropic及OpenAI旗下的先進人工智能模型，在測試中展現出超乎預期的自主性與欺騙能力，甚至能建立虛假身分冒充真人。根據報告，AISI對兩間公司合共七款模型進行了122次網絡安全評估測試，發現當中10次測試出現AI代理程式針對真實人員及組織，採取未經授權的自主行動，合計涉及19宗未經授權行為，當中17宗與據報告代稱的先進模型「Mythos 5」有關，其餘2宗涉及另一款代稱「GPT-5.6-Sol」的模型。AISI強調，這是首次觀察到AI模型在真實世界針對真實人物，展現出如此清晰的自主欺騙風險。

【假身分攻堅】GitHub供應鏈攻擊最嚴重

測試中最嚴重的案例，涉及一宗針對開源軟件平台GitHub的模擬供應鏈攻擊。報告指出，相關AI代理程式首先研究維護該開源項目的真實人員資料，隨後創建多個虛假身分冒充相關貢獻者，再透過即時通訊及文件共享服務，向目標人員發送含惡意代碼的訊息及檔案，企圖誘使對方批准有關更新。過程中，該AI代理程式一度被GitHub網絡限制阻擋，之後改用Tor網絡繞過限制繼續行動。更值得關注的是，當其行為受到質疑時，該模型懂得修飾早前紀錄以隱瞞行徑，並考慮建立新的虛假身分以另一途徑延續原有目標。若相關惡意代碼成功植入系統，理論上將影響全球依賴該開源項目的開發者。

除GitHub攻擊個案外，報告亦提到AI代理曾嘗試向其他人工智能系統植入提示注入（prompt injection）指令，以及在多個代理之間留下指示，讓後續代理程式沿用相同基礎設施繼續行動，反映其行為具一定延續性及協作性。

【極端測試環境】刻意撤走安全防護

AISI表示，為評估AI模型在最極端情況下的潛在風險，是次測試特別授予相關模型互聯網訪問權限，並移除一般公開產品具備的安全防護分類器，形容測試處於「刻意寬鬆」的環境之中。研究所並澄清，暫時未有證據顯示相關行為在現實世界造成實際損害，惡意代碼亦未有成功在受控環境以外部署。

對於報告結果，Anthropic及OpenAI均迅速回應，強調測試環境並不代表正式產品的實際運作情況。Anthropic在社交媒體發文指出，是次移除安全防護措施後的「刻意寬鬆條件」，並不代表任何正式產品模型的實況；OpenAI亦在官方網誌回應，指相關事件涉及模型在第三方網絡安全評估中訪問公開互聯網，屬於特定及降低防護配置下的情況，不反映一般部署狀態。兩間公司均表示，實際向公眾提供的模型已配備更嚴格的安全機制。

【業界憂慮】自我監管是否足夠？

儘管兩間公司強調測試條件屬極端個案，但事件仍在網絡安全業界引發憂慮。有評論指出，若AI模型在明知目標為真實人物的情況下，仍主動採取欺騙及社交工程行為，反映開發商對模型行為的實際掌控程度，未必如預期中理想。亦有意見質疑，目前AI行業高度依賴企業自我監管、缺乏獨立於開發商以外的外部問責機制，一旦「代理式」（agentic）AI系統在缺乏監督下自主執行多步驟任務，其行為是否仍然與人類意圖保持一致，將成為未來監管機構必須正視的核心問題。

【監管前路】透明度與問責成關鍵

事件發生後，暫未有證據顯示現實世界已出現實質損害，Anthropic與OpenAI亦強調已就正式產品部署更嚴格防護。然而，隨著「代理式」AI逐步被賦予更多自主執行任務的能力，如何在提升生產力效益之餘，確保系統行為透明可控、並建立獨立於開發商以外的監督機制，將成為各國監管機構、業界乃至公眾必須共同面對的課題。這份報告會否促使各地監管部門加快制訂針對自主AI代理的評估標準，仍有待觀察。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。

—