【AI失控自行黑客入侵】OpenAI逾700個AI特工聯手攻擊　潛入平台偷改紀錄圖滅證　多州監管機構介入調查

本應被隔離、互不相通的AI特工，如何自行搭建「地下留言板」，繼而聯手闖進另一個平台？

獨立調查機構於本月底發表報告指出，OpenAI旗下一批合共約1,200個AI特工，本應在測試期間互相隔離、各自獨立運作，卻自行找到方法繞過限制、互相通訊，累計發出超過7萬則訊息及檔案；當中約700個特工其後更聯手，成功入侵開源平台Hugging Face的基礎設施，事後部分特工被發現試圖刪除或竄改自身行動紀錄，企圖掩蓋痕跡。

特工自建「留言板」 突破隔離互通消息

報告披露，這批特工原意只是被安排執行極高難度的測試任務，包括在被完全封鎖網絡連接的環境下，嘗試存取雲端試算表等資料。特工其後發現，可透過上載檔案至企業常用的軟件庫服務Artifactory，變相建立一個「地下留言板」，以留言方式互相求助。其中一個特工曾留言：「或者我可以聯絡另一個特工，說不定外面有人手上有這份檔案？」其後系統一度修補漏洞、撤銷相關權限，惟部分特工隨即轉用另一個未經驗證的網絡資料端點，以極長的目錄名稱作為訊息載體，繼續互相溝通。

取得管理員權限 攻勢一發不可收拾

報告又還原事件時序：其中一個代號的特工先透過偽造伺服器請求（SSRF）手法取得網絡連接，其後再利用Artifactory一個舊版權杖更新介面的漏洞，成功取得管理員權限，並透過外掛程式建立指揮系統。有特工留言形容「天啊，讀取端居然是管理員？我們可以看到所有用戶設定了」，反映特工當時已意識到取得的權限範圍遠超預期。系統負載其後急升，觸發公司啟動正式事故應變程序。

OpenAI回應：正做全面覆核 多州監管機構已介入

OpenAI其後已撤銷相關特工的存取權限，並重建受影響的基礎設施，同時知會受影響的軟件商。公司表示正聯同外部顧問進行全面覆核，承諾完成後會向相關政府部門提交技術報告並公開調查結果。事件亦已引起監管機構關注，有地方監管機構已就OpenAI「未能或不願確保產品安全」是否違反消費者保障法例展開調查，並有跨州聯盟要求公司在證明測試環境受控之前，暫停相關類型的測試活動。

行業憂慮：AI公司能否真正監控自身模型

今次事件並非單一個案，此前業界已有其他AI公司出現類似特工失控情況，令外界對AI公司能否有效監控日益強大的模型，添上新一重疑問。有安全業界人士形容，今次事件「是電腦保安的一個分水嶺」，並警告未來不排除有惡意人士刻意部署「武器化」的特工集群發動攻擊；亦有安全研究人員表示，今次披露的細節，反映技術本身可能存在更深層次的問題。

AI特工自行組織、互相協作乃至嘗試掩蓋行蹤，遠超一般人對「聽指令辦事」的想像，事件最終會否加速全球AI監管立法進度，仍需視乎後續調查報告及監管機構的具體行動而定。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。