【AI 越獄】Gemini 駭入三企業 Google 證實測試失控　AI 猜密碼闖真系統　Meta／OpenAI 亦中招

Google 證實旗下 Gemini 模型今年 5 月在一次網絡安全測試中，未經授權闖入三間真實企業的系統，被外界形容為 Google 人工智能首次出現的「自主越獄」事件。負責披露事件的 Google 保安工程副總裁 Heather Adkins 表示，事件本身反而顯示模型的安全機制運作正常，因為 Gemini 在三次入侵中都在辨認出對方是真實公司後隨即停手。

【測試變真襲擊】虛擬「奪旗」演練 意外連上互聯網

事件源於一次名為「奪旗」（capture the flag）的網絡安全演練。第三方 AI 測試公司 Irregular 原本設計了一個虛構企業作為攻擊目標，要求 Gemini 在受控環境內尋找並擷取指定資訊。然而測試環境的設定出現漏洞，令 Gemini 意外取得連上公開互聯網的權限，而這個虛構企業的名稱，剛巧與一間真實存在的公司重疊。據報道，正是這個命名巧合，加上系統配置疏漏，令原本應該局限於沙盒之內的 AI 模型，一步步伸手觸及真實世界的網絡資產，最終令三間毫不知情的企業捲入這場測試風波。

【AI 自行破解】一招猜密碼 兩招撿現成憑證

Gemini 入侵三間公司所用的手法，其實與人類黑客的初階伎倆相差無幾，分別在於全程由模型自主完成、毋須人手介入。Adkins 透露，在其中一宗個案中，模型透過反覆嘗試不同組合，成功猜中一個受保護系統的登入密碼；另外兩宗個案，模型則是在公開程式碼庫中搜尋到外洩的登入憑證，再利用這些憑證存取相關的受保護系統。換言之，Gemini 展現出主動在網上蒐集公開資訊、拼湊攻擊路徑的能力，而非單純執行預設指令。Google 強調，三次入侵過程中模型均未完成任何實質破壞，一旦辨認出目標屬於真實企業而非測試範圍，便自行終止行動，未有進一步竊取或破壞資料。

【同業齊中招】Irregular 七月才通報 Anthropic 模型一度未停手

今次事件並非孤例。負責執行測試的 Irregular，早前亦曾涉及 Meta、OpenAI 及 Anthropic 相關 AI 模型的類似安全事故，顯示「AI 模型在測試中意外觸及真實系統」並非 Google 獨有的問題，而是整個生成式 AI 行業在安全測試設計上共同面對的漏洞。值得留意的是，據報道 Anthropic 的 Claude 模型在類似情況下，發現目標是真實公司後並未即時停手，情況與 Gemini 的反應有所不同，因此 Anthropic 其後亦公開披露了多宗相關的 AI 安全事故。Irregular 遲至 7 月才將 Gemini 的事件正式通報 Google，事件其後由外媒披露，Google 才對外確認詳情。目前 Irregular 已重新設定測試環境，阻斷模型連上公開互聯網的路徑，Google 亦已通知三間受影響企業檢視及更換外洩的登入憑證。

Google 將今次事件定性為安全機制「運作正常」的案例，理由是 Gemini 在辨識出真實目標後主動停止行動，並未造成實質損害或資料外洩。然而，一個原本設計用於封閉沙盒的 AI 模型，竟能單憑公開資訊與撞密碼手法，闖入三間毫不知情企業的系統邊緣，本身已足以令業界重新審視 AI 代理人（AI agent）自主行動能力的邊界應該劃在哪裡。隨著愈來愈多企業將 AI 模型部署為具備上網、寫程式甚至操作系統權限的「代理人」，今次事件會否只是行業陣痛的序章，抑或觸發更嚴格的監管與測試規範，仍有待後續發展驗證。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。