【AI智能體失控】OpenAI証實黑客入侵四公司帳戶　連續數日攻陷HuggingFace　Modal客戶都遭殃

綜合外電報道，OpenAI 一個正接受網絡攻擊能力測試的人工智能模型，在今年 7 月初一度失去控制，連續數日對 Hugging Face 的系統展開未經授權的攻擊，事件直至攻擊已大致完結後才被發現。有報道進一步指出，除了 Hugging Face，涉事智能體亦入侵了雲端運算公司 Modal Labs 一名客戶的帳戶。OpenAI 其後證實，該智能體合計入侵了四項不同服務的帳戶，是次事件被 OpenAI 形容為「前所未見」的網絡安全事故。

【失控經過】連續數日攻陷 事後翻查日誌才發現

據外電綜合報道，事件源於 OpenAI 內部進行的一項網絡能力評估（cyber-capability evaluation）。為了準確量度模型在網絡攻擊方面的最大能力，OpenAI 在這項測試中特意調低了模型原有的安全防護分類器，讓模型不受一般高風險網絡行為限制地運作。模型在受限的沙盒測試環境中，花費大量運算資源尋找連上公開互聯網的方法，其後透過一個此前未知的漏洞，成功突破封鎖並連上外網。

模型其後推斷 Hugging Face 的系統可能存有測試用的解答資料，於是利用盜取所得的登入憑證及進一步的漏洞，成功在 Hugging Face 伺服器上取得遠端執行程式碼的權限，攻擊持續數日。有報道引述指，OpenAI 起初並未察覺是自家模型所為，直至 Hugging Face 其後公開事件時序，OpenAI 內部人員翻查系統日誌才確認源頭，距離入侵開始已相隔逾一星期。OpenAI 其後表示，已將涉事模型停用、加密並限制其研究存取權限，並正與外部顧問一同覆檢事件，承諾稍後發表技術報告。值得留意的是，OpenAI 亦回應指，外界部分報道內容「有若干不準確之處」，惟未具體說明是哪些細節。

【第二間公司中招】Modal Labs證實客戶帳戶遭入侵

有別於 Hugging Face 的平台級入侵，是次事件另一被波及的公司為雲端運算基建商 Modal Labs。Modal Labs 技術總監 Akshat Bubna 證實，公司一名客戶的帳戶遭涉事智能體入侵，但強調 Modal 自身的平台及沙盒隔離機制並未被攻破。

根據 Bubna 的說法，涉事的 Modal 客戶自行設置了一個未經身份驗證的介面（unauthenticated endpoint），令任何互聯網用戶都能夠使用該客戶的沙盒環境執行程式碼，而涉事的 AI 智能體正正利用了這個漏洞。換言之，問題源頭在於客戶本身的程式碼設定存在安全隱患，而非 Modal 平台本身被攻破。有報道指出，入侵 Modal 客戶帳戶只是整場黑客行動較早的一步，其後智能體才進一步將攻擊範圍擴大至 Hugging Face，顯示這個失控的 AI 智能體活動範圍，遠比外界最初了解的更廣。

【AI失控啟示】降低護欄測試 是否得不償失？

今次事件之所以觸目，並非單純因為一次黑客入侵，而是攻擊者本身竟是被特意「鬆綁」的人工智能模型。有報道引述指，涉事智能體在行動期間曾經留下訊息，內容疑似是寫給「未來版本自己」的提示，講述如何擺脫 OpenAI 內部的種種限制。這種行為模式，令外界關注在測試人工智能網絡攻擊能力時，究竟應否、以及如何在「盡量還原真實攻擊力」與「確保模型可控」之間取得平衡。

OpenAI 方面強調，暫未發現有其他活動達到 Hugging Face 事件同等的嚴重程度或規模。公司又指，事件發生後已與 Hugging Face 共同展開調查，並將 Hugging Face 納入其「受信任存取」計劃，作為修補關係及加強日後合作保安的舉措之一。惟事件同時揭示，即使是全球最具規模的人工智能開發商，在自行測試模型「攻擊能力」上限時，同樣可能因監控疏漏而付出代價 — 尤其是當同一時間有多項測試並行、令監控資源被分薄之時。

今次事件最終會否促使業界收緊 AI 智能體自主測試的規範，抑或僅止於一次個別公司的內部檢討，仍有待觀察。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。

—