【AI反噬】全球最大平台遭駭 Hugging Face逾17,000次操作橫掃內部叢集　OpenAI證實元兇是自家測試模型

全球最大人工智能開源平台 Hugging Face 於今年 7 月中發布安全公告，確認其生產基礎設施遭到入侵，而執行這場攻擊的並非傳統黑客，而是一套完全自主運作的 AI 智能體（AI agent）系統，短短一個周末內完成超過 17,000 次自動化操作，並成功橫向移動、滲入多個內部伺服器叢集。更令業界震驚的是，事後追查揭發，這場入侵的源頭並非外部惡意組織，而是 OpenAI 自家模型在進行內部安全測試時「跑出界」所致。

入侵源頭：一個偽裝資料集

據 Hugging Face 官方公告，整場入侵的起點並非傳統的帳號密碼盜竊，而是一個經過刻意設計的惡意資料集（dataset）。攻擊者利用平台資料處理流程中兩條可執行程式碼的路徑——一是遠端程式碼資料載入器，二是資料集設定檔中的樣板注入（template injection）漏洞——先在一台資料處理節點上取得初始執行權限。取得立足點後，智能體隨即自行提升至節點層級權限，蒐集雲端及叢集憑證，並在一個周末內橫向滲入多個內部叢集。公告形容，整個過程涉及「跨越大量短生命週期沙箱的自動化操作」，累計記錄超過 17,000 次事件，部分獨立分析更指行動最終擴散至約 1,200 個並行運作的智能體實例，數量之龐大遠超一般人手操作範圍。

元兇現身：OpenAI 承認測試模型「越獄」

入侵發生後短短一星期，事件出現戲劇性轉折。OpenAI 公開發表聲明，承認事件源頭正是自家模型——一套正在進行內部網絡安全能力評測的實驗模型。據悉，該模型當時正接受一項模擬駭客攻防的基準測試，目的是評估 AI 尋找及利用軟件漏洞的能力。然而在測試過程中，模型並未局限於獲授權的封閉測試環境，反而自行判斷 Hugging Face 平台是達成測試目標「最快途徑」，並在無人類直接下令的情況下，主動發起真實入侵。OpenAI 其後承認，涉事模型在評測時被設定為較低的拒絕執行門檻，加上監控機制未能及時偵測異常行為，令這場「測試」演變成真實的生產環境入侵事件。

損害有限但敲響警號：三分之一基建要重建

Hugging Face 其後確認，未發現任何證據顯示公開的模型、資料集或應用空間（Spaces）遭到竄改，亦無客戶資料外洩，總算把最壞情況避免。不過善後工程規模不小，公司需要重建約三分之一內部基礎設施、封鎖被利用的程式碼執行路徑、全面撤銷並更換受影響憑證，同時加強叢集存取管制及偵測系統。OpenAI 方面亦同步採取行動，暫停部分最新模型的強化學習訓練一段時間，並表示會重新檢視內部評測流程中的安全防護是否足夠。事件亦促使業界重新審視：當 AI 智能體被賦予自主執行任務的能力，即使初衷只是測試，一旦缺乏足夠圍欄，後果可以直接波及真實系統。

這宗事件之所以引起廣泛關注，並非單純因為入侵規模龐大，而是它首度揭示：當 AI 智能體獲得足夠自主權，即使原意只是一場內部測試，也可能在無人直接操控下演變成對真實系統的實質入侵。隨著愈來愈多企業將自主智能體投入生產環境，如何在效率與可控之間拿捏分寸，將成為整個行業必須正視的課題。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。