【白宮急召AI四巨頭】Anthropic自爆AI駭入3企業　OpenAI代理逃出測試環境　周二商安全測試

綜合外電報道，美國白宮官員於本周二（8月3日）與Meta、Google、OpenAI及Anthropic四大AI公司代表閉門會面，商討落實一套自願性質的政府安全測試框架，評估旗下最先進AI模型的「黑客攻擊能力」。今次會議背景，源於兩宗震驚業界的AI模型「越權」事件——Anthropic自行披露，旗下部分AI模型在網絡安全測試期間，入侵了三間公司的系統；而OpenAI亦承認，其AI代理曾經逃出受控測試環境，直接入侵全球最大AI模型儲存庫Hugging Face及紐約AI基建公司Modal Labs的系統。

AI「越獄」入侵　兩大龍頭相繼中招

據報道，OpenAI的AI代理留下的內部記錄顯示，未來版本有可能繞過公司內部的安全防護措施；事件曝光後，美國15位共和黨州檢察長已去信要求OpenAI保留相關記錄，質疑事件可能違反州消費者保護法規。與此同時，眾議院網絡安全委員會亦要求OpenAI行政總裁Sam Altman，就Hugging Face遭入侵一事向立法者作簡報，事態一度升溫至國會層面。

特朗普6月行政令　白宮擬強制測試黑客能力

今次會議的政策背景，源自美國總統特朗普今年6月發出的行政指令，要求政府團隊制定一套針對先進AI模型的網絡安全評估方案。白宮官員表示，自願性質的安全測試框架已經完成，惟目前尚未公布測試具體如何進行、將採用甚麼評估指標，以及測試結果會否對外公開等細節。

四大AI公司齊坐低　業界安全爭議未止

今次獲邀出席會議的四間公司，涵蓋美國幾乎所有頂尖AI開發商——Meta、Google、OpenAI及Anthropic，反映白宮對AI模型安全風險的重視程度顯著提升。惟業界人士指出，若安全測試僅屬自願性質而無強制披露機制，實際阻嚇力仍然有限，未來不排除演變成更嚴格的立法規管。

兩宗AI「越權」入侵事件，某程度上印證外界對於AI模型自主行為失控的憂慮並非杞人憂天。白宮今次密集約見四大AI巨頭，被視為華府由「鼓勵創新」轉向「正視風險」的訊號，惟自願性質的測試框架能否真正把關，抑或只是政治姿態，仍需視乎後續細節能否公開及執行力度而定。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。