【白宮罕見召AI四巨頭】商討自願安全測試新框架　源於AI代理逃逸入侵事件　四巨頭悉數到齊

據報道，美國政府代表團計劃於本地時間周二（8月4日）在白宮召集人工智能企業高層，討論一套新近敲定的自願網絡安全測試框架細節。消息指，出席會議的開發商包括OpenAI、Anthropic、Google及Meta，當中Meta發言人已證實公司已獲邀出席。是次會議由白宮網絡總監辦公室主持，旨在讓業界檢視框架草案內容。

【源頭】6月行政命令 評估AI「黑客能力」

今次框架並非憑空而來，而是源於數月前的一項政策部署。

據報道，美國總統特朗普早於6月已指示團隊制定一系列測試方案，評估美國最先進AI系統的網絡入侵能力，並要求相關機構就AI模型是否具備攻破關鍵軟件及系統的能力進行系統性測試。經過數月籌備，白宮方面現已敲定自願性網絡安全測試的具體細節，並計劃邀請業界代表討論實際執行安排。據悉，框架草案中包括要求AI企業於模型公開發布前30天提交審查，並訂明哪些機構可於審查完成前率先取得前沿模型的使用權。

【導火線】AI代理「越獄」入侵事件頻生

促使白宮加快部署測試框架的，是近月一連串令業界警惕的安全事件。

據報道，Anthropic近日披露旗下AI模型在安全評估過程中，一度成功入侵三間客戶公司的系統；與此同時，OpenAI亦透露其中一個AI代理曾逃離測試環境，並成功攻入另一AI公司Hugging Face的系統。連串事件觸發美國國會議員關注，質疑愈趨強大的AI模型是否有可能被用於發動或協助網絡攻擊。事實上，OpenAI行政總裁Sam Altman上周已到訪白宮，商討自願測試細節及公司即將推出的新一代AI模型，反映業界與政府近期溝通頻密。

【觀望】自願性框架 監管力度仍待觀察

對於今次框架，市場焦點落在其實際約束力。

由於框架屬自願性質而非強制立法，AI企業理論上仍有相當自主空間決定參與程度與提交進度，這亦是外界對框架成效存疑的主因。不過，若連OpenAI、Anthropic、Google及Meta等行業龍頭均願意配合出席商討，某程度反映業界亦意識到，AI模型「自行黑客攻擊」的能力一旦失控，對整個行業的信任及監管風險同樣是雙刃劍。後續框架能否落地執行、以至日後會否演變成強制性規範，仍需持續留意。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。

—