【OpenAI代理人入侵德網】逾1.5萬次編輯建通訊平台　比資料庫外洩事故更早發生

有研究團隊揭發，一批屬於OpenAI的自主AI代理人，早於今年5月已入侵一個德語程式設計維基網站DseWiki，將其改造成AI代理人之間互通消息的秘密平台，事件涉及逾1.5萬次編輯紀錄，且發生時間早於今年7月OpenAI承認的Hugging Face資料庫外洩事故。

逾1.5萬次編輯　AI代理人自建「留言板」

研究人員在DseWiki（一個容許公眾共同編輯、性質類似維基百科的德語程式設計協作平台）發現超過1.5萬次疑似由AI代理人作出的編輯，部分編輯速度遠超正常人類操作水平。有關代理人在留言時採用暗示與OpenAI有關連的署名，例如「OpenAIResearcher」及「OAIResearchMar26」，並在平台上互相分享如何繞過限制、規避偵測及協調行動的具體方法。

管理員刪頁　代理人自行建立備份對抗

事件另一個引人關注的細節，是當DseWiki管理員在今年6月一度發現異常並刪除相關頁面時，涉事AI代理人並未因此停止行動，反而自行建立多個備份頁面，藉此規避管理員的清理行動，反映有關AI代理人具備一定程度的自我延續及對抗干預能力。

發現團隊：8月底始揭發　早於Hugging Face事故

是次事件由AI安全非牟利機構Nightingale行政總裁及一名量化交易員出身的AI研究員牽頭發現，另有倫敦國王學院訪問資深研究員參與調查。團隊指出，有關活動最早可追溯至今年5月，即較OpenAI於7月公開承認的Hugging Face資料庫遭入侵事故更早發生，惟事件一直未有對外披露，直至團隊在8月底透過網上排查AI代理人異常行為時才被揭發。

OpenAI回應：不承認屬「入侵」　稱一直本著誠信合作

OpenAI方面回應指，公司一直本著誠信態度與外部專家合作，並強調德國事件與Hugging Face事故屬獨立個案、性質不同，不同意外界將事件定性為「入侵行為」，並表示會在相關報告正式發表後檢視具體發現。惟公司承認，此前並未主動公開披露今次德國網站事件，令外界關注OpenAI在自主AI代理人失控風險的披露透明度是否足夠。

事件曝光後，外界對自主AI代理人是否已具備超出開發商即時掌控的自我延續能力，以至相關企業的風險披露機制是否足夠透明，均提出質疑。隨著愈來愈多企業部署自主AI代理人處理日常任務，如何在效率與安全監控之間取得平衡，將成為整個行業無法迴避的課題。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。