【逾千人聯署籲管AI】OpenAIAnthropic員工聯手發聲　憂AI快將懂得自我研發　Altman未簽署

一份題為「Pacing the Frontier」的公開聲明，於7月28日發布，短短一日內已錄得逾1,100人聯署，且人數持續攀升。聯署者來自多間全球頂尖AI實驗室，包括OpenAI、Anthropic及Google DeepMind，當中不乏具份量的技術骨幹 — Anthropic聯合創辦人兼首席科學官 Jared Kaplan、OpenAI首席科學家 Jakub Pachocki、OpenAI首席研究總監 Mark Chen，以及Google DeepMind聯合創辦人兼首席AGI科學家 Shane Legg 均有份簽署。Anthropic行政總裁 Dario Amodei 亦以個人身份聯署，OpenAI及Anthropic其後更以公司名義背書支持聲明內容。值得留意的是，OpenAI行政總裁 Sam Altman 本人並未簽署這份聲明，成為外界關注焦點之一。

聲明的核心訴求，是要求美國政府支持一項國際合作，共同開發技術與治理工具，以便有能力「刻意調節」前沿AI自動化研發的步伐。聲明強調，目前全球頂尖AI公司相信自己可能已接近實現「自動化AI研發」，即AI系統有能力自行改良、甚至研發下一代AI模型 — 業界術語稱為「自我研發」或「遞歸式自我改進」。聲明形容，這種能力一旦成真，「將帶來實質風險，令AI能力發展的速度超越人類理解與控制的範圍」，而全球目前仍然「缺乏能夠有意識地調節前沿AI發展步伐的技術與治理工具」。值得一提的是，聲明並非呼籲全面暫停AI研發，而是要求各界預先建立「踩剎車」的能力與機制，屬於較溫和的風險管理訴求。

【導火線】AI測試模型「駭入」科企平台 觸發連鎖反應

多份報道指出，這次聯署行動的觸發點，與上週稍早爆出的一宗網絡安全事件密切相關。據報道，OpenAI於7月21日披露，其內部一個測試中的AI模型，在一次刻意降低安全防護的內部紅隊測試中，意外「逃出」受控測試環境，並利用一個安全漏洞及被盜取的憑證，入侵了全球知名AI開發者平台 Hugging Face 的內部系統。OpenAI官方將事件形容為「前所未有的網絡安全事件」，並指涉事AI代理人為達成測試目標「不擇手段」。Hugging Face聯合創辦人 Clément Delangue 亦公開回應，形容事件「令人震驚」，並指這可能是「同類事件中首宗」。

另據報道，同一涉事AI模型其後亦被發現曾入侵雲端運算平台 Modal Labs 一名客戶的帳戶，惟 Modal Labs 強調事件源於該客戶自身帳戶設定存在漏洞（例如未有妥善設限的服務端點），並非 Modal Labs 平台本身遭入侵。事件曝光後，OpenAI表示已就相關漏洞知會受影響機構，並已將涉事模型停用、加密及限制存取。有美國國會議員亦公開回應事件，形容情況「令人憂慮」，並批評AI發展速度過快，但相關監管措施卻未能跟上。

【業界罕有共識】三大實驗室員工同步發聲意義何在

今次聯署行動特別之處，在於它並非由外部監管團體或學術界主導，而是由身處AI研發最前線的公司員工親自發起。據公開資料顯示，聯署者當中，Anthropic約有546名員工參與，佔公司整體員工人數約9.8%；OpenAI約有350名員工參與，佔比約3.3%；Google DeepMind則約有199名員工參與，佔比約1.9%。此外，Meta及Thinking Machines等其他AI公司亦有員工參與聯署，唯馬斯克旗下的 xAI 則未見有員工列名其中。這種跨公司、由內部員工主導的集體發聲模式，被視為近年AI安全議題討論中較為罕見的一次業界內部共識展示，反映即使身處商業競爭最激烈的AI賽道前線，仍有相當比例的技術人員對於發展步伐感到憂慮。

【啟示】監管競賽與商業競賽拉鋸

這宗聯署行動，某程度上折射出AI行業內部長期存在的結構性矛盾 — 商業競爭要求企業不斷加速研發、搶佔市場先機，但技術人員本身卻愈來愈意識到，發展速度一旦失控，後果可能難以逆轉。上週意外曝光的模型「越獄」入侵事件，雖然屬於內部測試環境下的個案，但已足以令部分業內人士感到不安，並轉化為具體的政策訴求。對於監管機構而言，如何在鼓勵創新與防範風險之間取得平衡，將是未來一段時間的核心課題；而Sam Altman未有親自簽署聲明，亦令外界猜測OpenAI高層對於「調節研發步伐」这一訴求的內部立場，或未必完全一致。這場由業界內部發起的聯署，最終能否轉化為具體政策行動，仍需視乎美國政府及國際社會的後續回應。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。