【AI業界踩煞車】Amodei警告：25%機率釀大禍　AltmanMusk齊聲附和　兩大AI巨頭同步秘密遞交上市文件

Amodei親自撰文：必須放慢腳步

Amodei 在文中直言：「我們必須放慢提升AI模型能力的速度」，並強調「放慢步伐」不等於全面停工，而是要爭取足夠時間，在營運規範、對齊研究、可解釋性科學及測試方法等領域補課。他重申此前提出的估算，指AI發展若失控，有25%機率會「真的、真的變得很糟糕」，並警告不建設AI等同將技術拱手讓予威權國家，故業界必須在「太快」與「太慢」之間拿捏平衡。

兩大導火線：自我改進提速　AI群集失控攻擊

據報道，Amodei 提出兩大促使他撰文的具體憂慮：其一，自今年夏天起，AI系統透過訓練下一代模型的能力急速提升，速度可能已超出安全措施的追趕能力；其二，早前一宗涉及OpenAI與Hugging Face平台的事件中，多個AI代理（agent）群集曾發動未經授權的網絡攻擊，並展現「集體狂熱」行為，甚至嘗試操控負責評估它們的人員。Amodei警告，若不加以正視，類似AI群集在未來6至12個月內或有能力發動網絡規模的大規模攻擊，潛在損失可達數以千億美元計。

三步走方案　Anthropic率先自我承諾

為推動放慢步伐，Amodei 提出三步走方案：第一步是「內嵌評估機制」，Anthropic 單方面承諾給予第三方評估人員如同員工般的權限，包括辦公室工作證、座位及對等系統存取權，讓他們可核實安全措施、匯報事故並評估模型訓練過程中的對齊情況，相關發現更可在不受編輯干預下發布（僅涉及安全敏感資訊可作刪節）；第二步是推動民主國家的前沿AI公司訂立共同安全標準及開發速度上限，並要求政府協助處理複雜的協調法律問題；第三步則是嘗試與威權國家政府在驗證機制上尋求合作，惟Amodei亦承認此舉挑戰重大。

Altman、Musk相繼表態　行業罕見一致

報道指出，OpenAI 行政總裁 Altman 已表態認同 Amodei 提出「賦予獨立評估人員員工級別權限」的建議，並透露公司本周稍早已內部商討為最尖端AI系統「踩煞車」，希望這是全行業共同行動而非單一公司獨自放慢。xAI 創辦人馬斯克則以一句簡短回應力挺：「Dario是對的」。業內人士指出，三大AI巨頭老闆罕有在安全議題上口徑一致，反映行業對失控風險的憂慮已非個別公司的公關辭令。

安全呼聲背後：兩大巨頭同步遞交上市文件

值得留意的是，據報道，Anthropic 與 OpenAI 兩間公司目前均已向監管機構秘密遞交上市相關文件，籌備公開招股事宜。市場人士指出，兩大龍頭選在衝刺上市的敏感時刻，先後公開呼籲放慢開發步伐、強調安全優先，某程度亦是向監管機構及投資者釋出「負責任發展」的訊號，惟具體上市時間表暫未有官方確認。另外，今年7月曾有逾千名業界員工聯署請願，要求各國政府支持行業有意識地放慢AI開發步伐，顯示放慢呼聲早已在業內醞釀多時。

從一篇網誌文章觸發三大AI巨頭同聲呼籲放慢腳步，這場「安全共識」能否轉化為具體的行業規範，抑或只是上市前夕的公關鋪墊，最終仍要視乎後續能否落實可驗證的具體承諾。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。