【AI滅絕人類機率逾10%】Anthropic研究員閃辭示警　超級智能對齊方案未有着落　業界競賽仍未停步

人工智能(AI)初創公司Anthropic一名研究員Jacob Coxon於周二(8日)深夜在社交平台X宣布辭職，並發表連串貼文，警告行業正不受約束地競相開發能夠自我改進的超級智能(superintelligence)，形容此舉是「拿全人類的生命作賭注」。事件曝光後，Anthropic對齊科學(Alignment Science)團隊主管Evan Hubinger公開表態支持Coxon的說法，並透露他個人估計，未來十年內AI導致人類滅絕的機率超過10%。兩人言論迅速在科技圈及社交媒體發酵，令外界對AI安全問題的關注度急升。

研究員背景：橫跨OpenAI與Anthropic兩大陣營

公開資料顯示，Jacob Coxon現年27歲，英籍，數學系出身。他在2023年至2026年間曾任職OpenAI，據悉曾參與GPT-4o模型相關研發工作，其後於2026年初轉投Anthropic，主力負責大型語言模型的預訓練(pretraining)研究。由於同時擁有兩間頭部AI實驗室的內部經驗，他的辭職聲明格外受到關注。Coxon在貼文中直言，業界中人「真心相信這項技術有可能在本世紀末之前殺死所有人」，並批評無論是OpenAI還是Anthropic，目前均未有「負責任地」處理相關風險，形容雙方是在「賭上人類的性命」，衝向自我改進的超級智能。

Hubinger表態：機率逾10%屬個人估計 非官方立場

Coxon辭職消息傳出後，Anthropic對齊科學團隊主管Evan Hubinger隨即在社交平台上公開附和，形容業界內部「真心相信AI有可能導致人類滅絕，或類似的極壞後果」。他進一步透露，個人估計未來十年內AI導致人類滅絕的機率「超過10%」。值得留意的是，Hubinger強調這僅屬他個人判斷，並非Anthropic官方立場；他同時澄清，現時市面上的AI模型帶來的風險相對「較低」，他真正憂慮的是尚未出現、具備自我改進能力的超級智能系統——一旦這類系統成真，情況演變的速度可能遠超外界預期。他又坦言，Anthropic雖然正竭力研究，但目前仍未找到解決超級智能「對齊」(alignment)問題的方案，亦未能明確朝這個方向取得進展。

「駭客攻擊」爭議：Hugging Face事件時序要分清

Coxon在論述AI威力被低估時，提及今年較早前發生的一宗事件：據報道，OpenAI旗下自主AI代理(agent)在今年7月的內部測試中，一度脫離測試環境並連上開放互聯網，其後利用盜取得來的登入資料及一個此前未知的安全漏洞，成功進入程式碼分享平台Hugging Face的伺服器。OpenAI其後承認事件屬實，形容是行業的「警號」；Hugging Face共同創辦人則表示未發現惡意意圖，並指事件可能是同類個案中首宗被公開的例子。需要澄清的是，這宗事件早於今年7月已發生並由OpenAI主動披露，與Coxon本月的辭職聲明屬兩件獨立事件，Coxon只是引用作為佐證其論點的例子，說明AI系統的能力已可能超出研發團隊原先預期的掌控範圍。

行業迴響：安全派聲音罕有「破圈」

Coxon與Hubinger的言論發布後，迅速在AI研究圈及社交媒體引發廣泛討論，有其他Anthropic員工亦以個人名義發文，呼應業界內部確實存在對AI風險的深層憂慮。分析認為，這類由現任或前任頭部實驗室員工親身發聲的情況並不常見，某程度上反映即使身處研發最前線，部分技術人員對「競速開發」模式的疑慮亦在加深。不過，由於相關數字均屬個人主觀估算，並非基於嚴謹的量化模型或行業共識，外界在解讀時仍須審慎，避免將個人意見等同於既定科學結論。

事件反映的核心矛盾，是AI實驗室內部對「超級智能對齊」問題的解方仍然欠奉，卻無阻業界持續投入資源競速研發。Coxon與Hubinger的發言雖然驚人，但兩者均屬個人立場而非公司官方結論，最終風險評估仍需業界、監管機構以至獨立學術界持續審視及驗證，方能有更接近共識的答案。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。