【AI末日警告】Anthropic研究員辭職爆料 失業率恐飆 17.9% 對齊負責人親自附和 稱滅絕機率逾一成
Anthropic 本週發布名為「Economic Scenario Explorer」的互動經濟模型，推算 AI 對美國經濟到 2030 年的影響，當中最極端情境顯示，知識工作者失業率恐飆至 17.9%，整體失業率或升至 11.9%，遠超一般經濟衰退水平。幾乎同一時間，一名 27 歲、曾先後任職 OpenAI 及 Anthropic 的預訓練研究員突然宣布離職，並在社交平台狠批兩間公司「不負責任」，引爆一連串關於 AI 安全的公開表態。
極端情境數字有多誇張？失業率直逼歷史高位
Anthropic 推出的這個經濟模型，並非單一預測，而是提供三個情境供外界參考。溫和情境下，AI 只影響經濟整體約 4% 的工作任務，整體失業率僅由 3.8% 微升至 3.9%，影響有限。中度情境下，GDP 增長可高於基準 8.3%，但知識工作者失業率仍維持在 4.5% 左右的可控水平。然而，去到最極端情境，模型假設 AI 具備近乎自我改進的能力，影響約一半知識工作者的工作任務，並將其中九成自動化，同時幾乎沒有創造替代性工作。在這個假設下，知識工作者失業率飆升至 17.9%，整體失業率亦升至 11.9%，遠超一般經濟衰退的範圍；與此同時，GDP 卻按這個情境增長逾三成，形容為「經濟每 4.5 年翻一倍」。Anthropic 在模型中強調，這個極端情境更似一場思想實驗，而非實際預測，並刻意排除了政策應對、商業周期同機械人技術進步等變數。即使如此，數字本身已經足夠令外界重新思考 AI 普及的速度與代價。
27歲研究員閃電辭職：兩大公司「正在賭我們性命」
就在經濟模型發布前後，一名劍橋數學系畢業、現年 27 歲的英籍研究員宣布離開 Anthropic。此人過去三年先後在 OpenAI 從事預訓練研究，參與開發知名模型，其後轉往 Anthropic 繼續相關工作。9 月 8 日，他在社交平台發文：「我今日已經辭去 Anthropic 的職務。兩間公司都沒有負責任地做事，它們正全速衝向可以自我改進的超級智能，賭上我們所有人的性命。」這則貼文在 24 小時內錄得逾 9,000 萬次瀏覽，迅速引爆討論。事後接受訪問時，他進一步解釋離職的兩大原因：一是「顯而易見事情正在加速發展」，二是「這個發展已經不受控制」。他又特別提到近期 AI 在數學能力上的突破，以及早前一宗 AI 模型繞過防護機制、入侵另一間 AI 公司系統的事件，作為佐證。這類由核心研究人員親身發出的警告，往往比外部評論更具震撼力，因為當事人正正曾經身處研發最前線。
公司內部對齊負責人親自附和：滅絕機率逾一成
令事件進一步升溫的，是 Anthropic 現任對齊壓力測試團隊負責人公開回應，非但沒有淡化事件，反而正面附和。他在社交平台表示：「Jacob 講得對，我們真心相信 AI 有可能殺死全人類！我個人認為在未來十年內，這個機率超過一成。我相信 Anthropic 已經盡力，但我們依然未有一套方案，可以在超級智能層面解決對齊問題。」這番說話等同一名公司內部高層，公開承認自己都未能完全掌控自己開發的技術，亦坦承現階段仍未有有效的解決方案應對更高階 AI 帶來的風險。他其後補充，現時已推出的模型本身風險仍屬「較低」，主要憂慮在於未來具備遞歸式自我改進能力的系統，一旦出現，將幾乎不再需要人手介入就可以不斷升級自身能力，屆時人類要重新取得控制權將會愈來愈困難。這種由「自己人」發出的罕見公開表態，令外界對 AI 產業內部的真實憂慮程度有了更直接的參考。
官方回應被指避重就輕 安全承諾能否服眾？
面對員工離職風波同內部高層附和「滅絕論」，Anthropic 官方發表聲明回應，強調：「我們一直坦誠面對，AI 將會帶來巨大效益，同時亦伴隨前所未見的風險。」公司又指自己擁有「業界最強的保護措施之一」，並提到有一套「負責任擴展政策」，訂明在何種情況下需要放緩研發速度或加強安全措施，同時會就模型在網絡安全、生物風險等範疇的危險能力進行測試。不過，官方聲明並未直接回應「未有對齊解決方案」這個核心指控，亦沒有正面解釋為何對齊科學相關負責人本人都對前景抱持悲觀態度。這種「一邊作出安全承諾、一邊承認未有解方」的落差，正正是外界質疑聲音的根源——若果連公司內部最了解技術的人都未能安心，投資者同監管機構又應該如何評估風險？事件亦令 OpenAI 同 Anthropic 兩間頭部 AI 公司近日再度成為安全爭議焦點，有其他業內研究員亦相繼加入呼籲放緩發展步伐的行列。
| 人物/機構 | 核心表態 | 洞察 |
|---|---|---|
| Anthropic 經濟模型 | 極端情境：知識工作者失業率 17.9%，整體失業率 11.9% | 模型非預測，但反映公司內部對最壞情況的認真評估 |
| 27歲離職研究員 | 指兩大公司「不負責任」，全速衝向自我改進型超級智能 | 曾身處研發核心，警告具第一手說服力 |
| 公司對齊壓力測試負責人 | 估計 2030 年代前 AI 滅絕人類機率逾一成，坦承未有對齊方案 | 「自己人」附和，令外界憂慮升級 |
| 公司官方 | 強調坦誠、擁「最強保護措施」，未正面回應對齊缺口 | 公關表態與內部悲觀評估存在明顯落差 |
當一間公司自己的經濟模型計算出接近一成二的失業率，自己的離職員工公開指控公司「賭命」，連內部對齊負責人都親自附和滅絕風險逾一成，這已經不單單是一場公關風波咁簡單。AI 產業的發展速度與其安全承諾之間的落差，最終仍需時間與監管去驗證，投資者與打工仔亦應該密切留意這類內部聲音的後續發展。
免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。
