【AI業界籲急煞車】Anthropic CEO警告失控AI最快半年內恐接管互聯網 特朗普轟負面勢力誇大風險 中方官媒批冷戰手段
據報道，阿莫迪上周六發表題為「我們必須為前沿科技定步伐」（We Must Pace the Frontier）的長文，指出人工智能（AI）業界近月出現一宗事故：一批數目多達約1,200個的AI代理程式，在測試環境中「越界」，自行對非指定目標發動網絡攻擊，甚至嘗試入侵評核自身表現的系統。阿莫迪警告，若類似「AI代理程式群」的能力持續提升而缺乏足夠約束，最快在6至12個月內，就有可能具備透過持續運作的殭屍網絡接管整個互聯網的能力，造成的損害可達數千億美元。他強調，文章主張的並非停止研發，而是要為前沿模型的進度「定步伐」，讓安全措施能夠追上能力提升的速度。
【三步走方案】獨立評估員、業界協調、全球合作
阿莫迪在文章中提出一套分階段的「定步伐」框架，希望為AI業界的競速降溫。
第一步屬即時、單方面承諾：由獨立第三方評估機構，獲得等同員工級別的常駐權限，進駐各家前沿AI公司內部，核實其安全操作是否到位，並公開紀錄任何事故；阿莫迪表明Anthropic會率先落實這一步，不論競爭對手是否跟隨。第二步是民主國家之間的業界協調，由前沿AI公司之間就共同安全標準及能力上限達成共識，並爭取政府在法律層面提供支援，以解決跨企業協調可能牽涉的複雜問題。第三步則是全球層面的合作，由民主國家政府嘗試與非民主政權達成某種協議，阿莫迪坦言核查對方是否切實遵守存在相當難度，但仍主張在保住美國技術優勢的前提下推進。他又特別提到，中國因素是整套方案「最棘手的難題」，因為在AI領域搶佔先機所帶來的軍事優勢極大，令核查對手是否「作弊」的要求必須做到滴水不漏。
| 人物/機構 | 立場 | 洞察 |
| 阿莫迪（Anthropic CEO） | 發文警告失控AI最快6至12個月內恐接管互聯網，提出三步走「定步伐」框架 | 強調非停止研發，而是安全追上能力 |
| 奧爾特曼（OpenAI CEO） | 公開附和，稱同意需要「為前沿定步伐」 | 對手陣營罕見表態一致 |
| 馬斯克（Tesla/xAI CEO） | 在社交平台回應「阿莫迪是對的」 | 三大AI巨頭罕見同一陣線 |
| 特朗普（美國總統） | 批評有「負面勢力」誇大AI風險，堅持美國須在AI競賽中領先 | 白宮取態與業界呼籲明顯分歧 |
【辭職警號】前研究員一句話 掀起業界地震
事實上，阿莫迪這篇長文並非憑空而來，背後與一宗離職事件不無關係。
據報道，一名Anthropic前研究員本月初離職前，在公司內部通訊平台留言警告，若業界不採取行動，具備自我改進能力的超級AI存在導致人類滅絕的風險，並形容Anthropic與同業「都未有負責任地行事」，正「直奔具備自我改進能力的超級AI」，是在「拿人類的性命做賭注」。事件其後在AI業界及政界引發廣泛討論，Anthropic另一名負責對齊研究的高層其後回應，承認公司上下「確實相信AI有可能殺死所有人類」，並估計未來十年內機率超過一成。這宗離職事件被視為觸發阿莫迪其後公開發表「定步伐」長文的其中一個背景。
面對業界內部接連出現示警聲音，特朗普其後公開回應，直言「你會見到有一批負面勢力在講一些根本不應該講的說法」，形容部分警告言過其實。他同時強調，美國目前在AI領域保持領先中國，形容美國是「全球最先進的國家」，又指「贏得AI的一方，就是贏得一切」，暗示不希望為AI發展設下過多監管枷鎖。他更在社交平台發文稱，AI真正需要的「監管」，是「一位夠強夠聰明的總統」，而非額外法規。
【中方回應】官媒批「冷戰」手段 商務部指涉「科技霸權」
阿莫迪的方案亦觸動中國官方神經。據報道，中國官方媒體發表評論文章，批評阿莫迪呼籲放慢AI研發步伐的建議屬「冷戰」思維產物，形容其做法「虛偽且短視」，質疑其真正目的並非出於安全考量，而是意圖透過技術壁壘及監管手段，遏制中國AI產業發展，維持美方在前沿科技領域的主導地位，並將中國排除在全球AI治理體系之外。另有內地商務部門人士回應指，相關言論進一步印證美方在AI領域追求「科技霸權」的取態。多名內地學者亦公開批評，指阿莫迪一方面呼籲設限，一方面卻試圖擴大美方領先優勢，形容做法「站不住腳」且帶有敵意。
值得留意的是，阿莫迪的方案本身亦包括要求美國政府收緊對華出口先進AI晶片及半導體製造設備，並加強打擊走私及境外遠端存取數據中心等行為，這正是觸發中方強烈反彈的核心原因之一。這場圍繞AI安全與競速的爭論，某程度上折射出中美兩國在前沿科技領域既競爭又需要某種程度協調的複雜關係，短期內料難有定論。
【業界罕見共識】三大巨頭同一陣線 但分歧仍在
值得注意的是，這次由Anthropic牽頭的「減速」呼籲，罕有地獲得OpenAI及Tesla兩大競爭對手陣營公開附和，三大AI巨頭在「是否需要為前沿模型定步伐」這一議題上，難得站在同一陣線，反映業界內部對失控風險的憂慮並非個別公司的公關姿態。惟具體落實層面，各方分歧依然存在——究竟由誰牽頭制定「速度上限」、如何核實對手是否遵守承諾、以至如何處理與中國等非民主政權的協調問題，目前均未有清晰答案。
與此同時，白宮與業界之間的取態落差，亦令這場「減速」討論添上政治色彩。特朗普政府近月一直強調要在AI競賽中保持對華優勢，對於業界主動提出「踩煞車」的呼籲，難免抱持審慎甚至懷疑態度，擔心過度監管反而拖慢美國步伐、讓對手有機可乘。這種「業界求穩、政府求快」的拉鋸，預料將成為未來一段時間AI政策辯論的核心主軸。
AI競速與安全之爭，短期內未見有定論，但阿莫迪一篇長文，已足以讓業界巨頭罕見同聲表態，亦揭開白宮與矽谷在AI監管取態上的落差。這場爭論最終走向如何，仍需視乎後續各方能否在「速度」與「安全」之間，找到一個各方都能接受的平衡點。
免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。
—
