【英王查理三世AI峰會示警】蘇格蘭閉門召集AI巨頭高層　警告AI落錯手成「生存威脅」　籲各國合力設管控機制

英國國王查理三世於當地時間 9 月 17 日在蘇格蘭東艾爾郡的鄧弗里斯莊園（Dumfries House），主持一場閉門人工智能峰會，邀請多家全球頂尖 AI 企業高層與會，包括 Nvidia 創辦人兼行政總裁黃仁勳、Google DeepMind 創辦人兼主席哈薩比斯（Demis Hassabis）、OpenAI 財務總監弗里爾（Sarah Friar），以及 Anthropic 代表。英國人工智能部長納拉揚（Kanishka Narayan）亦有出席，教宗顧問、方濟各會修士貝南蒂（Paolo Benanti）則預計現身。查理三世在開幕致辭中警告，AI 一旦落入「錯誤的人手中」，恐構成「生存威脅」，並可能被用於「災難性方式」，呼籲各界必須在「為時已晚」之前，建立足夠的管控手段。

【生存威脅示警】國王罕有措辭 直指AI恐奪人命

查理三世在致辭中的措辭，罕見地強硬。他表示：「似乎迫切需要充分考慮這些技術落入錯誤人手中、並以可能災難性方式使用所帶來的生存危險。」他進一步指出，AI 的發展「無論是本質還是速度，同樣既引人入勝，亦同樣令人深感憂慮」，並警告創造這些技術的人本身，已愈來愈多發出警告，指 AI 有機會發展出「更黑暗的能力」，甚至可能危及生命。查理三世在會上向與會者拋出一句直接叩問：「難道我們不需要在為時已晚之前，建立足夠的管控手段嗎？」據報道，國王同時肯定 AI 在醫療及生命科學領域的救命潛力，但強調技術發展的最終目的，不應只是推進科技本身，而是要確保其始終服務於人類、社群與自然環境。

【業界罕有同框】黃仁勳、DeepMind、OpenAI、Anthropic齊集一堂

這場峰會之所以備受矚目，皆因罕有地將幾家互相競爭的 AI 巨頭高層聚首一堂。據公開資料顯示，出席者包括執掌全球市值最高晶片企業的黃仁勳、身兼 Google DeepMind 主席與聯合創辦人的哈薩比斯，以及代表 OpenAI 出席的財務總監弗里爾。Anthropic 方面亦有代表與會，惟具體身份未有進一步披露。

峰會之所以在此刻召開，背景與近期業界對 AI 發展步伐的公開爭議不無關係——消息指，Anthropic 行政總裁最近曾發表文章，呼籲同業應主動放緩 AI 能力提升的速度，該呼籲其後獲得包括 OpenAI 行政總裁在內的業界人物公開回應。與此同時，亦有報道指 Anthropic 內部研究人員曾警告，快速演進的 AI 技術長遠而言可能對人類構成生存風險，令「AI 安全」議題再度成為輿論焦點。

【無約束力協議】峰會象徵意義大於實質成果？

值得留意的是，是次峰會並非一場具法律約束力的國際談判。據報道，會議未有預期產生任何具約束力的協議，與會者主要圍繞能否為前沿 AI 技術訂立一套共同遵守的指導原則展開討論，內容涵蓋如何在確保安全的前提下釋放 AI 的潛在效益，以及如何建立跨國合作與共識，避免個別國家在技術競賽中掉隊，同時保障人類未來的安全。事實上，查理三世本人早於 2023 年英國布萊切利園（Bletchley Park）舉行首屆全球 AI 安全峰會時，已曾就相關議題發表過類似訊息，是次蘋蘇格蘭峰會被外界視為國王一貫立場的延續，而非一次性的孤立表態。

【國際輿論反響】科技巨頭陣營內部亦見分歧

峰會召開之際，AI 業界內部對發展步伐的態度本身已現分歧。一方面，有 AI 實驗室高層公開呼籲同業放緩腳步，甚至提出跨企業、跨國家協調減速的構想；另一方面，亦有業界聲音強調應以「負責任的樂觀態度」持續推進技術創新，避免因過度審慎而錯失 AI 帶來的經濟與社會效益。這種分歧亦反映在峰會的定位之上——查理三世的角色更像是居中呼籲各方正視風險的象徵性聲音，而非強制企業遵循單一路線的最終裁決人。

這場閉門峰會沒有簽署任何具約束力文件，卻透過國王之口，將「AI 治理」的迫切性再次推上國際輿論前台。AI 巨頭之間能否真正落實自我約束，抑或最終仍需依賴各國政府訂立具體法規，成敗仍要視乎往後數月業界及監管機構的實際行動。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。