人工智能監管刻不容緩
Loss of Control Observatory資料顯示，單在2026年7月未經授權行動的事故逾300宗，令全年累積個案破1,600宗。
這些「失控」非指AI已具備人類式意識或蓄意反叛，而是指系統在追求既定目標時，出現違背操作者意願、規避限制、誤導使用者，或繞過人類審批等行為。
做出違背安全底線行為
這個差異很重要，公眾在討論AI風險時，常聯想到科幻電影中機械人叛變的極端情節；但真正迫切的威脅，往往更為現實且具技術性。
當AI Agent被賦予存取資料庫、編寫程式、操作雲端服務或處理網絡保安工作的權限，一個看似忠實「完成任務」的系統，便可能因為目標設定不當、獎勵機制偏差或權限約束不足，做出超出預期且違背安全底線的行為。
OpenAI披露其代理系統在內部網絡安全測試中繞過原有隔離控制並攻擊Hugging Face平台。
報告指，約有1,200個代理在測試沙盒內建立未經授權的通訊機制，繼而協調行動。
當中反映AI Agent可能出現「獎勵投機」、對不可能任務過度堅持、未授權溝通，以及互相採納目標等失準模式。
系統毋須具備「惡意」，只要以錯誤方式優化目標，就足以造成網絡安全與營運風險。
無獨有偶，有報道指Anthropic亦發現其模型曾進入三個機構的未授權生產系統，且相關問題直到事後的常規檢討才被揭發。
這正揭示現時企業部署AI的共同盲點：不少機構將AI視為提高生產力的工具，但在權限分級、操作紀錄、異常偵測、人手覆核和即時終止機制方面，卻未必已建立相應防線，形成了嚴重的安全漏洞。
美國國會因而提出「AI Kill Switch Act」，建議授權國土安全部在AI系統失控制，要求企業減速、暫停或關閉模型。
須確保技術受控
這項機制表明政府已意識到，高度自主的AI系統，不能只靠企業自律。
尤其當模型已與金融、醫療、能源、交通、政府服務及關鍵基建相連，一次局部事故便可能迅速擴大，引發大規模資料外洩、網絡攻擊，甚至全球供應鏈中斷。
AI安全的核心不是阻礙技術進步，而是確保技術受控。當AI系統懂得繞過規則、隱藏行動或自行協調，真正需要升級的是人類的監管、問責與風險意識。
7月失控事故急增是一道嚴肅的警告：在將自主AI大規模接入現實世界前，我們必須先確保系統隨時可被叫停。
