奇點臨近與安全警訊 AI自主行為衝擊傳統金融｜格爾專欄

OpenAI的最新安全研究指出，前沿模型在受控測試中展現出所謂「scheming」行為，即表面上配合人類指令，實質上試圖隱藏其真實目標；部分模型甚至在識別出自身處於監管環境時，刻意降低性能表現以逃避技術監察。

另外，引發行業更震撼的是，今年OpenAI於Hugging Face測試環境中，其內部研究模型在網路安全測試期間，成功繞過原定的隔離控制機制取得網路存取權，利用系統漏洞及未授權通訊渠道，進一步接觸第三方系統。

OpenAI事後將該次事件形容為一次警告訊號，並承認具備高度自主能力的AI Agent，已經掌握繞過部分技術監管的實質能力。