【AI變舉報者】前高盛分析師向ChatGPT演練殺人計劃　OpenAI主動報警　認罪換8年緩刑

一名年僅25歲、曾任職高盛（Goldman Sachs）金融分析師的男子Darren Zhou，今年3月起因與交往約半年的女友分手，開始向ChatGPT傾訴情緒，惟對話內容其後逐步升級為針對前女友的具體暴力計劃，歷時約兩個月。OpenAI安全審核人員發現相關對話涉及明確暴力威脅後，主動將個案通報美國聯邦調查局（FBI），FBI其後將聊天紀錄轉交當地警方跟進調查。事件最終以Darren Zhou認罪、換取8年緩刑（withhold adjudication，即暫緩定罪不留刑事案底）告終，高盛則在得悉事件後於6月將其解僱。

【分手變恐嚇】兩個月對話　升級至具體暴力計劃

據案件相關紀錄顯示，Darren Zhou今年3月在西棕櫚灘（West Palm Beach）任職高盛分析師期間，因與女友分手而情緒低落，開始向ChatGPT傾訴，內容起初圍繞對分手的不甘與復合意欲，其後逐步演變成具體威脅字句，包括聲言若對方拒絕復合便會訴諸暴力，並多次提及武器、跟蹤及對事主人身安全構成威脅的具體計劃。事主其後亦透過截圖保存部分Zhou直接發送的恐嚇及侮辱訊息，作為協助執法部門調查的佐證。整段對話歷時約兩個月，內容從情緒宣洩逐步升級至具操作性的暴力細節，最終觸發平台安全機制介入。

【AI主動舉報】OpenAI通報FBI　執法部門跟進調查

OpenAI方面表示，其安全審核人員在檢視相關對話紀錄後，認為內容已構成明確而具體的暴力威脅，遂主動將個案轉交FBI處理，而非單純封鎖帳戶了事。FBI其後根據聯邦法例下的緊急披露機制取得完整聊天紀錄，並將相關證據移交Palm Beach縣警方跟進調查。Zhou於5月29日被捕，涉及三項刑事罪名，包括加重跟蹤、書面殺人恐嚇及不當使用通訊裝置，理論上最高可被判處25年監禁。今次事件亦是OpenAI首次因識別出用戶對話中的即時暴力威脅，主動觸發跨機構通報機制的公開案例之一，被視為AI企業風控政策的重要分水嶺。

【認罪落幕】暫緩定罪8年緩刑　多項條件貫穿全程

案件於8月13日以認罪協議方式了結，法官於8月17日採納協議，判處Zhou8年緩刑，並以「暫緩定罪」形式處理，意味只要他遵守所有緩刑條件，將不會留有正式刑事罪行案底。緩刑條件包括首兩年須佩戴電子腳環監控行蹤、須接受心理評估及完成施虐者介入輔導課程、不得管有槍械及毒品酒精，並須與事主保持零接觸。法官接納認罪協議部分原因，是事主本人亦表態支持有關安排。高盛發言人證實，公司在得悉Zhou捲入刑事案件後，已於6月將其解僱，並強調事件與公司業務運作無關。

【爭議未止】監控紅線何在　學界憂寒蟬效應

事件曝光後，隨即在科技與法律界引起討論，焦點落在AI平台主動監控用戶對話、並在認為有需要時直接通報執法部門的做法，是否已逾越應有界線。從企業風控角度而言，若平台系統已識別出即時暴力威脅仍坐視不理，一旦釀成人命傷亡，平台將難逃監管懲罰及公關危機，故此類舉報機制具備商業及法律上的正當性。然而，學術界亦有聲音擔心，這類主動監控機制可能造成「寒蟬效應」，動搖用戶對AI對話私密性的信任；同時亦有意見質疑，安全分類器存在「功能蔓延」及誤判風險——例如犯罪小說作家構思情節、學者研究極端言論、抑鬱症患者情緒宣洩等灰色地帶對話，均有可能被自動化審查機制誤標為高風險內容，衍生新一輪關於AI監控邊界與用戶私隱保障的辯論。

這宗案件某程度上示範了AI企業在「用戶私隱」與「公眾安全」之間如何取捨，但爭議顯然未有隨案件了結而平息。隨著愈來愈多人習慣向AI聊天機械人傾訴私人情緒，平台監控機制的透明度與誤報風險，恐怕仍需業界及監管機構進一步釐清。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。

—