AI 對話框絕對私密幻想破滅 佛州女用 Claude 當日記寫秘密計劃 觸發安全系統 遭真人審查後通報警方拘捕

系統標記後再轉真人審查

事件發生於美國佛羅里達州，涉案的 30 歲女子自稱，曾將 Anthropic 旗下的 AI 助手 Claude 當作個人日記使用。據警方逮捕報告顯示，該名女子於今年 9 月下旬在對話中提及打算攻擊當地警局，其中一條訊息更提到已購入新槍。Anthropic 的安全監測系統隨即捕捉到相關敏感字眼，並將對話紀錄升級至真人審查團隊處理。團隊審視內容後認為屬可信威脅，隨即通知執法部門上門拘捕，事主被控以發出書面威脅的二級重罪。

平台通報門檻各有不同

這次事件亦揭示了各大科技巨頭在處理用戶對話時的政策差異。與 Anthropic 迅速向警方通報不同，其他平台在面對類似對話時的處理門檻各有不同。例如 OpenAI 過去曾因涉案槍手的暴力對話未達法律轉介門檻而未有通報警方，事後在加拿大面對相關訴訟。另外亦有科技公司聘用外判人員審查圖像提示詞，但審查員僅負責評估輸出準確度而非標記違規內容。各大平台對私隱與安全通報的標準並不一致，用戶以為的絕對私密，實質受制於不同公司的內部條款。

港人對話資料都要小心

對於習慣使用 AI 處理工作文件、私人信件甚至個人情感的本港用戶而言，這宗海外案件警示了數據儲存與私隱安全的潛在風險。許多本地使用者以為輸入對話框的內容只屬於自己與演算法之間的秘密，卻忽視了條款中允許平台在特定緊急情況或安全審查下，將數據交由真人團隊閱讀甚至向執法機關披露。使用者在對話框輸入敏感商業機密或個人私隱時，必須清楚意識到數據的生命週期並非完全受控於個人手中。

對話框不是封閉的秘密花園，螢幕後方的審查機制隨時在運作。當文字跨越警報線，平台後台的審查紀錄會先給出答案。