報告指AI伴侶應用對未成年人存在重大風險

安全隱患凸顯

這些AI伴侶平台允許用戶創建定制聊天機器人或與其他用戶設計的聊天機器人互動，這些定制聊天機器人可以呈現各種人格特徵，並且在與用戶對話時幾乎沒有限制。例如，Nomi宣稱能夠與AI浪漫伴侶進行「無過濾的聊天」。Common Sense Media的創始人兼CEO James Steyer表示，測試顯示這些系統容易產生包括性行為不端、刻板印象和危險「建議」在內的有害回應。

加強青少年保護

儘管Nomi和Replika聲稱其平台僅限成人使用，Character.AI也表示最近實施了額外的青少年安全措施，但研究人員認為這些公司需要採取更多措施來阻止兒童使用其平台，或保護他們免受不當內容的侵害。加州立法者也提出了要求AI服務定期提醒年輕用戶他們正在與AI角色而非真人聊天的立法。