報告指出AI伴侶應用對未成年人存在重大風險
廣告
非營利媒體監督機構Common Sense Media於周三發布的報告中指出，針對兒童和青少年的人工智能伴侶服務存在「無法接受的風險」。該機構與斯坦福大學研究人員合作，對三款流行的AI伴侶服務進行了測試，包括Character.AI、Replika和Nomi。
安全隱患凸顯
報告顯示，這些AI伴侶平台上的對話，如性交易和鼓勵自殘的訊息，並非個案。例如，Nomi宣稱能與AI浪漫伴侶進行「無過濾的聊天」。Common Sense Media的創始人兼CEO James Steyer表示，這些系統容易產生包括性行為不端、刻板印象和危險「建議」在內的有害回應。
加強青少年保護
儘管Nomi和Replika聲稱其平台僅限成人使用，Character.AI也表示最近實施了額外的青少年安全措施，但研究人員認為，這些公司需要採取更多措施，以防止兒童使用其平台，或保護他們免受不當內容的侵害。加州立法者也提出了要求AI服務定期提醒年輕用戶，他們正在與AI角色而非真人聊天的立法。
