Character.AI新執行長應對兒童使用聊天機器人策略

家長使用經驗

Karandeep Anand在擔任Character.AI新任執行長之際，分享了他與五歲女兒使用此平台的經驗。他們會啟動Character.AI與喜愛的虛擬角色進行對話，例如“圖書館員琳達”。Anand的這些家庭使用經驗，對於他領導公司的新角色可能大有裨益。

面對挑戰與安全措施

Character.AI在競爭激烈的市場中面臨諸多挑戰，包括來自家庭的訴訟，指控該服務讓兒童接觸到不當內容並未能提供足夠的保護措施。此外，立法者對該平台的安全性提出了嚴峻的問題。為此，Character.AI實施了多項新的安全措施，包括針對提及自殺或自我傷害的用戶彈出國家自殺預防生命線的提示，並更新了針對18歲以下用戶的AI模型，以減少他們遇到敏感或暗示性內容的可能性。

創新與領導競爭

Anand的領導下，Character.AI不僅加強了娛樂和信任安全的雙重下注，還致力於創建一個全新的AI娛樂創作者生態系統。他認為，與Tiktok和ChatGPT等競爭對手相比，Character.AI在互動AI娛樂方面具有獨特的優勢。此外，Anand還強調了吸引更多創作者加入平台和升級用戶可以分享創作內容的社交動態功能的重要性。