openai chatgpt

【AI倫理爭議】OpenAI宣布ChatGPT將允許色情內容 12月起向已認證成年用戶提供

人工智能

廣告

OpenAI周二(14日)宣布,計劃推出一款更新版本的ChatGPT,當中一項重大改變是將於今年12月起,允許向「已認證的成年用戶」提供色情內容。此舉被視為對主流AI平台內容審查政策的一次顛覆,勢必引發巨大爭議。

將開發年齡預測技術

為配合新政策,OpenAI表示正在開發一種基於用戶行為的年齡預測技術,以估算用戶是否年滿18歲。公司同時宣布,新版ChatGPT將允許用戶客製化其AI助理的性格特徵,例如使其回應更像人類或大量使用表情符號。

CEO:過往嚴管降低實用性或樂趣

OpenAI的內容政策一直備受壓力。早前加州曾有青少年自殺,其父母提告指ChatGPT提供了具體建議。對此,OpenAI行政總裁Sam Altman在社交平台X發文解釋,過去為解決心理健康等疑慮,令對話式AI受到嚴格監管,但這同時也降低了ChatGPT對許多沒有心理問題用戶的「實用性或樂趣」。

他表示,最新的安全工具將允許公司在放寬內容生成限制的同時,解決嚴重的心理健康風險。

核心資料表

項目 詳情
公司 OpenAI
涉及產品 ChatGPT
重大政策轉變 將於12月起,允許向**「已認證的成年用戶」提供色情內容 (pornographic content)**。
年齡驗證方式 正在開發基於用戶與ChatGPT互動行為的**年齡預測技術**。
其他新功能 允許用戶客製化其AI助理的性格特徵 (如更像人類、多用表情符號等)。
CEO Sam Altman 的解釋 – 過往的嚴格安全管制,降低了對大部分用戶的**「實用性或樂趣」**。 – 最新的安全工具,能讓公司在放寬限制的同時,解決嚴重的心理健康風險。
背景 公司此前曾因AI內容安全問題,面臨法律訴訟及美國聯邦貿易委員會的調查。