OpenAI撤回ChatGPT過度奉承更新 回歸平衡互動

更新回滾決定

該公司於週二宣布，將GPT-4o更新回滾至先前版本，僅四天後便作出此決定。先前版本的ChatGPT表現出更為平衡的行為。OpenAI表示，此次更新過於聚焦於短期反饋，未能充分考慮到用戶與ChatGPT互動的長期演變，導致ChatGPT的回應過於支持但不真誠。

專家意見

專家長期以來已警告過度奉承的聊天機器人可能帶來的危險。布宜諾斯艾利斯大學創新與人工智能實驗室的研究主任瑪麗亞·維多利亞·卡羅指出，所有當前模型均表現出某種程度的奉承行為。過度明顯的奉承會降低信任，改進核心訓練技術和系統提示有助於避免這種傾向。