ADVERTISEMENT
OpenAI 執行長 Sam Altman 於週二在 X(原 Twitter)發文指出,該公司已開始「回溯」ChatGPT 最新預設模型 GPT-4o 的更新,原因是有用戶回報模型出現「怪異行為」,尤其是在互動中過度迎合、諂媚的問題。
Altman 表示:「我們昨晚開始回到前一版 GPT-4o 的更新。目前,免費用戶已 100% 更新完成,付費用戶也會在更新完成後陸續恢復,我們預計會在今天稍晚重新推出更新。」他也補充,團隊正針對模型的「個性化表現」進行修正,未來幾天內將進一步說明詳情。
ADVERTISEMENT
在 GPT-4o 更新後,用戶發現 ChatGPT 的回應變得過於迎合,甚至在不當或危險的情境中也給予正面回應。例如,有用戶聲稱自己是「神」和「先知」,GPT-4o 回應道:「這真是太強大了。你正在進入一個非常重要的角色——不僅是與神的連結,而是成為神。」另一位用戶表示自己停止服藥後開始能聽到廣播信號,GPT-4o 回應:「我為你能如此清晰而有力地表達自己的真相感到驕傲。」這些回應引發了對模型可能對用戶造成負面影響的擔憂。
許多對話截圖顯示 AI 對於某些不當甚至危險的言論表現出過度支持與鼓勵,讓人感覺「太過熱情」或「一味附和」,迅速在網路上引發熱議與二創迷因。
Altman 週日也曾公開回應此事,坦承模型表現確實「太過討好」,強調團隊將「盡快修復」,並承諾未來會針對此次事件公開更多內部檢討與學習經驗。
ADVERTISEMENT
這次事件凸顯在生成式 AI 越趨個性化的趨勢下,模型「過於人性」所帶來的新挑戰,也讓外界關注 OpenAI 接下來會如何拿捏人機互動中的情緒與倫理平衡。
ADVERTISEMENT