OpenAI 執行長薩姆·奧特曼（Sam Altman）去年曾拋出震撼彈，提議放寬 ChatGPT 對限制級內容的禁令，主張應將成年使用者當成成年人對待。然而根據外媒披露的內幕，這項計畫在內部引發激烈辯論，甚至讓專家委員會感到憤怒。目前 OpenAI 已宣布延後原定於今年第一季推出的「成人模式」，主因除了技術挑戰，更包含對使用者心理健康的深度憂慮。
專家委員會一致反對，憂心產生病態依賴
為了評估這項爭議功能，OpenAI 於今年 1 月特別成立了由身心健康與 AI 專家組成的委員會。據知情人士透露，委員會成員在聽取簡報時態度強硬且充滿怒火。專家警告，由 AI 驅動的情色內容極可能導致使用者產生不健康的情感依賴，甚至有成員引述過去曾有使用者因愛上聊天機器人後自殺的案例，直言 OpenAI 正在冒險製造一個「性感的自殺輔導員」。
儘管專家團與內部部分高層表達強烈保留意見，OpenAI 當時仍一度決定推進計畫，顯示出公司內部對於使用者增長與安全防護之間的拉鋸戰已進入白熱化。
除了道德爭議，技術上的不成熟也是計畫喊卡的主因。OpenAI 正在開發一套預測使用者年齡的新系統，但該系統曾出現約 12% 的誤判率，會將未成年人識別為成年人。
若以 ChatGPT 每週約有 1 億名未滿 18 歲的使用者計算，這 12% 的誤差代表可能會有高達 1,200 萬名青少年輕易接觸到情色對話。此外，如何在開放成人內容的同時，精準屏蔽掉非自願行為或兒童性虐待等極端違法內容，對目前的過濾技術而言仍是巨大的挑戰。
奧特曼的「誘惑」：流量與營收的現實考量
奧特曼本人對於 AI 情色內容的態度也相當微妙。他曾在播客節目中坦言，情色內容確實能促進用戶增長與營收，雖然這不符合公司的長期目標，但有時確實會被「誘惑」。
去年 10 月，奧特曼在未事先告知員工的情況下，突然在 X（原 Twitter）上發文宣稱已開發出新的監管工具，並暗示將在 12 月推出成人內容。此舉讓公司高層措手不及，隨後奧特曼才澄清，這是在確保青少年防護措施的前提下，讓成年人進行更具「火辣感」的互動。
OpenAI 這次的風波，反映了科技巨頭在追求營收成長時，往往容易忽視社交媒體時代曾犯下的錯誤：先衝流量、等問題爆發再修補。雖然 OpenAI 強調成人模式僅限「擦邊」文字而非露骨色情，並會訓練模型提醒使用者回歸現實人際關係，但在 AI 擬人化程度越來越高的今天，這條界線極難拿捏。
目前 OpenAI 已決定將重點轉向 ChatGPT 的個人化與客製化體驗，成人模式預計至少延後一個月，甚至更久。對於這家站在 AI 浪潮尖端的公司來說，如何在商業誘惑與社會責任間取得平衡，將是比技術開發更艱難的課題。
- 延伸閱讀：ChatGPT「成人模式」又跳票！想看色色內容？OpenAI：再等等！
- 延伸閱讀：OpenAI 替美軍開發 AI 惹眾怒！ChatGPT 遭狂刪、一星負評灌爆，對手 Claude 趁機大爆紅
- 延伸閱讀：馬斯克出庭猛烈抨擊 OpenAI！狠嗆「沒人因為 Grok 自殺」
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！