OpenAI 延遲推出的 ChatGPT「成人模式」預計在上線時將支援帶有情色內容的文字對話,但不包含聊天機器人生成影像、語音或影片的能力。OpenAI 一位未具名的發言人向《華爾街日報》表示,該功能將提供的是情色文字內容,而非色情,讓使用者能夠生成帶有成人主題的文字聊天。
該功能最初於去年十月宣布,OpenAI 執行長 Sam Altman 表示,公司已經成功減輕 AI 模型引發的「嚴重心理健康問題」,因此放寬安全限制,推出「經過驗證的成人情色內容」。ChatGPT 的成人模式原本預計在本季度推出,但 OpenAI 本月初表示將延後發布,專注於更優先的任務,目前尚未公布新的發布時間表。
根據《華爾街日報》的報導,延遲原因還包括內部對該功能的審查與兒童保護的技術挑戰。OpenAI 選出的顧問委員會在一月警告公司,ChatGPT 的成人模式可能會被兒童使用,並可能促使使用者對聊天機器人產生不健康的情感依賴,有委員甚至表示 OpenAI 可能會變成「性感的自殺輔導員」。
內容審查問題也是延遲的原因之一。知情人士透露,OpenAI 正努力在解除 ChatGPT 對不適當內容的限制與防止更有害情境(如非自願行為或兒童性虐待)之間取得平衡。
OpenAI 開發的年齡預測系統曾一度將約 12% 的未成年人誤判為成年人。由於 ChatGPT 每週約有一億名未滿 18 歲的使用者,這樣的錯誤率可能導致數百萬未成年人接觸到帶有性暗示的對話。OpenAI 的年齡預測算法表現與業界相當,但一位未具名發言人表示,「永遠不可能完全萬無一失」。
僅限文字對話的做法,可能讓 OpenAI 更容易遵守像英國《線上安全法》這類規範,該法要求線上平台對色情影像進行年齡驗證,但對書面情色內容則無此要求。這也與競爭對手提供的更視覺化的成人內容形成對比,例如 Grok 的「辣味」虛擬伴侶,及 Elon Musk 上週宣布的 xAI Grok 影像與影片生成器可輸出「符合 R 級電影標準」的內容。