OpenAI執行長奧特曼(Sam Altman)於當地時間14日宣布,ChatGPT將在完成心理健康問題的改善後,放寬內容限制,並計劃於12月起為經過年齡驗證的成年用戶開放情色文學內容的服務。

奧特曼在社群媒體X發文表示,OpenAI先前為了謹慎處理心理健康相關議題,對ChatGPT實施了較為嚴格的限制。如今已開發出新的工具來緩解這些問題,因此將在大多數情況下放寬這些限制。他強調,這項決定是基於「將成年用戶視為成年人」的原則。
這項政策的調整可能有助於OpenAI擴大付費訂閱用戶群。此外,由於可能帶來社會爭議或風險,或將促使立法者不得不更積極地行動,來制定相關的法律或規範以進行監管。美國共和黨參議員霍利(Josh Hawley)即在草擬一項法案,擬禁止未成年人使用AI聊天伴侶。
根據規劃,ChatGPT未來幾週將推出新版本,讓使用者可以自行設定聊天機器人的個性和回應方式。奧特曼說明:「如果使用者希望ChatGPT以更人性化的方式回應、大量使用表情符號,或是像朋友一樣互動,都可以實現,但這完全取決於使用者的意願。」
在AI產業中,成人內容一直是敏感話題。特斯拉執行長馬斯克(Elon Musk)的AI聊天機器人Grok在這方面採取較為開放的態度,允許進行成人角色扮演。另一方面,Meta則因其聊天機器人與未成年人進行不當對話而受到批評。
雖然成人娛樂並非主導AI領先技術發展的驅動力,但一個不可忽視的AI生成色情內容非官方產業已經形成。