AI掀起三級大戰? ChatGPT擬12月放寬限制 容成年人製作情色內容

ChatGPT一向以保守見稱，謝絕任何情色內容及圖片生成，卻因此遭到「百無禁忌」的Grok搶去不少收費客戶。OpenAI行政總裁奧特曼（Sam Altman）在社交平台 X 宣布，將由12月起逐步「放寬 ChatGPT的行為限制」，容許「已驗證的成年用戶」在平台內創作及接收「情色（erotica）」內容。奧特曼解釋，過去為謹慎處理心理健康議題而設下較多限制，雖保障部分使用者，卻令許多無相關需求的用戶感到實用性及娛樂性下降。新政策旨在平衡安全與使用自由度，僅適用於完成成年驗證的用戶。

不過究竟日後ChatGPT「erotica」內容尺度為何？如是否容許露點或更色情的相片或短片，奧特曼未有透露。上述措施料必起爭議，因ChatGPT曾被譽為最適合青少年使用的AI，不少父母都代孩子訂閱收費版服務，故日後如何禁絕子女生成或接收不良內容，勢必成為熱話。

 政策變革與企業策略

 OpenAI此次策略轉向的深層次意圖是多面向的。奧特曼指出，過去過於嚴苛的「安全防護」讓「沒有心理問題的健康用戶」感到不便或不實用。放寬限制，特別是容許更多個性化和情緒化的互動，是為了提升產品的用戶體驗，使新版ChatGPT擁有更具「4o特色」的人性化回應。奧特曼強調，這前提是使用者主動希望這樣，而非OpenAI為提升使用率。同時，他還表示，12月起將更全面實施年齡分級政策，本著「把成年使用者當作成年人對待」的原則，將對已驗證的成年用戶開放更多內容，例如成人題材作品（情色作品）。

 然而，這次政策大轉彎更為緊迫且關鍵的起因，是來自市場競爭的巨大壓力。馬斯克的xAI公司，尤其是Grok Imagine v0.9推出「spicy mode」模式，容許用戶在其中脫掉人物衣服的圖像，甚至傳聞中的色情短片，已經在迅速搶奪「宅男」或對性內容有需求的特定社群市場。

 隨著AI生成內容的商業潛力與日俱增，特別是在情感陪伴和情色領域，OpenAI面臨巨大的收入壓力與市場份額流失風險。這項解禁，實際上是為了在與競爭對手的「流量與變現」角力中，被動或主動地將產品線延伸至過去曾明確拒絕、但如今極具商業價值的領域。

 風險與倫理挑戰

 儘管強調OpenAI將會實施年齡驗證，並已為18歲以下用戶推出專門的屏蔽版本，但現實操作中仍存在重大漏洞。許多家庭的ChatGPT帳戶是由父母付費，且付費帳戶往往共享或由父母進行年齡驗證。 一旦成人帳戶被驗證開放情色內容，未成年子女極有可能利用父母的設備或帳戶訪問這些內容，使得年齡驗證形同虛設。

 此外，AI生成的情色內容，特別是如果涉及生成逼真影像或模擬情境，還可能引發嚴重的心理健康和濫用風險，例如：性騷擾、深度偽造（Deepfake）惡意內容的增加，以及用戶對虛擬陪伴的病態依賴，這些都對社會倫理底線構成了嚴峻的挑戰。

 法律監管與社會規範

 OpenAI的這一政策轉變，使全球監管機構面臨更大壓力。歐洲聯盟的《人工智能法案》（AI Act）已經開始實施，美國各州也在積極立法，未來監管將聚焦AI內容的透明度、可追溯性及有害內容過濾。

 情色內容的合法性在不同國家/地區差異巨大。在某些地區，特定類型的情色內容可能被視為非法，這要求OpenAI必須建立精準的地理圍欄（Geo-fencing）與內容過濾機制，否則將面臨跨國訴訟風險。同時，社會規範演變要求企業承擔更高社會責任，科技巨頭不能僅以「言論自由」或「成人權利」為由，忽略未成年人保護。此政策成功與否，最終取決於OpenAI能否說服公眾其驗證與安全措施確實無懈可擊。

Text by BusinessFocus Editorial

免責聲明：本網頁一切言論並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力自行作出投資決定，如因相關言論招致損失，概與本公司無涉。投資涉及風險，證券價格可升可跌。