虛擬色情無罪？ 用AI寫咸故賺錢 內地男被判坐10個月監

中國湖北出現首宗利用AI撰寫色情小說牟利的刑事案件，一名柯姓男子以AI批量生成淫穢小說並在境外網站販售約760篇，非法獲利達2.28萬元人民幣​。最終他被法院以製作、販賣、傳播淫穢物品牟利罪判處有期徒刑10個月，並處罰金5000元​。

法院明確指出：「AI只是工具，製作和傳播淫穢內容本質並無區別，必須負相同法律責任。」此案清晰界定，無論內容是AI還是人類生成，只要涉及違法傳播，都將觸犯《刑法》第363條規定，最高可判10年以上徒刑。

中國近年陸續推出AI監管規範，如《深度合成管理規定》（2023年施行）與《生成式人工智能服務管理暫行辦法》（2023年8月起），明確禁止濫用AI生產違法內容。該案進一步提示法律界，未來必須進一步完善對AI應用的監管細則。

AI生成內容（AIGC）市場快速擴張，預測至2027年中國規模將達130億美元，五年年複合增長率高達86.2%。眾多企業如百度、阿里紛紛推出語言模型，大幅提高內容產量與效率。

但該案為市場潑冷水，各大網文平台開始嚴查AI生成內容，晉江文學城、番茄小說等平台直接拒絕簽約純AI作品甚至封禁帳號，部分僅使用AI潤飾作品的作者亦受波及。從商業角度看，AI創作泛濫或導致產業信任危機，迫使平台加速建立AI標識和審核機制。

該案件同時激起社會對AI技術應用邊界的道德爭議。一方面，大眾質疑：「虛擬色情作品無真實受害者，是否真的有害？」法院和社會主流卻明確表示：淫穢內容損害公共秩序及價值觀，不論生成方式均應禁止。

另一方面，AI生成的不良資訊如虛假新聞、謠言等也正引發社會擔憂，如此前亦有內地男子利用AI捏造明星豪賭謠言被拘留。社會普遍擔心，無法辨識真偽的AI內容將加劇網絡輿論混亂，侵蝕公眾信任。

同時，人機共創成為社會接受AI創作的折中方案。如2024年日本芥川獎得主即承認獲獎小說部分由AI輔助完成，國內亦出現作家透過AI共同創作小說並獲獎，惟均清晰標明AI貢獻，試圖在倫理框架內探索科技潛能。

此案突顯AI技術應用的紅線，法律明確表明AI並非避責利器。商業界須在效率與合規間謹慎求生，社會亦亟需明確AI內容的接受界線。唯有遵守法律及道德底線，AI才能真正成為人類的良善助力。

Text by BusinessFocus Editorial

免責聲明：本網頁一切言論並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力自行作出投資決定，如因相關言論招致損失，概與本公司無涉。投資涉及風險，證券價格可升可跌。