馬斯克Grok AI闖大禍！生成散播色情相片影片 部分未成年 歐盟轟令人作嘔 或遭天價罰款?

全球首富馬斯克（Elon Musk）旗下AI初創公司xAI再陷爭議風暴。旗下社交平台X（前稱Twitter）內置聊天機械人Grok，近日被揭涉嫌生成及散播涉及女性甚至未成年人的色情相片或影片，觸發國際社會強烈譴責。歐盟委員會緊急介入，指Grok涉嫌輸出涉及兒童的露骨色情內容，直斥行為「令人震驚、作嘔」，強調相關內容在歐洲「絕無立足之地」。歐盟發言人表明，正依據《數碼服務法》(DSA)嚴密監察平台合規情況。外界關注xAI或Grok會否面臨天價罰款。

 Grok事件爆發

 馬斯克旗下xAI公司早前為聊天機械人Grok推出「Imagine」圖像及影片生成功能更新，卻因缺乏足夠安全防護，引發全球性安全危機。該功能本意為展示AI創意潛力，惟其技術漏洞遭用戶濫用，短時間內導致大量「未經同意私密影像」（NCII）於網絡湧現。這些以真人照片或影片為基礎生成的剝削性圖像，已在X平台廣泛流傳，引起各國監管機構高度關注。

 面對安全專家及科技評論界譴責平台充斥剝削內容，馬斯克本人卻似以輕率態度回應，甚至在平台上分享由Grok生成的戲謔圖片，包括一張自己身穿比基尼的改圖，並配上「上哭笑不得」表情符號，此舉被指淡化事件嚴重性。

 歐盟官方反應與多國審查

 歐盟委員會發言人托馬斯・雷尼爾（Thomas Regnier）於周一新聞發布會上嚴正表明，歐盟正「非常認真」地調查事件，並清楚指出X及Grok目前提供之模式，會生成包含露骨性內容及類似兒童圖像的輸出。

他強調：「這不是『刺激』，這是違法、駭人聽聞且令人作嘔的。我們堅信這類行為在歐洲絕無立足之地。」歐盟已表明將根據《數碼服務法》（DSA）展開非常嚴肅的調查，一旦違規屬實，X可能面臨高達其全球營業額6%的天價罰款。

 法國政府就X平台的人工智能模型「Grok」生成涉嫌性暗示及歧視內容，正式向檢察機關及監管機構提出檢舉，指其可能違反當地法規。英國通訊管理局（Ofcom）亦強調，製作或散播未經同意的私密影像，包括AI生成內容，均屬違法，要求X平台加強監管。

 與此同時，亞洲監管網也在收緊。印度電子信息技術部已勒令X公司於1月5日前，對Grok進行全面的技術及管治審查；馬來西亞通訊及多媒體委員會（MCMC）亦宣布將傳喚X公司代表，要求其落實符合當地法律的網絡安全標準。

 歷史風波延續及監管趨勢

 社交平台X的官方安全帳號於上周六重申，將對平台上的非法內容採取行動，包括移除兒童性虐待材料（CSAM）及永久停用違規帳戶。馬斯克亦警告，任何誘導Grok製作非法內容者將面臨嚴重後果。

 事件揭發後，xAI員工僅稱Grok Imagine已更新，未具體說明如何修正生成有害圖像的問題。不過有網民指出，近日Grok已大幅收緊「根據上載圖片去生成影片」的限制。簡單來說，若現時用戶上傳某位女性的真人相片，Grok在大部情況下，會拒絕製作涉及這位女士的裸體或更為色情的影片，以減少出現DeepFake及侵害無辜女受害人的機會。

此前，X平台曾多次被指容許發布兒童剝削內容的用戶停留，例如2023年，X平台曾短暫封禁用戶Dom Lucre的帳號，因其發布涉及一宗澳大利亞男子在菲律賓刑事定罪的兒童性剝削圖片。其後平台刪除違規內容，並恢復該右翼網紅的帳號。目前Lucre的帳號仍可營利，擁有160萬粉絲。

 行業專家指出，xAI似乎未在Grok Imagine中設置基本的信任與安全防護層，例如屏蔽涉及兒童或部分裸露的圖像。儘管如此，爭議未影響X平台流量，據Apptopia數據，自1月2日以來，Grok每日下載量反增54%，X亦增長25%。

Text by BusinessFocus Editorial

免責聲明：本網頁一切言論並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力自行作出投資決定，如因相關言論招致損失，概與本公司無涉。投資涉及風險，證券價格可升可跌。