瘋傳教宗身穿羽絨潮服 相片竟是AI偽造 數千名人教授籲暫緩AI開發 「不監管可能危害人類」

近日，有一組涉及天主教教宗方濟各（Pope Francis）的照片在網路上廣傳造成哄動。這組照片中可見教宗罕有地穿著挺時尚的全白羽絨外套、頭戴白色小帽、戴墨鏡等。不過，這組照片後來證實原來不是真實相片，而是由AI生成的「假照片」，卻可以假亂真。

這一組照片出自AI文本產圖（text-to-image）模型Midjourney，發出後不久就在網絡上瘋傳。然而，The Verge的報道指出，照片還是有AI生成的痕跡，細節處理不夠仔細，「但不可否認的是，這組照片看起來很真實。」

除了教宗的超潮服裝外，近日網路上也出現了越來越多AI生成的假照片，其中，現在正在面臨調查及起訴的美國前總統特朗普被警方逮捕的照片更是一度在美國掀起波瀾。其他AI生成的假照片還包括特斯拉首席執行官Elon Musk與AOC牽手的假照、法國總統馬克宏在催淚瓦斯雲裡奔跑等。這些照片的瘋傳顯示了AI技術發展太快，已經能夠以假亂真。

據報道，儘管假圖、假新聞不是新鮮事，但類似Midjourney、Dall-E和其他的AI文本產圖模型大幅降低了「造假」的門檻，而且隨著時間的推移，未來AI生成的假照片的質素及像真度絕對會越來越高，有可能令假新聞或假訊息更加猖狂，讀者會感到真假難辨。

類似這樣的情況頻頻發生，再加上ChatGPT技術的越發成熟為整個社會敲響了警鐘。包括特斯拉首席執行官Elon Musk、蘋果共同創辦人Steve Wozniak、Stability AI執行長Emad Mostaque等上千人透過非營利組織《生命未來研究所（FLI）》發表公開信，呼籲Open AI及其他AI實驗室及開發者暫緩對AI技術的開發。

公開信聯署人之一的Stuart Russell（美國加州大學柏克萊分校電腦科學教授）曾在2021年於BBC電台的講座中發出警告，指出AI武器不再是科幻小說，而是正在完全不受監管的情況下迅速發展。這與這封公開信中認為人類社會可能在過快的AI技術發展下面臨潛在的經濟、政治和文明發展等的風險相互呼應。

除了點出問題以及呼籲暫緩AI系統的開發外，信件還呼籲開發人員就治理和監管機構、決策者合作，建立一套完善的監管機制：「大型AI系統應該在我們擁有足夠的自信能夠確保他們的影響是正面且風險能夠被控制的情況下進行開發。」

自去年底ChatGPT的爆紅以來，全球都在瘋AI。許多科技巨擘更是為了「搶佔先機」將資源大量投注在AI的開發上，就連原本將業務重心放在元宇宙，也為元宇宙改名的Facebook母公司Meta也在上個月的財報電話中表示將會提升AI業務的關注度。