靜岡假水災照片的警示 AI製圖潛藏的謠言威脅

記者／馬麗昕

最新流行的AI製圖除了席捲全球藝術領域，但也潛藏著假訊息威脅。查核中心日前用AI製圖工具，破解網路上瘋傳的AI松花江冰晶照片。AI假訊息案例不只發生在台灣，美國、日本都曾發生類似案例。AI製圖已悄悄成為謠言製造溫床，成為下一個人工智慧假訊息戰場！

多樣的AI製圖早成為假訊息溫床

AI製圖可以做成各式各樣的照片，人物、自然景觀等，風格多變，也可高度擬真。美國老牌查核組織《Snopes》曾在2022年11月查核AI製成的可愛藍色貓頭鷹照片。

《Snopes》文章指出，「比起Photoshop，藍色貓頭鷹照片更像是AI製圖，從其不自然的腳趾就有所跡象。」

圖1：《Snopes》曾在2022年11月破解一篇網傳是挪威藍色貓頭鷹的AI照／擷自《Snopes》

《路透社》查核團隊也曾經破解一張號稱是「伯德探險隊1956年拍攝到的南極洲」的AI照，傳言更藉此散播「政府隱瞞南極曾有失落文明」的陰謀論。

《路透社》追查發現，此張照片是由加拿大AI玩家提姆鮑徹（Tim Boucher）創建的AI圖像，該圖像收錄於他的AI影像書籍《Lost Book》。鮑徹告訴路透社時說，照片是由人工智慧工具 OpenAI 的Dall-E 2 生成。

圖2：AI製成的假「南極失落文明」照／擷自《Lost Book》

對於製作AI影像的目的， 鮑徹說：「我希望人們質疑他們的信念，並評估不斷變化的媒體形式，以及這些運用新技術帶來的好處，以及可能造成的傷害。」

虛假訊息趨勢永遠都在變，鮑徹說，與其告訴人們這就是虛假訊息的運作方式，他選擇用低危害，但是攸關真實事件的案例，像是南極失落的文明照片，告訴人們假訊息的真實運作。

「鼓勵人們提出質疑、辯論，以及事實查核。」鮑徹認為，這才是這張AI照片創造的真正目的。

緊急災害事件中 AI製圖恐混淆民眾認知製造恐慌

貓頭鷹照、失落的南極文明AI照片多為趣味流傳，無傷大雅。但若當社會發生緊急災害事件時，就會成為脆弱點，AI影像就能混淆民眾判斷真實資訊的能力。日本就有過類似案例。

日本查核組織《Japan Fact Check Center》（簡稱JFC）在2022年9月破解推特上流傳的「靜岡水災AI假影像」，引起民眾熱議，也讓AI製圖蒙上一層假訊息危害的陰影。

日本靜岡縣2022年9月因塔拉斯颱風侵襲發生嚴重水災，推特一名用戶在9月26日發布多張「靜岡水災照片」，推文表示這是「空拍機拍攝的靜岡縣水災情況」，更直接說「太悲慘了吧」。

從照片可以看見水淹過民宅，情況相當嚴峻，轉發的民眾更認為「水災死傷慘重」

ドローンで撮影された静岡県の水害。
マジで悲惨すぎる... pic.twitter.com/W69USpmwGG

— くろん (@kuron_nano) September 25, 2022

然而，就在該推文在發布12個小時後，該名推特帳號在同一則推文下方留言承認這些照片都是AI作圖。該用戶的聲明指出：「沒想到這麼容易就會擴散出去」，他對於AI製圖假影像引發的風波，向靜岡縣實際水災受害戶和大眾致歉。

圖4：該推特帳號於同篇貼文下方留致歉

儘管推文者已發出聲明致歉，但驚悚的照片仍引發各大社群平台瘋傳，讓許多民眾信以為真。

靜岡縣政府回應《JFC》時也說：「儘管有部分地區發生淹水情況，但是並沒有照片顯示般淹沒村莊的程度，且水已經退去。」對於社群平台流傳的假淹水照片，也希望民眾能冷靜應對。

圖5：2022 年9月24日本靜岡縣濱松市一座被颱風損壞的橋樑／照片來源：達志影像

「這種AI假訊息的例子會越來越多。」專攻人工智慧，中研院資訊創新研究中心研究員陳駿丞認為，以前Deep Fake會比較著重在人臉上。但從AI製成工具的普及後，以後會有更多各式各樣的假圖。

陳駿丞分析，儘管AI製圖蔚為趨勢，但民眾也不需要過度憂心。「現階段生成的AI圖，仔細看還是有很多破綻，像是用來生成整個人、手的部分會爛掉，有時出現6根或4根手指，或是會破圖。」

從日本追查靜岡假影像的過程，能歸納出2招破解方法：

辨別AI影像方法1：辨識出照片不合理之處

日本查核組織在破解靜岡假影像時，也辨識出AI水災照的「破綻」，像是照片有奇怪的倒影、不合理的線條、切線；影像中都沒有出現日常道路會出現的汽車、電線桿。

圖6：日本查核組織《Japan Fact Check Center》辨別出影像不自然之處／擷自《Japan Fact Check Center》網站

辨別AI影像方法2：實際用AI生成工具

初步辨認出影像破綻後，日本查核組織進一步至AI圖像生成網站「Stable Diffusion」上輸入「洪水災害、靜岡」，創建了類似的淹水圖像。

可以看見，AI生成的淹水照片有非常類似的模式，像是倒影、水的顏色、綠樹等。

圖7：日本查核組織《Japan Fact Check Center》實際用AI工具製成假水災影像／擷自《Japan Fact Check Center》網站

小心AI製圖潛藏的假訊息威脅！

從靜岡縣假影像的案例得知，任何人都可以用AI繪圖軟體輕易生成任何畫面，且畫面可以相當擬真。

因此，當社會發生緊急重大事件時，網路上流傳AI製圖假訊息，民眾一時難以辨認，就容易受假訊息侵害，造成不必要恐慌，讓社會對於真實失去判斷能力。

對於AI製圖可能帶來的危害，中研院研究員陳駿丞也說，一個技術本來就會有好處跟壞處，端看使用者如何使用。

「然而，目前還不用往最壞的情況想，只是民眾要意識到這點，以後看到訊息時候要更小心，看到可疑或不合邏輯的消息，要先想一想，不要馬上傳播。」陳駿丞說。

未來AI製圖是否會成為假訊息下一戰場尚不得而知，但民眾若能了解最新AI技術，也就能提升對於假訊息的偵測能力！

推薦閱讀

【查核開箱文】AI繪圖侵入假訊息領域！記者首次用AI製圖工具破解松花江冰花影像