【查核開箱文】AI繪圖侵入假訊息領域!記者用AI製圖工具破解松花江冰花影像

【查核開箱文】AI繪圖侵入假訊息領域!記者用AI製圖工具破解松花江冰花影像

查核記者/馬麗昕

最新流行的AI製圖工具,掀起一陣AI繪圖風潮,許多玩家利用AI工具生成任何影像,擬真程度使得民眾難以辨認真假,更可能成為假訊息未來的潛在威脅。

近期網路上流傳「松花江冰花照片」引發瘋傳。這次,查核紀者將首次利用AI製圖工具「Midjourney」,破解網路流傳的松花江冰花照片。本篇查核開箱文,記者將帶領讀者一步一步追查照片來源,一起跟著查核記者踏入AI繪圖的全新領域吧!

追查步驟1:「以圖反搜」找到初步線索

時節進入冬季,從2022年12月中網路上開始流傳多張照片,指稱是中國東北松花江河冰開花的影像,一張張對稱的冰花影像,美不勝收,引起民眾在社群上瘋傳。


網傳松花江冰晶照片/擷自社群平台臉書

記者首先將網路流傳的冰晶照片以圖反搜,查找到中國素材網站「素材集市」2022年12月26日有一篇名為「松花江美麗冰花」的文章。

該文章上的冰花照片與網傳照片非常類似,河川上有一龐大美麗的冰晶、背後有夕陽輝映。該文章標示照片是「midjourney」作品。

「Midjourney」是一款用AI機器人生成各種圖像的工具。查詢至此,記者有了初步線索:照片可能出自AI製圖工具。


網傳照片與中國素材網站的midjourney製圖比對/擷圖自中國素材網站「素材集市」

追查步驟2:AI製圖難用肉眼辨認

人工智慧運用在假訊息的層面過去最常見的即是深偽(deepfake)。因此,記者首先諮詢熟悉深偽技術的國研院資安卓越中心建置計畫龎在偉工程師、中研院,試著從深偽技術面辨認照片真偽。

不過,龎在偉告訴記者,「深偽技術與AI製圖方向並不一樣」。

兩者之間的差異在哪呢?龎在偉說:「深偽目前都侷限在人臉的資料,只能偵測人臉是否被偽造。如果要辨識影像是否是AI生成的,都是通過圖片的邊緣是否過於平滑,圖片是否過於強調細節去辨識,目前沒有辦法以deep learning解決。」

專攻人工智慧、深度學習的中研院資訊科技創新研究中心的研究員陳駿丞告訴記者,「Midjourney」人工智慧工具利用的生成模型是擴散模型(Diffusion model)跟之前常見Deepfake利用「生成對抗網路」(Generative Adversarial Network)是不同的深度生成技術。

陳駿丞分析,擴散模型(Diffusion model)也可以算是一個深度生成模型,但其生成圖片的品質已經比Deepfake利用的「生成對抗網路」好。可以預期會有越來越多做Deepfake的軟體也會新增擴散模型,配合之前Deepfake的技術,做更好的Deepfake。

「造假的技術很久以前就有,然後不斷演進,AI技術以前在Deep fake上會比較多在人臉,但現在的AI製圖技術,可以想見以後會有更多各式各樣的假圖。」陳駿丞說。


利用Deep Fake技術製作的美國前總統歐巴馬影像/照片來源:達志影像

了解技術層面後,記者轉而求助AI製圖玩家社群,像是加入臉書、LINE上「AI製圖」社群,找到AI製圖藝術創作者江汪。

江汪告訴記者,目前AI生圖的軟體諸如Midjourney、Stable Diffision、Dalle 2等等產生的圖像,可能畫出人或動物仍有些殘破、破相的狀態,尤其是手指類。

至於像自然景象照片呢?江汪說,AI製圖產生的自然類、花草樹木、海等等圖像,比較不需要精確認知的圖、抽象畫等等會比較難分辨出瑕疵,且AI每次出圖都是隨機產生,影像都不一樣,一般人很難用肉眼辨認。

「Midjourney 台灣社群」創辦人、動態設計導演林思翰也說,能夠分辨的都是很初級的AI圖,「現在技術高級的AI圖其實是看不出任何破綻的」。

針對網傳的松花江照片,林思翰分析,裡面有幾張圖,我看光的放射方式很不自然,以及跟水面的倒影也不符合邏輯。」雖然這有些圖片,可以看出明顯的破綻,但其餘沒有明顯破綻的都很難分辨。


記者實際用「Midjourney」製成的韓國女團風格影像,可以看到部分人臉眼睛及鼻子歪斜/擷Midjourney頻道

AI製圖雖然不易用肉眼辨認,但目前也有幾款AI影像的偵測工具,查核記者就把圖片丟入AI圖片偵測工具來測試!

記者嘗試將多張網傳冰花照片分別放上偵測軟體「AI image detector」上。結果顯示,每張照片都達至9成的機率為人工製成(artificial)。


記者使用「AI image dector」偵測到照片有9成機率是人造/擷自「AI image dector」

追查步驟3:實際用AI工具生成冰花照片

為了進一步確認查核記者也自己來實測看看!

記者加入AI工具Discord平台的「Midjourney」頻道,嘗試自行以AI工具生成與網傳松花江類似的冰花圖片。

「Midjourney」是一款透過玩家輸入文字描述,讓AI生成自己想要的圖片。要生成自己想要的圖片,最關鍵的是輸入正確的關鍵字。因此,首先得先分析圖片的內容是什麼,才能給予AI正確的描述和指令。

記者仔細觀察網傳冰花照片,冰花多是獨立一顆漂浮在河川上,呈現出曼陀羅、纏繞化的樣式。河川邊漂浮著融化的冰雪,背景是夕陽餘暉。

記者在「Midjourney」的頻道中,將圖片描述化為英文關鍵字「Madala,  Zentangle, Snow , Parametric Pattern」(曼陀羅、雪、纏繞)。第一次生成未果,僅有巨大冰花立在河面上,沒有河川,也沒有融雪、太陽影像。


記者嘗試輸入「Madala,  Zentangle, Snow , Parametric Pattern」,僅出現巨大冰花照/擷自「Midjourney」頻道。

記者不斷更換關鍵字順序,再加入關鍵描述「sunset」、「river」後,終於看到AI工具生成出與網傳照片非常類似的冰花照片。


網傳照片與記者實測midjourney生成圖比對/台灣事實查核中心製圖

這就是最接近的照片了!比對記者自行生成的AI圖片網傳松花江的照片,可看到太陽的方向相同,冰花漂浮的方向與形式與非常類似。

江汪告訴記者,AI生成圖是隨機,儘管無法做到百分之百的雷同,但是從影像顯示的景象,已經可以認定網傳照片就是AI製圖影像!

追查步驟4跳脫原追查方向!從大氣科學來破案

闢謠不只有一個方向!跳開追查照片來源,記者嘗試用「大氣科學」的角度來破解影像。

自然界中水上的冰花是如何形成?真的會有如照片一樣這麼大的冰花嗎?記者帶著這些問題採訪台大大氣系教授陳正平。

陳正平教授分析,網傳冰花照片不太像自然界產生的冰晶。水中的冰晶的形狀通常是六角型樹枝狀或柱狀分岔,江水通常含有許多顆粒物雜質可以幫助冰晶形成(稱為冰核),因此會形成大量的冰晶,彼此交錯,不太容易像照片一樣,單獨一顆且長得很大;且水上冰晶一般是與水面貼平,不會有立體狀突起的結構。

陳正平教授也提供記者水上冰晶照片,可以看見冰晶是貼平水面,並非如網傳照片是獨立突起的狀態。


水上冰晶照片/擷自圖庫搜尋畫面

從大氣科學的角度來看,網傳松花江冰晶照片並非自然界的產物,更加證明照片是來自AI製圖的可能。

從AI製圖方向,到大氣科學的角度,都可以證明網傳松花江照片並非真實影像。而從追查的過程中,也可以發現AI製圖潛藏的假訊息威脅。

未來AI製圖是否會成為假訊息下一戰場尚不得而知,但民眾若能了解最新AI技術,也就能提升對於假訊息的偵測能力!

推薦閱讀

靜岡假水災照片的警示 AI製圖潛藏的謠言威脅