AI生成內容如何扭曲戰爭與俄羅斯戰爭罪的真相
為了讓台灣與烏克蘭社會了解境外資訊操弄與訊類型與手法，台灣事實查核中心與烏克蘭查核組織StopFake合作，精選與介紹彼此的查核報告與分析文章。
本文由StopFake發表於2024年12月11日——點此前往原始文章。
我們為什麼選這一篇文章：
了解AI生成圖片如何被用來塑造戰爭相關的敘事，以及資訊操弄者如何利用AI技術提高假內容的可信度。本文也有辨識AI影像的一些基本原則。
作者：奧克薩娜・波盧利亞赫（Oksana Poluliakh）
在今天，幾乎每個人都可以使用AI工具生成逼真的影像——至少乍看之下如此。然而，這些技術也逐漸成為操弄輿論者的強大工具。俄羅斯正積極在資訊戰中運用AI。AI生成的假內容究竟是如何運作的？為什麼在戰爭時特別危險？大眾又該如何辨識？
人們能辨識AI生成圖片嗎？
根據芝加哥大學的一項研究，約60%的網路使用者能分辨一張圖片是否由AI生成。隨著AI技術持續進步，這樣的情況令人擔憂。在烏克蘭也是如此。烏克蘭行銷與數據公司Kantar Ukraine在2024年2月的調查顯示，雖然有79%的受訪者知道什麼是AI，但只有42%對自己辨識AI生成內容的能力有信心。
當人們無法分辨真實與生成內容時，可能帶來重大影響，包括侵害著作權，以及假訊息與詐騙風險。
為什麼AI生成內容很危險？
AI生成圖片經常被用來操弄人們的情緒。你可能在Facebook上看過這種圖片：一名士兵在生日或婚禮等重要時刻尋求支持——幫一個剛結婚的士兵按讚有什麼不對呢？給一個好像沒在自己生日收到家人祝福的年輕人留言鼓勵一下，又有什麼問題呢？
這類貼文往往會獲得成千上萬的讚與留言，進一步擴大其粉專的觸及。但情緒動員的背後，卻可能隱藏了其他的惡意——這些粉專之後可能轉換主題，甚至用於散播宣傳內容。
烏克蘭並不是唯一面對這種AI內容挑戰的國家。美國的Facebook也大量充斥類似的圖片，例如老人、截肢者或嬰兒，這些貼文通常搭配煽情的文字，例如：「從來沒有人祝福過我」或「這是我親手做的，希望你們可以給我意見」。
2024年8月，史丹佛大學的芮妮．迪雷斯塔（Renée DiResta）與喬治城大學安全與新興技術中心的喬希．戈德斯坦 （Josh Goldstein）發布的研究指出，詐騙者與垃圾訊息帳號正積極利用AI圖片。這些圖片可以快速擴大受眾、提高互動，最終轉換為收益。當累積足夠人氣後，這些頁面往往會改名且開始發布完全不同的內容，有時甚至是詐騙。
除了更改粉專名稱，詐騙也會竄改貼文內容。例如，你昨天分享了一張請大家為士兵祈禱勝利的圖片，但隔天同一則貼文卻被替換成完全不同、甚至相反的訊息。這種做法會誤導用戶，因為新內容看起來獲得大量支持，但實際上的按讚與分享數都是來自舊內容。
StopFake曾調查過類似案例，惡意行動者編輯貼文，將其變成了虛構的假故事，聲稱烏克蘭飛行員叛逃至非洲與情人相聚。
烏克蘭「大眾資訊研究所」（Institute of Mass Information，IMI）發現，一個在中國成立的宗教組織利用AI生成圖片吸引烏克蘭人加入。在一些煽情動人的士兵或老人照片下，邀請用戶加入WhatsApp祈禱群組。然而，這些群組舉辦的線上聚會並沒有為烏克蘭士兵祈禱，實際上是在散播親俄敘事。
IMI的專家指出，這些手法特別針對一些容易被影響的族群，特別是有家人在前線服役的人；這些人往往擔心戰爭局勢，因焦慮而渴望情感上的慰藉。
在戰爭期間，這類操作更具威脅性。烏克蘭國安與國防委員會旗下的「反假訊息中心」指出，這些使用AI影像的頁面能吸引大量缺乏批判性思維能力、容易受到資訊操弄的受眾，讓敵對勢力有機會推動不利於烏克蘭的敘事。
2024年10月，微軟發布報告指出，從2023年7月到2024年6月，俄羅斯、伊朗與中國正越來越頻繁地利用AI來增加他們資訊操作行動的範圍、有效性與互動等影響力。包括ChatGPT在內的AI工具開發商也坦承，俄羅斯等國家正在不受監管的情況下，利用AI工具操控全球輿論。
其中一個最顯著案例，是2023年底流傳的一系列AI烏克蘭士兵的圖片，這些搭配文字的圖片聲稱烏克蘭士兵在頓內茨克地區祈求救贖，並請求烏克蘭民眾為其祈禱。在當時該區域激烈的戰況下，這些內容帶來了強大的情緒衝擊。
但StopFake觀察到，這些貼文主要由類似機器人的帳號所散播，其流傳規模與速度顯示這是俄羅斯精心策劃的假訊息行動，其目的是在烏克蘭民眾之間散播恐慌、絕望，並打擊烏克蘭軍隊的士氣。
這類操作也顯示AI如何有效製造「廣泛支持」或「恐慌」的假象。一些烏克蘭士兵看似絕望的影像極為逼真，經驗豐富的網路使用者都可能信以為真。這種內容不僅削弱士氣，也試圖加劇社會分裂，讓人質疑烏克蘭的國防策略，並塑造了「疲憊不堪的軍隊」的形象。
另一個案例是以下這張圖片，宣稱是一名俄羅斯襲擊烏克蘭第聶伯羅（Dnipro）後倖存的男孩，照片中可見一名男童站在被摧毀的建築前，手中拿著一個像是麵包的東西，身穿帶有烏克蘭國旗徽章的外套，充滿悲愴之情的貼文文字寫著：「他將永遠記得誰摧毀了他的世界。」雖然這張圖疑點重重，並非真實照片，但仍有許多使用者在留言處表達同情，甚至詢問其父母的下落。
這張照片在2023年1月14日迅速傳播，當時正值第聶伯羅住宅大樓遭飛彈攻擊後數日，該事件造成包含6名兒童在內的46人死亡、約80人受傷。就連烏克蘭國會官方帳號也曾分享這張圖，引發軒然大波與批評——在這樣的情況下使用AI圖片，會削弱人們對真實事件的信任。
諸如此類模擬戰爭在烏克蘭造成的破壞與平民苦難的AI圖片，經常在網路上爆紅，流傳程度甚至比真實的俄羅斯襲擊的戰爭照片更廣。有些人辯稱這些AI影像只是「示意圖」，但數據顯示，有40%的使用者無法區分AI生成的圖片。
這樣的影像不只模糊了真實，也扭曲了俄羅斯戰爭罪行的事實。俄羅斯宣傳行動正利用網路充斥這種假影像的現象，宣稱「烏克蘭或是西方情報機構捏造了烏克蘭平民的傷亡情況」。這個邏輯很簡單：如果烏克蘭人捏造了第聶伯羅男孩事件，那其他悲劇也可能是假的。
有關俄羅斯假訊息行動如何製造和傳播這種懷疑，請參考StopFake的查核報告：「錯誤資訊：基輔地區大規模平民傷亡是偽造的、「錯誤資訊：俄羅斯士兵在霍斯托梅爾（Hostomel）的暴行是烏克蘭捏造的」，以及「不實影片：烏克蘭平民傷亡的報導是假的」。
這些案例凸顯了批判性思考與查證資訊的重要性。不加思索地轉傳AI內容，可能會在無意間支持了俄羅斯的宣傳。
如何辨識AI生成圖片？
辨識AI影像有一定的難度，但並非不可能。以下是一些關鍵方法，可以幫助你判斷影像是真實的還是由 AI 產生的。
1. 檢查浮水印與Metadata
- 浮水印：檢查影像上是否有AI工具水印（例如MidJourney、DALL-E）。這些浮水印通常位於影像的角落。
- 圖片說明：查看圖片的說明文字或留言。作者可能會提到圖片的出處，或是說明該圖片是否是AI產生的。
- 後設資料（Metadata）： 如果找得到，後設資料可以提供影像建立日期、位置、相機設定，甚至建立影像所用工具的相關資訊。後設資料分析是驗證影像真偽的重要工具。你可以在電腦裡下載如ExifTool或Exif Pilot的程式，這些程式能更詳細的分析不同格式文件的後設資料；此外，metadata2go也是一個方便的線上工具，無需下載，只要把文件上傳到該網站就可快速檢查其後設資料。
2. 使用檢測工具
多個AI檢測工具可以分析影像，判斷影像是否由AI產生。以下是一些常用的工具：
Illuminarty
SightEngine
AI or Not
Hive Moderation重要：這些工具並非完全準確，尤其是在影像品質較差的情況下。它們應作為輔助方法而非主要方法使用，並且將這些工具與其他驗證方法結合使用，以獲得最高的準確性。
3. 透過互動學習提升辨識能力
為了提高識別AI生成影像的能力，你可以使用一些網路測驗。這些平台有助於訓練你對細節的關注度，提高你辨識偽造圖像的能力。
AI技術帶來機會，但也為資訊空間帶來了風險，尤其是在戰爭期間。
AI圖片可以操控情緒、誤導大眾，並成為資訊戰的重要工具。
需要特別注意的是，對可疑內容的任何互動——按讚、留言或分享——都可能幫助敵對勢力擴散訊息。
在戰爭時期，資訊行為本身就是一種責任。透過查證與有意識地接觸資訊，不僅能保護自己，也有助於提升整體社會的韌性。
StopFake獲美國國際民主協會NDI支持發表本篇文章
