2024年10月份中文不實訊息趨勢觀察：AI變造名嘴影音與「一觸即發的韓國內戰」

特約研究員／李惟平；責任編輯／何蕙安

(本文編譯自2024年10月29日刊出的台灣事實查核中心分析文章 “October Chinese Disinformation Trends: AI-Generated Influencer Videos and the "Imminent Korean War"，英文原文作者是李惟平)

今年10月，東亞地區有數件重要軍事事件接連登場。繼今年9月25日軍演後，中國軍隊又在10月14日環繞台灣，舉行代號為「聯合利劍- 2024B」的大規模軍事演習。而幾乎是同一時間，北韓以南韓無人機飛入平壤為由，炸毀過去連接兩韓的廢棄鐵路。

這些事件都引發新一波中國不實訊息。有些不實資訊以AI技術變造台灣名嘴過去影音片段，傳散其讚賞解放軍的言論。另一些不實訊息則假造影像，稱兩韓戰爭迫在眉睫。

事實查核中心曾在9月份的英文分析【新瓶裝舊酒：2024年夏季關於亞洲地區軍事行動的不實訊息】中指出，中國利用其於夏季舉行的多項軍事行動，製造多則不實訊息。這些軍事行動包括針對台灣的軍事演習、中國與菲律賓在南海產生的衝突等。與其相關的不實資訊都呼應了中國向來的宣傳主題，包括：

1. 中國軍隊武力強盛，美國軍力無法匹敵。

2. 台灣軍隊嬴弱不振，無法抗衡中國軍隊。

在今年10月中國環台軍演相關的不實訊息中，我們也觀察到數則對比「強盛中國軍隊」與「孱弱台灣軍人」的敘事，且以AI技術偽造影音。事實上，不實訊息製造者使用AI生成的錯誤不實影像、試圖影響台灣政治與社會，已有一段時日。比如2024年台灣總統大選期間就有不實AI影像與錄音，藉候選人之口，發出不符常理的評論。

造謠者以AI技術扭曲台灣名嘴的發言影片

在近日流傳的影像中，被變造的對象是常上台灣政論節目，立場被歸類為批判中國的退役將領于北辰。在影片中，于北辰發表違反其向來立場的言論，表示自己「震驚於中國解放軍軍力」，並且認定中國軍隊「可在短短幾分鐘之內登陸台灣」。

圖1：變造于北辰談話內容的AI影片截圖。不實訊息操弄者扭曲于北辰原本的影片，讓其受AI變造的影像讚賞中國軍演。

台灣事實查核中心發現，雖然影片中于北辰的唇部動作與發言內容同步，但其身體的動作並不自然，也透露出AI操作的跡象。查核結果也顯示，于北辰的原始影片與軍演主題並無任何關聯。于北辰在得知自己的影像遭到變造後，也發表聲明，釐清自己從未發表類似言論。

然而該影片已廣傳於YouTube、臉書、TikTok、以及抖音等平台。分享該影片的帳號則是繁體與簡體用戶都有。某些帳號分享影片時，還在影片上加註字幕：「他終於說出實話」。惡意謠言操弄者可能希望藉此打擊台灣閱聽人信心，讓台灣人因為于北辰影片中不戰而降的發言而喪氣；對於中國受眾而言，則能藉著該段AI偽造影片感覺良好，並且得以揶揄一位「震攝於中國實力而改變態度」的台灣將軍。

這並非于北辰的影像首次遭到變造。于北辰與其他幾位常上台灣政論節目的名嘴，之前也曾被惡意訊息操弄者變造影像。

即將到來的韓戰?

就在中國對台軍演時，北韓也炸掉了連通南北韓的鐵路，以示對南韓政府的不滿。該事件雖然引起國際矚目，卻未造成事端擴大。不過，中國的資訊操弄者與一些網民還是極盡誇大能事，在中國社群平台上傳播錯誤的文字與影片，試圖營造兩韓「瀕臨開戰邊緣」的印象。

這些關於「韓戰即將爆發」的不實訊息，主要圍繞兩項敘事：其一是宣稱南北韓軍隊已經開至邊界；另一敘事則稱大批群眾集聚南韓街頭抗議，反對戰爭，拒作「第二個烏克蘭」。

多則傳布第一種敘事主題的不實訊息以影片顯示大批士兵及武器「往邊境集結」。比如一則影片聲稱兩韓邊境情況緊張，「南韓邊境的天空上，都是直升機」。台灣事實查核中調查的結果是，這段影片早在2024年9月就已於TikTok流傳，且影片中的原始事件是南韓建軍節的彩排畫面。

另一則在X平台傳布的不實訊息，則以多張照片顯示坦克在野地上集結陳列，宣稱北韓在邊境部署軍隊，隨時可能和南韓開戰。其中一張照片裡，甚至可見北韓領導人金正恩檢視軍隊。

但查核結果顯示，這些照片是已在網路上流傳數月、甚至經年的舊照。不實資訊操弄者擷取這些照片，偽稱是南北韓將要開戰的圖像證據。然而，不只社群媒體的使用者上當，連台灣媒體也把這些照片當真，寫成新聞示以讀者。

圖2：台灣新聞媒體發布文章，宣稱北韓將大批軍隊及士兵運往邊界，準備與南韓開戰。但其實消息來源是X平台上傳播的不實訊息，新聞中的照片則是舊照。

第二種不實訊息敘事則是建立在第一種敘事的「戰事準備場景」上，宣稱南韓民眾上街抗議，反對開戰。這些顯示民眾抗議的影像在臉書、抖音、TikTok上流傳，其中一段影片上的中國字幕還強調，「韓國人民還是比較清醒」，或註明「老百姓都是嚮往和平」。有些影片則進一步宣傳陰謀論，指稱韓國人不願白白犧牲，幫美國人打代理人戰爭。

這些號稱南韓民眾上街抗議的影片，也被中國媒體與官方放大推播。亞洲事實查核實驗室指出，重慶晨報的抖音帳號也分享這些影片。重慶晨報是重慶市政府轄下的報紙。此外，中國駐巴基斯坦外交官張和清也在X平台上發文分享這些影片。

圖3：TikTok上宣稱南韓民眾上街反戰的影像截圖。

不過，台灣事實查核中心指出，這些被社群帳號廣為分享的影片，其實是將舊影片移花接木。比如說，其中一段影片裡面所發生的事件，是10月初韓國民眾抗議反對黨打算彈劾現任韓國總統的遊行。

亞洲事實查核實驗室也查證，由重慶晨報抖音帳號分享的影片，是9月時另一場與彈劾南韓總統有關的遊行。然而重慶晨報所分享的影片卻移除了說明原本事件的字幕標題。

南韓新聞記者告訴台灣事實查核中心，南韓街頭近期並未出現以「反對即刻與北韓開戰」為主題的遊行抗議。南韓記者並指出，其實南韓社群媒體極少看到上述變造過後的不實影片。有趣的是，這些不實訊息卻在中文網路空間上流傳甚廣，給予中文網路使用者「戰爭一觸即發」，且「美國是幕後黑手」的印象，這一論述也符合長年來在台灣流傳的恐戰訊息。