【影音變造】網傳影片「于北辰稱讚解放軍軍演、共軍登陸台灣直接投降」?

【影音變造】網傳影片「于北辰稱讚解放軍軍演、共軍登陸台灣直接投降」?

事實查核報告#3287
【影音變造】網傳影片「于北辰稱讚解放軍軍演、共軍登陸台灣直接投降」?
發布日期/2024年10月16日

經查:

【報告將隨時更新 2024/10/16版】

中國14日展開軍演,抖音、臉書流傳一段退役少將、桃園市議員于北辰影片,內容顯示于稱讚共軍軍演、並指共軍登陸時會投降。這是經深偽變造的假影片。

一、于北辰指出,網傳影片是假的,是利用過去他上節目畫面,再配上假AI聲音製作而成。

二、網傳影片是用今年5月的政論節目畫面,再利用深偽技術製造出假的聲音。原始節目內容與此次中國軍演無關,于北辰當時在節目上沒有稱讚中國軍演、或說要投降。

網傳影片是經AI變造合成的內容,是「影音變造」的錯誤訊息。

背景

中共解放軍10月14日展開「聯合利劍-2024B」軍演,TikTok、臉書流傳一段影片稱是「于北辰調侃大陸軍演說了大實話」、「于北辰說解放軍登陸立刻投降」。

影片可看見退役少將、桃園市議員于北辰說「解放軍2024B軍演火力真不是吹的,我客觀的講,我于北辰被震撼到了...我感覺他們分分鐘就能登陸台灣本島,解放軍登陸台灣我直接投降就好。」


圖1:臉書流傳影片擷圖

查核

查核點:網傳影片是真的嗎?

傳言影片是AI造假 于北辰沒有說過影片內容

搜尋網傳影片中的浮水印,確認原始影片來自某TikTok帳號於10月14日中共軍演當天發布,有標註影片是「AI」產生。

桃園市議員于北辰向查核記者表示,網傳影片是假的,是利用過去他上節目的畫面,再配上假的AI聲音而成。抖音等平台過去就有針對他或其他台灣名嘴,流傳過相同手法的假畫面。

造假手法揭密:利用真實畫面再用深偽變造假聲音

經搜尋並比對于北辰衣服、節目背板,確認原始畫面來自政論節目《94要客訴》2024年5月28日的節目,可知與10月14日中國軍演無關。

檢視原始節目內容,當集節目討論多個議題,如「立院青鳥抗議」、「民眾黨民調」、「賴兩岸互不隸屬」等議題;其中,于北辰引述美國智庫報告談論「台灣難打」、「解放軍登陸困難」等內容,他並沒有稱讚共軍軍演,也沒有說「共軍登陸後要投降」等內容。


圖2:網傳影片分析/查核中心製圖

進一步檢視網傳影片,雙手揮動處有明顯不自然擺動,且聲音平淡、嘴型不自然。進一步用「多媒體分析平台」、「TrueMedia.org」平台偵測,結果顯示為深偽變造。


圖3-4:用偵測工具偵測,結果有高機率是利用深偽技術製作。

資安院工程師協助檢視影片指出,傳言影片是利用真實的節目畫面,再使用深偽對嘴技術,製造出「于北辰」從未說過的聲音內容。檢視傳言影片畫面剪接出現斷裂感,且手擺動不自然等跡象,都可看出造假痕跡。

工程師指出,現今聲音對嘴技術已經非常普遍,很容易製造出類似的造假影片,民眾可先查詢影片的原始來源,就可以初步判斷傳言影片有沒有造假。

(記者:馬麗昕、許雲凱;責任編輯:陳偉婷)

事實查核需要你的一份力量 捐款贊助我們

本中心查核作業獨立進行,不受捐助者影響。

台灣事實查核中心捐款連結 (或掃QR Code) /接受捐助準則