【資訊戰新手法】 「垃圾郵件龍」AI生成大頭照 親中假帳號成反美怪獸

記者何蕙安／編譯

社群媒體研究機構《Graphika》日前發布研究報告指出，名為「垃圾郵件龍」（Spamouflage Dragon）的虛假社群網絡在今年疫情期間，透過社群媒體貼出影片讚揚中國，攻擊美國政策。其政治議題反應迅速，且首次使用人工智慧（AI）技術生成假帳號的大頭照，成為網路資訊戰新手法。

「垃圾郵件龍」曾在香港示威時首度出現

《Graphika》在2019年下半年，首度監測到一個攻擊美國及親中的社群媒體網，該網絡以YouTube、Facebook、Twitter上的虛假帳戶發布中文影片，攻擊香港示威人士與中共異議富豪郭文貴，且同時間發布大量抖音短片混淆視聽，以掩護其政治宣傳目的，此社群媒體網被《Graphika》命名為「垃圾郵件龍」（Spamouflage Dragon）。

總部在美國紐約的《Graphika》日前發布〈垃圾郵件龍進軍美國〉（Spamouflage Dragon Goes to America）研究報告。該報告指出，「垃圾郵件龍」近期捲土重來，針對美國，發動另一波攻擊。《Graphika》把這一個社群網絡命名為「垃圾郵件龍」(Spamouflage)，是來自兩個英文單字Spam（垃圾郵件）與Camouflage（偽裝）。

《Graphika》在2019年下半年首度監測「垃圾郵件龍」社群媒體網絡，包括Twitter、Facebook、YouTube等平台都採取應對措施，關閉其所監測到的可疑帳戶或停權，使得該社群網絡暫時消聲匿跡。

圖1：Graphika在2019年下半年首度監測到「垃圾郵件龍」網絡的存在，虛假帳戶主要發布攻擊香港示威者（黃框）與異議人士郭文貴（紅框）的影片（橘框則是攻擊兩者），但夾雜了許多無關緊要的短片作為掩護。擷自Graphika報告

中國被指控隱匿疫情 帳號搖身一變成「龍」的打手

《Graphika》表示，今年三月起，中國被指控隱匿新冠病毒爆發疫情後，「垃圾郵件龍」再次重出江湖，貼出中文影片讚揚中國，並否認中國處理疫情不當，傳播路徑與手法與過去如出一轍。

《Graphika》發布的最新報告指出，「垃圾郵件龍」從今年6月起，發布多個附有中英雙語字幕、英語旁白的影片，抨擊美國川普政權，包括指控美國防疫不力、種族問題、美國關閉中國駐休士頓領事館、美國打擊TikTok及「乾淨網路」（Clean network）計畫等議題，當中，也有許多直接攻擊美國總統川普個人的論點。

圖2：一部批評美國總統川普應對新冠疫情政策的影片使用川普漫畫。／擷自Graphika報告

「垃圾郵件龍」的特點之一，是以假帳號，或是盜用其他社群媒體帳戶，再透過改變名稱或大頭照的方式「變身」，並發表政治影片或評論。這些「遭狹持盜用的帳戶」的新貼影片，與其先前貼文截然不同。

《Graphika》觀察到，這些被盜用的帳號，可以看到一些怪異現象，像是評論內容是中文，但帳戶名稱是俄羅斯文、土耳其文等。

此外，許多影片的留言數與點讚數遠遠多於點閱數，顯示帳戶的互動數字並非真實；還出現英文、西班牙文，斯拉夫語等不同語言的帳戶，卻張貼相同的中文貼文，這也可以視為這些帳戶已遭到盜用，由程式自動張貼留言的證據。

圖3：一些影片下方的留言儘管來自不同帳戶，但內容完全相同；且儘管留言是中文，但部分帳戶卻是西班牙文，斯拉夫語等外國語言。／擷自Graphika報告

以Youtube帳戶「Malcolm Daly」為例，該帳戶在2016年11月發布2個電影（共15萬瀏覽數）後就沒有動靜；但到了今年6月，該帳戶突然連發了38個影片（共472次瀏覽），除了批評美國政府與同情美國人民，也夾雜了許多音樂、運動、食物等內容較無意義的短片。

另一個Youtube帳號「李海峰」，大頭照使用韓國模特兒的照片。研究團隊發現該帳戶最初的用戶名是isidra kliebert，直到今年7月20日才改變成「李海峰」。該帳戶從6月10日起發布了六支政治影片，與其他短片，但幾乎無點閱數。

「這個網路的行動真的很快... 他們一定是密切關注美國對華政策發展，爭取在新聞事件週期時，即時應對。」《Graphika》總監班．尼莫（Ben Nimmo）接受《華盛頓郵報》採訪時說，「所以我們必須持續打斷與揭露他們，讓他們無法建立真正的觀眾群。」

不過，儘管可以從「垃圾郵件龍」發布的內容可見與中國相關，但《Graphika》採取謹慎的研究方法，指出該團隊目前的追蹤與研究，仍無法判斷這些行動與中國政府友直接關聯。

影片英文翻譯品質差 「U.S.」竟翻成「我們」

 《Graphika》研究團隊發現，「垃圾郵件龍」網絡的反應迅速。比如說，美國國務卿彭佩奧8月5日甫宣布「乾淨網路」計畫，一支標題為「American Cleaning clean mouth, dirty hands」的英文配音、中英字幕影片旋即在8月7日上傳，批評美國打壓中國科技公司。
 
這份研究報告也點出，「垃圾郵件龍」旗下的Youtube頻道，時常在同一時間刊登所製作的政治影片，但傳播並不算成功。以上述的批評「乾淨網路」計畫影片為例，許多影片的點閱數為零，部分影片僅有個位數到十位數的點閱率，極少數影片超過百次觀看。
 
研究報告指出，「影片品質」可能是原因之一，旁白的聲音與用語並不自然，部分可能使用機器語音，有時出現很基本的錯誤，例如U.S.一詞（美國），說成us（英語「我們」的受格）；有些英文句子明顯是中文直翻，例如將「火中取栗只會玩火自焚」翻譯成「Cast a chestnut in the fire will burn themselves with fire」等不流暢的句子。

圖4：在這部標題為「美國政治人物的冷戰思維過時」的影片中，儘管瀏覽數只有3次，但卻有56個用戶按讚，令人質疑互動數據的真實性。／擷自Graphika報告

AI生成假帳號大頭照 眼球位置竟一樣

《Graphika》同時發現，部分YouTube帳號使用的大頭照，是使用Generative Adversarial Networks（GAN）技術所生成，這是先前沒有的新作法。由於此技術工具已有現成工具，擔憂此現象會普遍化。
 
研究報告補充，閱聽眾可以透過觀察一些特徵，來辨識這些大頭貼是人工生成的假照片，包括該對稱的地方不對稱（如眼鏡框或耳環），模糊或不對齊的背景（例如牆壁或樹），還有最重要的關鍵是GAN生成照片的眼球位置都是一致的。

不過，《Graphika》也提醒，隨著技術進化，這些肉眼辨識方式也可能很快就會不適用。

圖5：在「垃圾郵件龍」網絡的帳戶發布的一部關於休士頓領事館關閉的影片中，許多留言帳戶的大頭照並非亞裔臉孔，但都是以中文留言。／擷自Graphika報告

圖6：Graphika將圖5的帳戶大頭照重疊且模糊處理，發現所有大頭照的眼睛位置一致，此為人工生成照片的特徵之一；此外，所有大頭照的背景模糊，此也符合人工照片的特色。／擷自Graphika報告

參考資料

Graphika〈Spamouflage Dragon Goes to America: Pro-Chinese Inauthentic Network Debuts English-Language Videos〉

華盛頓郵報 〈Chinese network of fake accounts targets Trump with English-language videos〉

Graphika〈Cross-Platform Spam Network Targeted Hong Kong Protests: Spamouflage Dragon used hijacked and fake accounts to amplify video content〉