你看到的人不是人:AI假臉入侵社群網站

你看到的人不是人:AI假臉入侵社群網站

特約記者何蕙安/編譯
 
人工智慧(Artificial Intelligence,AI)將爾虞我詐的資訊戰進一步升級。臉書(Facebook)2019年底宣布移除「美麗日報」近千個帳號與頁面,赫然發現當中多個假帳戶大頭照是由AI所生成。研究者指出,這是人工智慧生成照片首次被用於虛假訊息活動中。
 
社交媒體研究機構 Graphika與大西洋委員會數位鑑識實驗室(Atlantic Council's Digital Forensics Research Lab,DFRLab)的聯合報告指出,該批《美麗日報》假肖像照據信是由「生成對抗網路」技術(Generative Adversarial Networks,GAN)所生成。
 
《紐約時報》報導,儘管該批照片目前仍有技術瑕疵,不如Google等科技巨擘在實驗室利用高階人工智慧生成的影像來的細緻,但DFRLab主任Graham Brookie指出,該事件顯示「一個令人毛骨悚然、科技之下可能發生的虛假訊息的未來。」
 
臉書2019年12月底宣布,移除855個與《美麗日報》(The Beauty of Life,The BL)有關的臉書帳號、粉絲專頁與社團,及72個Intsagram帳戶。臉書表示,與美麗日報有關的網絡大量使用假帳號管理頁面與社團,當中許多假帳戶使用的大頭照為人工智慧所生成,並偽裝成美國人,張貼美麗日報的文章。

圖1:根據專家鑑定,兩個美麗日報相關專頁的管理者帳戶大頭照使用的是人工智慧生成的圖像。黃框標示處為圖像瑕疵。圖擷自Graphika與DFRLab報告。

臉書首度破獲系統性AI假臉帳戶

臉書安全政策主管Nathaniel Gleicher接受《紐約時報》採訪時表示,「利用AI生成照片作為大頭照」的說法已經被討論了好幾個月,但臉書是第一次看到AI照片如此有系統性的被有心人士利用,目的是讓假帳戶看起來更可信。
 
臉書在聲明中指出,據其調查,認為《美麗日報》與法輪功的《大紀元時報》(Epoch Media)有高度關聯。
 
根據臉書統計,刪除的900多個帳戶、專頁與社團,共吸引超過5500萬追蹤者與粉絲,當中多數追蹤者並非在美國境內;臉書廣告檔案庫也顯示,美麗日報花了約900萬美元投放廣告。
 
科技雜誌《連線》(WIRED)報導,人工智慧生成的照片第一次大規模的在社群網路中被使用,為資訊戰發展敲響了一記警鐘。這些假帳號向其5500萬用戶推送關於支持美國總統川普、以及反對中國政府的言論。
 
接受臉書委託,對於可疑帳戶獨立分析的Graphika與數位鑑識實驗室也表示,使用人工智慧的「生成對抗網路」技術(GAN)生成不存在的人類照片,並使用於社群媒體假帳戶,對研究團隊而言也是前所未聞。
 
GAN是透過兩個神經網落相互對抗,使其深度學習,不斷調整網路參數,具體運用上可以描繪出像人類臉孔的圖像。GAN於2014年出現,但直到2019年2月人工智慧人臉生成網站「這個人不存在thispersondoesnotexist.com」問世後,AI生成臉孔的技術才更為成熟。

GAN機器學習仍不完美 圖像瑕疵露底

不過,僅管AI可以生成不存在的假面孔,但其圖像仍有一些明顯的瑕疵。GAN主要模仿視覺圖案,並不了解人類的生理結構;此外,在背景或是一些對稱圖像上,例如眼鏡或是耳環等,GAN也有進步空間。
 
以《美麗日報》其中一個假帳戶Alfonzo Macias為例(見圖2),可以看到其照片在眼鏡的對稱性與背景部分,都有一些問題。義大利拿坡里費德里克二世大學(University Federico II of Naples)的專家分析,該照片99.9%是使用GAN技術所生成。

圖2:美麗日報相關假帳戶Alfonzo Macias的大頭照,可以看出眼鏡框不一致,背景扭曲。圖擷自Graphika與DFRLab報告。

Graphika與數位鑑識實驗室並引用獨立研究者的發現指出,利用AI生成的假大頭照的眼睛都在同一位置。研究者將五張大頭照重疊,可以看到眼睛位置完全一致;研究者同時對照「這個人不存在」網站生成的圖像,發現與美麗日報假帳戶大頭照的眼睛位置相符。

圖3:下方五張假帳戶大頭照重疊後,眼睛位置完全相同;上方則是Graphika與DFRLab的研究員的大頭照,眼睛位置不同。圖擷自Graphika與DFRLab報告。

報告並指出,一些開放資源工具可以協助判斷照片是否為人工智慧生成,以鑑識科技工具Error Level Analysis(ELA)為例,該工具可以辨識一張圖片裡是否有不同程度的影像壓縮,藉此判斷影像是否遭到竄改。

圖4:利用鑑識科技工具Error Level Analysis(ELA)分析其中一張假帳戶大頭照。圖擷自Graphika與DFRLab報告。

這些人工智慧生成的假照片帳戶,在89個被移除的臉書頁面扮演重要角色,在「美國需要川普總統」、「支持川普當美國總統」、「我們支持川普與潘斯」等粉絲頁面的管理者團隊中,假照片帳戶就佔了超過一半,大量分享來自美麗日報文章。

傳統盜圖與新穎AI假臉技術並行

但也並非所有假帳戶照片都是來自人工智慧,不少還是採「老派」作法——盜圖。在此次被移除的社團「台灣政治新聞」中,三名管理者的大頭照來自媒體或商業圖片。(見圖5)有意思的是,該三名大頭照為亞洲面孔的管理者,在2019年9月時,顯示照片皆是蓄鬍白人,且三帳戶大頭照的上傳、更新時間都在相同時間段(見圖6)。

圖5:社團「台灣政治新聞」的三名管理員照片皆盜取其他網站。圖擷自Graphika與DFRLab報告。

圖6:社團「台灣政治新聞」的三名管理員的照片不只皆盜取其他網站,在更早之前,更全部都是白人男性。調查發現,三個帳號近期都是在同時間段更新圖片。圖擷自Graphika與DFRLab報告。

《大紀元時報》則否認其《美麗日報》有任何關聯,在刊登於該網站的聲明中,其發行人Stephen Gregory強調,《美麗日報》是由《大紀元》的前僱員創立,並雇用了《大紀元》的前僱員,但不代表兩公司有所關聯。Gregory表示,《美麗日報》是由越南《大紀元》創立,但越南《大紀元》從2018年10月起已不屬於《大紀元》媒體集團。

參考資料

 Graphika與DFRLab聯合報告〈#假臉入侵〉
《紐約時報》報導〈臉書揭發騙子顯示虛假資訊進化〉
美國事實查核組織Snopes〈擴張中的挺川普內容農場美麗日報 與大紀元時報關係密切〉
《大紀元時報》關於臉書移除美麗日報相關帳戶的回應〈籲臉書更正更正對大紀元不實言論〉