【AI假訊息挑戰】2024年全球大選年 AI為選舉資訊正確性埋下陰影

特約研究員李惟平／編譯

今年4月，網路上流傳了一則看起來是美國MSNBC電視台專訪民主黨籍的美國前國務卿希拉蕊·柯林頓（Hilary Clinton）的短片，影片中柯林頓力挺共和黨籍的佛州州長德桑提斯 (Ron DeSantis) ，指後者是「現今美國需要的人才」，引發熱議。只不過，在現實中，柯林頓沒有公開支持德桑提斯選美國總統，MSMBC也沒拍過這段影片，一切都是AI製造的深偽影像。

2024年是全球選舉年，不但台灣將在1月舉行大選，美國、亞洲、歐洲及南美洲多國，也將舉行領導人或國會議員選舉。過去幾年假訊息成了各國大選的大敵，今年以來由於生成式AI（Generative AI）科技發展迅速，減少製造假訊息的成本及時間，且效果更近真實，也讓人擔心會影響資訊品質以及大選結果。

圖卡版(可左右滑動喔)

 

 

 

 

View this post on Instagram

 

 

 

 

 

 

 

 

 

 

 

A post shared by 台灣事實查核中心 (@taiwan_factcheckcenter)

AI選舉假訊息在各國現身

從2022年以來的幾場選舉，已可見到AI產製的深偽影像對選舉相關資訊所造成的傷害。美國智庫自由之家（Freedom House）指出，2022年巴西總統選舉時，即有惡意操弄者製作影片，偽裝成卓有信譽的新聞媒體，宣布當時角逐連任的前巴西總統博索納羅（Jair Bolsonaro）在開票中領先。在2023年2月舉行的奈及利亞總統選戰中，網路上也流傳一段錄音，內容是某參選人想要影響投票結果，事後查核組織發現該段錄音是由AI技術改造。

斯洛伐克才在今年9月30日舉行國會議員選舉。就在選前48個小時，亦有一段讓人措手不及的錄音流出，對話是斯洛伐克進步黨領袖與一位著名記者談話，前者透露想要向國內少數族裔買票以打贏選戰。查核組織破案發現，該錄音是有心人士以AI技術搞鬼，還特意在選前48小時放出消息：根據該國法律規定，媒體與政治人物不得在選前48小時內談論選舉。有心人想藉此減少假訊息被澄清的機會。

根據美國智庫蘭德公司發布的報告，惡意操弄者使用AI製作的假訊息型態大致可以分為四大類：深偽影片（deepfake video，以AI製造影片）、聲音複製（voice cloning，以AI偽造極為類似當事人的聲音）、深偽影像（deepfake image，以AI製造未曾發生過的場景或人像），以及生成式文本 （generative texts，以AI書寫文本）。

事實上，在AI技術突破之前，假造或將影像文字移花接木，本就是常見的假訊息手法。問題是，可以處理大量資料的AI，讓一般人也能在短短時間內，自行創造出幾可亂真的影像效果或是快速寫成的文章。比如說過去假訊息製造者挪用網路上真人圖片製作的假帳號頭像，事實查核組織可以透過比對圖片找出造假痕跡。然而現在利用AI自製的圖片，查核組織必須另闢蹊徑，找出其他端睨。

AI生成內容真假難辨 恐影響選民決策

通常這些AI製作的選舉相關假訊息，內容論述與傳統假訊息無異，比如假造名人背書候選人、捏造候選人性醜聞或是買票陰謀。這些假訊息甚至無須提供太多細節，只要符合選民對候選人的一些既存印象，再以影音訊息加料，就能讓沒時間細想細查的選民落入陷阱。

有時候，操弄者更故意將真假訊息混在一起，考驗選民查核的耐心與冷靜。比如現任美國佛羅里達州州長德桑提斯與前總統川普正在爭取代表共和黨角逐美國總統大選，德桑提斯陣營為了煽動討厭前白宮首席防疫專家佛奇（Anthony Fauci）的共和黨選民，發布一段集結川普與佛奇同台影像的影片，諷刺川普當政時不敢開除佛奇。問題是，該影片不只放送兩人同台的實際場景，還加入了3張以AI製作的川普與佛奇擁抱圖，讓只匆匆看一眼的選民真假難辨。

圖：美國佛羅里達州州長德桑提斯正在爭取代表共和黨角逐美國總統大選，其陣營發布了一段集結前美國總統川普與前白宮首席防疫專家佛奇同台影像的影片，意圖攻擊對手川普。但該影片不只放送兩人同台的實際場景，還加入了3張以AI製作的川普與佛奇擁抱圖（紅色叉叉標示的影像）／擷自社群平台X

蘭德公司指出，在AI假訊息影響之下，原本就對媒體與政治沒信心的選民，會更不知如何相信眼前資訊；甚至可能會造成民眾因為無法分辨訊息真假、以決定支持哪一位候選人，最後投票意願低落。

AI假訊息辨識尚無最佳解  歐美出手立法

AI技術大步跨進，但各方還在摸索降低AI假訊息影響之道。在技術方面，目前仍未有可靠的軟體可以快速、有效分辨AI生成的影像或文字。但在法律規範方面，歐美已經開始展開立法。

在美國，如德州和加州等部分州，已在2019年立法，禁止在選前30天或60天傳散有政治動機的深偽影像。歐盟正在立法的AI法草案 (AI Act)，也要求創作者必須清楚揭示以AI技術創作的內容。此外，科技公司如Google為了因應美國2024年總統大選，也宣布從2023年11月起，政治廣告若包含擬真場景或人物等合成內容，必須清楚揭示該內容為合成影像。這項要求也涵蓋同一集團的YouTube內容。但若是運用技術調整影像大小或是矯正色澤，則不在此揭露規定之列。（編輯：何蕙安）

參考資料

A populist, pro-Russia ex-premier looks headed for victory in Slovakia’s parliamentary elections | AP News. (2023, October 1). AP News. https://apnews.com/article/slovakia-parliamentary-election-15902118682938d08c24ff7d0269656a

Artificial intelligence, democracy and elections | Think Tank | European Parliament. (2023, September 19). https://www.europarl.europa.eu/thinktank/en/document/EPRS_BRI(2023)751478

Biddle, E. R. (2023, October 5). How AI is supercharging political disinformation ops. Coda Story. https://www.codastory.com/newsletters/how-ai-is-supercharging-political-disinformation-ops/

Bond, S. (2023, June 8). DeSantis campaign shares apparent AI-generated fake images of Trump and Fauci. NPR. https://www.npr.org/2023/06/08/1181097435/desantis-campaign-shares-apparent-ai-generated-fake-images-of-trump-and-fauci

Helmus, T. (2022). Artificial Intelligence, Deepfakes, and Disinformation: A Primer. RAND Corporation. https://www.rand.org/pubs/perspectives/PEA1043-1.html

Koseff, A. (2019, October 3). Political ‘deepfake’ videos banned in California before elections. San Francisco Chronicle. https://www.sfchronicle.com/politics/article/Political-deepfake-videos-banned-in-14491034.php

Morris, A. & Bureau. A. (2019, October 9). Texas is first state to ban political ‘deepfake’ videos. San Antonio Express-News. https://www.expressnews.com/news/local/politics/article/Texas-is-first-state-to-ban-political-14504294.php

The Repressive Power of Artificial Intelligence. (2023). Freedom House.
https://freedomhouse.org/report/freedom-net/2023/repressive-power-artificial-intelligence