AI工具是助力也是阻力 國際查核專家：愈瞭解AI 愈能破解生成假訊息

記者馬麗昕／報導

AI時代全面來臨，ChatGPT、AI生成圖片工具的成熟，將成為事實查核的「利器」加速查核的速度，亦或是「禍害」增加識別假訊息的難度？答案可能是：兩者皆是。

面對AI新技術，阿根廷、巴西、西班牙查核組織分享，他們開發了多樣的AI自動化工具加速查核速度，讓專業的查核人力可以更有效率地應用。但也同時發現，要打擊AI生成的假訊息還有許多挑戰，查核記者必須更瞭解AI，有助精準打擊。阿根廷查核組織《Chequeado》執行長也提醒，事實查核工作者不要迷失在新技術，應該回到查核「初心」讓AI加速查核的速度，有效傳播正確的訊息。

台灣事實查核中心主辦的2023亞洲事實查核論壇，7月3日至4日於國立台灣大學法律學院霖澤館國際會議廳登場。而第二天（4日）下午的場次「事實查核的十字路：AI是利器或是禍害」由中正大學資訊工程系助理教授王銘宏主持，邀請阿根廷查核組織《Chequeado》執行長帕布羅·費南德茲 (Pablo M.Fernandez)、巴西查核組織《Aos Fatos》執行總監泰伊·奈隆 (Tai Nalon)、西班牙查核組織《Maldita.es》副總監卡洛斯·H·艾奇瓦利亞（Carlos H.Echevarria），分享如何運用AI技術幫助查核工作者闢謠。

圖1：由左到右為中正大學資訊工程系助理教授王銘宏、阿根廷《Chequeado》執行長Pablo M.Fernandez、巴西查核組織《Aos Fatos》執行總監Tai Nalon、西班牙查核組織《Maldita.es》副總監Carlos H.Echevarria／攝影：趙元彬

AI技術是協助查核 並不是取代查核記者

2010成立的阿根廷查核組織《Chequeado》是拉丁美洲第一個查核組織。阿根廷國土遼闊，面對大量的傳言、分散在國家各地的不同人群，《Chequeado》近年發展出不同的AI自動化工具，加速事實查核工作，讓正確的查核報告傳遞到國土的每個角落。

像是《Chequeado》推出的「Chequeabot」（查核機器人），是以機器學習方式、自然語言的處理，幫助事實查核者快速找出查核趨勢。另外一個AI工具「What is check today 」可以在新聞內容裡找到哪些「句子」值得查核。

事實查核為何需要自動化？《Chequeado》執行長費南德茲解釋，假訊息傳播比事實查核更快，但事實查核耗時耗力，又有許多重複性的工作。從2017年就開始，組織內就開始發展AI工具，首要目標就是讓重複性的工作可以自動化，省下來的時間就能做更有效的運用。

費南德茲分析，各國查核組織面對的政經、文化環境不同，「AI機器的幫助需要從痛點下手」。阿根廷國土遼闊，要能從全國的新聞內容、公眾討論裡裡找到可以查核的「內容」是首要挑戰。而利用AI工具就能在短時間之內找到可查核的地方，大大加速查核的過程。

找出內容後，再來是判斷內容的「重要性」，透過機器學習，就能初步判斷新聞、內容重不重要、值不值得查核。最後，阿根廷官方資源檔案類型凌亂，查詢官方來源並不容易，這也是AI能進入協助之處。

圖2：阿根廷《Chequeado》執行長費南德茲／攝影：趙元彬

「AI是幫助記者，而不是取代記者」費南德茲說，許多人會想像AI能把事情全部自動化，但以目前技術並不太可能，且機器幫助不是「非黑即白」，許多查核過程仍仰賴人類的判斷，因此，AI不可能完全取代查核工作。

費南德茲說，從去年的元宇宙、區塊鏈，AI技術每年都在變，因此，在思考如何運用AI時要回到初心。「查核的初心就是要加速查核速度、傳播正確的查核報告。」

巴西查核組織的「RADAR」  紀錄重大緊急事件的社群模樣

巴西查核組織《Aos Fatos》執行總監奈隆也同樣指出，查核組織在投資人工智慧技術時，需要列出優先順序。像是巴西屬南美國家，科技資源、網路速度比不上先進國家，因此團隊的重點會放在提升生產力，更重要的是讓查核結果傳播到巴西的偏鄉地區。

《Aos Fatos》近年開發的自動化工具叫「RADAR」，是一個可以監測Whatsapp、Twitter、Facebook、Instagram、Youtube的強大監測平台。以主題關鍵字搜索，監測工具會以評分的方式協助判斷訊息的假訊息風險。

奈隆舉例，RADAR每週分析超過500,000則內容。在疫情期間、巴西總統選舉期間、以及今年1月的巴西首都攻擊事件等重大緊急事件發生時，RADAR有效打擊假訊息、紀錄不實資訊的流傳脈絡。

像是今年1月，極右派巴西前總統博爾索納羅 （Bolsonaro）的支持者闖入巴西首都國會、總統辦公室，引爆首都多起攻擊衝突事件。《Aos Fatos》團隊就利用RADAR彙整超過14萬筆社群內容，製作成「Golpflix」影像目錄，紀錄網路世界的錯誤資訊如何一步一步的匯聚影響力，最終在真實世界爆發衝突事件。

圖3：《Aos Fatos》執行總監Tai介紹「Golpflix」影像目錄／攝影：趙元彬

奈隆說，透過社群監測才知道，在真實事件爆發衝突之前，這些錯誤資訊早已流傳在社群平台中，「RADAR紀錄也描繪出社群錯誤的內容如何影響世界」。

《Maldita.es》用AI辨識「剪輯過的影片」

擅長技術協作的西班牙查核組織《Maldita.es》，曾在2022年烏俄戰爭爆發的48小時內，用一張試算表發起全球事實查核協作計劃，加速全世界對抗烏俄戰爭假訊息的速度。

AI的使用可以讓人力運用更有效率。《Maldita.es》副總監艾奇瓦利亞說，「有了AI，就要把人放在最重要的地方。」

包括利用自動化監測工具、聊天機器人協助監測社群內容，蒐集、辨識謠言資料，更利用AI工具偵測被剪輯過的語音、影片，有效全面提升查核的速度。

圖4：西班牙查核組織《Maldita.es》副總監艾奇瓦利亞／攝影：趙元彬

西班牙主要使用的社群媒體是Twitter、Whatsapp，因此他們把更多心力放在Whatsapp。

在2020年1-3月間COVID-19疫情期間，《Maldita.es》的Whatsapp聊天機器人每日謠言數量從200激增到2000則。

艾奇瓦利亞說，在疫情爆發大量謠言傳播時，自動化的聊天機器人非常重要，「對於使用者，它能即時告訴你查核報告在哪裡；對於查核工作者也能做到警告的功能。」

文字語言是謠言主要的傳播文體，影片是跨越語言隔閡的假訊息傳播方式，過去一年烏俄戰爭期間，有超過85%的不實資訊是透過影片傳播。

艾奇瓦利亞說，他們的聊天機器人除了比對文字內容，也能比對影音內容。他們發現，有許多用戶會傳播多媒體內容，他們就利用影片的畫素以及其他完整影片，來偵測判斷影片是否曾剪接過。他也樂觀認為，在不久的未來，第三方工具利用AI技術偵測「剪輯過的影片」、「被捏造的影片字幕」等技術會有很大的進展和突破。

此外，《Maldita.es》更開發出儀表板的監測工具，導入ChatGPT協助揭穿謠言。艾奇瓦利亞解釋，儀表板會提供「警示訊息」給查核工作者，讓記者注意到哪些謠言值得查核，有效減少個人偏見對於查核選題的影響。

艾奇瓦利亞對於儀表板則有更高的目標。他說，未來儀表板除了告訴查核工作者哪些是謠言，也期許能針對「特定論述」的謠言脈絡，找出其是如何操弄以及來自什麼樣的群體。

圖4：西班牙查核組織《Maldita.es》儀表板工具／攝影：趙元彬

了解AI  用AI對抗AI假訊息

面對今年爆發的AI生成工具，艾奇瓦利亞提醒，「製作假訊息者已經開始使用AI製作不實資訊，我們事實查核者也要學會使用AI，更要了解AI，才能對抗不實資訊。」

現在社群上出現很多AI內容，像是有許多AI生成的政治人物影像，普丁、教宗都是目標。Carlos說，這些現象也讓大家思考在社群上看到的東西「是不是AI製作的？」對於查核組織來說，查核AI內容，無法單靠一個工具來判別，還要搭配其他的調查方式，這也是查核AI內容的困難。

阿根廷查核組織《Chequeado》執行長費南德茲也同樣認為，目前的技術很難查核AI生成內容，也難以找出AI影像傳播來源。

因為查核AI內容有一定困難度，艾奇瓦利亞強調：「我們更要利用AI來幫助查核工作，」例如已經確定某個圖片是AI生成，可以標示在AI影像中，讓使用者知道這是AI內容；或是，AI生成出某個名人出現在「未曾出現過的場合」，也可以利用AI工具比對，判斷影像是合成或是真實。

最重要的是讓大家都認識「AI生成內容」。艾奇瓦利亞說，根據他們進入學校的經驗，都會發現學校已經在使用這些AI生成的技術 ，像是AI生成圖片、ChatGPT文字等。「我們會發現，未來必須要善用這些AI。」

給事實查核工作者的AI工具開發心法

對於日新月異的科技，《Chequeado》、《Aos Fatos》、《Maldita.es》，場次主持人中正大學資訊工程學系助理教授王銘宏都了解當今媒體、查核組織對於AI工具的使用「焦慮」。對於事實查核組織、媒體組織應該如何量身打造出自己的AI工具，講者也分享幾個關鍵心法。

• 分析日常工作 找到核心問題

中正大學資訊工程學系助理教授王銘宏說，許多媒體組織、查核組織都在思考或是提出如何在日常工作使用「AI工具」。

但大家首先應該思考的是，不應該期待AI能解決所有事，或是只想著「要用AI」，而是先分析組織內的日常工作，找到核心問題，才能真正有效運用AI解決問題。

《Chequeado》執行長費南德茲也說，所有的工具都需要根據編輯室的「需求」客製化。思考新聞編輯室的需求，再「開發」解決需求的工具。

• 多利用免費開源工具 合作更勝獨舞

費南德茲說，務實地來說，OpenAI、免費的開源工具是最理想的，不需要所有工具都要自己開發。當然有些工具一開始是免費，但後來可能要收費，要看未來的技術發展。但無論如何，與外界如學術單位、科技開發者合作，永遠勝過單打獨鬥。

圖5：Pablo提供查核組織開發AI工具的建議／攝影：趙元彬

• 永保查核初心 不隨科技起舞

費南德茲說，科技永遠都在變，查核組織不需要為了新技術而開發新的技術工具，進而迷失在新技術中，最重要的仍是回到查核的初心。

因此，查核組織可以思考的是「我們一定需要AI產品嗎？」用產品管理的角度，首要目標放在解決問題。因此，解決問題不一定要用AI，也可能是別的工具，可以先去檢視是否已經有這樣的工具出現，再去思考AI工具是否能解決查核的問題。