AI工具是助力也是阻力 國際查核專家:愈瞭解AI 愈能破解生成假訊息
AI工具是助力也是阻力 國際查核專家:愈瞭解AI 愈能破解生成假訊息
記者馬麗昕/報導
AI時代全面來臨,ChatGPT、AI生成圖片工具的成熟,將成為事實查核的「利器」加速查核的速度,亦或是「禍害」增加識別假訊息的難度?答案可能是:兩者皆是。
面對AI新技術,阿根廷、巴西、西班牙查核組織分享,他們開發了多樣的AI自動化工具加速查核速度,讓專業的查核人力可以更有效率地應用。但也同時發現,要打擊AI生成的假訊息還有許多挑戰,查核記者必須更瞭解AI,有助精準打擊。阿根廷查核組織《Chequeado》執行長也提醒,事實查核工作者不要迷失在新技術,應該回到查核「初心」讓AI加速查核的速度,有效傳播正確的訊息。
台灣事實查核中心主辦的2023亞洲事實查核論壇,7月3日至4日於國立台灣大學法律學院霖澤館國際會議廳登場。而第二天(4日)下午的場次「事實查核的十字路:AI是利器或是禍害」由中正大學資訊工程系助理教授王銘宏主持,邀請阿根廷查核組織《Chequeado》執行長帕布羅·費南德茲 (Pablo M.Fernandez)、巴西查核組織《Aos Fatos》執行總監泰伊·奈隆 (Tai Nalon)、西班牙查核組織《Maldita.es》副總監卡洛斯·H·艾奇瓦利亞(Carlos H.Echevarria),分享如何運用AI技術幫助查核工作者闢謠。
圖1:由左到右為中正大學資訊工程系助理教授王銘宏、阿根廷《Chequeado》執行長Pablo M.Fernandez、巴西查核組織《Aos Fatos》執行總監Tai Nalon、西班牙查核組織《Maldita.es》副總監Carlos H.Echevarria/攝影:趙元彬
AI技術是協助查核 並不是取代查核記者
2010成立的阿根廷查核組織《Chequeado》是拉丁美洲第一個查核組織。阿根廷國土遼闊,面對大量的傳言、分散在國家各地的不同人群,《Chequeado》近年發展出不同的AI自動化工具,加速事實查核工作,讓正確的查核報告傳遞到國土的每個角落。
像是《Chequeado》推出的「Chequeabot」(查核機器人),是以機器學習方式、自然語言的處理,幫助事實查核者快速找出查核趨勢。另外一個AI工具「What is check today 」可以在新聞內容裡找到哪些「句子」值得查核。
事實查核為何需要自動化?《Chequeado》執行長費南德茲解釋,假訊息傳播比事實查核更快,但事實查核耗時耗力,又有許多重複性的工作。從2017年就開始,組織內就開始發展AI工具,首要目標就是讓重複性的工作可以自動化,省下來的時間就能做更有效的運用。
費南德茲分析,各國查核組織面對的政經、文化環境不同,「AI機器的幫助需要從痛點下手」。阿根廷國土遼闊,要能從全國的新聞內容、公眾討論裡裡找到可以查核的「內容」是首要挑戰。而利用AI工具就能在短時間之內找到可查核的地方,大大加速查核的過程。
找出內容後,再來是判斷內容的「重要性」,透過機器學習,就能初步判斷新聞、內容重不重要、值不值得查核。最後,阿根廷官方資源檔案類型凌亂,查詢官方來源並不容易,這也是AI能進入協助之處。
圖2:阿根廷《Chequeado》執行長費南德茲/攝影:趙元彬
「AI是幫助記者,而不是取代記者」費南德茲說,許多人會想像AI能把事情全部自動化,但以目前技術並不太可能,且機器幫助不是「非黑即白」,許多查核過程仍仰賴人類的判斷,因此,AI不可能完全取代查核工作。
費南德茲說,從去年的元宇宙、區塊鏈,AI技術每年都在變,因此,在思考如何運用AI時要回到初心。「查核的初心就是要加速查核速度、傳播正確的查核報告。」
巴西查核組織的「RADAR」 紀錄重大緊急事件的社群模樣
巴西查核組織《Aos Fatos》執行總監奈隆也同樣指出,查核組織在投資人工智慧技術時,需要列出優先順序。像是巴西屬南美國家,科技資源、網路速度比不上先進國家,因此團隊的重點會放在提升生產力,更重要的是讓查核結果傳播到巴西的偏鄉地區。
《Aos Fatos》近年開發的自動化工具叫「RADAR」,是一個可以監測Whatsapp、Twitter、Facebook、Instagram、Youtube的強大監測平台。以主題關鍵字搜索,監測工具會以評分的方式協助判斷訊息的假訊息風險。
奈隆舉例,RADAR每週分析超過500,000則內容。在疫情期間、巴西總統選舉期間、以及今年1月的巴西首都攻擊事件等重大緊急事件發生時,RADAR有效打擊假訊息、紀錄不實資訊的流傳脈絡。
像是今年1月,極右派巴西前總統博爾索納羅 (Bolsonaro)的支持者闖入巴西首都國會、總統辦公室,引爆首都多起攻擊衝突事件。《Aos Fatos》團隊就利用RADAR彙整超過14萬筆社群內容,製作成「Golpflix」影像目錄,紀錄網路世界的錯誤資訊如何一步一步的匯聚影響力,最終在真實世界爆發衝突事件。
圖3:《Aos Fatos》執行總監Tai介紹「Golpflix」影像目錄/攝影:趙元彬
奈隆說,透過社群監測才知道,在真實事件爆發衝突之前,這些錯誤資訊早已流傳在社群平台中,「RADAR紀錄也描繪出社群錯誤的內容如何影響世界」。
《Maldita.es》用AI辨識「剪輯過的影片」
擅長技術協作的西班牙查核組織《Maldita.es》,曾在2022年烏俄戰爭爆發的48小時內,用一張試算表發起全球事實查核協作計劃,加速全世界對抗烏俄戰爭假訊息的速度。
AI的使用可以讓人力運用更有效率。《Maldita.es》副總監艾奇瓦利亞說,「有了AI,就要把人放在最重要的地方。」
包括利用自動化監測工具、聊天機器人協助監測社群內容,蒐集、辨識謠言資料,更利用AI工具偵測被剪輯過的語音、影片,有效全面提升查核的速度。
圖4:西班牙查核組織《Maldita.es》副總監艾奇瓦利亞/攝影:趙元彬
西班牙主要使用的社群媒體是Twitter、Whatsapp,因此他們把更多心力放在Whatsapp。
在2020年1-3月間COVID-19疫情期間,《Maldita.es》的Whatsapp聊天機器人每日謠言數量從200激增到2000則。
艾奇瓦利亞說,在疫情爆發大量謠言傳播時,自動化的聊天機器人非常重要,「對於使用者,它能即時告訴你查核報告在哪裡;對於查核工作者也能做到警告的功能。」
文字語言是謠言主要的傳播文體,影片是跨越語言隔閡的假訊息傳播方式,過去一年烏俄戰爭期間,有超過85%的不實資訊是透過影片傳播。
艾奇瓦利亞說,他們的聊天機器人除了比對文字內容,也能比對影音內容。他們發現,有許多用戶會傳播多媒體內容,他們就利用影片的畫素以及其他完整影片,來偵測判斷影片是否曾剪接過。他也樂觀認為,在不久的未來,第三方工具利用AI技術偵測「剪輯過的影片」、「被捏造的影片字幕」等技術會有很大的進展和突破。
此外,《Maldita.es》更開發出儀表板的監測工具,導入ChatGPT協助揭穿謠言。艾奇瓦利亞解釋,儀表板會提供「警示訊息」給查核工作者,讓記者注意到哪些謠言值得查核,有效減少個人偏見對於查核選題的影響。
艾奇瓦利亞對於儀表板則有更高的目標。他說,未來儀表板除了告訴查核工作者哪些是謠言,也期許能針對「特定論述」的謠言脈絡,找出其是如何操弄以及來自什麼樣的群體。
圖4:西班牙查核組織《Maldita.es》儀表板工具/攝影:趙元彬
了解AI 用AI對抗AI假訊息
面對今年爆發的AI生成工具,艾奇瓦利亞提醒,「製作假訊息者已經開始使用AI製作不實資訊,我們事實查核者也要學會使用AI,更要了解AI,才能對抗不實資訊。」
現在社群上出現很多AI內容,像是有許多AI生成的政治人物影像,普丁、教宗都是目標。Carlos說,這些現象也讓大家思考在社群上看到的東西「是不是AI製作的?」對於查核組織來說,查核AI內容,無法單靠一個工具來判別,還要搭配其他的調查方式,這也是查核AI內容的困難。
阿根廷查核組織《Chequeado》執行長費南德茲也同樣認為,目前的技術很難查核AI生成內容,也難以找出AI影像傳播來源。
因為查核AI內容有一定困難度,艾奇瓦利亞強調:「我們更要利用AI來幫助查核工作,」例如已經確定某個圖片是AI生成,可以標示在AI影像中,讓使用者知道這是AI內容;或是,AI生成出某個名人出現在「未曾出現過的場合」,也可以利用AI工具比對,判斷影像是合成或是真實。
最重要的是讓大家都認識「AI生成內容」。艾奇瓦利亞說,根據他們進入學校的經驗,都會發現學校已經在使用這些AI生成的技術 ,像是AI生成圖片、ChatGPT文字等。「我們會發現,未來必須要善用這些AI。」
給事實查核工作者的AI工具開發心法
對於日新月異的科技,《Chequeado》、《Aos Fatos》、《Maldita.es》,場次主持人中正大學資訊工程學系助理教授王銘宏都了解當今媒體、查核組織對於AI工具的使用「焦慮」。對於事實查核組織、媒體組織應該如何量身打造出自己的AI工具,講者也分享幾個關鍵心法。
- 分析日常工作 找到核心問題
中正大學資訊工程學系助理教授王銘宏說,許多媒體組織、查核組織都在思考或是提出如何在日常工作使用「AI工具」。
但大家首先應該思考的是,不應該期待AI能解決所有事,或是只想著「要用AI」,而是先分析組織內的日常工作,找到核心問題,才能真正有效運用AI解決問題。
《Chequeado》執行長費南德茲也說,所有的工具都需要根據編輯室的「需求」客製化。思考新聞編輯室的需求,再「開發」解決需求的工具。
- 多利用免費開源工具 合作更勝獨舞
費南德茲說,務實地來說,OpenAI、免費的開源工具是最理想的,不需要所有工具都要自己開發。當然有些工具一開始是免費,但後來可能要收費,要看未來的技術發展。但無論如何,與外界如學術單位、科技開發者合作,永遠勝過單打獨鬥。
圖5:Pablo提供查核組織開發AI工具的建議/攝影:趙元彬
- 永保查核初心 不隨科技起舞
費南德茲說,科技永遠都在變,查核組織不需要為了新技術而開發新的技術工具,進而迷失在新技術中,最重要的仍是回到查核的初心。
因此,查核組織可以思考的是「我們一定需要AI產品嗎?」用產品管理的角度,首要目標放在解決問題。因此,解決問題不一定要用AI,也可能是別的工具,可以先去檢視是否已經有這樣的工具出現,再去思考AI工具是否能解決查核的問題。