AI輔助辨識假訊息 PTT創世神杜奕瑾:最重要是揪出「協同性帳號」

AI輔助辨識假訊息 PTT創世神杜奕瑾:最重要是揪出「協同性帳號」

AI(Artificial Intelligence,人工智慧)時代來臨,新科技正在重塑人類生活,除了日常上的輔助,AI也在網路世界裡發揮偵測假訊息的功效。「台灣人工智慧實驗室」創辦人杜奕瑾在接受𝙋𝙤𝙙𝙘𝙖𝙨𝙩節目【新聞真.假掰】主持人黃兆徽專訪時,便分享團隊利用AI,觀測到烏俄戰爭期間,大量社群帳號協同散佈、操作假訊息。然而,杜奕瑾也指出,社群平台以判別假訊息的名義、潛藏言論審查隱憂,呼籲社群平台應該讓下架的內容和下架準則更透明,適度提供第三方研究單位檢驗。

四十五歲的杜奕瑾在就讀台大期間即創辦了「PTT批踢踢實業坊」,成為台灣最大的BBS論壇,PTT的命名也來自杜奕瑾的綽號,因此杜奕瑾也成為PTT鄉民口中的「創世神」,曾任微軟公司人工智慧(AI)部門亞太區研究總監。2017年杜奕瑾自美返台,創立非營利導向的非政府組織「臺灣AI實驗室」。杜奕瑾在【新聞真.假掰】節目中暢談各種網路行為觀察與媒體識讀的重要性,分享將AI運用於假新聞的偵測和分析,他指出,以人工智慧判斷新聞內容真實與否,是非常危險的事情,因此「台灣人工智慧實驗室」的研究方式,是從行為傳播、訊息傳散的模式來分析,而不靠AI偵測內容真假。

圖:「台灣人工智慧實驗室」創辦人杜奕瑾(右)接受台灣事實查核教育基金會Podcast節目【新聞真・假掰】主持人黃兆徽(左)專訪,分享人工智慧如何觀測、分析網路行為,以及團隊對於資訊戰的觀察。

杜奕瑾舉例,透過人工智慧的語意分析、語意理解之後,建立知識庫,會發覺很多人接收到「片面」或是「被餵養」的訊息,「社交平台有同溫層現象,所以可能把類似意見的人圈在一個同溫層後,餵食不實訊息。」杜奕瑾解釋。

針對俄烏戰爭期間的訊息傳播,「台灣人工智慧實驗室」也對傳播行為、訊息傳散做分析,發現明顯的「協同性行為」。杜奕瑾解釋,團隊發現俄羅斯對烏克蘭採取攻擊前的幾週,俄國官方媒體便開始發動政治宣傳、以不實資訊誤導大眾,網路上則出現與議題本身「共進共出」的多組帳號,這類帳號平常並不活躍,在關鍵時刻則同步、不斷地發表同性質、具攻擊和誤導性的言論,即所謂「協同性行為」。

杜奕瑾進一步說明,俄羅斯的政治宣傳訊息,會由社群平台上不起眼的帳號擔任「放大器」的角色,「放大器」先發佈文章,再由成千上萬的「水軍」轉發。「這些帳號都不是KOL(Key Opinion Leader, 意見領袖),但他們有非常高的一致性,只要放大器發了一個訊息,其他人就轉推。」杜奕瑾指出,資訊交戰中的另一方烏克蘭,傳播方式相較之下則比較零散,「(烏克蘭方面的)意見領袖做了有趣哏圖,民眾轉發,與俄羅斯從單點散佈、有組織性地席捲社交媒體版面的政治宣傳不同。」

「台灣人工智慧實驗室」也注意到,華文世界的政治宣傳與俄羅斯發佈的內容常能互相呼應,都聚焦在「烏克蘭是魁儡政府、美國是幕後老闆、俄羅斯是解救者」這一類的論述。杜奕瑾說,在臺灣,有些帳號會專門出沒在重要意見領袖的版面,把政治宣傳的訊息帶到留言區,「有些看不到臉或是偽裝成(傳播)戰爭新聞的帳號,也有過去發表很多電玩內容的帳號,會追蹤有影響力的KOL,在KOL發文的時候,到下方回文。」杜奕瑾分析台灣「協同性行為」的樣態,是把這些政治宣傳的訊息帶到名人發文的留言區,讓大量粉絲看到,是「蹭熱度」的手法。

杜奕瑾提醒,戰爭讓國際社會意識到「社交媒體平台武器化」的危機,「烏克蘭被侵略之前,其實從社交媒體平台看得到『侵略已經在發生』,可以有預警的效果,知道後面的軍事行動即將展開。」

談假訊息 杜奕瑾:​​最好的方法是直接點破,不要再讓別人流傳

當民眾經常使用的社群媒體,成為認知作戰的工具,杜奕瑾表示,要特別留心社群媒體平台如何做中立性分析、確保平台透明度,「把(社群媒體)平台變成武器,會比過去的新聞媒體更有效,更難衡量。」杜奕瑾提醒,群眾要有「對認知戰的認知」,知道這個世界存在認知戰、用什麼方式操作,並養成查核的習慣,查核後也千萬不要姑息,只要姑息,這些訊息就會不斷的再發送給其他人。

既然不該姑息假訊息,一般民眾又能怎麼做?杜奕瑾開玩笑說:「以前是說『你媽知道你在這裡發廢文嗎?』現在這個年代,是『你知道你媽在網路上發假消息嗎?』」,他進一步舉例,「看到霸凌,最好的辦法就是挺身而出,看到假消息,最好的方法就是直接點破,不要再傳、也不要再讓別人流傳。」因此面對假訊息在社群媒體上流竄,他建議要即時查核,也教會自己的家人查核,才是中斷假訊息傳播最有效、直接的方法。

除了傳播到民眾眼前的假訊息,「台灣人工智慧實驗室」也關注「哪些言論在社群媒體平台上『被消失』?」以臉書為例,Meta公司除了和國際上通過事實查核聯盟認證的查核組織合作,在查核為假的貼文加上標示,也會依公司訂定的《社群守則》,移除違反規則的言論。然而,杜奕瑾認為社群守則定義很模糊,「我也曾經申訴,申訴後被立刻駁回,我可以感受到,中間流程不是經過嚴謹的審核過程。」杜奕瑾提出自身經歷,認為Facebook文章下架是經「委員會決定」的說法令人存疑。

為了分析社群平台現況、建立公開資料,「台灣人工智慧實驗室」於2021年推出「葉黃素計畫」,整合使用者提供的臉書下架貼文資料,進行研究分析,杜奕瑾指出,很多使用者裝了葉黃素計畫的瀏覽器外掛功能之後,發現Facebook下架好多文章,使用者本人都不知情。進一步分析這些被臉書下架的貼文,「台灣人工智慧實驗室」判斷,其中98%的並非假訊息或仇恨言論,杜奕瑾因此好奇,負責臺灣的臉書審查人員位處何處?背景為何?如何驗證這些審查員有無偏見?「我相信Facebook可能是無辜的,它只是為了商業利益考量,審查人員編制的關係,造成平台上的偏見。」杜奕瑾認為,未來社群平台應著重言論審查的透明度,讓被下架的言論可以受第三方組織檢驗,也讓民眾可以清楚地了解演算法的機制。

【新聞真.假掰|假訊息ByeBye!】是由台灣事實查核教育基金會製作的Podcast節目,由台灣事實查核教育基金會教育總監黃兆徽主持。節目中邀請各行各業的朋友暢談媒體議題,為聽眾提升媒體素養、增強對假訊息的抵抗力,希望達成「群體免疫」,讓大家都和假訊息說掰掰!

更多內容請搜尋「新聞真.假掰」,或上各大Podcast平台收聽。

 

【立即收聽】新聞真.假掰 — 假訊息Bye Bye|EP05|

「PTT創世神」如何用AI迎擊資訊戰網軍? 

Apple Podcast
Google Podcast
Spotify 
KKBOX 

【非聽不可的相關訪談】

俄烏戰爭改線上?假訊息滿天飛 臺灣人必須看懂的「資訊戰」:專訪沈伯洋(民主實驗室理事長)【上】
https://podcasts.apple.com/podcast/id1607447086?i=1000552907703

人流、金流、資訊流,從俄烏戰爭拆解中共認知作戰手法與因應之道:專訪沈伯洋(民主實驗室理事長)【下】
https://open.firstory.me/story/cl0ix42trayvr0972bkeo55ov/platforms

【其他精彩訪談回顧】

你的一舉一動,都是臉書的賺錢工具?幫孩子來一劑假訊息疫苗:專訪黃哲斌(專欄作家)
https://open.firstory.me/story/ckywvdupiag560993vjy86wud/platforms

志祺七七來了!想當 YouTuber 容易嗎?如何確保訊息真實?知識型網紅工作大解密:專訪張志祺(YouTuber、青年創業家)【上】
https://open.firstory.me/story/cl0tdizi9003b0hzxb40g6gfc/platforms

【關鍵字】

#杜奕瑾 #社群 #葉黃素計畫 #俄烏戰爭 #認知戰 #資訊戰 #協同性帳號  #媒體素養 #PTT #網軍 #水軍 #演算法 #KOL #AI #人工智慧 #Podcast