【AI愈快 心要愈慢】打造可信任資訊生態 成為駕馭AI的正氣魔法師!

【AI愈快 心要愈慢】打造可信任資訊生態 成為駕馭AI的正氣魔法師!

記者馬麗昕/報導

chatGPT、AI生成圖像工具等AI工具的蓬勃發展令全世界驚豔,宣告將進入全新的AI紀元。網路世界彷彿在短時間內出現神奇魔法,AI生成影像(AIGC)生成速度快,品質精緻,且技術使用門檻降低,任何人都能成為AI魔法師,「彈指之間」變造出精美又寫實的影像,甚至變造出難以破解的合成影音、陰謀論、詐騙資訊。

查核中心近期觀察到,從今年開始,有利用AI技術合成比爾蓋茲的聲音假影片,藉此宣揚疫苗陰謀論;社群也有利用AI生成圖製作出「川普被逮捕照」、「習近平會見普丁親吻照」等,難以分辨真偽;更有冒充chatGPT官方名義,實為帶有資安風險的假line帳號。

儘管AI潛藏著對社會的危害,但媒體機構、民眾如何面對更是關鍵。本篇訪問長期關注媒體素養議題的《天下雜誌》編輯部顧問黃哲斌、政大傳播學院教授鄭宇君、專攻AI技術的中央大學資訊工程學系教授蔡宗翰,帶你了解AI工具技術,以及因應之道。

AI技術將愈來愈「完美」

2022年openAI公司的「chatGPT」橫空出世,AI時代新紀元來臨。事實上,這些AI技術並非是突然發明出來,各家科技公司早已醞釀已久。

研究AI自然語言的中央大學資工系教授蔡宗翰說,各大科技公司過去都在研發自己的AI技術,只是研發或投資的技術模型並不相同。直到去年,人工智慧技術突破臨界點,包括openAI公司開發的chatGPT;各種AI圖生成工具(Midjourney、Stable Diffusion)等相繼而出,且使用門檻大幅降低。


圖說:紐約漢普頓斯猶太中心(Jewish Center of the Hamptons ),猶太教拉比正在使用chatGPT撰寫佈道文/ 照片來源:達志影像

「這只是AI技術的起點,AI將愈來愈完美」,蔡宗翰說。

蔡宗翰說,從去年到現在不到一年的時間,民眾可以感覺到AI進步的速度超乎想像。chatGPT從GPT-3到GPT-4,它的邏輯、理解、運算能力都大幅進步。未來,chatGPT也將不只是chatGPT而已,它會成為一個平台,透過「Plug in」就能與其他AI技術聯盟,補足它欠缺的能力。

記者也觀察到,AI生成圖工具Midjourney V5也改善了過去版本中為人詬病的「畫人」能力。

例如,在舊版本的AI生成工具中,人的手指、耳朵、細微動作等,都能明顯看出瑕疵或不自然之處,但這些在V5都已改善。可以想見,未來AI生成圖將愈來愈完美,過去能用「肉眼」辨識的偵測方法,如今都不再適用。


圖說:Midjourney V5 生成人像,改善手指容易出現破綻的現象 / 擷自台灣AIGC視覺藝創聯盟臉書粉專 

強化「AI偵測」是必須,但非唯一

當AI成為假訊息溫床時,「偵測」就是反擊的手段之一,但卻不是唯一的解決方法。

過去查核中心也運用網路上的開發軟體「AI Image Detector」,協助破解AI生成影像。近期,跨國人權組織「目擊者Witness」,也針對「AI合成媒體」發展一套檢測造假資訊的工具與方法。各國政府、科技平台也有人在研議是否要讓AI生成圖加上浮水印,或是元數據「metadata」,以辨識影像是AI生成。

「AI技術與防偽像是彼此的學習與競爭者。」蔡宗翰說,AI一定會愈來愈進步,但若偵測的工具沒有持續進步、更新,偵測一定會失效;且製作AI假訊息者永遠都有「逃脫偵測」的方法。

蔡宗翰舉例,儘管現在的AI圖精緻到難用肉眼辨認,但還是有機器能看出其「不尋常」的跡象。但是,若「敵方」意識到你破解它,對方只要稍作加工,破壞掉破綻,下次就偵測不到了。

因此,社會大眾不能僅仰賴「技術」作為防制AI假訊息的方法。蔡宗翰認為,最重要的還是回到社會大眾抵抗假訊息的能力,以及提升媒體素養。

AI時代 修補台灣資訊生態斷裂

長期關注台灣媒體生態、媒體素養的黃哲斌則直指,AI合成的假訊息,將會放大、惡化台灣資訊生態的弊端,根本之道是「修補斷裂的資訊生態圈」。

長久以來,傳統媒體經營式微、影響力、信任度下降。民眾接受資訊的管道早已轉到臉書、Line。儘管這些社群平台看似能讓民眾「主動」選擇自己喜歡的資訊,但明顯可見的是,社群文化壟斷注意力,並未提供一個正面的資訊生態圈。

黃哲斌認為,一般大眾早已習慣在社群平台被動接收資訊,習慣難以改變。而且,多數人其實難有查證的時間或精力,民眾只能被動接受。

儘管如此,當網路資訊持續劣化,再加上AI合成假訊息的大舉入侵,未來若有AI假訊息的指標性案例出現時,社會意識到問題嚴重性時,或許能成為扭轉資訊生態的轉機,但這並非是一蹴可幾。

黃哲斌舉例,像是假訊息問題早已存在,但台灣民眾到大阪關西機場事件後,才意識到假訊息是什麼;又再如早已有學者提醒Tik Tok上的有害資訊將影響青少年,但在日本發生迴轉壽司店青少年惡作劇事件後,社會大眾才警覺到到Tik Tok能加快危害資訊的傳播。


圖說:日本出現迴轉壽司店惡作劇事件 / 擷自YouTube

面對混亂的資訊生態,黃哲斌坦言他雖然「悲觀」,卻也對未來仍抱持樂觀。

黃哲斌強調,並不是一定要發生什麼可怕的案例或事件才能扭轉資訊生態,而是應該從現在開始思考,透過媒體機構、查核機構、科技技術平台打造好的資訊生態,讓愈來愈多人能更重視「資訊履歷」、「資訊溯源」的概念,讓民眾能接受到好的資訊,才能有效抗衡AI假訊息。

儘管台灣目前資訊生態斷裂,但黃哲斌則點出,「台灣新聞、言論自由都很高,也具有相當高的科技韌性,以及民間社群的活力。」對於未來仍抱有一種期待和可能性,而這個可能性來自於三個前提及挑戰:

第一,台灣有很多優質的報導,可是民眾無法在社群上接收到好的報導。讓民眾能接受到好的資訊是首要挑戰。

第二,提供好的資訊報導,要同時從供給面和需求面著手。供給面上,要讓更多好的媒體報導被看到、認可、積極接受;也要建立願意主動接受好資訊的社群。

第三,積極打造公共生態系,結合資訊生態中公共價值夥伴,像是新聞媒體、民間科技社群、社大公民社群等。

黃哲斌認為,儘管未來看似困難,但台灣若能從這三個前提和方向前進,才能扭轉、修補資訊紐帶的斷裂,也才能因應未來AI假訊息的侵害。

AI發展愈快 心則要愈慢

隨著下半年2024總統選戰即將開打,政大傳播學院教授鄭宇君也指出,AI生成影像,將為媒體界、查核組織,社群生態帶來「可預見」的政治假訊息危害,是一場嚴峻的挑戰。

例如近期習近平出訪俄羅斯會見普丁,社群上出現「普丁下跪親吻習近平」的AI影像,隨即引發社群瘋傳。儘管只是個案,也並未造成嚴重的危害,但足以見得AI政治假訊息對社會造成危害的潛力。


圖說:網路上普丁下跪習近平的照片,與一張普丁下跪維尼小熊的卡通圖片一起流傳。

鄭宇君指出,「類似的政治假訊息可能會愈來愈多」。例如,若在年底選舉期間,網路上突然出現一張某政治人物出軌、醜聞的AI合成畫面、錄音檔;若媒體在未經查證下發出報導,那將會造成更嚴重的政治風波。而這樣的假訊息,其實現在AI已經可以做到。

面對台灣即將面對的選舉,AI假訊息更是首要防守線,媒體機構、一般民眾應該怎麼做?鄭宇君教授、黃哲斌則提出實際的因應方法,查核中心整理如下:

【媒體的AI生存之道】

黃哲斌說,AI時代對媒體是轉機或是危機,端看媒體如何因應。在COVID-19疫情期間,台灣媒體的信任度其實是上升,這代表在資訊混亂時,民眾更仰賴公正媒體機構的資訊。因此,在未來AI時代,媒體首先需要先意識到AI假訊息的侵害,更應謹守「查證」原則,成為把關者。

鄭宇君也說,媒體應該要防守採訪最基本的準則「查證」。若消息來源只有網路消息,那應該要多方採訪、求證,避免在「搶快」之下成為推播假訊息的一環。

除了謹守查證原則,鄭宇君則認為,新聞媒體跟查核組織應該加強合作。

【民眾的AI生存之道】

1. AI生成快,分享要慢:

AI生成快又精緻,品質較低者,還可以辨識出破綻,「但AI只會愈來愈進步」,終將難以肉眼辨認,或是用傳統的搜圖工具找到可信資訊。因此,民眾反而要反其道而行,若在社群上看到無消息來源卻又聳動的影像時,應先存疑,不要急著分享。

2. 貼心地「加註脈絡」

有刻意製造的AI假訊息,也會有無心成為假訊息的AI合成影像。

許多AI影像原本只是做為一種創作或是迷因、梗圖等。但失去脈絡流傳後,就有可能成為假訊息,讓不知道來源的人誤信為真實。因此,民眾在分享這些「創作」時,應該要貼心地加上註解或說明,避免不知道的人誤信為真。

3. 積極主動查證

若在社群上看到無消息來源卻又聳動的影像時,先不要急著分享。進一步能做的是,到信任的媒體、網站,確認是否有類似的消息。若這些可信的機構都沒有任何消息,只有社群上流傳的單一訊息,就要保持懷疑。

若更有能力的民眾,不妨也可以讓自己變成「查核」前線哨兵,將網路上可疑的訊息、影像,主動向信任的查核機構、媒體尋求查證。若該訊息有被指涉的政治人物、單位,也可以主動透過社群媒體、專線詢問求證。

4.活化知識產業鍊 打造可信任的媒體生態

媒體提供可信任的資訊,而「讀者」也能成為活化知識產業鍊的的積極串連者,打造及壯大可信資訊生態圈。

具體來說,民眾若看到Line群組、社群上有人流傳假訊息或是可疑資訊,應主動提供正確可信的資訊。並非所有人都有能力積極查證,但是你能成為串接訊息的橋樑,當社會愈來愈多人做件事,就能讓愈多人有資訊抗體,達到群體免疫。