【AI愈快 心要愈慢】打造可信任資訊生態 成為駕馭AI的正氣魔法師！

記者馬麗昕／報導

chatGPT、AI生成圖像工具等AI工具的蓬勃發展令全世界驚豔，宣告將進入全新的AI紀元。網路世界彷彿在短時間內出現神奇魔法，AI生成影像（AIGC）生成速度快，品質精緻，且技術使用門檻降低，任何人都能成為AI魔法師，「彈指之間」變造出精美又寫實的影像，甚至變造出難以破解的合成影音、陰謀論、詐騙資訊。

查核中心近期觀察到，從今年開始，有利用AI技術合成比爾蓋茲的聲音假影片，藉此宣揚疫苗陰謀論；社群也有利用AI生成圖製作出「川普被逮捕照」、「習近平會見普丁親吻照」等，難以分辨真偽；更有冒充chatGPT官方名義，實為帶有資安風險的假line帳號。

儘管AI潛藏著對社會的危害，但媒體機構、民眾如何面對更是關鍵。本篇訪問長期關注媒體素養議題的《天下雜誌》編輯部顧問黃哲斌、政大傳播學院教授鄭宇君、專攻AI技術的中央大學資訊工程學系教授蔡宗翰，帶你了解AI工具技術，以及因應之道。

AI技術將愈來愈「完美」

2022年openAI公司的「chatGPT」橫空出世，AI時代新紀元來臨。事實上，這些AI技術並非是突然發明出來，各家科技公司早已醞釀已久。

研究AI自然語言的中央大學資工系教授蔡宗翰說，各大科技公司過去都在研發自己的AI技術，只是研發或投資的技術模型並不相同。直到去年，人工智慧技術突破臨界點，包括openAI公司開發的chatGPT；各種AI圖生成工具（Midjourney、Stable Diffusion）等相繼而出，且使用門檻大幅降低。

圖說：紐約漢普頓斯猶太中心（Jewish Center of the Hamptons ），猶太教拉比正在使用chatGPT撰寫佈道文/ 照片來源：達志影像

「這只是AI技術的起點，AI將愈來愈完美」，蔡宗翰說。

蔡宗翰說，從去年到現在不到一年的時間，民眾可以感覺到AI進步的速度超乎想像。chatGPT從GPT-3到GPT-4，它的邏輯、理解、運算能力都大幅進步。未來，chatGPT也將不只是chatGPT而已，它會成為一個平台，透過「Plug in」就能與其他AI技術聯盟，補足它欠缺的能力。

記者也觀察到，AI生成圖工具Midjourney V5也改善了過去版本中為人詬病的「畫人」能力。

例如，在舊版本的AI生成工具中，人的手指、耳朵、細微動作等，都能明顯看出瑕疵或不自然之處，但這些在V5都已改善。可以想見，未來AI生成圖將愈來愈完美，過去能用「肉眼」辨識的偵測方法，如今都不再適用。

圖說：Midjourney V5 生成人像，改善手指容易出現破綻的現象 / 擷自台灣AIGC視覺藝創聯盟臉書粉專 

強化「AI偵測」是必須，但非唯一

當AI成為假訊息溫床時，「偵測」就是反擊的手段之一，但卻不是唯一的解決方法。

過去查核中心也運用網路上的開發軟體「AI Image Detector」，協助破解AI生成影像。近期，跨國人權組織「目擊者Witness」，也針對「AI合成媒體」發展一套檢測造假資訊的工具與方法。各國政府、科技平台也有人在研議是否要讓AI生成圖加上浮水印，或是元數據「metadata」，以辨識影像是AI生成。

「AI技術與防偽像是彼此的學習與競爭者。」蔡宗翰說，AI一定會愈來愈進步，但若偵測的工具沒有持續進步、更新，偵測一定會失效；且製作AI假訊息者永遠都有「逃脫偵測」的方法。

蔡宗翰舉例，儘管現在的AI圖精緻到難用肉眼辨認，但還是有機器能看出其「不尋常」的跡象。但是，若「敵方」意識到你破解它，對方只要稍作加工，破壞掉破綻，下次就偵測不到了。

因此，社會大眾不能僅仰賴「技術」作為防制AI假訊息的方法。蔡宗翰認為，最重要的還是回到社會大眾抵抗假訊息的能力，以及提升媒體素養。

AI時代 修補台灣資訊生態斷裂

長期關注台灣媒體生態、媒體素養的黃哲斌則直指，AI合成的假訊息，將會放大、惡化台灣資訊生態的弊端，根本之道是「修補斷裂的資訊生態圈」。

長久以來，傳統媒體經營式微、影響力、信任度下降。民眾接受資訊的管道早已轉到臉書、Line。儘管這些社群平台看似能讓民眾「主動」選擇自己喜歡的資訊，但明顯可見的是，社群文化壟斷注意力，並未提供一個正面的資訊生態圈。

黃哲斌認為，一般大眾早已習慣在社群平台被動接收資訊，習慣難以改變。而且，多數人其實難有查證的時間或精力，民眾只能被動接受。

儘管如此，當網路資訊持續劣化，再加上AI合成假訊息的大舉入侵，未來若有AI假訊息的指標性案例出現時，社會意識到問題嚴重性時，或許能成為扭轉資訊生態的轉機，但這並非是一蹴可幾。

黃哲斌舉例，像是假訊息問題早已存在，但台灣民眾到大阪關西機場事件後，才意識到假訊息是什麼；又再如早已有學者提醒Tik Tok上的有害資訊將影響青少年，但在日本發生迴轉壽司店青少年惡作劇事件後，社會大眾才警覺到到Tik Tok能加快危害資訊的傳播。

圖說：日本出現迴轉壽司店惡作劇事件 / 擷自YouTube

面對混亂的資訊生態，黃哲斌坦言他雖然「悲觀」，卻也對未來仍抱持樂觀。

黃哲斌強調，並不是一定要發生什麼可怕的案例或事件才能扭轉資訊生態，而是應該從現在開始思考，透過媒體機構、查核機構、科技技術平台打造好的資訊生態，讓愈來愈多人能更重視「資訊履歷」、「資訊溯源」的概念，讓民眾能接受到好的資訊，才能有效抗衡AI假訊息。

儘管台灣目前資訊生態斷裂，但黃哲斌則點出，「台灣新聞、言論自由都很高，也具有相當高的科技韌性，以及民間社群的活力。」對於未來仍抱有一種期待和可能性，而這個可能性來自於三個前提及挑戰：

第一，台灣有很多優質的報導，可是民眾無法在社群上接收到好的報導。讓民眾能接受到好的資訊是首要挑戰。

第二，提供好的資訊報導，要同時從供給面和需求面著手。供給面上，要讓更多好的媒體報導被看到、認可、積極接受；也要建立願意主動接受好資訊的社群。

第三，積極打造公共生態系，結合資訊生態中公共價值夥伴，像是新聞媒體、民間科技社群、社大公民社群等。

黃哲斌認為，儘管未來看似困難，但台灣若能從這三個前提和方向前進，才能扭轉、修補資訊紐帶的斷裂，也才能因應未來AI假訊息的侵害。

AI發展愈快 心則要愈慢

隨著下半年2024總統選戰即將開打，政大傳播學院教授鄭宇君也指出，AI生成影像，將為媒體界、查核組織，社群生態帶來「可預見」的政治假訊息危害，是一場嚴峻的挑戰。

例如近期習近平出訪俄羅斯會見普丁，社群上出現「普丁下跪親吻習近平」的AI影像，隨即引發社群瘋傳。儘管只是個案，也並未造成嚴重的危害，但足以見得AI政治假訊息對社會造成危害的潛力。

圖說：網路上普丁下跪習近平的照片，與一張普丁下跪維尼小熊的卡通圖片一起流傳。

鄭宇君指出，「類似的政治假訊息可能會愈來愈多」。例如，若在年底選舉期間，網路上突然出現一張某政治人物出軌、醜聞的AI合成畫面、錄音檔；若媒體在未經查證下發出報導，那將會造成更嚴重的政治風波。而這樣的假訊息，其實現在AI已經可以做到。

面對台灣即將面對的選舉，AI假訊息更是首要防守線，媒體機構、一般民眾應該怎麼做？鄭宇君教授、黃哲斌則提出實際的因應方法，查核中心整理如下：

【媒體的AI生存之道】

黃哲斌說，AI時代對媒體是轉機或是危機，端看媒體如何因應。在COVID-19疫情期間，台灣媒體的信任度其實是上升，這代表在資訊混亂時，民眾更仰賴公正媒體機構的資訊。因此，在未來AI時代，媒體首先需要先意識到AI假訊息的侵害，更應謹守「查證」原則，成為把關者。

鄭宇君也說，媒體應該要防守採訪最基本的準則「查證」。若消息來源只有網路消息，那應該要多方採訪、求證，避免在「搶快」之下成為推播假訊息的一環。

除了謹守查證原則，鄭宇君則認為，新聞媒體跟查核組織應該加強合作。

【民眾的AI生存之道】

1. AI生成快，分享要慢：

AI生成快又精緻，品質較低者，還可以辨識出破綻，「但AI只會愈來愈進步」，終將難以肉眼辨認，或是用傳統的搜圖工具找到可信資訊。因此，民眾反而要反其道而行，若在社群上看到無消息來源卻又聳動的影像時，應先存疑，不要急著分享。

2. 貼心地「加註脈絡」

有刻意製造的AI假訊息，也會有無心成為假訊息的AI合成影像。

許多AI影像原本只是做為一種創作或是迷因、梗圖等。但失去脈絡流傳後，就有可能成為假訊息，讓不知道來源的人誤信為真實。因此，民眾在分享這些「創作」時，應該要貼心地加上註解或說明，避免不知道的人誤信為真。

3. 積極主動查證

若在社群上看到無消息來源卻又聳動的影像時，先不要急著分享。進一步能做的是，到信任的媒體、網站，確認是否有類似的消息。若這些可信的機構都沒有任何消息，只有社群上流傳的單一訊息，就要保持懷疑。

若更有能力的民眾，不妨也可以讓自己變成「查核」前線哨兵，將網路上可疑的訊息、影像，主動向信任的查核機構、媒體尋求查證。若該訊息有被指涉的政治人物、單位，也可以主動透過社群媒體、專線詢問求證。

4.活化知識產業鍊 打造可信任的媒體生態

媒體提供可信任的資訊，而「讀者」也能成為活化知識產業鍊的的積極串連者，打造及壯大可信資訊生態圈。

具體來說，民眾若看到Line群組、社群上有人流傳假訊息或是可疑資訊，應主動提供正確可信的資訊。並非所有人都有能力積極查證，但是你能成為串接訊息的橋樑，當社會愈來愈多人做件事，就能讓愈多人有資訊抗體，達到群體免疫。