📹🎧ChatGPT恐成最大假訊息製造源?人工智慧可能引經據典卻胡說八道,「PTT創世神」杜奕瑾提醒科技倫理風險

📹🎧ChatGPT恐成最大假訊息製造源?人工智慧可能引經據典卻胡說八道,「PTT創世神」杜奕瑾提醒科技倫理風險

 

 

AI聊天機器人ChatGPT近來在全球掀起熱潮,推出短短2個月便吸引上億名用戶,熱度遠超過以往任何網路工具的傳播速度。ChatGPT看似「謙謙有理」、「引經據典」,但它的回答卻可能是錯誤訊息,也可能演變為假訊息的溫床。

「當我們用道德規範限制、訓練聊天機器人,的確他的回答會比較正確。但如果是錯誤或有偏見的回答時,你更不容易發現,因為它騙過我們設置的規範。」台灣人工智慧實驗室創辦人杜奕瑾,日前接受國立教育廣播電台節目𝙋𝙤𝙙𝙘𝙖𝙨𝙩節目《新聞真假掰》主持人黃兆徽專訪,探討人工智慧對人類生活帶來的變革和潛藏的科技倫理問題。

圖:台灣人工智慧實驗室創辦人杜奕瑾(右)接受國立教育廣播電台節目《新聞真假掰》主持人、台灣事實查核教育基金會顧問黃兆徽(左)專訪

風險》ChatGPT引經據典胡說八道?民眾警覺性應提高

「人工智慧它可能會有錯誤、會有造假、會有偏見。」杜奕瑾過去在微軟做過類似專案,打造聊天機器人Tay,但上線不到一天就緊急下架,因為Tay透過網路搜集資訊,會學習不正確的言論、暴力偏見,甚至是種族歧視。

杜奕瑾表示,即使現在透過設置倫理規範,限制ChatGPT的回答,「如果碰到它沒有學習過的限制,還是會直覺回答,它可以引經據典去回你,但實際上這個內容不是真實的。」目前無法確保ChatGPT生成回答的正確性,呼籲民眾對於AI的回答需要提高警覺。

應用》AI詠唱,成未來職場必備技能

AI可以透過向世界一流人才學習之後,自行生成作品,要超越一般人的創作並非難事。針對人類是否被AI取代的憂心,杜奕瑾認為:「當你會用Google的時候,你就比不會用Google的人強大非常多,同樣的,當你會使用這種生成式工具,你可以利用生成式工具輔導你去寫內容,扶助你去創作劇本,甚至輔導你去做相關的藝術創作、音樂創作。」善用AI,將能夠提升人類創作的豐富性與效率。

杜奕瑾也表示,未來會需要懂「AI詠唱」,知道如何帶領人工智慧去做創作工作的人才。透過人工智慧,不會繪圖、程式語言等專業技能的人,只要學會「和AI對話」也能得心應手。

趨勢》軍備競賽時代來臨,下一步是「做到可信任的演算法」

透過「辨識」、「理解」,一直到「生成」,人工智慧為人類社會帶來創新的發展,但也可能被有心人士利用而產生隱憂。杜奕瑾表示:「在未來,不管是資訊安全、詐騙,或者是認知操作的領域,大家都嚴陣以待。」由於人工智慧會不斷學習,一旦它的辨識能力與人類相同時,就可以再生成新的詐騙訊息。為打擊不實資訊,未來可能演變成「人工智慧對抗人工智慧」的軍備競賽。

杜奕瑾提醒:「未來人工智慧的發展,其實不在於資料量的多寡,不在於運算Power有多少,你要做到可信任的人工智慧演算法(Responsible AI)。」人工智慧演算法的透明度,必須提升「可追蹤、可解釋、可驗證以及可稽查」。

而該如何做到可信任的演算法?杜奕瑾提出「聯邦式學習(Federated Learning)」的解方。「第一件事情要思考人權隱私、資料收集的合法性,第二是演算法是不是可以開放被驗證,確保演算法是沒有偏見的方式。」他分享,台灣人工智慧實驗室在蒐集個人資料,會透過「去中心化」方式,由演算法分析資料與學習,過程中,資料不會離開資料所有權人的手裡。

以疫情期間,民眾所熟知的「社交距離App」為例,該程式透過去中心化方式進行資料分析,所有資料都存在手機裡,利用藍牙訊號記錄隨機ID,做到病毒傳遞分析,此模式能夠防範中心資料庫被有心人攻破,也能保障人權隱私。面對AI浪潮來襲,此實例也在在呼應杜奕瑾強調的:「以人為本」、「可信任」的人工智慧,尤為重要。

 

【新聞真假掰|假訊息ByeBye!】由台灣事實查核教育基金會顧問黃兆徽主持。節目中邀請各行各業的朋友暢談媒體議題,為聽眾提升媒體素養、增強對假訊息的抵抗力,希望達成「群體免疫」,讓大家都和假訊息說掰掰!

更多精彩內容請搜尋「新聞真假掰」,或上各大 Podcast 平台收聽, YouTube 頻道則有訪談精華影片陸續上架。除了適合大眾收聽收看,也推薦各級學校老師在規劃媒體素養課程時可列入影音輔助教材。(撰文:張家瑜、張育騰)

【立即收聽】新聞真假掰 — 假訊息 Bye Bye|EP63︱

EP63|ChatGPT使用者破億!「生成式AI」是什麼?人工智慧將帶來人類生活的重大變革!「PTT創世神」提醒科技倫理亟需規範。專訪杜奕瑾(台灣人工智慧實驗室/人工智慧發展基金會董事長)

Apple:https://pse.is/4sagzl

Firstory:https://pse.is/4rucww

Spotify:https://pse.is/4rqqne

KKBOX:https://pse.is/4r3ezy

Google:https://pse.is/4sgxfb

【非聽不可的相關訪談】當AI

🍀AI如何揪出「網軍」?發文同進同出、朝九晚五、週休二日?「PTT創世神」談社群媒體上的「協同性行為」與認知操作:專訪杜奕瑾(台灣人工智慧實驗室創辦人)

🍀「PTT創世神」如何用AI迎擊資訊戰網軍?俄烏戰爭假訊息臺灣也受害?臉書貼文為何被「祖」?專訪杜奕瑾(台灣人工智慧實驗室創辦人)

🍀未來5到10年人工智慧全面滲入生活,我的同事不是人,是機器?如何面對AI世代的來臨?專訪蔡明順(臺灣人工智慧學校校務長)

🍀「元宇宙」是什麼?你準備好登入了嗎?沉浸式體驗能增進人類幸福感?!AI人工智慧全面擴及生活各層面,有哪些倫理課題?專訪林日璇(政大傳播學院特聘教授)

🍀AI與新科技如何協助打擊不實訊息?阿根廷與巴西查核組織開發出哪些好用工具?

【喜歡這集嗎?想對主持人或來賓提問嗎?】

🌟評分、留言這裡走|https://pse.is/4p9wyd

【好節目需要鼓勵~請給我們五星好評】

🌟訂閱、評分、留言這裡走|https://pse.is/4lblzz