🎧「上帝的演算法」將主宰我們的生活?陳昱奉:科技中立,但是人性勢利。

🎧「上帝的演算法」將主宰我們的生活?陳昱奉:科技中立,但是人性勢利。

 

 

AI是完美客服?詐騙首腦?還是看透人心的編劇?嘉義地檢署檢察官陳昱奉根據偵辦經驗剖析人工智慧與刑事司法的攻防戰,繼前次接受𝙋𝙤𝙙𝙘𝙖𝙨𝙩節目《新聞真假掰》主持人黃兆徽專訪問時,留下金句「家庭和法庭是謊言最多的地方。」這次在節目中再拋出金句:「科技中立,但是人性勢利。」

陳昱奉負責的案件類型橫跨網路犯罪、營業秘密、經濟犯罪等,日前他再度接受國立教育廣播電台節目及𝙋𝙤𝙙𝙘𝙖𝙨𝙩節目《新聞真假掰》主持人黃兆徽專訪,分析AI人工智慧相關犯罪及法規上的因應。


圖:嘉義地檢署檢察官陳昱奉(右)接受國立教育廣播電台節目《新聞真假掰》主持人、台灣事實查核教育基金會顧問黃兆徽(左)專訪

「沒有情緒」的詐騙電話,卻能讀懂你我心內話

你知道嗎?當我們接起詐騙電話時,對話的另一端可能已非真人,而是AI機器人。只要透過通話中回應的幾句話,它就能偵測情緒,寫下一套劇本進行對答。AI大致能從聲音去判斷性別、年齡,更令人擔憂的是,真人在對話中出現的遲疑或是懷疑的語氣,都能轉換成AI調整話術、劇本的線索。

陳昱奉分享:「AI可以超越人性的一大重點是它沒有情緒,它可以日新又新,甚至它以犯錯為樂。」他進一步解釋,詐騙者畢竟難以完全抹除「人性」,若屢屢遭到拒絕、揭穿,不免沮喪,反觀沒有情緒的AI,就能成為完美客服或完美的詐騙者。

未來的犯罪時代,檢察官或恐尋無被告

在偵辦中同樣棘手的還有AI深偽的換臉技術,犯罪者透過大量影音資料模擬真人或特定人物講話或演出的狀態,如不久前的「小玉事件」,即是臺灣網絡紅人「小玉」朱玉宸透過換臉的方式,將女明星、政治人物的臉惡意合成到色情影片的主角,上網販賣牟利,嚴重侵害人格;而在俄烏戰爭初期,傳出烏克蘭總統澤倫斯基投降的深僞影片,事實上也是透過技術造假,使侵害、犯罪的層次上升到了國安等級。

誰能當神?自由人權與網路立法的兩難

陳昱奉認為要防範AI詐騙,必須在框架底下做出犧牲。如同大家這幾年在防範新冠疫情時,習慣在反COVID-19的框架下生活,「當大家主動拿出手機掃碼,提供自己的位置資料,以一般刑事觀點來看,事實上涉及到嚴重的人權侵犯,然而在整個傳染病防治的框架底下,就必須要做出犧牲。」陳昱奉說,「科技一日千里,應該某程度上,容許從民事和行政手段進行防堵,比如說扣押網域名稱。」此觀點或許有人反對,但點出網路犯罪相應立法的迫切性。

訪談中,陳昱奉透露他的擔憂,當AI發展成熟,演算法洞悉人性、情緒,結合氣候、親屬關係、工作職業等資料,人的生活可能完完全全被演算法掌握。「法律上的不可抗力,我們認為是Act of God(上帝的法則),但是在AI演進下,我滿擔心會有Algorithm of God,就是上帝的演算法出現。」

立法將是維持科技中立的最低底線,他提到歐盟的AAI草案(Act of Artificial Intelligence),主要是針對AI風險性做控管,包含醫療隱私等;在美國也同樣透過權利法案藍圖防範數據濫用。各國目前的立法框架,除了推動產業發展,同時要兼顧倫理與基本人權保障,特別是隱私權,,另一方面,也要避免在犯罪偵查過程中,因AI、演算法的「偏見」造成對特定族群的標籤或差別待遇。

回歸人權保障,陳昱奉:「人工智慧入憲也不為過」

訪談尾聲,陳昱奉拋出一項前瞻的想法,「其實讓人工智慧入憲也不為過。」他說明,憲法保障人類的平等權、自由權,人性尊嚴是必須維護的重中之重,若現有框架無法讓AI發展,入憲保障未嘗不是一種解方。「從以前的蠻荒進步到文明社會,現在是下一層次的文明發展。」他呼籲,只要控管得宜,人工智慧是輔佐人類的良好工具。

 

【新聞真假掰|假訊息ByeBye!】由台灣事實查核教育基金會顧問黃兆徽主持。節目中邀請各行各業的朋友暢談媒體議題,為聽眾提升媒體素養、增強對假訊息的抵抗力,希望達成「群體免疫」,讓大家都和假訊息說掰掰!

更多精彩內容請搜尋「新聞真假掰」,或上各大 Podcast 平台收聽, YouTube 頻道則有訪談精華影片陸續上架。除了適合大眾收聽收看,也推薦各級學校老師在規劃媒體素養課程時可列入影音輔助教材。(撰文:王薇、張育騰)

【立即收聽】新聞真假掰 — 假訊息 Bye Bye|EP64︱

EP63|我們都遭受「上帝的演算法」控制?大AI時代,法規如何因應科技趨勢?專訪陳昱奉(檢察官)

🍀Apple:https://pse.is/4smf9f

🍀Firstory:https://pse.is/4sw5qp

🍀Spotify:https://pse.is/4sgyhm

🍀KKBOX:https://pse.is/4sl5r3

🍀Google:https://pse.is/4rxdgn

 

【非聽不可的相關訪談】網路立法與言論自由的兩難

🍀家庭和法庭是謊言最多的地方?不小心轉傳假訊息會被抓去關嗎?俄烏戰爭網域名稱也成為資訊戰武器?專訪陳昱奉(高檢署網路犯罪專案檢察官)

🍀你的一舉一動,都是臉書的賺錢工具?幫孩子來一劑假訊息疫苗:專訪黃哲斌(專欄作家)

🍀腦波控制一切?如何用幽默感來抵禦假訊息攻擊?推動數位轉型,即將成立的「數位發展部」(MODA)負責踩油門、誰來踩煞車?專訪唐鳳(行政院政務委員)

🍀民眾逾九成認為假訊息猖獗、嚴重影響社會?!六成民眾信賴民間事實查核組織公信力?!誰該為假訊息負責?解讀台灣首次假訊息現象與事實查核成效大調查

【喜歡這集嗎?想對主持人或來賓提問嗎?】

🌟評分、留言這裡走|https://pse.is/4p9wyd

【好節目需要鼓勵~請給我們五星好評】

🌟訂閱、評分、留言這裡走|https://pse.is/4lblzz