您在這裡

🎧「上帝的演算法」將主宰我們的生活？陳昱奉：科技中立，但是人性勢利。

2023-02-22

AI是完美客服？詐騙首腦？還是看透人心的編劇？嘉義地檢署檢察官陳昱奉根據偵辦經驗剖析人工智慧與刑事司法的攻防戰，繼前次接受𝙋𝙤𝙙𝙘𝙖𝙨𝙩節目《新聞真假掰》主持人黃兆徽專訪問時，留下金句「家庭和法庭是謊言最多的地方。」這次在節目中再拋出金句：「科技中立，但是人性勢利。」

陳昱奉負責的案件類型橫跨網路犯罪、營業秘密、經濟犯罪等，日前他再度接受國立教育廣播電台節目及𝙋𝙤𝙙𝙘𝙖𝙨𝙩節目《新聞真假掰》主持人黃兆徽專訪，分析AI人工智慧相關犯罪及法規上的因應。

圖：嘉義地檢署檢察官陳昱奉（右）接受國立教育廣播電台節目《新聞真假掰》主持人、台灣事實查核教育基金會顧問黃兆徽（左）專訪

「沒有情緒」的詐騙電話，卻能讀懂你我心內話

你知道嗎？當我們接起詐騙電話時，對話的另一端可能已非真人，而是AI機器人。只要透過通話中回應的幾句話，它就能偵測情緒，寫下一套劇本進行對答。AI大致能從聲音去判斷性別、年齡，更令人擔憂的是，真人在對話中出現的遲疑或是懷疑的語氣，都能轉換成AI調整話術、劇本的線索。

陳昱奉分享：「AI可以超越人性的一大重點是它沒有情緒，它可以日新又新，甚至它以犯錯為樂。」他進一步解釋，詐騙者畢竟難以完全抹除「人性」，若屢屢遭到拒絕、揭穿，不免沮喪，反觀沒有情緒的AI，就能成為完美客服或完美的詐騙者。

未來的犯罪時代，檢察官或恐尋無被告

在偵辦中同樣棘手的還有AI深偽的換臉技術，犯罪者透過大量影音資料模擬真人或特定人物講話或演出的狀態，如不久前的「小玉事件」，即是臺灣網絡紅人「小玉」朱玉宸透過換臉的方式，將女明星、政治人物的臉惡意合成到色情影片的主角，上網販賣牟利，嚴重侵害人格；而在俄烏戰爭初期，傳出烏克蘭總統澤倫斯基投降的深僞影片，事實上也是透過技術造假，使侵害、犯罪的層次上升到了國安等級。

誰能當神？自由人權與網路立法的兩難

陳昱奉認為要防範AI詐騙，必須在框架底下做出犧牲。如同大家這幾年在防範新冠疫情時，習慣在反COVID-19的框架下生活，「當大家主動拿出手機掃碼，提供自己的位置資料，以一般刑事觀點來看，事實上涉及到嚴重的人權侵犯，然而在整個傳染病防治的框架底下，就必須要做出犧牲。」陳昱奉說，「科技一日千里，應該某程度上，容許從民事和行政手段進行防堵，比如說扣押網域名稱。」此觀點或許有人反對，但點出網路犯罪相應立法的迫切性。

訪談中，陳昱奉透露他的擔憂，當AI發展成熟，演算法洞悉人性、情緒，結合氣候、親屬關係、工作職業等資料，人的生活可能完完全全被演算法掌握。「法律上的不可抗力，我們認為是Act of God（上帝的法則），但是在AI演進下，我滿擔心會有Algorithm of God，就是上帝的演算法出現。」

立法將是維持科技中立的最低底線，他提到歐盟的AAI草案（Act of Artificial Intelligence），主要是針對AI風險性做控管，包含醫療隱私等；在美國也同樣透過權利法案藍圖防範數據濫用。各國目前的立法框架，除了推動產業發展，同時要兼顧倫理與基本人權保障，特別是隱私權，，另一方面，也要避免在犯罪偵查過程中，因AI、演算法的「偏見」造成對特定族群的標籤或差別待遇。