防制AI深偽造假與濫用：科技與立法的競合與變化

文/ 台灣事實查核教育基金會董事長 羅世宏

近年來，人工智慧（AI）的突飛猛進已給社會帶來前所未有的挑戰。從教育到醫療，AI技術正以驚人速度推動著各個領域的進步。然而，隨著AI技術的普及，其濫用的風險也日益增加，尤其是在深偽技術（deepfake）的應用上。針對此一問題，一反過去不贊成政府介入的立場，現在以微軟為首的大型科技公司開始呼籲政府制定相關法律來防範AI技術的濫用，一場科技與平台監管的典範轉移或許正在發生？

微軟的倡議

據《華盛頓郵報》報導，微軟總裁布拉德·史密斯（Brad Smith）近日在50頁的微軟報告中，強調立法防範AI深偽技術濫用的必要性。他指出，隨著AI生成的語音和圖像技術的進步，詐騙集團已經開始利用這些技術冒充家人，詐騙錢財。微軟主張應該制定防制深偽詐欺的法律（a“deepfake fraud statute”），專門針對使用AI技術的詐欺行為進行立法。

在微軟這份名為《保護公眾免受AI生成內容濫用》（Protecting the Public from Abusive AI-Generated Content）的報告裡強調，立法者和科技公司必須共同努力，建立一個強健的法律框架，以保護公眾免受AI技術濫用的侵害。具體而言，微軟建議政府應強制要求AI公司在其產品中內置識別深偽內容的工具，並建立一個獨立的機構來監管AI技術的使用。

反對聲音與妨礙競爭的隱憂

然而，類似呼籲先前並未得到整個科技界的一致支持。一些風險投資家、中小型科技公司的CEO和開源技術的擁護者對大型科技公司轉而呼籲立法的動機表示懷疑。他們認為，立法規範AI技術可能會扼殺競爭，尤其是對於那些新創公司來說。《華盛頓郵報》一篇報導引述YC孵化器（Y Combinator）的執行長陳嘉興（Garry Tan）的說法指出，過於繁重的法規可能導致只有大公司才能負擔得起法遵成本，從而讓新創企業難以生存。這些異議者認為，大型AI公司如Google、微軟和OpenAI支持立法，其實是別有居心地耍弄手段（a cynical ploy），目的是鞏固它們作為市場領導者的優勢，以排擠可能的新競爭者。這些新創公司的擔憂在去年時月底總統拜登簽署一項關於人工智慧應用的行政命令後達到高峰，該行政命令計劃讓政府制定AI模型的測試和審批指南，這些模型驅動著生成式AI工具，如聊天機器人和圖像生成器。

圖2：2023年11月1日，人工智慧安全峰會在英國登場。共28國簽署「布萊切利宣言」監管AI。美國副總統賀錦麗和英國首相蘇納克等政界人士以及Google的哈薩比斯和 OpenAI的阿特曼 等人工智慧高管在英國人工智慧安全峰會上合影留念/達志影像

法律監管與創新應用的平衡

儘管存在反對聲音，但立法防範AI濫用的需求確實已迫在眉睫。AI生成的深偽技術已經被廣泛應用於各類造假、詐欺和濫用行為中，從冒充家庭成員進行電信詐騙，到製作虛假政治人物影像來操控輿論，這些都對社會穩定和個人安全構成了巨大威脅。

微軟最近發布的這份報告提及，金融詐騙近年來在美國呈指數級增長，即使在沒有AI的情況下，警察和檢察官也難以應對。線上和電話詐騙尤為普遍，年長的美國人因持有更多財富而成為詐騙集團鎖定的主要目標，據聯邦調查局（FBI）的數據顯示，60歲以上美國人每年因詐騙損失達283億美元。去（2023）年，FBI接獲的老人詐騙申訴案件即增加了14%。隨著人口老齡化和生成式AI等新技術的出現，受害者人數預計將繼續增加。美國政府已經開始採取行動，破獲了一個由國家在背後支持的機構利用AI在進行虛假訊息操作。FBI局長克里斯托弗·雷（Christopher Wray）在聲明中表示，俄羅斯打算利用這個機構來散布AI生成的虛假訊息，試圖影響烏克蘭的地緣政治局勢。

圖3：據聯邦調查局（FBI）的數據顯示，60歲以上美國人每年因詐騙損失達283億美元/達志影像／《保護公眾免受AI生成內容濫用》截圖

 微軟提議的具體措施

為了防制AI深偽造假與濫用，微軟及其總裁史密斯在《保護公眾免受AI生成內容濫用》報告中提出六個重點領域的具體措施。這些措施包括：

1. 強大的安全架構：包括紅隊分析（red team analysis）、預防性分類、阻斷濫用提示、自動化測試和快速封禁濫用者。

2. 可持續的媒體來源和浮水印技術：自2023年底以來，微軟已經在Azure OpenAI Service、Microsoft Designer和Microsoft Paint中自動附加來源元數據，這些元數據包括內容創建的時間和認證組織等重要訊息。

3. 保護服務免受濫用內容的侵害：例如，微軟開發了Azure Operator Call Protection，這是一種針對語音網路營運商的詐騙檢測服務，利用AI實時分析電話內容以檢測潛在的電話詐騙。

4. 與產業、政府和民間社會合作：如微軟與全球網路反恐論壇（GIFCT）、全球保護聯盟（WeProtect）等合作，推動數位安全的進展。

5. 現代化的立法：建議政府制定法律，保護人們免受AI深偽技術濫用的侵害。

6. 公眾意識和教育：如微軟在2024年5月宣布啟動一項200萬美元的「社會韌性基金」（Societal Resilience Fund），旨在提高選民和弱勢社區的AI教育和素養。

該報告也建議，相關法律與應對措施的重要目標在於保護民主選舉、保護老年人和消費者免受網路詐騙，以及保護婦女和兒童免受線上性剝削。

圖4：微軟在2024年5月宣布啟動一項200萬美元的「社會韌性基金」（Societal Resilience Fund）／微軟官網截圖

公民社會如何看待微軟總裁的呼籲？

儘管小型或新創科技公司懷疑微軟等大型科技公司現在呼籲政府立法的動機主要是為了自身利益考量，不過署名撰寫這份報告的微軟總裁布拉德·史密斯有其長期一貫的立場，在科技政策和倫理議題上頗有獨到見解，應該並非突如其來或純粹私利考量的主張。比方說，他的書《未來科技的15道難題：面對世界最關鍵的轉折，微軟總裁最前瞻的預測與洞察》（Tools and Weapons: The Promise and the Peril of the Digital Age），即曾深入探討科技創新如何同時成為推動社會進步的工具和帶來潛在危害的武器。書中分析了AI、網路安全、隱私保護等關鍵議題，並提供他對未來科技發展的前瞻性見解。

史密斯在2021年也曾公開呼籲美國政府應該跟進澳洲的《新聞媒體議價法令》（News Media Bargaining Code），要求科技大廠在其平臺上轉載新聞資訊時，支付內容授權費用給媒體業者。他強調，這樣的立法對於保護新聞業的生態系統至關重要，並指出科技公司應該為使用新聞內容付出合理的費用，以支持高品質新聞的持續生產和流通。

如今，在生成式AI與AI深偽技術突發猛進且應用漸廣之際，大型科技公司的總裁願意登高一呼，或將有利於推動美國遲遲未有太大進展的AI與科技平台立法，至少不再扮演遊說、阻礙相關立法的角色，從而帶動平台問責與監管的全球新典範轉移。雖然相關立法的實質內容與細節尚有待研析與權衡，但此刻我們應該樂見微軟公司和史密斯個人有此公開立場的表達。

值此快速變化的AI+數位時代，AI技術的發展既是工具也是武器。如何在推動技術進步的同時，有效遏制其濫用，是人類社會當前面臨的重大挑戰。微軟帶頭發出的呼籲提醒我們，立法者、科技公司和社會各界需要攜手合作，共同制定出一個既能促進創新又能保障安全的法律框架。只有這樣，我們才能在享受科技進步的同時，避免新科技帶來的潛在危害。

圖5／Canva