您在這裡

🎞️🎧AI是個資「幫手」還是「幫兇」？中研院李育杰：要有資安意識，別因對方是AI就降低警覺

2023-10-18

近期，由中研院發布的一款開源繁體中文語言模型，經實測後卻出現中國用詞與觀點的回應，凸顯出AI在資料生成上的隨機與不確定性，也說明充實繁體中文語料庫的必要性。當AI可能生成爭議性內容，甚至成為訊息操弄的一環，人們該如何辨識，進而避險？中研院資通安全專題中心執行長李育杰接受國立教育廣播電台節目及Podcast節目《新聞真假掰》主持人黃兆徽專訪，從資安問題在當代社會愈趨多元的現況出發，延伸討論資安風暴下AI的優勢與考驗，也強調個人資安意識與警覺的重要。

圖：中研院資通安全專題中心執行長李育杰（右）接受國立教育廣播電台節目及𝙋𝙤𝙙𝙘𝙖𝙨𝙩節目《新聞真假掰》主持人黃兆徽（左）專訪

資安問題藏在生活每個角落

隨著網路蓬勃發展，個資外洩的疑慮已從帳密盜取擴大到資料庫與平台系統的層級。中研院成立資通安全專題中心，便是因應日益複雜的資安問題，發展相關研究與人才培育。

很多人疑惑，「普通民眾」的資料到底有何可騙？「我們把這叫殭屍網路。」李育杰指出，別小看這滴水穿石的力量，當不肖人士竊取個資後，便可透過控制多個帳號形成流量，進而達到癱瘓重要網站的目的。另外像是勒索軟體，則是從外部鎖住個人帳戶，使民眾不得不付「贖金」解決。由此可知，個資竊取手段百百種，是每個人都有可能遇到的危機，得需更有警覺心。

AI一體兩面，打假也可能造假

同時具有資工、應用數學背景的李育杰，對大數據、機器學習在維護資訊安全、打擊假訊息方面的應用有深刻觀察與研究。他認為，辨別假新聞的關鍵，可以從標題是否過度聳動、情緒性字眼的使用，以及消息來源的透明度下手，而這些其實都仰賴人們的媒體識讀能力。但識讀力的培養並非一蹴可幾，「如果我有一個打分數的機制，那也許（可以）給民眾一些參考值。」AI在這方面的偵測能力，可以協助人們辨別閱聽內容。

水能載舟亦能覆舟，AI雖可成為偵測、打假工具，此技術卻也可能反過來形成假訊息或資安問題。例如假訊息投放愈趨個人化，使得認知作戰可趁虛而入；生成式AI、深偽換臉技術，讓製作非事實的內容變得更加容易。當AI愈趨成熟複雜，資安技術攻防，就面臨著更多考驗。李育杰感嘆：「做資安，我們一度就說這個在跳探戈。」

台版ChatGPT的風險與機會

談及大家所熟知的ChatGPT，李育杰針對語料庫指出幾項問題。除了資料本身可能就含有偏見之外，由於資料大部分來自歐美國家，中文資料又大多來自中國網站，在繁體中文資料不足的先天情況下，容易產生簡繁轉換、用語差異等問題。也因此，目前國科會持續推行建置台灣大型語言模型的「TAIDE （Trustworthy AI Dialog Engine）計畫」，集結政府公開資料、中央社新聞文本等資訊，豐富繁中語料庫，期待未來讓民眾能透過「台版ChatGPT」，獲取更可靠的台灣／繁體中文相關資訊。

但是，即使有了信任的生成式AI，人們就能完全依賴它嗎？「還是回頭來講，大家要有基本的資安意識。」李育杰提醒，當AI在人類生活中涉入愈深，自身對個資的掌握反而要更小心，別因對方是AI就降低警覺。除了抱持「零信任架構」，保有適度的存疑、涉及機密或重要業務時避免使用外，平日在分享訊息時也要多思考，避免自己在無形中成了散播不實訊息的人。

【新聞真假掰｜假訊息ByeBye！】由台灣事實查核教育基金會董事黃兆徽主持。節目中邀請各行各業的朋友暢談媒體議題，為聽眾提升媒體素養、增強對假訊息的抵抗力，希望達成「群體免疫」，讓大家都和假訊息說掰掰！

更多精彩內容請搜尋「新聞真假掰」，或上各大Podcast平台收聽，YouTube頻道則有訪談精華影片陸續上架。除了適合大眾收聽收看，也推薦各級學校老師在規劃媒體素養課程時可列入影音輔助教材。（撰文：劉騏瑋、張育騰）