AI執法過當 YouTube擬重增人工審查比重

記者何蕙安／編譯

人工智慧（AI）在新冠疫情期間協助社群平台大規模偵測不實內容，但全球最大影片平台YouTube發現，AI對於在灰色地帶遊走、有違規嫌疑的內容，出現「執法過當」的趨勢。YouTube的最新決定是：要在影片審查機制中，重新增加人工審查的比重。

《英國金融時報》報導，新冠疫情爆發後，YouTube知名的「萬人審查團隊」規模遭到大幅縮減，由AI取而代之，偵測仇恨言論、暴力或其他有害的內容與不實資訊。然而，減少人類審查的結果之一，是遭AI移除的影片數量大幅增加，包括一些沒有違規的影片也無法倖免。

YouTube的《社群守則執行報告》顯示，今年4月到6月YouTube共移除了1140萬影片，是今年第一季611萬影片的1.8倍，當中高達95%影片都是由AI偵測、移除；有32萬被移除影片提出申訴，當中一半、約16萬部影片在審查後重新上架，申訴成功率也成長了一倍。

圖1：在今年第二季YouTube移除的1140萬影片中，有高達95%、約1085萬則影片是由電腦自動偵測。擷自YouTube報告

YouTube首席產品長尼爾．莫漢（Neal Mohan）對《英國金融時報》表示，雖然AI有足夠能力偵測並移除明顯有害內容的影片，但在決定是否移除「可能含有有害內容的影片」時，AI的決策表現差強人意。

「這就是我們讓人類審查員接手的時候。」莫漢說，特別是在仇恨言論、健康類不實訊息與騷擾內容等，AI無法很好的掌握當中可能很微妙、需要綜合考量的違規界線，人類審查員將負責審查AI標示的潛在有害影片，並作出判定。

YouTube對於AI偵測不實訊息的應用，也呼應了事實查核界長期以來關於「AI是否能取代人類查核記者」的熱門話題。美國杜克大學記者實驗室指出，AI現階段仍無法精準作出最終決策與避免重複性錯誤，因此「人工判斷」仍是關鍵。

YouTube在假訊息大流行期間   移除1140萬影片

進一步解讀YouTube的《社群守則執行報告》影片移除最主要的機制為用AI自動判讀，其次是用戶舉報、YouTube認證檢舉人、非政府組織。值得注意的是，有25支影片是因為政府單位之故而下架。

有關於影片被移除下架的理由，以「兒童安全」為最大宗，超過總數的三成；其次分別為「垃圾郵件、誤導與詐騙」、「裸露與色情」、「暴力影像」與「推廣暴力」，以上原因共占了被移除影片總數的95%。另外的理由還有騷擾、仇恨言論等。

YouTube報告並根據影片的上傳者的IP網路位置，整理出被下架影片的「主要產地」：當中美國被移除影片數量達到206萬支，遙遙領先以145萬支影片居次的印度；巴西、印尼與俄羅斯分居第三到五名。亞洲地區上榜的國家還有巴基斯坦、南韓、菲律賓、越南、孟加拉、泰國、柬埔寨、日本等；台灣並未出現在前30名名單中。

YouTube也強調，若影片上傳者使用代理伺服器（proxy server）或是虛擬專用網路（virtual private network，VPN），則YouTube平台無法得知其準確位置。

圖２：在2020年第二季YouTube移除的1140萬影片中，美國以206萬支影片數量居冠。擷自YouTube報告

受到新冠疫情影響，YouTube今年第二季移除了評論數高達21億則，是今年1-3月的3倍；當中高達99.6%的評論也是被電腦自動偵測移除。

對各國事實查核組織而言，不論在疫情和選戰期間，Youtube流通的不實影片一向是最棘手的挑戰。儘管Youtube定期揭露其處理違反社群守則的影片情況與數量，但其依據與標準相對不透明，國際事實查核聯盟呼籲Youtube應該與全球各國事實查核組織建立正式且透明的合作機制。

AI的力量與侷限

YouTube首席產品長莫漢強調，無論如何，AI偵測有害內容影片的貢獻仍是「無可限量」。在今年第二季被移除的1100萬影片中，44%影片的瀏覽數字為零，也就是在被他人觀看前就已經被下架；共超過七成的影片的瀏覽數不到10次，代表這些有害影片沒有造成太大影響力。

「這就是AI的力量。」莫漢說。

非營利組織First Draft共同創辦人克萊爾‧華德（Claire Wardle）向《英國金融時報》表示，AI在偵測有害的影像內容已有長足進展，例如暴力或色情內容，但是在判斷有問題的內容上，對AI仍是一大挑戰，例如一部三小時長、泛泛而談的陰謀論影片，人類可能都難以準確判斷，AI自然是力不從心。

參考資料

Financial Times<YouTube reverts to human moderators in fight against misinformation>2020.09.20

YouTube Community Guidelines enforcement (Apr 2020- Jun 2020)

首圖來源Unsplash；作者Kon Karampelas