AI版主出包！Discord坦承審核Bug，大量用戶因無害圖片遭誤封

一張西洋棋盤的截圖，竟然換來帳號永久封禁——這不是科幻小說，而是過去兩個月在Discord上真實上演的鬧劇。

深入了解：360043712172 how you can appeal our acti、16191655766679 Discord Account Appeals W

Discord承認，其自動審核系統中的一個程式錯誤，導致超過8，000名用戶遭到誤封，起因是試算表、西洋棋盤、遊戲材質貼圖以及白色與灰色透明背景等完全無害的圖片，被系統錯誤標記為違規內容。根據TechCrunch報導，整起事件從五月就已悄悄開始，卻直到近日才引爆輿論風暴。

事件導火線是一位名為「Tall Cow」的創作者，他率先警告用戶Discord的審核系統正在錯誤地將方格圖片識別為有害內容，進而導致帳號遭到封禁。伴隨報導持續擴散，其他開發者和用戶也紛紛分享類似經歷，其中包括遊戲開發者JDBRYANT，他表示自己的帳號「遭到錯誤封禁」。

最荒謬之處，在於系統究竟把這些圖片誤認成什麼。方格圖片被Discord誤標為兒童性剝削素材（CSAM），這意味著從試算表截圖到西洋棋盤，甚至是《Minecraft》的物品欄介面，都可能導致帳號遭到錯誤封禁。

為何系統會對「格狀圖案」如此敏感？多名用戶推測，Discord的AI審核工具對網格狀圖案變得越來越敏感，因為此類圖案過去曾被不法人士用來遮蓋或偽裝不當內容，藉此規避自動偵測系統。換句話說，系統過度學習了「反規避」的應對模式，最終開始懲罰無辜用戶。

根據Gadget Review的技術分析，這次事件其實是兩個程式錯誤疊加造成的雙重失誤。第一個錯誤是系統完全跳過了「暫停上傳」的緩衝階段，直接發出永久封禁；第二個錯誤則是即便人工審核人員已確認帳號無辜並解除標記，封禁狀態仍舊鎖死無法解除。Discord共同創辦人暨技術長Stanislav Vishnevskiy已公開確認了上述兩項系統失誤。

Discord在官方聲明中試圖說明正常流程的設計邏輯。公司解釋，其審核系統會將上傳內容與已知有害素材資料庫進行比對，這類相似度比對有時會產生誤判，因此照規定，被標記的內容應由信任與安全（Trust & Safety）團隊的人員審查後才會採取行動，「預期行為是在審查期間暫時暫停上傳，而非封禁帳號。」不過這一次，Bug讓整套安全防護機制徹底失靈。

另一個的細節是，Discord內部開發者對「AI」這個標籤明顯有所保留。Discord和技術長Vishnevskiy似乎刻意避免將這套審核系統稱為「AI」，儘管大多數憤怒的用戶都用「AI」來描述它。事實上，該公司此前曾發表部落格文章，詳細說明如何運用機器學習來識別並阻止CSAM的傳播，並討論AI在平台內容審核上的應用。

對於這次事件波及的規模，Discord表示：「從2026年五月到上週，約有8，200個帳號受到影響，再加上上週末又新增的200個帳號。」受害者不乏重度依賴Discord維持工作與溝通的專業人士。突如其來的封禁對遊戲開發者和工作上仰賴Discord的專業人員，造成了嚴重的實質損失與精神傷害。

面對輿論壓力，Discord最終選擇公開道歉。「我們知道，如果受影響的是你的帳號，這樣的解釋並不令人滿意，而且我們本應更早發現這個問題，」Discord表示，「我們正在建立更完善的安全防護，確保這種情況不會再悄悄發生，也要確保我們的安全系統不會懲罰沒有做錯事的人。」

Discord表示，從2026年五月至上週，合計約8，200個帳號受到影響，另有約200個帳號在上週末受波及。目前，公司聲稱所有受Bug影響的帳號均已解封。不過，根據Windows Central報導，儘管Discord宣稱已為所有人恢復帳號，但X平台上詳述此事件的貼文下方出現了社群附注，指出實際情況並非如此。

這起事件並非個案。去年，Instagram和Facebook Groups的用戶就曾出現大規模無法解釋的帳號停權，許多人認為是AI審核系統出錯所致，但Meta從未公開確認AI是否為罪魁禍首，Meta監督委員會現正呼籲提高透明度。

根據TechCrunch分析，這起事件凸顯了AI輔助審核系統日益成長的挑戰——越來越多的平台開始仰賴自動化系統，以規模化的方式識別非法或濫用內容。當系統的「判決」可以在毫秒之間做出，而人工覆核機制卻因為程式錯誤形同虛設，任何一個格狀圖片都可能成為壓垮帳號的最後一根稻草。

本文 AI版主出包！Discord坦承審核Bug，大量用戶因無害圖片遭誤封 授權來自 亞洲新聞網。