對於社群網站，對用戶發文的內容審查是必須的。然而，近年來Meta一再因為內容審查的原因，大量地把一些無辜者的粉專、帳號刪除，造成了相當多的災情。
而這種情況，在Meta大量裁減人力，又大力推動以 AI 取代人工內容審查員的情況下越演越烈。這種過度依賴演算法的決策機制，正引發一連串的災難。
更令人絕望的是，當使用者試圖尋求申訴管道時，面對的依然是一道由 AI 機器人所築起的無情高牆。
英文名師百萬追蹤帳號一夕清空，申訴失敗遭「永久刪除」
今年 3 月的一個深夜，40 歲的卡米爾·漢森（Camille Hanson）被手機彈出的一則緊急通知驚醒。她與 42 歲的丈夫卡爾文（Calvin）在 Facebook 與 Instagram 上共同營運著一個專為非英語母語者設計的英語教學頻道，累積了近 100 萬名追蹤者，這是他們全家人的心血與生計來源。
然而，這套帳號突然被 Meta 系統標記為「待刪除」，理由是違反了關於「詐欺與欺騙行為」的社群守則。
「我不過是個英文老師，我到底做錯了什麼？」漢森困惑地回憶道。面對這項莫名其妙的指控，她連忙按下了系統提供的申訴按鈕。
令人意想不到的是，僅僅在一週過後，她收到了另一條冷冰冰的通知：申訴已被駁回。Meta 在回覆中斬釘截鐵地表示：「您的所有資訊都將被永久刪除，您無法再針對這一決定提出新的覆核請求。」
卡爾文在葡萄牙家中接受採訪時，憤怒與無奈溢於言表：「這感覺就像你開了一家實體店面，結果突然有人直接跑來把你的辦公室或店面給鎖了，甚至當場拆毀，而你連溝通的機會都沒有。」
Meta 大裁員後，管理全交給 AI 機器人！
漢森一家的遭遇絕非孤例，而是 Meta 在自動化過渡期中產生的典型受害案例。
今年 3 月，Meta 正式宣布計劃將更多裁決權移交給 AI 機器人，由系統自動判定哪些帳號違反規則、刪除有害圖片或處理帳號封鎖。幾個月後，該公司隨即展開大規模裁員，數千名原本負責人工審查與客服的員工遭到解雇。
然而，AI 的實際表現顯然無法令人信服。越來越多的受害者在網路上串聯，目前已有超過 6 萬名使用者簽署了一份聯合請願書，要求 Meta 提高帳號封鎖機制的透明度，並強制引進「人工審查」來處理使用者申訴。
在 Reddit 等知名論壇上，針對 Meta AI 審查系統的投訴與怨言更是鋪天蓋地。
面對外圍排山倒海的質疑，Meta 發言人丹尼爾·羅伯茨（Daniel Roberts）則堅稱 AI 的表現遠優於人類。
他強調，公司新一代的 AI 審查工具比人工員工「少犯 13% 的錯誤」，且能「多發現 10% 的違規內容」。
針對《紐約時報》所提出的五個具體個案，羅伯茨辯稱這些帳號全部都是被「舊版 AI 審查工具」誤封的，並表示：「我們致力於減少執行錯誤，並幫助個人保護他們的帳號。AI 在這兩方面都在取得成效。」
然而，Meta 近期頻頻爆發的 AI 相關爭議，讓羅伯茨的說法顯得無力：
- 客服漏洞引爆駭客危機：今年 5 月，駭客利用 Meta AI 客服聊天機器人的漏洞，成功入侵了高達 3.4 萬個 Instagram 帳號，其中甚至包含美國前總統歐巴馬的前白宮團隊帳號。
- 監控員工鍵盤遭抗議：同月，Meta 內部員工針對一項「追蹤鍵盤敲擊以訓練 AI」的秘密計畫發起強烈抗議，逼得公司不得不緊急暫停該計畫。
- 演算法開除殘疾員工遭起訴：上週，26 名前 Meta 員工聯合提起訴訟，指控公司利用一套 AI 演算法進行不當解雇，且該演算法專門針對殘疾員工。對此 Meta 發言人回應稱：「人力資源管理與組織決策過去和現在都是由人類做出的，而不是 AI。」
此外，致力於維護使用者權益的團體「人優先於平台」（People Over Platforms）今年發起線上請願，試圖倒逼 Meta 修改審查機制。然而，Meta 系統隨後竟指控多名參與連署的使用者涉嫌「分享兒童剝削內容」並逕行封鎖帳號，被使用者痛批是「雪上加霜」的惡意報復與系統失控。
紀念奴隸制終結組織遭指控違規！17 年品牌信用一夕歸零
社群組織「六月節紐約」（JuneteenthNY）負責人雅典娜·羅德尼（Athenia Rodney）也是這套失控系統的受害者。
該組織長期致力於紀念美國奴隸制的終結，所發布的內容皆為適合家庭觀看的文化歷史資訊。然而去年，Meta 的 AI 系統突然封鎖了她在 Facebook 與 Instagram 上的所有個人及工作帳號，通知僅簡單寫著：「我們的技術發現您的帳號或帳號上的活動不符合我們的規則。因此，我們的技術採取了行動。」
羅德尼翻遍了組織多年來的照片檔案與貼文，完全找不到任何可能違規的內容。後來她回想起來，在帳號被鎖前不久，系統曾警告在西雅圖與新加坡出現可疑的登入紀錄，但她人根本就在亞特蘭大。這意味著她的帳號很可能早已遭到駭客入侵。
雖然羅德尼立刻更改了密碼，但她旗下的 6 個商用與個人帳號依然被系統徹底封鎖。
為了挽回帳號，她展開了一場漫長的抗爭：提交身分證件證明身份、向商業改進局（BBB）與聯邦貿易委員會（FTC）遞交投訴信、聯繫州政府消費者保護辦公室，甚至在 LinkedIn 上私訊尋求 Meta 員工的幫助。然而，所有努力最終都石沉大海。
這場封鎖給「六月節紐約」帶來了致命的打擊。羅德尼表示，組織不得不花費大量精力向贊助商證明自己是一個運作近 20 年的合法機構。
「我們的贊助商過去都會透過社群媒體確認我們的影響力。現在他們點進我們的新帳號，看到只有 500 個追蹤者，就會質疑我們根本是冒牌貨，這讓我們的推廣工作舉步維艱。」
媒體介入後急翻案！「抱歉我們搞錯了」
直到《紐約時報》將這 5 個案例直接提交給 Meta 高層質詢後，事情才出現轉機。
Meta 在進行內部調查後承認，其中有 2 個帳號是因為遭到駭客入侵而被封鎖（駭客入侵後發布違規內容），1 個帳號屬於合理封鎖，而另外 2 個帳號——包含漢森夫婦的英語教學帳號與羅德尼的「六月節紐約」帳號——則純粹是「AI 系統誤封」。
在媒體曝光壓力下，Meta 隨後恢復了這 2 個被駭與 2 個被誤封的帳號。
擁有超過 50 萬追蹤者的 Instagram 網紅羅伯托·蘇亞雷斯（Roberto Suarez）也是幸運重獲帳號的一員。收到恢復通知後，他興高彩烈地重新向沉寂多月的粉絲發布內容。
然而，僅僅過了幾週，Meta 的自動化系統竟再次對他發動襲擊！
蘇亞雷斯再次收到了一封冷酷的電子郵件通知：「您的帳號已被暫停，因為您的內容違反了著作權法。如果您不採取行動，您的帳號將被永久停用。」
蘇亞雷斯堅決否認有任何侵權行為。最終，還是在《紐約時報》再次向 Meta 提出詢問後，他的帳號才第二次被解封。
至於漢森夫婦，他們最終收到了 Meta 發出的道歉郵件：「我們重新審核了您的帳號，發現上面的活動確實符合我們關於欺核與欺騙的社群守則，因此您可以再次使用 Instagram 了。很抱歉我們搞錯了。」
這句輕描淡寫的「很抱歉我們搞錯了」，凸顯出 Meta 目前自動化客服與 AI 審查機制的荒謬與失控。
對於依賴社群平台生存的小企業、內容創作者與公益團體而言，當申訴管道完全被 AI 壟罩、缺乏有效的人工介入時，任何一次演算法的「誤判」，都可能成為毀掉一個企業或組織的無情天災。
- 延伸閱讀：自研 AI 晶片「Iris」9 月投產！Meta 加速去 NVIDIA 化，鎖定三星 HBM 記憶體長期合約
- 延伸閱讀：Meta 研發全天候記錄「超級感知」智慧眼鏡！擬關閉錄影指示燈引發隱私監控隱憂
- 延伸閱讀：Meta智慧眼鏡遭紐約法院全面封殺，全美首例「法庭穿戴禁令」本月上路
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！