TikTok 強化 AI 內容防護！逾 30 億部影片已加上 AI 標示，將測試新系統打擊 AI 垃圾內容

生成式 AI 普及後，社群平台上的 AI 生成影片、假資訊與大量低品質內容也跟著增加。TikTok 近期公布最新安全政策，除了持續強化 AI 生成內容標示，也將測試新的 AI 垃圾內容偵測系統，並推出更多 AI 素養教育，協助使用者辨識 AI 生成內容與判斷社群資訊。

看到 AI 影片先別急著相信！TikTok 已為逾 30 億部影片加上 AI 標示

隨著 AI 生成內容越來越逼真，TikTok 持續強化 AI 內容的透明度。目前平台已透過內容憑證、創作者標示工具及隱形浮水印等方式，在全球超過 30 億部影片上加入 AI 生成內容標示，讓使用者在觀看影片時，更容易知道內容是否經過 AI 生成或修改。

TikTok 也是首個導入 C2PA 內容憑證的短影音平台，今年並正式加入 C2PA 指導委員會，持續參與內容來源與真實性的相關標準制定。

除了標示 AI 內容，TikTok 也正在測試「管理主題」功能，讓使用者自行調整想看到的 AI 內容數量；平台同時提供 Smart Split、AI Outline 等 AI 創作工具。

AI 垃圾影片、農場文也要管！TikTok 將測試升級版偵測系統

不只要「看得出 AI」，平台也開始處理大量 AI 生成垃圾內容可能造成的問題。TikTok 表示，將在未來幾週測試升級版 AI 垃圾內容偵測系統，針對發布 AI 生成垃圾內容與農場文的帳號進行辨識與處理。

其中，平台特別關注可能影響公共信任的內容，包括政治與時事、理財建議及醫療資訊等。TikTok 表示，今年前三個月已在全球移除超過 8,600 萬個虛假帳號，後續也會持續強化相關偵測機制。

投入逾 400 萬美元，TikTok 持續推動 AI 素養教育

面對 AI 生成內容增加，TikTok 持續將 AI 素養教育納入平台安全措施，至今已投入超過 400 萬美元，並與不同機構合作推廣 AI 辨識與負責任使用 AI 的相關知識。

使用者在 App 內搜尋 AI 相關詞彙時，可以看到相關辨識指南，學習如何判斷 AI 生成內容；平台也與 NAMLE、Henry Ajder、NoFiltr 及 Raspberry Pi Foundation 等合作，推出 AI 素養教育內容，目前相關計畫已累積超過 2 億次觀看。

TikTok 也持續推動「社群素養宇宙」，例如與事實查核單位 MyGoPen 合作「謠言終結星」活動，教導使用者查證資訊；另外也與 iWIN 網路內容防護機構合作「青少年守護星」，協助家長與青少年了解平台安全功能。

更新《社群自律公約》！持續降低詐騙與違規內容觸及

除了 AI 內容管理，TikTok 也在 9 月 24 日正式更新《社群自律公約》，以較簡單的語言與條款重新整理平台規範，讓創作者與使用者更容易了解哪些內容不符合平台規定。

在台灣市場，TikTok 結合主動偵測、使用者舉報、廣告規範及 AI 生成內容標籤等措施，降低詐騙內容觸及。根據相關機關通報，114 年第 4 季至 115 年第 1 季期間，經審核後移除 45,063 則詐騙廣告，並針對 784 個廣告主進行相關處分。後續平台仍會從 AI 內容標示、垃圾內容偵測、社群規範及數位素養教育等面向，持續強化社群安全機制。