YouTube加入「違規影片收視率」指標,用AI遏止色情、暴力影片散佈

YouTube加入「違規影片收視率」指標,用AI遏止色情、暴力影片散佈

YouTube 一直以來都十分謹慎審查上傳到 YouTube 上的影片,避免色情、暴力、騷擾或是仇恨言論等影片散播,大部分的情況下 YouTube 是透過人力搭配技術來標記不適當的影片,不過因為疫情影響,目前暫時是透過技術來協助人工審查。

但這樣做可能導致 YouTube 誤判而刪除不違反 YouTube 政策的內容,對此,YouTube 持續持續研擬不同的方式來更精準的判斷違規影片。

YouTube 每季公佈「社群規範違規處置報告」,透明化 YouTube 移除的違規內容資訊,從推出這份報告以來,已經有 8 千 3 百萬部影片和 70 億則留言因違反《社群規範》而遭到移除(圖為 2020 年 Q4 遭移除的影片數量以及發現的方式)。

新增「違規影片收視率」準則

自從 YouTube 從 2017 年大力投資機器學習技術之後,目前 YouTube 已經可以利用自動檢舉功能偵測出 YouTube 上 94% 的違規內容,而當中有 75% 的影片在觀看次數不到 10 次之前便會遭到移除;今天 YouTube 將加入「違規影片收視率(Violative View Rate)」 這項全新的數據指標,用更加透明的方式向使用者呈現系統的成效。

簡單來說,違規影片收視率協助 YouTube 判斷 YouTube 上違規內容的觀看次數所佔比例。

YouTube 團隊從 2017 年便開始在公司內部追蹤這項數據,這是評估 YouTube 是否盡責處理平台內容的重要指標。在持續投資人力與技術下,發現違規影片收視率逐漸下降。

最新的違規影片收視率介於 0.16% 到 0.18%,表示在 YouTube 上每一萬觀看次數中,有 16 到 18 次觀看了違規內容。與 2017 年同一季相比,違規影片收視率下降了超過 70%,這個成果主要歸功於 YouTube 所投資的機器學習技術。

YouTube加入「違規影片收視率」指標,用AI遏止色情、暴力影片散佈

新增「違規影片收視率」的好處在於,有助於減少違規影片影響的觀眾數量,也就是讓觀眾減少看到違規影片的機率。

舉例來說,某部違規影片累積了 100 次觀看次數,但出現在平台上的時間超過 24 小時;另一部影片在發布後數小時就已觸及數千位觀眾,然後才遭到移除,以影響範圍來說,後者影響較大,因此導入「違規影片收視率」就可以幫助 YouTube 找出更多這樣的影片。

YouTube 會對平台上的影片進行抽樣並計算違規影片收視率,再將結果傳送給內容審查專員,他們會判斷哪些影片確實違反政策,哪些則否。藉由抽樣調查,我們可以更全面地瞭解系統無法偵測出的違規內容。

 

YouTube Trust & Safety 總經理 Jennifer Flannery O’Connor 表示,YouTube 團隊會持續檢視及更新政策、與專家攜手合作,並公開說明違規處置的工作進展。我們致力於落實前述改進措施,避免違規內容在 YouTube 上出現,如此對觀眾、對我們的業務都有幫助

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則