不僅要“打假”，Facebook 還要治理視頻直播中的裸露、暴力內容

據 VentureBeat 報道，12 月 1 日，Facebook 應用機器學習部門主管 Joaquin Candela 表示，Facebook 正在開發一項新的系統工具，可以在直播視頻中對令人反感的違規內容進行自動標記，同時會繼續利用人工智能技術來加強對視頻直播內容的監控。目前，這一自動標記系統工具已經開始在 Facebook 視頻直播產品 Facebook Live 上進行測試。
9 月初，Facebook 曾以不能顯示裸體為由“封殺”了一張著名越南戰爭照片“戰火中的女孩”，引發了很大爭議，遭到輿論普遍譴責。雖然，隨後 Facebook 恢復了此前所刪圖片，但對於內容適度性的困擾仍然存在。

在此之前，Facebook 對違規內容的干預主要是依賴用户的舉報，然後由 Facebook 員工依據公司“社區標準”進行干預和檢查。對於一些特別棘手的內容，可能涉及到政策調整的則需要由公司高層管理人員來參與做出決定。

《路透社》在今年 6 月份曾報道，Facebook 已經開始使用自動化技術來標記極端主義視頻內容。 Candela 也表示，公司現在已經越來越多地利用人工智能技術來監控和識別違規內容，其中包括裸露、暴力及其他任何不符合政策的內容。

與此同時，Candela 指出，利用人工智能技術來標記違規視頻內容目前仍處於探索階段，主要面臨着兩個方面的挑戰，“其一，你的計算機視覺算法必須足夠快，這一點我認為我們可以努力來實現。另一方面，需要以正確的方式來對違規事項進行優先決策排序，應該首先是由相關話題的專業人士來做決定，是否要對該敏感或者違規內容進行干預。”
所以，Facebook 表示公司將使用自動化技術來處理每週所收到的數千萬份報告，識別重複內容報告，並將標記的內容遞送給相關主題的專業人士進行評審。

整治違規內容視頻直播與近期打擊網絡假新聞的熱潮似乎保持了同步，在美國大選之前，一條聲稱弗朗西斯教皇支持特朗普的虛假報道被轉載近百萬次。Mark Zuckerberg在上個月也曾表示，Facebook 將使用人工智能技術來整治假新聞。

Facebook 人工智能部門主管 Yann LeCun 拒絕就利用人工智能技術檢測假新聞一事置評，但表示，News Feed 信息流功能的改善引發了過濾和審查制度之間，以及言論表達自由與體面、真實言論之間的權衡選擇矛盾。


資料來源：36Kr