Facebook要用AI提前探測恐怖主義，到哪一步了？

圖片來源：yotovr

自從被外界批評不足以應付極端主義之後，Facebook發言人週四首次向外公佈使用AI來遏制和消除恐怖主義內容的進展情況。
Facebook全球政策管理總監Monika Bickert和反恐怖主義政策經理Brian Fishman日前在一篇文章中表示，Facebook將利用AI來檢測有關恐怖主義的視頻或內容信息。在發現之後，Facebook將立馬刪除相關內容，以阻止它們出現在網站上。

“目前，我們正集中利用AI的先進技術都打擊與ISIS、基地組織及其相關的恐怖主義內容。在適當的時候，我們希望能將其擴及其他恐怖組織。”Facebook兩位發言人對此表示，“當有人試圖上傳恐怖照片或視頻時，我們的系統會將其與ISIS的宣傳視頻或者在Facebook上出現的其它極端圖片和視頻進行自動匹配，一旦匹配符合，則會立馬刪除這些內容。”

除此之外，Facebook還在進行相關實驗，對網站上恐怖分子可能使用的語言進行解析。對此前被Facebook禁用的賬户，Facebook也將加緊它們被重新啟用的管控，並在線識別和刪除恐怖主義支持者羣集。Facebook還表示，準備擴大技術的應用範圍，用在其它App中，包括WhatsApp 和 Instagram。
然而在反恐問題上，技術還不能完全解決問題，還需要人工來處理一些特定狀況。雷鋒網了解到，Facebook為此還成立了反恐團隊，該部門目前已有150名人員，職位有檢查官、工程師、執法人員不等。同時，Facebook還與其它一些機構和組織合作，也會定期與執法機關和政府合作。據雷鋒網(公眾號：雷鋒網)了解，去年12月，Facebook與其它科技企業合作，包括Twitter、微軟、Google旗下YouTube，創建了一個行業數據庫，以記錄恐怖分子的數字指紋。

就在5月初，Facebook還向外透露，明年將僱傭3000+的員工，以處理網站上出現的不良內容，還將加大力度刪除涉及謀殺、自殺及其它暴力行為的視頻。 在這個宣告之前，一名兇手利用Facebook直播了殺人過程，該事件性質極其惡劣，也將Facebook推向了風口浪尖，外界又一次對其在極端主義事件的無力進行了討伐。

距離上一次的討伐，尚不足一年，不過上次討伐的地點直接出現在法庭上。雷鋒網查閲的資料顯示，去年7月，在一起恐怖主義襲擊案中，受害人代表律師以“Facebook允許隸屬於恐怖組織哈馬斯的巴勒斯坦激進分子使用其服務來策劃恐怖襲擊活動，造成4名美國人喪生和1名美國人受傷的慘劇”為由，將Facebook告上了法庭，並向其提出10億美元的賠償。
雖然在該起案件中，Facebook被起訴的理由在法律上站不住腳，但這也推進了Facebook對反恐的重視和投入。於是，就有了今日Facebook發言人向外宣佈的進展和成果。

值得注意的是，隨着社交媒體影響力的擴大，Facebook目前的月活用户已接近20億。如此量級，必然會滋生內容審查上的諸多問題。更別説還有許多假新聞、暴力、謀殺等內容。

當然，選擇用AI技術對恐怖主義內容進行圖片匹配，已經是Mark Zuckerberg在2月份發佈的Facebook前景信中的一個進展。當時，Mark Zuckerberg稱，Facebook正在研發AI系統，可自行閲讀文本、查看照片和視頻。但該系統當時還處在發展初期，尚有一些潛在問題。

以此為例，我們能看到Facebook利用AI解決反恐的步調和決心，這也將激發其他科技巨頭在這一塊的行動。正如那句話所説，科技發展的終極是讓世界變得更加美好。

雷鋒網原創文章，未經授權禁止轉載。詳情見轉載須知。



資料來源：雷鋒網