為了解決彈幕噴子，直播平台Twitch研發了一個深度學習系統

從電子郵件到論壇，從論壇到微博，再從微博到現在的視頻直播。當人們在網上發言的速度越來越接近口語的時候，也就給網絡噴子帶來了越來越多的便利。雖然從人類學會説到現在，還沒有什麼辦法能阻止人類之間互相對罵。但網絡空間不比線下，一個人用嘴罵人只能被少數人聽到，而在網上卻可能影響幾千人幾萬人。在最新一季的南方公園中，甚至認為網絡噴子是川普當選和第三次世界大戰以及人類登上火星的主要原因。
如何阻止網絡噴子成為了各大互聯網公司的一個共同的課題，而美國遊戲直播平台 Twitch 則為其它同行們提供了一個新鮮的思路。Twitch 今天上線了一個全新的工具 AutoMod，幫助主播們打擊活躍在自己聊天室內的噴子。




AutoMod 並不是事後審查，而是將那些疑似有攻擊性和歧視性的彈幕直接移入待審核列表由人來決定這些內容是否可以被放出來。根據選項，它可以過濾四類內容，分別是人身攻擊、性語言、侵略詞語和褻瀆詞語。

所有的專業噴子都會對任何使用機器過濾他們語言的行為感到不屑，因為他們總是能在第一時間找到突破屏蔽的方法。但是 Twitch 聲稱其工具遠遠不是一般的「關鍵詞過濾列表」工作模式，而是採用了深度學習和自然語言識別系統。也就是説 AutoMod 是以整句和語意的方式在識別每一條彈幕中的「惡意」程度。Twitch 的發言人説：「除了不當的詞語和短語之外，特定的表情符號的搭配和替換某些詞語用的另外一些詞語也會在第一時間被機器學會並過濾出來。」

根據 Twitch 的介紹，為了能夠讓這個攔截系統能夠成功的跟上噴子的腳步，Twitch 使用了亞馬遜 AWS 的機器學習平台作為後盾。亞馬遜在去年到今年賣的火熱的人工智能音箱 Echo 裏集成的智能助手 Alexa 就是使用這一深度學習平台調教出來的。這讓人看到了一絲將噴子從 Twitch 平台徹底驅逐的希望。

AutoMod 目前提供英文版，同時也在測試阿拉伯語，捷克語，法語，德語，意大利語，日語，韓語，波蘭語，葡萄牙語，俄語，西班牙語和土耳其語等 12 個語言的測試版本。Twitch 主播可以在設置面板裏將其打開。
不過如你所見，博大精深的漢語並不在其中。


資料來源：TECH2IPO