硅谷“多巴胺實驗室”的創(chuàng)始人拉姆塞·布朗說過，“這世界上肯定存在讓人上癮的代碼?！?/p>

　　而這句話很好地體驗在了國內(nèi)的今日頭條、抖音、快手等APP身上。不管是一線城市的白領(lǐng)，還是四五線城市的青年，都在手機上不斷滑動翻看這些會令人“上癮”的軟件。

　　業(yè)內(nèi)人士告訴時代財經(jīng)，這些流行APP內(nèi)都利用了AI算法進行興趣推送，會根據(jù)用戶的喜好不斷刷新用戶感興趣的內(nèi)容，這是令人“上癮”的原因之一。鑒于此，抖音甚至在近日上線了“防沉迷系統(tǒng)”，而以往這種機制大多只出現(xiàn)在游戲平臺上。

　　在度過最初的高速成長期后，抖音、快手等互聯(lián)網(wǎng)內(nèi)容平臺接連遇到了監(jiān)管這道坎。罰款、約談、下架、永久關(guān)停等字眼在最近一兩個月內(nèi)不停地出現(xiàn)，而這一切都指向了平臺的AI算法和審核機制上。

　　一連串的審核風(fēng)波不禁讓用戶大打問號，為何這些宣稱“以技術(shù)驅(qū)動”的互聯(lián)網(wǎng)公司仍然存在如此大的審核漏洞，仍然需要不斷加大人工審核的力度?更有網(wǎng)友戲稱：“說好的AI算法會讓人失業(yè)呢?原來AI反而能增加就業(yè)?！?/p>

　　借AI吸納用戶，卻不能有效監(jiān)管

　　今年3月底，快手平臺上存在大量“未成年媽媽”等低俗短視頻被央視陸續(xù)曝光，今日頭條也因廣告問題被推到輿論的風(fēng)口浪尖，兩家公司的CEO宿華和張一鳴相繼發(fā)布了致歉信。

　　張一鳴在4月11日表示，宣布永久關(guān)停內(nèi)涵段子APP并加強今日頭條的審核，“全面糾正算法和機器審核的缺陷，不斷強化人工運營和審核，將現(xiàn)有6000人的運營審核隊伍擴大到10000人?！?/p>

　　快手不久前也啟動了內(nèi)容審核員的大規(guī)模招聘，一口氣增加3000名審核編輯，招聘條件是團員和黨員優(yōu)先。

　　逐漸擴大的審核風(fēng)波，最后也波及到抖音。抖音先是關(guān)停所有評論、關(guān)閉直播系統(tǒng)，近日還因涉嫌發(fā)布售假視頻一事查刪視頻805個，封禁賬號677個，并被北京市工商局約談。

　　事后抖音CEO張楠透露，目前審核團隊的規(guī)模已經(jīng)有幾千人，而且“團隊人員每天都在增長”。

　　新招募的這些人員除了在運營層面給公司增加開支外，這也意味著快手、今日頭條、抖音等社區(qū)型產(chǎn)品在UGC內(nèi)容審核上還不能完全依賴它們所擅長的AI算法，“人工審核” 仍然占據(jù)非常重要的地位。

　　而這里面的“前輩”今日頭條，創(chuàng)立之初卻是把自己定位為一家技術(shù)驅(qū)動的科技公司，利用AI算法將基于個性化推薦的內(nèi)容消費做到極致。中國政法大學(xué)知識產(chǎn)權(quán)研究中心特約研究員李俊慧表示，人工智能和算法能幫助企業(yè)吸納大量用戶、提高產(chǎn)品粘性，卻不能反過來起到整治和導(dǎo)向的作用，顯然是技術(shù)和管理上的缺失。

　　AI何時才能勝任內(nèi)容審核?

　　早于十年前，在谷歌、Facebook、百度等大范圍開始使用算法進行審查的時候，媒體和創(chuàng)業(yè)者都不斷地勾畫著人工智能時代到來的場景。時至今日，AI雖然通過學(xué)習(xí)，不斷在提升系統(tǒng)對于內(nèi)容類型的識別和判斷概率，但不得不承認的是，對于內(nèi)容的審核目前主要還是依賴人工。

　　日前，麻省理工學(xué)院(MIT)、斯坦福大學(xué)、OpenAI聯(lián)合研究報告顯示，人工智能領(lǐng)域比以往任何時候都更加活躍，盡管人工智能在執(zhí)行一些非常具體的任務(wù)時已經(jīng)超越了人類，但它在一般智力方面仍然極其有限。

　　以月活用戶數(shù)超過20億的Facebook為例，在內(nèi)容審核上，這家面向全球的企業(yè)面臨的挑戰(zhàn)更加嚴峻。

　　Facebook的CEO扎克伯格近日稱，按照目前AI的智力水平，要解決審核問題只能暫時增加人工數(shù)量。目前Facebook擁有一個1萬5千人規(guī)模的運營審核團隊，預(yù)計今年年底增加至2萬人。

　　據(jù)Facebook的技術(shù)團隊介紹，目前AI的機器審核多用于文字內(nèi)容，如機器檢測到含有敏感詞匯的內(nèi)容，會將其刪除或向用戶發(fā)出警告。但對于圖片、視頻的審核，機器無法像對文字內(nèi)容一樣提取關(guān)鍵詞，審核仍然離不開人工。

　　但相悖的是，在目前信息爆炸的時代，如果沒有AI和算法幫助審核，眾多互聯(lián)網(wǎng)公司顯然無法運轉(zhuǎn)，反而需要越來越依賴AI。

　　此前“今日頭條”內(nèi)容質(zhì)量中心負責(zé)人、副總編輯李彤接受采訪時說，頭條一個人一天能處理的文章大概是1000篇，機器一秒鐘能處理100篇，“今日頭條”每天新增發(fā)布內(nèi)容是50萬條，全部由人工來做，要一個人工作500天才能看完，AI是不可或缺的。

　　今日頭條算法架構(gòu)師曹歡歡對時代財經(jīng)表示：“目前頭條的分享內(nèi)容識別技術(shù)模型主要分鑒黃模型、低俗模型、謾罵模型等，主要都是通過大量的樣本庫進行比對分析?！币灾櫫R模型為例，樣本庫超過百萬級別，準確率80%以上，召回率95%以上，“這部分模型更注重召回率，甚至可以犧牲一些準確率，也要提高安全性?！?/p>

　　李俊慧則認為，未來社交軟件和短視頻APP等應(yīng)該是“算法+人工”的競爭，其中人工的專業(yè)性將逐步升級到彌補或提升算法的正面導(dǎo)向作用，讓人工指導(dǎo)AI算法如何更好審核。