一大早，朋友就告訴了筆者一個不好的消息：最近，他網(wǎng)站被網(wǎng)信辦約談了，需要至少關(guān)停一周，原因就是網(wǎng)站存在不良內(nèi)容。

事實上，在最近幾個月里，內(nèi)容安全問題似乎已經(jīng)成為了整個互聯(lián)網(wǎng)行業(yè)的普遍現(xiàn)象。5月27日，好奇心日報網(wǎng)站和App 自 2019 年 5 月 28 日零時起停止更新 3 個月，讀者評論和其他互動都將暫停；5月30日，B站、虎牙、斗魚等直播平臺相繼發(fā)布了系統(tǒng)技術(shù)升級通知，彈幕功能將受影響。

僅僅只是在5月份，就有B站、起點文學、晉江文學網(wǎng)、釘釘社區(qū)發(fā)布暫停更新或直接被查處懲罰。在如今的互聯(lián)網(wǎng)行業(yè)，使用國內(nèi)的服務(wù)器并作出產(chǎn)品備案審核，哪怕你只是一個小平臺，只要存在不良內(nèi)容，那么你就有被約談的可能。

在不斷營造風清氣正的互聯(lián)網(wǎng)環(huán)境的過程中，是否配有內(nèi)容安全、以及內(nèi)容安全風控能力怎樣，開始真正影響到一家互聯(lián)網(wǎng)企業(yè)的發(fā)展甚至命運。

正常來說，以往出現(xiàn)內(nèi)容安全問題的企業(yè)大多數(shù)是頭部知名企業(yè)，但伴隨著互聯(lián)網(wǎng)行業(yè)的成熟，情況已經(jīng)不一樣了。從目前的市場態(tài)勢來看，不僅是筆者朋友的小網(wǎng)站被約談，從監(jiān)管頻率、監(jiān)管力度、監(jiān)管范圍來看，整個互聯(lián)網(wǎng)行業(yè)已經(jīng)徹底告別簡單粗暴的發(fā)展階段，不管一個企業(yè)的融資金額、用戶數(shù)據(jù)、營收數(shù)據(jù)有多好看，一旦觸碰到法律法規(guī)，縱然是幾億甚至幾十億價值的產(chǎn)品，一樣只能跟市場告別。

隨著近兩年營造風清氣正互聯(lián)網(wǎng)環(huán)境的決心，正把諸多在上個階段無序發(fā)展的互聯(lián)網(wǎng)公司弄得始料不及。

大小產(chǎn)品均被大范圍監(jiān)管 內(nèi)容安全已成為互聯(lián)網(wǎng)行業(yè)最大的隱雷

不止是5月迎來了互聯(lián)網(wǎng)產(chǎn)品內(nèi)容安全問題爆發(fā)季，在最近這幾個月，你會發(fā)現(xiàn)包括雪球、今日頭條、知識星球、簡書在內(nèi)的諸多知名APP，全部都曝出了內(nèi)容安全事件，被暫停更新、甚至下架等。

其中，近期最轟動的就是晉江文學網(wǎng)被查處、起點中文網(wǎng)多個頻道要求整改的消息。作為一家成立于2003年的老牌女性網(wǎng)絡(luò)文學網(wǎng)站，晉江文學已經(jīng)衍生出大量知名的影視IP，其中就包括了《花千骨》、《魔道祖師》、《鎮(zhèn)魂》、《知否？知否？應是綠肥紅瘦》、《香蜜沉沉燼如霜》、《羋月傳》、《微微一笑很傾城》、《美人心計》、《戰(zhàn)長沙》、《何以笙簫默》、《泡沫之夏》等火熱作品。

在IP泛娛樂市場越來越大的情況下，擁有大量IP的晉江文學，本來可以迎來更迅猛發(fā)展，但因為在內(nèi)容安全管理方面存在漏洞，導致晉江文學有部分內(nèi)容涉嫌傳播淫穢色情信息行為被北京掃黃打非部門查處，大大影響了晉江文學的發(fā)展。

同時，哪怕是最大的網(wǎng)文平臺起點中文網(wǎng)，也因內(nèi)容安全問題讓業(yè)務(wù)受到影響。起點中文網(wǎng)問題突出的“都市”頻道“異術(shù)超能”欄目、“女生網(wǎng)”頻道“N次元”欄目暫停更新7天，很多火熱的網(wǎng)文作品也受此影響不能更新甚至被封禁，大量作者跪求讀者們不要下架他們作品。

這一切，歸根結(jié)底還是網(wǎng)文平臺在內(nèi)容安全管理存在缺陷。包括晉江文學、起點中文在內(nèi)的諸多互聯(lián)網(wǎng)平臺，他們在激烈的市場競爭都沒有倒下，沒想到竟然會在內(nèi)容安全問題上“折戟”，這值得所有互聯(lián)網(wǎng)從業(yè)者警惕。

同時，從去年下半年開始，包括阿里云在內(nèi)的諸多域名/主機服務(wù)商，對內(nèi)容審核的要求也越來越高，網(wǎng)站備案的難度顯著提升。在備案資料方面，以前阿里云的企業(yè)備案只需要營業(yè)執(zhí)照和法人身份證就行，但去年下半年開始阿里云的企業(yè)認證需要企業(yè)手持身份證和營業(yè)執(zhí)照一起拍照，這讓一個網(wǎng)站備案的時間也越來越長。

很多企業(yè)千辛萬苦完成阿里云網(wǎng)站備案之后，結(jié)果又強制要求阿里云備案的域名就必須使用阿里云的服務(wù)器，否則在系統(tǒng)檢測出來之后將面臨停止服務(wù)器訪問甚至取消備案的后果。但如果使用阿里云服務(wù)器，你就會發(fā)現(xiàn)阿里云服務(wù)器端的垃圾內(nèi)容過濾機制開始影響到網(wǎng)站運營，系統(tǒng)總是時不時地就停止了一些網(wǎng)頁訪問，要求修改內(nèi)容才能繼續(xù)開啟服務(wù)器提供服務(wù)。

這些舉措看似的阿里云的審核趨嚴，本質(zhì)卻是整個中國互聯(lián)網(wǎng)環(huán)境在更加正能量的發(fā)展過程中，網(wǎng)絡(luò)基礎(chǔ)服務(wù)平臺需要配合監(jiān)管部門必須去做好的一些信息工作。

與此同時，不止是中國對內(nèi)容安全監(jiān)管趨嚴。國外也對內(nèi)容安全開始加強監(jiān)管。新西蘭總理Jacinda Ardern之前表示，科技公司應被視為“出版商，而非只是郵遞員”，而澳大利亞總理Scott Morrison也曾表示：“把互聯(lián)網(wǎng)當作一個無人管理的空間是不可接受的。”

法律層面，國外也開始不斷立法。澳大利亞今年通過一項新法律，嚴控在社交媒體上傳播暴力內(nèi)容，如果社交媒體平臺沒有快速刪除平臺上暴力恐怖內(nèi)容，公司高管可能被判入獄3年，而社交媒體平臺也將面臨高達其年營業(yè)額10%的罰款。而在同一個時間段，歐盟也通過草案：如果無法在一小時內(nèi)刪除恐怖主義內(nèi)容，企業(yè)將面臨最高達全球營業(yè)額4%的罰款。

內(nèi)容安全問題也發(fā)生在其他國家。比如抖音國際版TikTok 在印度非?；馃?，但前段時間也因為內(nèi)容問題遭受封禁。同時，著名游戲平臺Steam也被印尼政府封禁過，印尼甚至還要求過Google、Facebook對一些違規(guī)內(nèi)容進行下線刪除。

從這來看，不論是國內(nèi)還是國外，內(nèi)容安全已成互聯(lián)網(wǎng)企業(yè)標配風控項，而且基本涵蓋所有的互聯(lián)網(wǎng)行業(yè)。

不管你是不是內(nèi)容產(chǎn)品，哪怕你是一個服務(wù)型產(chǎn)品，但你產(chǎn)品里有評論和展示內(nèi)容，你就一樣有可能會遭遇內(nèi)容爆雷的風險。這樣一來，內(nèi)容安全就必須是標配。

在這個具備一定門檻的市場中，創(chuàng)業(yè)不僅要考慮用戶、資金、資源從哪里來，還必須重視監(jiān)管層面的問題，真正地承擔起主體責任，才能守住一家互聯(lián)網(wǎng)公司的生命線。

如何排除內(nèi)容安全這顆雷？思維、技術(shù)、策略都需要突破

怎么辦？生活再殘酷，也還得繼續(xù)。

盡管互聯(lián)網(wǎng)行業(yè)不再是可以簡單粗暴獲得流量然后變現(xiàn)的時代，對于內(nèi)容和服務(wù)的要求也越來越高，但這某種意義上也是一個大浪淘沙的過程，是真正將劣質(zhì)的信息驅(qū)除出去的一個過程，這也是互聯(lián)網(wǎng)創(chuàng)業(yè)者必經(jīng)的一個過程。

那么，面對這樣所有互聯(lián)網(wǎng)企業(yè)都不得不去重視的生命線，大家又應該怎么辦？我認為，最核心是其實就是要從思維、技術(shù)、策略三個層面進行再升級、再突破。

（1）對于內(nèi)容安全，筆者認為很多人需要從思維上進行突破。其實在很多年前，就有很多互聯(lián)網(wǎng)企業(yè)在做跟內(nèi)容安全相關(guān)的事情，其中最簡單粗暴的方式就是關(guān)鍵詞文字過濾。

尤其是對于媒體和社區(qū)來說，建立一個違規(guī)關(guān)鍵詞數(shù)據(jù)庫，然后用文字一對一地進行判斷識別，然后對帶有違禁詞的內(nèi)容進行屏蔽，這是一個哪怕到現(xiàn)在還還在沿用的一種內(nèi)容安全管理方式。

在過去，很多企業(yè)也許在內(nèi)容安全管理方面就做了這么一件事情，然后也安穩(wěn)度過了很多時間，這讓很多人認為內(nèi)容安全其實就是做關(guān)鍵詞屏蔽，導致有一些企業(yè)對于內(nèi)容安全不夠重視。

事實上，大家要從思維上重新認識內(nèi)容安全。過去很多公司覺得從監(jiān)管部門或者其他渠道拿到了一些關(guān)鍵詞列表加入到數(shù)據(jù)庫中進行屏蔽，內(nèi)容安全就搞定了，這導致很多企業(yè)一度都不舍得再升級技術(shù)和招聘內(nèi)容審核人員。

事實上，時代已經(jīng)發(fā)生了變化。這是一個富媒體時代，圖片、視頻、音頻的內(nèi)容安全遠比文本處理要復雜，早已進入到了人工智能不斷迭代+人工審核補充的時代。從最近這兩年的多起內(nèi)容安全事故之后，以百度、騰訊、阿里、今日頭條為首的諸多公司都紛紛加大了內(nèi)容審核人員和技術(shù)的投入力度。

從這個角度來看，尤其是在行業(yè)處于中上地位的企業(yè)，格外要重視從思維上進行升級。

有些互聯(lián)網(wǎng)企業(yè)在內(nèi)容安全上出問題，跟他們此前的思維落后有些關(guān)系。只有首先從思維上對內(nèi)容安全重視、對內(nèi)容安全給予持續(xù)的投入，才能真正從管理執(zhí)行方面解決內(nèi)容安全問題。

（2）那么，策略方面大家應該如何做呢？巨頭和中小公司的策略顯然不一樣，并且內(nèi)容安全管理和整體的運營策略也已經(jīng)關(guān)聯(lián)非常緊密，如何做好新時代的內(nèi)容安全管理，還得結(jié)合實際情況來看。

對于有一定數(shù)據(jù)規(guī)模和數(shù)據(jù)沉淀的大企業(yè)來說，如果本身技術(shù)實力還可以，那么人工+自建體系+內(nèi)容安全服務(wù)商三重方式去做，是最穩(wěn)妥的。如果擁有政策法規(guī)解讀能力再加上得當?shù)倪\營策略制訂，以及能持續(xù)不斷地投入算（物）力、人力，也可以采用人工+自建體系。

但對于大多數(shù)本身數(shù)據(jù)和公司規(guī)模都不大的中小企業(yè)來說，由于數(shù)據(jù)沉淀不及巨頭，且很難及時、正確地解讀政策法規(guī)，那么自建體系這個部分或許就只能換成尋找靠譜的內(nèi)容安全服務(wù)商。

為什么這么說呢？一方面，自建體系如果沒有強大數(shù)據(jù)做沉淀，其整個體系的訓練模型也很難達到預期效果，導致投入了還是會出現(xiàn)內(nèi)容安全問題；另外一方面，自建內(nèi)容安全體系成本并不小，如果不能持續(xù)的重金投入，最后也可能達不到自用的預期。

那么，第三方內(nèi)容安全服務(wù)商應該如何選擇？市場主要也就是兩類服務(wù)商，一類是專門一直做技術(shù)類服務(wù)商的企業(yè)，他們跟上了這個時代的技術(shù)步伐，能夠提供一些技術(shù)解決方案，另一類就是不僅擁有技術(shù)實力，還擁有大量數(shù)據(jù)沉淀和自身也有內(nèi)容安全需求的大公司，這一類公司的內(nèi)容安全服務(wù)從效果、價格以及服務(wù)及時性、業(yè)務(wù)場景的覆蓋等維度來看綜合效益最好。

比較典型的是網(wǎng)易易盾，它擁有21年專業(yè)內(nèi)容安全防護經(jīng)驗及大數(shù)據(jù)積累，其次也服務(wù)了小米、花椒、VIVO、OPPO、網(wǎng)易新聞、網(wǎng)易云音樂等多款用戶過億的產(chǎn)品。根據(jù)它的官網(wǎng)顯示，易盾的第三代內(nèi)容安全服務(wù)提供鑒黃、涉政、暴恐、廣告等數(shù)十大類上千小類的有害內(nèi)容智能識別過濾服務(wù)，智能識別精準率超過99.8%。最近，網(wǎng)易易盾還推出了內(nèi)容安全月活動，能夠通過歷史數(shù)據(jù)專項策略布控、快速清洗、全面檢測，及時幫助中小企業(yè)降低內(nèi)容安全隱患。

這種服務(wù)，其實本質(zhì)是源自于網(wǎng)易內(nèi)部自身使用的技術(shù)解決方案和數(shù)據(jù)模型。網(wǎng)絡(luò)上有公開資料顯示，網(wǎng)易易盾是如今已達20+“高齡”的網(wǎng)易安全部在2016年，將其自身的技術(shù)沉淀和實踐云化并對外提供服務(wù)的結(jié)果。

如果說能夠獲得一個大公司自身使用的內(nèi)容安全解決方案，那么這樣的體系確實在實用性方面會更強。不過，選擇服務(wù)商也好，自建體系也罷，不容忽視的就是一定要在技術(shù)上有所突破。

（3）技術(shù)方面，其實最大的挑戰(zhàn)在于數(shù)據(jù)訓練模型和音頻、視頻處理的技術(shù)突破——如何高效、準確地處理不良內(nèi)容，這非?？简灱夹g(shù)體系的實力。

比如在短視頻和直播這兩年用戶激增后，很多主流平臺都因不良內(nèi)容被監(jiān)管部門處罰，音頻和視頻如何有效處理不良內(nèi)容一度成為一個難點。業(yè)內(nèi)是如何解決的？網(wǎng)易易盾饒曉艷此前就在接受雷鋒網(wǎng)采訪的時候有簡單分享過相關(guān)做法。

首先，他們結(jié)合政策法規(guī)和輿情分析團隊的策略、20多年的數(shù)據(jù)和技術(shù)沉淀，配合關(guān)鍵特征提取和識別訓練強化機器的訓練能力，讓內(nèi)容安全系統(tǒng)能夠利用人工智能技術(shù)實現(xiàn)視頻和音頻的有害信息識別與篩選。

后來，他們還會根據(jù)新事物、新特征不斷迭代內(nèi)容安全技術(shù)。比如短視頻中的呻吟聲或者嬌喘聲，以及ASMR場景下的違規(guī)音頻。這是用傳統(tǒng)手段無法識別的，網(wǎng)易易盾進行了技術(shù)迭代，使用了聲紋檢測技術(shù)，并在內(nèi)容安全類目上新增了嬌喘呻吟類。

從這個案例去看，不管是自建體系還是找服務(wù)商，最核心的一定是技術(shù)迭代速度要快，要及時跟進違法違規(guī)團隊的操作手段進行識別和處理，才有可能真正符合當前的監(jiān)管要求。

總體而言，內(nèi)容安全是如今所有互聯(lián)網(wǎng)公司都需要邁過去的一個門檻，只要在思維上有所突破，不管采用怎樣的策略去完善這塊的漏洞，在持續(xù)研究或者選擇前沿有效技術(shù)去解決問題之后，內(nèi)容安全的排雷工作自然也差不多完成了。

監(jiān)管更嚴的趨勢不可逆不重視內(nèi)容安全的公司注定被淘汰

1月份“掃黃打非”部門開展學習類APP專項整治工作；

3月全國“掃黃打非”辦公室在全國范圍內(nèi)開展“凈網(wǎng)2019”、“護苗2019”、“秋風2019”等專項行動，持續(xù)凈化社會文化環(huán)境；

4月份，全國“掃黃打非”辦公室又組織開展網(wǎng)上低俗信息專項整治活動。

一系列的監(jiān)管動作，讓大量的互聯(lián)網(wǎng)產(chǎn)品進入自查自糾或監(jiān)管部門強制要求整改狀態(tài)，這已經(jīng)凸顯出監(jiān)管部門要打造風清氣正的互聯(lián)網(wǎng)環(huán)境的決心是足夠堅定的。

在未來的中國、甚至國際的互聯(lián)網(wǎng)環(huán)境中，對內(nèi)容強監(jiān)管的趨勢，是不可逆的，因為守住公序良俗和道德底線，創(chuàng)造青少年健康成長的互聯(lián)網(wǎng)環(huán)境是所與人的共識。盡管這樣的趨勢會淘汰掉一大批互聯(lián)網(wǎng)企業(yè)，但互聯(lián)網(wǎng)終歸就是一個充滿了競爭】的商業(yè)生態(tài)。

監(jiān)管部門從規(guī)矩上為用戶們提供一個良好、健康、正能量的環(huán)境，只有真正可以承擔起主體責任的公司，才有可能在這樣一個新時代更好的生存下去?，F(xiàn)在互聯(lián)網(wǎng)行業(yè)一切都和內(nèi)容有關(guān)，在監(jiān)管更嚴的情況下，如果還不重視內(nèi)容安全，也許這樣的企業(yè)也只剩下被淘汰了。

作者介紹：小謙，小謙筆記（http://xiaoqianbiji.com/）創(chuàng)始人，互聯(lián)網(wǎng)觀察員，數(shù)十家科技媒體專欄作者，微信請聯(lián)系net1996