內(nèi)容巡查的功能

設(shè)備巡檢

進入設(shè)備巡檢后，巡檢APP會顯示巡檢人員的全部巡檢計劃以及每個計劃當前應(yīng)執(zhí)行的周期，巡檢人員選擇要進行的計劃開始巡檢，從巡檢開始后，系統(tǒng)會一直記錄巡檢人員的軌跡信息，直至巡檢完成，巡檢界面分為兩種模式，數(shù)據(jù)列表模式和地圖模式，讓巡檢人員可以全方面了解自己的工作內(nèi)容，工作起來更加方便。

內(nèi)容巡查的能力

定期巡查

對APP進行定期違規(guī)信息巡查、智能搜索對抗巡查持續(xù)內(nèi)容運營支撐，根據(jù)日歷和監(jiān)管分析更新升級巡查庫對巡查結(jié)果進行人工校驗，人工拓展挖掘

專項巡查

根據(jù)監(jiān)管部門的專項治理要求提供臨時專項支撐巡查服務(wù)

數(shù)據(jù)清洗

對APP進行違規(guī)內(nèi)容巡查評估分析，制定清洗策略對后臺數(shù)據(jù)進行數(shù)據(jù)檢索回查和數(shù)據(jù)焦中過濾對清洗結(jié)果進行人工校驗，人工拓展挖掘

被忽視的內(nèi)容安全，App領(lǐng)域成了重災(zāi)難區(qū)

近年來，各類互聯(lián)網(wǎng)企業(yè)接連不斷因內(nèi)容違規(guī)問題被罰。企業(yè)有意自查，對內(nèi)容進行把控，卻處處是難題。行業(yè)到底怎么了？或者，更多想問的是我們的內(nèi)容安全屏障到底怎么了？

各家互聯(lián)網(wǎng)平臺都不約而同地開始升級風險管控力度，預(yù)防網(wǎng)暴能力，新上線“風險提醒”“發(fā)文警示”等功能，整治不當私信和不當評論，推動形成預(yù)防網(wǎng)暴的合力。

在加強風險管控的背后，是網(wǎng)暴已達到猖狂的程度。就拿近期的案例而言，上海姑娘因打賞外賣員200元被網(wǎng)暴跳樓；19歲女孩直播中被慫恿喝農(nóng)作物藥品，類似事件則多次被推上熱搜，而這只是互聯(lián)網(wǎng)內(nèi)容安全問題的冰山一角。

今年3月份，人民日報連發(fā)三篇評論斥責網(wǎng)暴。更早之前，中央網(wǎng)信辦也開展了“清朗·2022年春節(jié)網(wǎng)絡(luò)環(huán)境整治”專項行動，其中重點整治任務(wù)中，排在首位的就是“網(wǎng)暴、散播謠言等問題”，包括借疫情、社會熱點事件等挑動，進行人肉搜索、攻擊等情況。

針對此次專項行動，中國信通院與網(wǎng)易、博特智能等企業(yè)在2022年也完成了面向互聯(lián)網(wǎng)信息服務(wù)類企業(yè)的《內(nèi)容審核體系成熟度評估規(guī)范》，該規(guī)范將能幫助互聯(lián)網(wǎng)信息服務(wù)類企業(yè)全方面梳理內(nèi)容安全體系，及時查漏補缺，協(xié)助互聯(lián)網(wǎng)信息服務(wù)類企業(yè)開展“自查自糾”。

就在近期，中國信通院再次牽頭會同阿里、網(wǎng)易、中國移動、博特智能、YY直播、映客直播等互聯(lián)網(wǎng)信息平臺、機器審核服務(wù)商，召開了內(nèi)容審核機審能力調(diào)研會，重點對互聯(lián)網(wǎng)信息平臺在文本、圖片、視頻、音頻領(lǐng)域的機審能力進行了深入調(diào)研，將為國家有關(guān)部門開展后續(xù)規(guī)范工作提供科學依據(jù)。

這也預(yù)示著內(nèi)容安全領(lǐng)域的相關(guān)行業(yè)標準即將出臺，平臺對展示用戶內(nèi)容的審核負責任，將被正式規(guī)范約束。

智能內(nèi)容處理市場需要奇才

對于涉及內(nèi)容風險控制相關(guān)的企業(yè)而言，內(nèi)容巡查算是一個全新的解決方案。在積極嘗試的同時，更看重的是通過提前自查自糾，避免監(jiān)管機構(gòu)的事后懲戒，防患于未然，堵住內(nèi)容風險控制漏洞的同時，也堵住了企業(yè)的發(fā)展風險外溢，兩全其美。

從技術(shù)發(fā)展層面而言，AI技術(shù)是可以做到像人一樣初步判斷出一條評論是否“陰陽怪氣”，使用AI比人工進行內(nèi)容風險管控，效率更高，成本更低。

當然，我們也看到AI對自然語言的理解與處理還無法貼近人類的思維，特別是在多樣性語義環(huán)境變化中，以及邊界定義模糊的條件下，比如維權(quán)類內(nèi)容，機器還無法高精度識別。但這只是數(shù)據(jù)量的問題，AI通過大規(guī)模數(shù)據(jù)的不斷訓(xùn)練，克服瓶頸也只是時間問題。

不久的將來，被大眾寄予厚望的AI替代人工操作簡單、重復(fù)度高的工作是大勢所趨。

但我們希望的是，在內(nèi)容、社交、電商、游戲等涉及內(nèi)容風險控制的互聯(lián)網(wǎng)企業(yè)能重視平臺內(nèi)部的自查自糾，積極引入更適合的內(nèi)容風險控制體系，還互聯(lián)網(wǎng)一個清朗空間。