內容巡查的概述

針對業務系統包括APP中的文本、圖片、音頻和視頻等信息進行安全檢測和過濾，結合國家監管政策要求，提供對內容的涉政、違禁、廣告等風險內容巡查。

為數據內容提供全方面敏感性檢測，結合國家政策法規，提供文本、圖片、音頻、視頻、網頁等方面，關于涉政、違禁、廣告等內容風險，實現準確、全方面覆蓋的內容審核過濾。

移動端app內容巡檢的創新點

1、移動端軟件的開發，實現了巡查人員現場完成采集，且數據可分析；

2、后臺管理軟件的開發，實現了巡查工作的管理，能自動匯總分析報表；

3、數據采用離線采集機制，通過同步功能，無網絡覆蓋也能采集數據；

4、具有異常推送功能；

5、實現制造業巡檢管理的云架構方式，提高巡檢管理的效率及有效性。

內容巡查的效率

巡查人員未認真巡查，可設置三級督辦，每超時一級便往上提報一級，適時升級，管理介入，提升服務品質和管理效率

接單/處理超時督辦

接單環節和處理環節均可設置超時督辦超時時間范圍可設；督辦層級可設

三級督辦提醒

工單接單超時每超過一級，均會有新語音消息和信息推送提醒，巡查工單內容會顯示為紅色和超時標記

被忽視的內容安全，App領域成了重災難區

近年來，各類互聯網企業接連不斷因內容違規問題被罰。企業有意自查，對內容進行把控，卻處處是難題。行業到底怎么了？或者，更多想問的是我們的內容安全屏障到底怎么了？

各家互聯網平臺都不約而同地開始升級風險管控力度，預防網暴能力，新上線“風險提醒”“發文警示”等功能，整治不當私信和不當評論，推動形成預防網暴的合力。

在加強風險管控的背后，是網暴已達到猖狂的程度。就拿近期的案例而言，上海姑娘因打賞外賣員200元被網暴跳樓；19歲女孩直播中被慫恿喝農作物藥品，類似事件則多次被推上熱搜，而這只是互聯網內容安全問題的冰山一角。

今年3月份，人民日報連發三篇評論斥責網暴。更早之前，中央網信辦也開展了“清朗·2022年春節網絡環境整治”專項行動，其中重點整治任務中，排在首位的就是“網暴、散播謠言等問題”，包括借疫情、社會熱點事件等挑動，進行人肉搜索、攻擊等情況。

針對此次專項行動，中國信通院與網易、博特智能等企業在2022年也完成了面向互聯網信息服務類企業的《內容審核體系成熟度評估規范》，該規范將能幫助互聯網信息服務類企業全方面梳理內容安全體系，及時查漏補缺，協助互聯網信息服務類企業開展“自查自糾”。

就在近期，中國信通院再次牽頭會同阿里、網易、中國移動、博特智能、YY直播、映客直播等互聯網信息平臺、機器審核服務商，召開了內容審核機審能力調研會，重點對互聯網信息平臺在文本、圖片、視頻、音頻領域的機審能力進行了深入調研，將為國家有關部門開展后續規范工作提供科學依據。

這也預示著內容安全領域的相關行業標準即將出臺，平臺對展示用戶內容的審核負責任，將被正式規范約束。