移動app內(nèi)容巡查的特點(diǎn)

內(nèi)容漏審風(fēng)險預(yù)警

對移動應(yīng)用線上抓取的內(nèi)容進(jìn)行抽樣或全量內(nèi)容審核，及時發(fā)現(xiàn)違規(guī)內(nèi)容遺漏風(fēng)險

自定義內(nèi)容巡查

通過自定義巡查路徑，對包含自定義特征的場景進(jìn)行定時巡查

定時對線上內(nèi)容進(jìn)行抽樣或全量審核，及時降低漏審造成的影響，為完善內(nèi)容審核規(guī)則提供依據(jù)

線上內(nèi)容自動抓取

對移動應(yīng)用內(nèi)容發(fā)布平臺線上文字、圖片、音頻、視頻等內(nèi)容進(jìn)行定時抓取，實(shí)現(xiàn)內(nèi)容監(jiān)管

內(nèi)容巡查的功能

網(wǎng)站內(nèi)容自動抓取

對網(wǎng)站線上文字、圖片、音頻、視頻等內(nèi)容進(jìn)行定時抓取，實(shí)現(xiàn)網(wǎng)站內(nèi)容監(jiān)管

掃描二維碼簽到

無需NFC標(biāo)簽等設(shè)備，儀需手機(jī)掃描二維碼標(biāo)簽即可實(shí)現(xiàn)巡查簽到，智能手機(jī)均支持

二維碼防作假

特定地點(diǎn)強(qiáng)制拍照、隨機(jī)拍照、無法選取手機(jī)本地照片等等，可以在一定程度上有效避免二維碼簽到方式作假。

二維碼方式巡查雖成本低，但也容易作假，所以一定得具備防作假手段！

被忽視的內(nèi)容安全，App領(lǐng)域成了重災(zāi)難區(qū)

近年來，各類互聯(lián)網(wǎng)企業(yè)接連不斷因內(nèi)容違規(guī)問題被罰。企業(yè)有意自查，對內(nèi)容進(jìn)行把控，卻處處是難題。行業(yè)到底怎么了？或者，更多想問的是我們的內(nèi)容安全屏障到底怎么了？

各家互聯(lián)網(wǎng)平臺都不約而同地開始升級風(fēng)險管控力度，預(yù)防網(wǎng)暴能力，新上線“風(fēng)險提醒”“發(fā)文警示”等功能，整治不當(dāng)私信和不當(dāng)評論，推動形成預(yù)防網(wǎng)暴的合力。

在加強(qiáng)風(fēng)險管控的背后，是網(wǎng)暴已達(dá)到猖狂的程度。就拿近期的案例而言，上海姑娘因打賞外賣員200元被網(wǎng)暴跳樓；19歲女孩直播中被慫恿喝農(nóng)作物藥品，類似事件則多次被推上熱搜，而這只是互聯(lián)網(wǎng)內(nèi)容安全問題的冰山一角。

今年3月份，人民日報連發(fā)三篇評論斥責(zé)網(wǎng)暴。更早之前，中央網(wǎng)信辦也開展了“清朗·2022年春節(jié)網(wǎng)絡(luò)環(huán)境整治”專項(xiàng)行動，其中重點(diǎn)整治任務(wù)中，排在首位的就是“網(wǎng)暴、散播謠言等問題”，包括借疫情、社會熱點(diǎn)事件等挑動，進(jìn)行人肉搜索、攻擊等情況。

針對此次專項(xiàng)行動，中國信通院與網(wǎng)易、博特智能等企業(yè)在2022年也完成了面向互聯(lián)網(wǎng)信息服務(wù)類企業(yè)的《內(nèi)容審核體系成熟度評估規(guī)范》，該規(guī)范將能幫助互聯(lián)網(wǎng)信息服務(wù)類企業(yè)全方面梳理內(nèi)容安全體系，及時查漏補(bǔ)缺，協(xié)助互聯(lián)網(wǎng)信息服務(wù)類企業(yè)開展“自查自糾”。

就在近期，中國信通院再次牽頭會同阿里、網(wǎng)易、中國移動、博特智能、YY直播、映客直播等互聯(lián)網(wǎng)信息平臺、機(jī)器審核服務(wù)商，召開了內(nèi)容審核機(jī)審能力調(diào)研會，重點(diǎn)對互聯(lián)網(wǎng)信息平臺在文本、圖片、視頻、音頻領(lǐng)域的機(jī)審能力進(jìn)行了深入調(diào)研，將為國家有關(guān)部門開展后續(xù)規(guī)范工作提供科學(xué)依據(jù)。

這也預(yù)示著內(nèi)容安全領(lǐng)域的相關(guān)行業(yè)標(biāo)準(zhǔn)即將出臺，平臺對展示用戶內(nèi)容的審核負(fù)責(zé)任，將被正式規(guī)范約束。

智能內(nèi)容處理市場需要奇才

根據(jù)報送資料顯示，博特智能的App內(nèi)容巡查系統(tǒng)，采用自動化控制技術(shù)與檢測能力，在面向動態(tài)的違規(guī)信息和實(shí)時更新的UGC內(nèi)容監(jiān)控中，可以實(shí)現(xiàn)24小時對頁面進(jìn)行抓取，進(jìn)行抽樣專項(xiàng)巡查或者全量巡查，批量清理違規(guī)數(shù)據(jù)。在App端，則不需要讓企業(yè)推送數(shù)據(jù)，并能生成巡查報告，可以及時向企業(yè)發(fā)出漏審風(fēng)險預(yù)警，制定下一階段的內(nèi)容風(fēng)險控制工作計劃。

2019年成立的博特智能，開始在智能內(nèi)容處理市場嶄露頭角。梳理其背景后發(fā)現(xiàn)，博特智能很早之前就與中科院重點(diǎn)實(shí)驗(yàn)室有深度的合作，雙方的研究人員還聯(lián)合研發(fā)內(nèi)容科技的中心技術(shù)和產(chǎn)品。并獲得東湖創(chuàng)投、深創(chuàng)投集團(tuán)等數(shù)千萬元的投資加持賽道突圍。

可以說，博特智能的“加速跑”，也證明了其在自然語言理解、文本識別與過濾、圖像識別、視頻內(nèi)容分析、中文文本糾錯、格式文檔分析、文本摘要、文本感情的色彩判斷等方向已有多年的經(jīng)驗(yàn)和技術(shù)積累。

App內(nèi)容巡查系統(tǒng)，本質(zhì)上是一個主動監(jiān)測系統(tǒng)，三級內(nèi)容風(fēng)險控制閘門在對文本、圖片、視頻、音頻、直播的巡查過程中，會比“人機(jī)協(xié)同”更具有后發(fā)優(yōu)勢，在機(jī)器、人工都漏掉時，內(nèi)容巡查系統(tǒng)依然能實(shí)時發(fā)現(xiàn)風(fēng)險并前置處理。