如今，直播+電商的模式不僅給互聯(lián)網(wǎng)產(chǎn)品運營帶來了新思路，也讓直播之火燃燒得更加旺盛。但與之同時，直播產(chǎn)品本身也產(chǎn)生的一系列問題，甚至極大地?fù)p害了用戶體驗，比如直播中的色情、廣告、謠言等。
在最近的網(wǎng)易運營開放日上，來自網(wǎng)易云安全(易盾)的產(chǎn)品總監(jiān)饒曉艷做了有關(guān)于短視頻、直播內(nèi)容安全運營實戰(zhàn)分享。在她看來，互聯(lián)網(wǎng)從業(yè)人員在產(chǎn)品日常運營中，除了要做到引導(dǎo)核心用戶貢獻優(yōu)質(zhì)的內(nèi)容，同時也要做到處理掉那些低質(zhì)量甚至是垃圾的內(nèi)容，整個處理的過程其實是在跟黑灰產(chǎn)團伙做持久攻防斗爭。
互聯(lián)網(wǎng)內(nèi)容建設(shè)現(xiàn)狀堪憂，黑產(chǎn)也會“追熱點”
據(jù)饒曉艷介紹，制造淫穢色情、詐騙信息、垃圾廣告等有害信息的團伙有一個很明顯的特征：追熱點。哪里有人氣、哪里有流量他們就在哪里扎推，不分晝夜，尤其會選擇夜間這一防守相對薄弱的時間段來發(fā)布垃圾惡意信息。
更為可怕的是，內(nèi)容制造商團伙基本上是通過網(wǎng)上協(xié)作的形式進行不良信息發(fā)布，他們有的是需求方，有的是接單方，而在接單方中又會細(xì)分為自動發(fā)帖機提供方、批量賬號提供方、垃圾內(nèi)容制造方。
以上“高效”的有害信息生產(chǎn)方式，足以讓互聯(lián)網(wǎng)產(chǎn)品的用戶體驗大打折扣。據(jù)中國互聯(lián)網(wǎng)違法和不良信息舉報中心數(shù)據(jù)顯示，平均每月全國各地網(wǎng)信辦受理網(wǎng)民舉報304.6萬件;淫穢色情、詐騙信息、垃圾廣告等有害信息源源不斷。其中，淫穢色情類有害信息仍較為突出，舉報達(dá)121.5萬件，占比67.2%;網(wǎng)絡(luò)社交工具的使用過程中碰到的侵權(quán)現(xiàn)象，廣告信息多占比最高70.8% 。
面對政策法規(guī)、用戶體驗，直播內(nèi)容安全危機重重
饒曉艷認(rèn)為，包括直播在內(nèi)的所有互聯(lián)網(wǎng)UGC產(chǎn)品的內(nèi)容運營風(fēng)險主要來自于兩方面：一是政策法規(guī)，目前很多國家法規(guī)里面已經(jīng)明確了對互聯(lián)網(wǎng)產(chǎn)品中相關(guān)內(nèi)容的要求——彈幕必須是要做到先審后發(fā);直播間必須有水印標(biāo)識;直播內(nèi)容必須要有二十四小時的審核監(jiān)管;表演者必須實名注冊等。
二是涉及到用戶體驗，“現(xiàn)在大家實際看到的云音樂評論是特別有故事性，或者經(jīng)常特別耐看，其實我們每天從云音樂的原創(chuàng)歌單或者評論區(qū)刪掉的內(nèi)容也非常多”，饒曉艷說，“不同的粉絲群經(jīng)常也會出現(xiàn)掐架或者撕逼的狀態(tài)，分分鐘人身攻擊到比較嚴(yán)重的程度，這些情況都需要過濾和處理”。
從直播類產(chǎn)品痛點案例來看，目前直播類碰到的內(nèi)容監(jiān)管有四個比較明顯的難點：首先是彈幕聊天室的實時審核;然后是色情審核，現(xiàn)在仍然有秀場類的主播通過衣服脫下去再馬上穿上的秒錄行為打“擦邊球”，如果監(jiān)管不及時，很難抓到;再次是用戶突發(fā)通過平臺直播一個群體事件或者不良事件，平臺需要擔(dān)責(zé);最后則是成本和技術(shù)方面的持續(xù)積累和投入負(fù)擔(dān)過重。
網(wǎng)易云安全(易盾)如何在實戰(zhàn)中解決內(nèi)容安全問題?
面對專業(yè)黑產(chǎn)、政策法規(guī)規(guī)范、用戶體驗差等風(fēng)險，饒曉艷解釋說，網(wǎng)易云安全(易盾)在給內(nèi)部產(chǎn)品或者外部產(chǎn)品提供內(nèi)容安全服務(wù)時，首先會從文本、圖片、視頻和語音等方面入手，來一次全面的檢測;在為做直播類產(chǎn)品提供服務(wù)時，網(wǎng)易云安全(易盾)還會從彈幕實時過濾、用戶頭像/昵稱過濾、聊天區(qū)文本/圖片過濾、直播間電視墻監(jiān)控等方面來做內(nèi)容安全解決方案。
“現(xiàn)在法規(guī)要求實名認(rèn)證，我們的聯(lián)動行為式驗證碼和聯(lián)動身份認(rèn)證都是在發(fā)垃圾之前提高相應(yīng)的門檻，然后擋掉一部分的垃圾用戶”，饒曉艷說，“直播中掛機或者黑屏的行為，我們也會去做檢測”。
據(jù)介紹，在外部客戶口碑中，網(wǎng)易云安全(易盾)得到了全聚星、一起秀等負(fù)責(zé)人的高度評價。一起秀CTO黃景素就曾表示：“隨著一起秀產(chǎn)品的不斷發(fā)展，用戶量急劇上升，彈幕區(qū)留言區(qū)的參與活躍度都非常高，運營審核人員已不堪重負(fù)，網(wǎng)易易盾幫助我們解決了燃眉之急，切實幫助我們有效過濾了不良信息，減少了運營風(fēng)險”。
饒曉燕總結(jié)說，做內(nèi)容安全必須注意以下重要環(huán)節(jié)——注冊、登錄、帳號各個環(huán)節(jié)做預(yù)先的處理;做一些相應(yīng)地法律法規(guī)學(xué)習(xí);重點關(guān)注的產(chǎn)品熱門板塊等。網(wǎng)易云安全(易盾)團隊在內(nèi)部做了將近二十年的內(nèi)容安全工作，內(nèi)容的審核方式也正在從人工到人工智能的演進，在未來，網(wǎng)易云安全(易盾)希望能為廣大政企客戶、開發(fā)者們提供更為完善高效的內(nèi)容安全解決方案。
微信掃一掃
