12月1日，抖音平臺(tái)治理開放日圍繞安全運(yùn)營(yíng)、審核、技術(shù)攻防、聯(lián)合打擊等話題展開。首次對(duì)外亮相的抖音安全中心團(tuán)隊(duì)稱，該中心日均攔截處理的違法違規(guī)內(nèi)容、行為超10億條，近4個(gè)月已協(xié)助各地公安機(jī)關(guān)打擊涉嫌詐騙、色情的黑灰產(chǎn)團(tuán)隊(duì)25個(gè)。

　　據(jù)介紹，抖音安全中心設(shè)置了安全運(yùn)營(yíng)、安全風(fēng)控以及治理打擊等多個(gè)團(tuán)隊(duì)，堅(jiān)持“提前發(fā)現(xiàn)、事先攔截、事中提醒、事后追擊”的治理原則，專門負(fù)責(zé)抖音平臺(tái)違法違規(guī)內(nèi)容與行為的治理工作。

抖音安全中心負(fù)責(zé)人帥帥介紹團(tuán)隊(duì)

　　數(shù)據(jù)顯示，抖音安全中心日均攔截處理的違法違規(guī)內(nèi)容、行為超10億條，其中包括違規(guī)注冊(cè)、刷量、刷粉、點(diǎn)贊以及發(fā)布違規(guī)評(píng)論、視頻等多類內(nèi)容行為。近4個(gè)月已協(xié)助各地公安機(jī)關(guān)打擊涉嫌詐騙、色情的黑灰產(chǎn)團(tuán)隊(duì)25個(gè)，刑事拘留87人。今年以來(lái)，抖音安全中心封禁色情導(dǎo)流和色情招嫖帳號(hào)超過(guò)100萬(wàn)，僅9月期間就封禁305248個(gè)帳號(hào)。“仿冒名人”專項(xiàng)打擊中，已封禁黑產(chǎn)作弊賬號(hào)18萬(wàn)多個(gè)，重置仿冒資料用戶6萬(wàn)余個(gè)，處理問(wèn)題視頻超過(guò)400多萬(wàn)條。“群控軟件”專項(xiàng)打擊中，抖音已在杭州、深圳及廣州等地針對(duì)四家涉及抖音的“群控軟件”運(yùn)營(yíng)公司提起訴訟，相關(guān)“群控軟件”已被勒令停止運(yùn)營(yíng)。

　　抖音安全中心負(fù)責(zé)人帥帥介紹，在平臺(tái)違規(guī)內(nèi)容、行為的提前發(fā)現(xiàn)與攔截方面，抖音采取平臺(tái)內(nèi)外配合的機(jī)制。除了通過(guò)內(nèi)部組建團(tuán)隊(duì)，建立完善審核、巡檢機(jī)制和流程，通過(guò)多種技術(shù)手段多渠道進(jìn)行巡檢審核外，中心還邀請(qǐng)了外部專業(yè)人士、平臺(tái)用戶參與到平臺(tái)審核流程中。目前，抖音提供了多種用戶舉報(bào)渠道，包括站內(nèi)舉報(bào)、郵箱舉報(bào)、違法和不良信息舉報(bào)電話、“啄木鳥舉報(bào)平臺(tái)”小程序等。據(jù)他透露，截至2020年11月，“啄木鳥舉報(bào)平臺(tái)”小程序已經(jīng)累計(jì)處理用戶反饋的違法違規(guī)帳號(hào)159.5萬(wàn)個(gè)。

抖音安全風(fēng)控專家張曦盛介紹抖音風(fēng)控工作中的技術(shù)對(duì)抗

　　黑灰產(chǎn)行為，通常是在上游進(jìn)行賬號(hào)注冊(cè)、買賣，然后在短視頻、社交媒體等平臺(tái)上實(shí)施引流，落地到社交軟件平臺(tái)上實(shí)施詐騙、傳播色情內(nèi)容，部分會(huì)再到電商平臺(tái)進(jìn)行變現(xiàn)。黑灰產(chǎn)行業(yè)的技術(shù)與手段一直在升級(jí)，在與他們對(duì)抗的過(guò)程中，抖音也在不斷升級(jí)技術(shù)與策略。

　　目前，抖音安全中心團(tuán)隊(duì)已經(jīng)將數(shù)據(jù)安全、人工智能等技術(shù)應(yīng)用到了黑灰產(chǎn)打擊中，構(gòu)建立體防御體系。抖音安全風(fēng)控專家張曦盛介紹，該中心自主研發(fā)的“鯊魚反欺詐系統(tǒng)”，能在賬號(hào)注冊(cè)、登陸、發(fā)布評(píng)論內(nèi)容等階段判斷賬號(hào)是否是黑灰產(chǎn)詐騙賬號(hào)，并執(zhí)行對(duì)應(yīng)的處理措施，組建了紅藍(lán)軍攻防團(tuán)隊(duì)，開展黑灰產(chǎn)的行業(yè)研究，希望先于犯罪分子發(fā)現(xiàn)黑灰產(chǎn)行業(yè)最新趨勢(shì)。

　　抖音安全中心總監(jiān)周冉介紹，今年3月，抖音安全中心發(fā)現(xiàn)有用戶多次試圖上傳兒童色情視頻，研判分析后認(rèn)為，相關(guān)視頻中的兒童有被侵害的嫌疑。抖音安全中心掌握了視頻發(fā)生地，聯(lián)合公安部門啟動(dòng)了聯(lián)合打擊機(jī)制。3月29日，四川省遂寧市蓬溪縣公安局將嫌疑人抓捕歸案。據(jù)嫌疑人交代，其多次以“提供WIFI”等方式，誘惑同村男童到其住所進(jìn)行猥褻，并拍攝淫穢視頻通過(guò)網(wǎng)絡(luò)進(jìn)行傳播出售。

　　參與了多起黑灰產(chǎn)案件的打擊，周冉分析，這一案件是典型的互聯(lián)網(wǎng)違法違規(guī)行為，具備長(zhǎng)鏈條、跨平臺(tái)犯案的特征。她希望，社會(huì)各界要聯(lián)動(dòng)起來(lái)，共同打擊違法違規(guī)行為，建設(shè)美好、正向、健康且有價(jià)值的行業(yè)生態(tài)。