日均攔截95%以上的導(dǎo)流欺詐行為、日均識(shí)別打壓搬運(yùn)抄襲帖2.9萬(wàn)條,日均3000+用戶(hù)參與平臺(tái)眾裁活動(dòng)……近期,新型開(kāi)放式社交平臺(tái)SoulApp發(fā)布了《Soul第四季度生態(tài)安全報(bào)告》。
報(bào)告顯示,Soul通過(guò)AI識(shí)別和黑灰產(chǎn)識(shí)別技術(shù)上線動(dòng)態(tài)查重功能和多項(xiàng)反詐機(jī)制,從技術(shù)研發(fā)、產(chǎn)品設(shè)計(jì)及多方協(xié)同打擊方面著手,建立嚴(yán)密的風(fēng)控機(jī)制,并打造了由辨識(shí)真?zhèn)?、平臺(tái)打擊、用戶(hù)宣導(dǎo)和治理眾裁四部分組成的循環(huán)反饋雙擎生態(tài)安全治理模式。2022年第四季度,Soul重點(diǎn)圍繞導(dǎo)流詐騙治理、綠色生態(tài)共建、虛假內(nèi)容打擊、一鍵防網(wǎng)暴等四大用戶(hù)安全生態(tài)專(zhuān)項(xiàng)開(kāi)展治理,再次交出一份亮眼的成績(jī)單。憑借在生態(tài)安全治理方面的領(lǐng)先實(shí)踐,Soul受邀參與由中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)調(diào)解工作委員會(huì)主辦的“2022網(wǎng)絡(luò)安全治理機(jī)制高峰論壇”,并入選《2022網(wǎng)絡(luò)安全運(yùn)營(yíng)服務(wù)機(jī)制及網(wǎng)絡(luò)反詐應(yīng)對(duì)報(bào)告》。
【資料圖】
重拳出擊新型詐騙,配合公安機(jī)關(guān)成功打擊導(dǎo)流詐騙團(tuán)伙
報(bào)告顯示,2022年四季度,Soul通過(guò)站內(nèi)官方賬號(hào)Soul反詐中心,在私信、廣場(chǎng)等多場(chǎng)景對(duì)用戶(hù)進(jìn)行反詐安全提示,曝光達(dá)800余萬(wàn)次。四季度,Soul上線1000多項(xiàng)風(fēng)控策略,處罰100萬(wàn)人次,導(dǎo)流外溢案件發(fā)案下降50%以上,日均攔截95%以上的導(dǎo)流欺詐行為,獲得用戶(hù)正向反饋超10萬(wàn)次。另外,通過(guò)主動(dòng)發(fā)現(xiàn)線索,Soul還配合公安機(jī)關(guān)成功打擊站內(nèi)導(dǎo)流詐騙團(tuán)伙2個(gè)。
由于Soul本身不具備轉(zhuǎn)賬功能,因此,有一些不法分子想方設(shè)法將用戶(hù)吸引至第三方平臺(tái),再實(shí)施詐騙。針對(duì)這一情況,Soul嚴(yán)厲打擊通過(guò)欺騙性手段,騙取用戶(hù)信任導(dǎo)流到站外的行為。特別是對(duì)于“投資”“刷單”“轉(zhuǎn)賬”和與支付相關(guān)的高危敏感字眼,Soul會(huì)在用戶(hù)對(duì)話(huà)頁(yè)面上及時(shí)彈出警示標(biāo)志,甚至?xí)o用戶(hù)發(fā)短信、打電話(huà),通過(guò)及時(shí)提醒讓用戶(hù)遠(yuǎn)離詐騙。同時(shí),Soul還會(huì)在第一時(shí)間響應(yīng)用戶(hù)的舉報(bào),核查并封禁涉嫌詐騙的賬號(hào)。
值得一提的是,Soul通過(guò)企業(yè)與政府多部門(mén)聯(lián)動(dòng),實(shí)現(xiàn)預(yù)警、勸阻、黑庫(kù)、情報(bào)等能力共享、協(xié)同打擊。及時(shí)阻斷和叫醒用戶(hù),持續(xù)加強(qiáng)警企合作走訪提醒,提升平臺(tái)安全感。
在防范網(wǎng)絡(luò)詐騙方面,Soul還因勢(shì)而動(dòng),不斷升級(jí),建立了更嚴(yán)密的風(fēng)控體系,對(duì)不同群體“殺豬盤(pán)”詐騙實(shí)現(xiàn)精準(zhǔn)打擊。同時(shí),Soul還通過(guò)優(yōu)化用戶(hù)端及時(shí)提醒機(jī)制,防范用戶(hù)上當(dāng)受騙。
創(chuàng)新安全生態(tài)治理新模式,日均3000+用戶(hù)參與共治眾裁
報(bào)告顯示,2022年第四季度,Soul在廣場(chǎng)治理中日均攔截1.8萬(wàn)條軟色情內(nèi)容,日均處理違規(guī)用戶(hù)1000人次,日均帖子、評(píng)論舉報(bào)量較上季度下降30%,在群聊派對(duì)治理中,Soul日均中斷5000余條違規(guī)語(yǔ)音消息,日均攔截違規(guī)文字消息1.4萬(wàn)條,日均梯度處罰違規(guī)2000多用戶(hù)。在低俗內(nèi)容和不良價(jià)值觀集中治理方面,Soul交出一份亮眼成績(jī)單。
構(gòu)建清朗的網(wǎng)絡(luò)空間,需要傳遞正確的價(jià)值觀。為了給用戶(hù)提供綠色清朗的社交環(huán)境,Soul長(zhǎng)期對(duì)擦邊低俗、拜金炫富、挑唆男女對(duì)立等不良價(jià)值觀內(nèi)容開(kāi)展專(zhuān)項(xiàng)整治,從內(nèi)容廣場(chǎng)、文字群組、群聊派對(duì)等多場(chǎng)景進(jìn)行集中優(yōu)化,讓平臺(tái)充滿(mǎn)溫暖、友善的氛圍。
在Soul上,平臺(tái)用戶(hù)群體大部分是以95后、00后為代表的Z世代。對(duì)Z世代來(lái)說(shuō),一方面,他們反對(duì)說(shuō)教式強(qiáng)制管束,另一方面,他們受教育程度越來(lái)越高、正能量十足,愿意承擔(dān)起社區(qū)自治責(zé)任。
針對(duì)年輕一代的特點(diǎn),Soul上線風(fēng)紀(jì)委活動(dòng),邀請(qǐng)用戶(hù)對(duì)不良價(jià)值觀內(nèi)容進(jìn)行打分,實(shí)施眾裁,風(fēng)紀(jì)委活動(dòng)得到用戶(hù)的積極響應(yīng)。數(shù)據(jù)顯示,目前已有2萬(wàn)余名用戶(hù)成為風(fēng)紀(jì)委成員,日均超3000成員參與其中。此外,針對(duì)低俗內(nèi)容,Soul在此前軟色情識(shí)別模型以及低俗色情識(shí)別模型的基礎(chǔ)上,于四季度又上線超過(guò)20條不良低俗內(nèi)容打壓策略,進(jìn)一步精準(zhǔn)識(shí)別,有效保護(hù)用戶(hù)。
升級(jí)“動(dòng)態(tài)查重”功能,用戶(hù)對(duì)虛假內(nèi)容處理滿(mǎn)意度提升20%
在網(wǎng)絡(luò)空間,虛假不實(shí)內(nèi)容就像一顆顆煙幕彈,嚴(yán)重影響網(wǎng)絡(luò)安全生態(tài)治理。為更好地治理虛假不實(shí)內(nèi)容,2022年第三季度Soul在業(yè)內(nèi)首創(chuàng)“動(dòng)態(tài)查重”功能,還發(fā)起《尊重原創(chuàng) 分享真實(shí)》公約(又稱(chēng)《SoulReal》公約),呼吁用戶(hù)參與原創(chuàng)內(nèi)容保護(hù)。
2022年第四季度,Soul對(duì)“動(dòng)態(tài)查重”功能進(jìn)行升級(jí)。例如,如果發(fā)布者的圖片曾在站內(nèi)廣場(chǎng)出現(xiàn)過(guò),Soul不僅在其個(gè)人主頁(yè)對(duì)應(yīng)的內(nèi)容帖下方提示“該內(nèi)容曾在站內(nèi)出現(xiàn)過(guò)”,還在廣場(chǎng)詳情頁(yè)帖子下增加相應(yīng)展示,讓虛假、跟風(fēng)內(nèi)容處處現(xiàn)形。此外,Soul還增加舉報(bào)入口,通過(guò)消息提醒原創(chuàng)作者對(duì)搬運(yùn)內(nèi)容進(jìn)行舉報(bào)維權(quán),更好地保護(hù)原創(chuàng)者的合法權(quán)益。
報(bào)告顯示,四季度Soul官方風(fēng)紀(jì)球長(zhǎng)發(fā)布“保護(hù)原創(chuàng)、鼓勵(lì)真實(shí)”相關(guān)的宣傳科普內(nèi)容14篇,涉及違規(guī)處罰公示、安全標(biāo)準(zhǔn)宣導(dǎo)、真實(shí)公約等方面,總計(jì)曝光量達(dá)5252萬(wàn)。該季度,Soul日均識(shí)別打壓搬運(yùn)抄襲帖2.9萬(wàn),搬運(yùn)抄襲相關(guān)舉報(bào)日均下降30%,用戶(hù)對(duì)虛假內(nèi)容處理的滿(mǎn)意度提升20%。
實(shí)現(xiàn)“一鍵防網(wǎng)暴”,強(qiáng)化“友善評(píng)論引導(dǎo)”
“惡語(yǔ)傷人六月寒”。在社交網(wǎng)絡(luò)中,時(shí)時(shí)出現(xiàn)的網(wǎng)絡(luò)暴力,成為傷人利器,也成為網(wǎng)絡(luò)生態(tài)的“毒瘤”。在網(wǎng)絡(luò)暴力治理方面,Soul打出了防治相輔的組合拳。
2022年第四季度,Soul上線了一鍵防網(wǎng)暴功能。在用戶(hù)遇到攻擊辱罵、低俗色情騷擾等情況下,Soul自動(dòng)觸發(fā)“今日自閉”開(kāi)啟提醒。用戶(hù)選擇開(kāi)啟“今日自閉”功能后,將不再收到靈魂匹配、奇遇鈴和內(nèi)容廣場(chǎng)等場(chǎng)景中的陌生人信息。據(jù)統(tǒng)計(jì),新功能上線后,每天嘗試使用自閉功能的用戶(hù)超3萬(wàn)人。此外,Soul還在私聊對(duì)話(huà)、內(nèi)容廣場(chǎng)、游戲等不同場(chǎng)景與功能板塊,對(duì)辱罵攻擊、挑唆男女對(duì)立、地域歧視等網(wǎng)暴行為重拳出擊。
此外,當(dāng)用戶(hù)因?yàn)槿松砉舯慌e報(bào)多次以后,Soul將限制用戶(hù)的評(píng)論功能并引導(dǎo)用戶(hù)簽署“友善互動(dòng)聲明”,只有簽署后才能繼續(xù)發(fā)表評(píng)論,并且Soul在廣場(chǎng)內(nèi)容的發(fā)布中還啟動(dòng)禁止評(píng)論功能,發(fā)布者可以自定義選擇可評(píng)論的用戶(hù)群體。
通過(guò)防治結(jié)合,Soul在網(wǎng)絡(luò)暴力治理方面也取得碩果,日均避免用戶(hù)遭受網(wǎng)暴與頻繁騷擾5000多次,日均處理私聊不文明行為用戶(hù)300多人,日均提醒引導(dǎo)私聊文明發(fā)言20萬(wàn)次,日均發(fā)送友善評(píng)論提示900多次,累計(jì)簽署友善互動(dòng)聲明的用戶(hù)達(dá)5萬(wàn)余人。
在互聯(lián)網(wǎng)平臺(tái),集聚著很多充滿(mǎn)活力、熱衷探索的青年人。對(duì)青年群體來(lái)說(shuō),他們是互聯(lián)網(wǎng)的深度參與者,也是互聯(lián)網(wǎng)清朗網(wǎng)絡(luò)空間的重要構(gòu)建者。Soul相關(guān)負(fù)責(zé)人表示,“對(duì)社交平臺(tái)來(lái)說(shuō),要肩負(fù)主體責(zé)任,通過(guò)積極的自治措施,增強(qiáng)用戶(hù)安全意識(shí)、引導(dǎo)網(wǎng)絡(luò)良好風(fēng)氣。同時(shí),提升平臺(tái)管控效率,強(qiáng)化用戶(hù)權(quán)益維護(hù)?!盨oul定期發(fā)布《Soul季度生態(tài)安全治理報(bào)告》,不僅是向社會(huì)公示平臺(tái)安全與生態(tài)治理的舉措與階段性進(jìn)展,也為互聯(lián)網(wǎng)平臺(tái)提供了網(wǎng)絡(luò)安全生態(tài)治理的寶貴經(jīng)驗(yàn)。