近日，今日頭條發(fā)布 2024 年度治理報告(以下簡稱“報告”)，公布平臺針對網(wǎng)絡(luò)虛假謠言、網(wǎng)絡(luò)詐騙、同質(zhì)化發(fā)文、低質(zhì)AI內(nèi)容等問題的多項治理舉措與成果?！秷蟾妗凤@示，平臺全年累計攔截不實信息超 500 萬條，處置不友善內(nèi)容超 3 億條，處罰同質(zhì)化發(fā)文超 781 萬篇。
數(shù)字時代，信息數(shù)量呈幾何式爆發(fā)，紛繁復(fù)雜、真假難辨;人工智能技術(shù)的飛速發(fā)展更是給網(wǎng)絡(luò)生態(tài)帶來了新的挑戰(zhàn)。虛假謠言事件頻發(fā)，不僅擾亂了網(wǎng)絡(luò)秩序，也滲透至用戶生活的方方面面，對現(xiàn)實社會造成了嚴(yán)重不良影響。
對此，今日頭條建立起完整的謠言治理和防范體系。一方面加強謠言攔截:通過強化搭建全體裁謠言知識庫，培養(yǎng)專業(yè)領(lǐng)域的審核人員，建立謠言線索互通機制等方式從根源處遏制不實信息的發(fā)布與傳播;另一方面加強辟謠教育:成立線上“辟謠小課堂”，發(fā)布創(chuàng)意治理動畫《小狗的一天》《火》，聯(lián)動專家、科普創(chuàng)作者發(fā)起“頭條講真的”公益活動等，全方位進(jìn)行用戶教育和引導(dǎo)。截至 2024 年 12 月底，平臺累計攔截不實信息超 500 萬條，封禁造謠、傳謠等違規(guī)賬號超 47000 個。
網(wǎng)絡(luò)暴力和網(wǎng)絡(luò)詐騙同樣嚴(yán)重影響著用戶的身心與財產(chǎn)安全，今日頭條在預(yù)防和治理網(wǎng)暴方面不斷完善“一鍵防護(hù)”、評論權(quán)限設(shè)置等產(chǎn)品功能，還與抖音打通心理關(guān)懷團(tuán)隊，為被網(wǎng)暴等原因而產(chǎn)生不良情緒的用戶提供心理疏導(dǎo)，僅 2024 年平臺就處置不友善內(nèi)容超 3 億條。針對網(wǎng)絡(luò)詐騙行為，平臺秉持“早識別、多攔截、多提示、快速干預(yù)”原則，通過技術(shù)和運營手段不斷加強治理效率，與公安等部門合作加強反詐教育。一年累計封禁違規(guī)賬號超 17 萬個，為用戶發(fā)出風(fēng)險提示超 2548 萬次。
此外，針對同質(zhì)化內(nèi)容、低質(zhì)AI發(fā)文、網(wǎng)絡(luò)水軍等問題，今日頭條通過增加AI辨別標(biāo)簽、強化內(nèi)容識別模型、收嚴(yán)賬號管理制度等一系列舉措開展了專項治理?！秷蟾妗凤@示， 2024 年平臺處罰同質(zhì)化發(fā)文超 781 萬篇，處置低質(zhì)AI內(nèi)容超 93 萬條，攔截虛假流量超 150 億次。
今日頭條相關(guān)負(fù)責(zé)人表示，平臺治理是一項長期而復(fù)雜的工程，但讓用戶更安心，讓社會更安寧，是平臺加強建立優(yōu)質(zhì)生態(tài)的初心所在和責(zé)任所在，“我們愿與多方共同努力，為構(gòu)建綠色、和諧、健康的網(wǎng)絡(luò)環(huán)境貢獻(xiàn)力量?！?/p>
圖說:今日頭條 2024 年度治理報告重點一覽
（推廣）