2026年3月18日，今日頭條平臺(tái)治理媒體開放日現(xiàn)場(chǎng)，一組數(shù)據(jù)引發(fā)了與會(huì)者的廣泛關(guān)注：全年推送風(fēng)險(xiǎn)提醒300余萬條，處置網(wǎng)絡(luò)暴力相關(guān)違規(guī)評(píng)論3.6億條，清理虛假內(nèi)容700余萬條。這串?dāng)?shù)字背后，是一個(gè)深耕內(nèi)容領(lǐng)域13年的平臺(tái)，面對(duì)技術(shù)迭代、生態(tài)變遷時(shí)的治理答卷。

　　今日頭條當(dāng)日發(fā)布的《2025年度平臺(tái)治理白皮書》，聚焦網(wǎng)絡(luò)詐騙、低質(zhì)AI內(nèi)容、虛假謠言、網(wǎng)絡(luò)暴力等八大關(guān)鍵領(lǐng)域，系統(tǒng)呈現(xiàn)了平臺(tái)一年來在安全治理與內(nèi)容生態(tài)建設(shè)方面的實(shí)踐與成效。

　　從數(shù)據(jù)維度看，今日頭條2025年的治理工作呈現(xiàn)出明顯的"技術(shù)+運(yùn)營(yíng)"雙輪驅(qū)動(dòng)特征。在網(wǎng)絡(luò)詐騙治理上，平臺(tái)構(gòu)建了包含注冊(cè)登錄識(shí)別、行為特征識(shí)別、內(nèi)容識(shí)別、團(tuán)伙打擊在內(nèi)的四維全鏈路體系，累計(jì)處置涉詐內(nèi)容135萬條，封禁涉詐賬號(hào)18萬個(gè)，對(duì)高危私信發(fā)送風(fēng)險(xiǎn)提醒300余萬次。

　　這一系列舉措的背后，是詐騙手段持續(xù)升級(jí)的現(xiàn)實(shí)挑戰(zhàn)——兼職詐騙占比43.67%，金融投資詐騙占比29.84%，交友詐騙占比19.43%，三類內(nèi)容構(gòu)成了平臺(tái)詐騙內(nèi)容的主體。

　　中國(guó)政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長(zhǎng)李懷勝在現(xiàn)場(chǎng)表示，當(dāng)前的網(wǎng)絡(luò)詐騙已不再是孤立個(gè)案，而是形成了上游技術(shù)支撐、中游內(nèi)容引流、下游洗錢變現(xiàn)的完整犯罪生態(tài)系統(tǒng)，治理必須從單點(diǎn)打擊走向系統(tǒng)治理。

　　反詐治理進(jìn)入全鏈路時(shí)代

　　當(dāng)一位用戶在今日頭條私信對(duì)話中看到"該對(duì)話可能涉及交易轉(zhuǎn)賬、個(gè)人隱私等敏感信息，謹(jǐn)防詐騙，遵守國(guó)家法律法規(guī)"的提示時(shí)，這背后是今日頭條安全團(tuán)隊(duì)構(gòu)建的復(fù)雜風(fēng)控體系在發(fā)揮作用。

　　今日頭條安全運(yùn)營(yíng)負(fù)責(zé)人閆夢(mèng)茹介紹，平臺(tái)基于設(shè)備參數(shù)、用戶行為統(tǒng)計(jì)和賬號(hào)異常等300余項(xiàng)特征訓(xùn)練風(fēng)險(xiǎn)識(shí)別模型，通過欺詐文本、私信、多模態(tài)模型識(shí)別財(cái)經(jīng)薦股、兼職誘導(dǎo)、交友詐騙等風(fēng)險(xiǎn)，輔以文本庫(kù)匹配進(jìn)行OCR/ACR回掃。更重要的是，當(dāng)詐騙風(fēng)險(xiǎn)從個(gè)體行為演變?yōu)閳F(tuán)伙作案時(shí)，平臺(tái)通過內(nèi)容和行為相似度識(shí)別詐騙團(tuán)伙，實(shí)施階梯式處罰。

　　這種技術(shù)能力在實(shí)戰(zhàn)中得到了驗(yàn)證。2025年，今日頭條通過全鏈路識(shí)別體系，不僅完成了對(duì)涉詐內(nèi)容的快速處置，更重要的是在用戶端建立了風(fēng)險(xiǎn)預(yù)警機(jī)制。當(dāng)平臺(tái)監(jiān)測(cè)到潛在詐騙風(fēng)險(xiǎn)時(shí)，會(huì)通過私信提醒方式警示用戶，這種前置干預(yù)有效降低了用戶財(cái)產(chǎn)損失風(fēng)險(xiǎn)。與此同時(shí)，平臺(tái)創(chuàng)新治理傳播方式，用動(dòng)畫短片、條漫、真人演繹短劇等更接地氣的形式，把復(fù)雜的詐騙套路講清楚，讓用戶能夠理解什么是騙局，做好警示和提醒的作用。每個(gè)治理周期，平臺(tái)都會(huì)向社會(huì)和監(jiān)管部門反饋反詐的進(jìn)展和典型手段，提升用戶的防范意識(shí)。

　　值得關(guān)注的是，公眾參與在反詐治理中的價(jià)值日益凸顯。

　　李懷勝在分享中提到了兩組值得深思的數(shù)據(jù)：一是平臺(tái)通過私信對(duì)高危風(fēng)險(xiǎn)進(jìn)行了300余萬條提醒，二是部分用戶對(duì)反詐提示存在抵觸情緒。這兩組數(shù)據(jù)說明，沒有公眾的主動(dòng)參與，再嚴(yán)密的技術(shù)防線、再完善的法律制度都可能被突破。

　　從法律層面看，《反電信網(wǎng)絡(luò)詐騙法》第八條明確規(guī)定，各級(jí)人民政府和有關(guān)部門應(yīng)當(dāng)加強(qiáng)反電信網(wǎng)絡(luò)詐騙宣傳，普及相關(guān)法律和知識(shí)，提高公眾對(duì)各類電信網(wǎng)絡(luò)詐騙方式的防騙意識(shí)和識(shí)騙能力；教育行政等部門應(yīng)當(dāng)結(jié)合受害群體分布特征，加強(qiáng)對(duì)老年人、青少年等群體的宣傳教育，開展反詐宣傳教育進(jìn)學(xué)校、進(jìn)企業(yè)、進(jìn)社區(qū)、進(jìn)農(nóng)村、進(jìn)家庭等活動(dòng)。平臺(tái)通過寓教于樂的方式提高用戶的識(shí)別能力，正是這一法律要求的具體落地。

　　技術(shù)浪潮下的內(nèi)容生態(tài)治理

　　2025年，AIGC技術(shù)的快速發(fā)展給內(nèi)容生態(tài)帶來了雙重影響：一方面，AI技術(shù)為內(nèi)容創(chuàng)作提供了極大便利；另一方面，低質(zhì)AI內(nèi)容、虛假謠言的批量傳播也嚴(yán)重威脅平臺(tái)生態(tài)健康。

　　今日頭條內(nèi)容治理運(yùn)營(yíng)負(fù)責(zé)人鄭子龍表示，平臺(tái)以"守護(hù)真實(shí)"為核心，通過技術(shù)與規(guī)則雙重手段，堅(jiān)決守護(hù)用戶對(duì)平臺(tái)的信任感，維護(hù)生態(tài)的質(zhì)量底線。在內(nèi)容層面，平臺(tái)通過敏捷監(jiān)控聚類發(fā)文和用戶負(fù)評(píng)等方式不斷挖掘新的低質(zhì)AI內(nèi)容特征，持續(xù)迭代管控標(biāo)準(zhǔn)，并反哺模型訓(xùn)練，增強(qiáng)對(duì)于低質(zhì)AI問題的識(shí)別與處置能力；在賬號(hào)層面，對(duì)于持續(xù)發(fā)布低質(zhì)AI內(nèi)容的作者施加流量打壓甚至禁言處罰，同時(shí)通過發(fā)布治理公告及對(duì)作者的透?jìng)鹘逃?，引?dǎo)創(chuàng)作者自覺抵制低質(zhì)AI內(nèi)容。

　　這一套治理體系在2025年取得了顯著成效。平臺(tái)累計(jì)處置低質(zhì)AIGC內(nèi)容超過260萬條，不僅有效遏制了低質(zhì)AI內(nèi)容的泛濫趨勢(shì)，更嚴(yán)格落實(shí)了相關(guān)合規(guī)要求。在低質(zhì)AI內(nèi)容治理上，今日頭條面臨的挑戰(zhàn)是如何平衡技術(shù)創(chuàng)新與內(nèi)容質(zhì)量。

　　中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春認(rèn)為，低質(zhì)AI內(nèi)容治理需明確標(biāo)準(zhǔn)、技術(shù)賦能、多方協(xié)同。平臺(tái)應(yīng)完善AI內(nèi)容標(biāo)識(shí)與審核機(jī)制，強(qiáng)化技術(shù)檢測(cè)與創(chuàng)作者引導(dǎo)，推動(dòng)形成監(jiān)管、平臺(tái)、用戶共治格局，從源頭遏制虛假誤導(dǎo)內(nèi)容蔓延。今日頭條的實(shí)踐正是這一理念的體現(xiàn)——平臺(tái)增補(bǔ)AI內(nèi)容標(biāo)準(zhǔn)，提高AI畫面識(shí)別能力，對(duì)AI內(nèi)容進(jìn)行打標(biāo)，每月通過AI模型識(shí)別用戶發(fā)布AI內(nèi)容并打標(biāo)4000萬條以上，覆蓋無主動(dòng)聲明場(chǎng)景，AI判定綜合準(zhǔn)確率超過95%。

　　與此同時(shí)，今日頭條構(gòu)建了全鏈路謠言治理體系。通過謠言知識(shí)庫(kù)對(duì)國(guó)內(nèi)外的虛假信息及突發(fā)熱點(diǎn)進(jìn)行查證與總結(jié)，系統(tǒng)會(huì)自動(dòng)提取內(nèi)容中的關(guān)鍵事件信息與權(quán)威信源及知識(shí)庫(kù)進(jìn)行比對(duì)，實(shí)時(shí)監(jiān)測(cè)官方及媒體的辟謠動(dòng)態(tài)，快速、多維度地發(fā)現(xiàn)內(nèi)容的虛假風(fēng)險(xiǎn)。完成判定后，平臺(tái)會(huì)在1小時(shí)內(nèi)完成對(duì)全平臺(tái)存量謠言的回掃清理，并同步上線攔截策略，阻斷變體內(nèi)容的二次傳播。

　　2025年，平臺(tái)清理虛假內(nèi)容700余萬條，對(duì)3.3萬個(gè)違規(guī)賬號(hào)進(jìn)行了禁言或封禁處理。這一速度背后，是平臺(tái)結(jié)合大模型，上線AI虛構(gòu)圖片、聯(lián)網(wǎng)查證等識(shí)別鏈路，增強(qiáng)平臺(tái)對(duì)視覺虛假以及信源難查證問題的識(shí)別能力；同時(shí)在當(dāng)熱點(diǎn)來臨時(shí)，通過熱點(diǎn)預(yù)警、虛假線索挖掘及多種前置攔截機(jī)制，控制新熱點(diǎn)下的虛假內(nèi)容濃度持續(xù)保持低水平。

　　從治理成效看，今日頭條2025年的實(shí)踐揭示了平臺(tái)治理的深層邏輯變化——從被動(dòng)應(yīng)對(duì)到主動(dòng)防控，從單點(diǎn)打擊到系統(tǒng)治理，從技術(shù)驅(qū)動(dòng)到"法律+技術(shù)+社會(huì)"協(xié)同發(fā)力。平臺(tái)全年處置網(wǎng)暴相關(guān)違規(guī)評(píng)論3.6億條，為70萬賬號(hào)啟用了一鍵防網(wǎng)暴功能，封禁網(wǎng)絡(luò)水軍團(tuán)伙賬號(hào)13.9萬個(gè)，清退2萬多低質(zhì)認(rèn)證作者，處置60多萬投機(jī)賬號(hào)。

　　這些數(shù)字背后，是平臺(tái)在筑牢內(nèi)容治理防線的同時(shí)，投入更多資源扶持優(yōu)質(zhì)深度內(nèi)容。2025年平臺(tái)優(yōu)質(zhì)深度圖文閱讀量較去年增長(zhǎng)近三倍，近200名專家學(xué)者、以及前一線媒體人入駐，獲專屬扶持后閱讀量與收益穩(wěn)步增長(zhǎng)。

　　這一系列的治理行動(dòng)，正是今日頭條作為通用信息分發(fā)與創(chuàng)作平臺(tái)，構(gòu)建健康、多元、優(yōu)質(zhì)的內(nèi)容生態(tài)，持續(xù)提升用戶體驗(yàn)的核心使命所在。