在數(shù)字時代，互聯(lián)網(wǎng)平臺已深度融入經(jīng)濟社會發(fā)展與公眾日常生活，以短視頻、直播等形態(tài)蓬勃發(fā)展的內(nèi)容社區(qū)，成為串聯(lián)各行各業(yè)的重要紐帶。近日，快手發(fā)布2025社區(qū)治理報告。報告顯示，快手社區(qū)治理體系向縱深邁進，持續(xù)深化違規(guī)內(nèi)容治理與長效防控，運用多維策略守護用戶權益，強化重點用戶關懷與網(wǎng)絡安全保護實踐，構建全維度電商生態(tài)治理體系，守護清朗有序的溫暖家園。
持續(xù)深化內(nèi)容治理 規(guī)范人工智能生成內(nèi)容傳播秩序
過去一年，快手聚焦擾亂傳播秩序、破壞網(wǎng)絡生態(tài)等違規(guī)內(nèi)容，堅持向下挖根、向前筑堤，推動社區(qū)治理從違規(guī)處置向規(guī)則完善延伸，將治理觸角穿透表層、觸及本質(zhì)。
報告披露，針對短視頻惡意營銷行業(yè)亂象，平臺專項治理累計處置違規(guī)視頻15.3萬條，處置違規(guī)賬號1.2萬個。針對以“低俗擦邊”“軟色情”等方式誘導打賞的違規(guī)行為，截至2025年11月，平臺累計處罰主播超3.74萬名，直播誘導打賞違規(guī)舉報率同比下降28%。此外，對于利用特定人群特點進行定向誘騙打賞的行為，平臺除封禁賬號外，還通過打賞資金前置預凍結、賬號特征挖掘與拓展布控等方式，將管控關口前移，遏制此類違規(guī)行為。
在團播向?qū)I(yè)化、優(yōu)質(zhì)化發(fā)展的過程中，部分主播為追逐流量頻頻出現(xiàn)擦邊試探行為。對此，平臺建立起覆蓋事前管控、事中識別、事后處置的立體化治理體系。報告顯示，整治網(wǎng)絡直播打賞亂象專項行動期間，平臺累計處置4600個低俗團播直播間。通過壓縮低俗團播的生存空間，讓團播的發(fā)展真正回歸內(nèi)容質(zhì)量本身。
人工智能的興起對平臺內(nèi)容治理提出了新要求。在AIGC管理方面，平臺上線了“人工智能生成合成內(nèi)容標識”和用戶“主動聲明”功能，通過多種形式引導創(chuàng)作者準確、規(guī)范標注AI生成內(nèi)容，并開展濫用AI技術專項治理，持續(xù)凈化AI應用生態(tài)。專項治理期間，平臺累計對104萬條視頻添加AI標識，處置違規(guī)內(nèi)容8.9萬條，處置違規(guī)賬號2900余個。
當前，短劇行業(yè)正迎來質(zhì)效雙升的關鍵期?？焓轴槍`規(guī)片名、違規(guī)內(nèi)容以及違規(guī)劇“換馬甲”傳播行為，持續(xù)開展專項治理。報告顯示，過去一年，平臺累計處置違規(guī)網(wǎng)絡微短劇2000余部、相關違規(guī)劇集片段等內(nèi)容600萬余條、賬號1000余個。此外，快手還陸續(xù)推出了“AI創(chuàng)想劇場計劃”、“星芒創(chuàng)想計劃”，推動網(wǎng)絡微短劇向精品化演進。
在內(nèi)容真實性方面，平臺從信息本身與傳播源頭同時入手，推動網(wǎng)絡謠言治理模式由事后處置向風險前置、事中干預升級。重點治理AIGC造假與社會熱點謠言，開展假冒仿冒新聞媒體、冒充公眾人物等違規(guī)行為專項治理。此外，平臺持續(xù)打擊網(wǎng)絡暴力，通過建立評論區(qū)管控模型、優(yōu)化開盒風險識別模型、建立熱點當事人保護機制等舉措，提升網(wǎng)暴風險識別與前置預防能力，致力于將風險阻斷在傷害發(fā)生之前。
AI大模型賦能升級反詐治理體系，詐騙風險阻斷率提升到98%
作為一家以普惠為底色、高互動、強參與的數(shù)字社區(qū)，快手通過多維策略，在反詐治理、打擊虛假等方面，全力為用戶權益保駕護航。報告顯示，2025年，快手使用自研反詐AI大模型開展線上引流詐騙識別攻防，顯著提升風險感知治理能力，前置識別并攔截大量風險信息，將詐騙風險阻斷率提升到98%。
為對抗變化多端、花樣百出的詐騙信息和引流手段，平臺日均運行風控反詐模型170個、反詐策略2500余個。全年開展AI外呼反詐提醒累計1670萬次，主動提醒潛在受害人1.66億人次，發(fā)送反詐提醒10.18億次，成功勸阻大量潛在受害用戶。主動向各地警方提供犯罪線索1.6萬余條，協(xié)助警方打擊犯罪嫌疑人960名，助力打擊網(wǎng)絡違法犯罪。
在持續(xù)強化技術反制手段的同時，快手還構建“線上+線下”立體化反詐宣傳矩陣。在“全民反詐在行動”集中宣傳月期間，快手聯(lián)合多地警方走進校園開展反詐公益宣傳；同時，積極創(chuàng)新線上宣傳形式，如云南警方聯(lián)合山人樂隊、快手推出養(yǎng)老反詐版云南山歌《酒歌》，揭露各類養(yǎng)老騙局?？焓诌€聯(lián)合中國警察網(wǎng)、演員陳都靈、四平董叔、二龍湖浩哥等多方力量，推出警察與明星反詐小短劇，揭露冒充明星、冒充警察等針對未成年人的高發(fā)詐騙套路。通過持續(xù)豐富宣傳內(nèi)容與形式，全方位提升用戶反詐防騙意識，營造全民反詐的社區(qū)氛圍。
報告還提到，針對發(fā)布虛假信息等侵害用戶權益的違規(guī)行為，平臺開展多維打擊。平臺基于多維度頻控策略與識別策略，處罰直播間刷人氣用戶84萬個；針對涉企侵權內(nèi)容，通過專項治理、明確平臺規(guī)則、設立侵權投訴機制等方式，維護企業(yè)正常經(jīng)營秩序和良好網(wǎng)絡營商環(huán)境。報告顯示，平臺下架涉企侵權視頻7.5萬余個。
此外，平臺持續(xù)加強顯性和隱性AI水印識別檢測、人臉深度偽造技術研究，體系化提升治理水平。截至2025年11月，平臺累計攔截、清理涉濫用AI技術仿冒名人的違規(guī)視頻內(nèi)容10萬余條，有力打擊了此類誤導公眾的違規(guī)行為。
強化重點用戶關懷保護 共筑科技向善的同行方舟
在不斷優(yōu)化治理效能的同時，快手開展多元化網(wǎng)絡安全保護與人文關懷實踐，致力于在紛繁復雜的網(wǎng)絡空間中激發(fā)善意、傳遞溫暖。
快手始終將未成年人保護視為平臺治理工作的重中之重，持續(xù)為未成年人打造安全、健康的網(wǎng)絡環(huán)境。報告顯示，快手積極推進未成年人模式體系建設，與多家手機廠商聯(lián)動開發(fā)未成年人模式一鍵啟動功能，并新增涵蓋語言學習、教育、科學等領域的主題專區(qū)及語音文字搜索等新功能，以更優(yōu)質(zhì)、豐富的內(nèi)容提升未成年人使用體驗。
去年暑期，平臺開展了未成年人網(wǎng)絡環(huán)境整治專項行動，針對危害未成年人健康成長的網(wǎng)絡違規(guī)行為開展全面整治。專項行動期間，累計處置違規(guī)內(nèi)容19.1萬條、處置賬號2.7萬個、解散群聊2270余個，下架違規(guī)商品1290余個。此外，針對“開盒”等新型網(wǎng)絡暴力，平臺細化風險識別場景，上線細分識別模型，推出“群聊彈窗提示”，并新增“發(fā)布開盒信息”舉報標簽，有效提升了風險發(fā)現(xiàn)與違規(guī)處置效率，強化了群聊場景的風險阻斷能力。
在守護未成年人成長方面，去年9月，由共青團中央宣傳部指導，快手作為戰(zhàn)略合作單位，發(fā)起了青少年健康用網(wǎng)公益行動。幾個月來，公益行動走進六省十地校園與社區(qū)，邀請家庭教育、網(wǎng)絡安全、AI等領域的專家學者，以及法官、檢察官、民警、思政課老師和快手創(chuàng)作者，圍繞隔空猥褻、網(wǎng)絡詐騙、AI使用風險、親子關系培養(yǎng)等角度開展科普，推動青少年網(wǎng)絡安全宣傳教育深入基層、貼近生活，助力未成年人安全上網(wǎng)。
報告還提到，平臺持續(xù)迭代升級自殺干預預警系統(tǒng)，依托大模型的意圖洞察與風險定位能力，預警系統(tǒng)可在海量直播中自動鎖定高危風險信息，并聯(lián)動預警機制直通平臺自殺干預救助小組。大模型自動生成風險摘要與關鍵信息鏈使研判效率提升超50%，核實時間成本縮減至分鐘級，實現(xiàn)“風險信號及時干預、救助聯(lián)動分鐘級響應”，當好用戶生命安全的“守門人”。
AI大模型落地 構建全維度電商生態(tài)治理體系
隨著直播電商進入高質(zhì)量發(fā)展新階段，行業(yè)正由“規(guī)模擴張”轉向“質(zhì)量深耕”。報告顯示，2025年，快手電商以AI大模型為核心，構建全維度電商生態(tài)治理體系，針對虛假宣傳、不正當營銷、假貨等行業(yè)亂象開展專項治理，推動生態(tài)健康可持續(xù)發(fā)展。
針對長期困擾電商行業(yè)的虛假宣傳、劇本炒作等頑疾，快手電商在2025年實現(xiàn)了從人工審核向AI大模型治理的轉變。平臺通過AI模型算法對高風險商品進行全量回掃，整體風險漏放率已降至0.1%，虛假宣傳舉報率降幅達35%。
特別是在治理劇本炒作和虛假人設方面，平臺構建了全鏈條治理體系。例如，系統(tǒng)可實時識別直播間演繹家庭矛盾誘導下單的行為，并自動觸發(fā)彈窗預警、直播遮罩乃至斷播處罰。2025年，此類炒作賣貨舉報率同比降低了61%。
此外，針對短視頻領域AI仿冒名人明星、虛假人設情感綁架等新型虛假違規(guī)行為，平臺屏蔽相關電商類短視頻5000多條，封禁清退商家700余人次。
在商品質(zhì)量與知識產(chǎn)權保護方面，AI技術同樣發(fā)揮了核心作用?？焓蛛娚?025年實現(xiàn)抽檢機制的全面自動化。目前，所有品類均可實現(xiàn)問題商品自動識別與自動派單，大幅降低了人為干預風險。
報告顯示，2025年快手電商升級假貨識別模型，全年識別攔截風險商品190萬件，處置假貨商品3萬余件，打擊治理相關風險商家1.58萬個。在禁售商品治理上，極端風險商品日均攔截能力提升至3萬件以上；借助多模態(tài)大模型，高風險類目錯放漏放率降至0.47%。同時，平臺對接國家版本館等權威數(shù)據(jù)庫，下架超40萬不合規(guī)圖書商品。