近日，《數(shù)字虛擬人信息服務(wù)管理辦法(征求意見稿)》(以下簡(jiǎn)稱《辦法》)對(duì)外發(fā)布，標(biāo)志著我國(guó)在數(shù)字虛擬人的人工智能前沿業(yè)態(tài)治理領(lǐng)域邁出關(guān)鍵一步。數(shù)字虛擬人作為數(shù)字技術(shù)融合創(chuàng)新產(chǎn)物，已從娛樂場(chǎng)景向金融、醫(yī)療、文旅等垂直領(lǐng)域落地，成為數(shù)字經(jīng)濟(jì)發(fā)展新載體與網(wǎng)絡(luò)空間服務(wù)新形態(tài)?！掇k法》緊扣數(shù)字虛擬人信息服務(wù)的發(fā)展實(shí)際與治理需求，構(gòu)建了全維度治理框架，既是對(duì)新興業(yè)態(tài)的及時(shí)回應(yīng)，更是完善網(wǎng)絡(luò)空間安全治理體系的重要舉措，為產(chǎn)業(yè)健康發(fā)展劃定清晰的安全紅線，彰顯了我國(guó)網(wǎng)絡(luò)空間安全治理的前瞻性與科學(xué)性。
一、創(chuàng)新業(yè)態(tài)崛起：數(shù)字虛擬人發(fā)展態(tài)勢(shì)與治理緊迫性
數(shù)字虛擬人從形象復(fù)刻到智能交互，成為連接物理與數(shù)字世界的重要紐帶，呈現(xiàn)技術(shù)融合化、場(chǎng)景多元化、應(yīng)用普及化特征。從應(yīng)用來(lái)看，其已從虛擬偶像、數(shù)字主播，延伸至金融客服、醫(yī)療導(dǎo)診、新聞傳播等領(lǐng)域，深度融入生產(chǎn)生活與公共服務(wù)。從產(chǎn)業(yè)來(lái)看，我國(guó)已形成涵蓋底層算法、內(nèi)容制作、硬件終端的完整體系，成為數(shù)字經(jīng)濟(jì)創(chuàng)新發(fā)展的重要增長(zhǎng)點(diǎn)。
數(shù)字虛擬人作為數(shù)據(jù)、算法、形象的復(fù)合產(chǎn)物，其服務(wù)全流程涉及數(shù)據(jù)處理、人格權(quán)界定、內(nèi)容傳播等問題，若缺乏有效制度約束，易引發(fā)個(gè)人信息泄露、人格權(quán)侵害、未成年人權(quán)益受損等問題，損害公民、法人和其他組織的合法權(quán)益。數(shù)字虛擬人治理已非單純的產(chǎn)業(yè)規(guī)范問題，而是關(guān)乎網(wǎng)絡(luò)空間安全、社會(huì)公共利益與數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展的戰(zhàn)略性科學(xué)問題。《辦法》的出臺(tái)，正是通過系統(tǒng)性制度設(shè)計(jì)，實(shí)現(xiàn)技術(shù)創(chuàng)新與風(fēng)險(xiǎn)防范的動(dòng)態(tài)平衡。
二、風(fēng)險(xiǎn)多維凸顯：數(shù)字虛擬人的網(wǎng)絡(luò)空間安全挑戰(zhàn)
數(shù)字虛擬人信息服務(wù)的風(fēng)險(xiǎn)具有跨領(lǐng)域、傳導(dǎo)性、隱蔽性特征，關(guān)乎公民個(gè)體合法權(quán)益，影響整體網(wǎng)絡(luò)空間安全。一是數(shù)據(jù)安全與個(gè)人信息保護(hù)風(fēng)險(xiǎn)。數(shù)字虛擬人建模、形象生成高度依賴自然人肖像、聲音等敏感個(gè)人信息，甚至涉及逝者相關(guān)信息，數(shù)據(jù)高敏感、高價(jià)值，易引發(fā)數(shù)據(jù)泄露、違規(guī)倒賣，為網(wǎng)絡(luò)詐騙等違法犯罪提供便利。二是人格權(quán)侵害風(fēng)險(xiǎn)。數(shù)字虛擬人的形象復(fù)刻與人格模擬特征，易引發(fā)未經(jīng)同意使用他人肖像聲音、丑化污損虛擬人形象、冒用知名人士筆名藝名等行為，侵害自然人肖像權(quán)、姓名權(quán)等人格權(quán)益，造成網(wǎng)絡(luò)空間身份混淆，破壞公眾對(duì)數(shù)字內(nèi)容的信任體系。三是未成年人保護(hù)風(fēng)險(xiǎn)。未成年人心智尚未成熟，缺乏虛實(shí)辨別能力，易受數(shù)字虛擬人服務(wù)不良影響。誘導(dǎo)沉迷虛擬交互、提供虛擬戀愛、誘導(dǎo)消費(fèi)等行為，會(huì)嚴(yán)重?fù)p害其身心健康。四是認(rèn)知安全與網(wǎng)絡(luò)生態(tài)風(fēng)險(xiǎn)。數(shù)字虛擬人作為網(wǎng)絡(luò)信息服務(wù)新載體，其內(nèi)容生產(chǎn)傳播直接影響清朗網(wǎng)絡(luò)生態(tài)建設(shè)。擬人化互動(dòng)類數(shù)字虛擬人易通過算法迎合用戶偏好，引發(fā)用戶情感依賴、弱化現(xiàn)實(shí)社交能力。
三、錨定治理航向：網(wǎng)絡(luò)空間安全戰(zhàn)略下的重要原則
《辦法》的制度設(shè)計(jì)始終立足總體國(guó)家安全觀，緊扣網(wǎng)絡(luò)空間安全戰(zhàn)略要求，結(jié)合數(shù)字虛擬人信息服務(wù)業(yè)態(tài)特征，確立了治理原則與價(jià)值導(dǎo)向。一是堅(jiān)持價(jià)值引領(lǐng)，恪守網(wǎng)絡(luò)空間治理底線。明確服務(wù)提供與使用主體必須堅(jiān)持社會(huì)主義核心價(jià)值觀，遵守法律法規(guī)，維護(hù)國(guó)家安全和社會(huì)公共利益，尊重社會(huì)公德與倫理道德。二是堅(jiān)持權(quán)益至上，強(qiáng)化全維度合法權(quán)益保護(hù)。將保障公民、法人和其他組織的合法權(quán)益作為治理出發(fā)點(diǎn)和落腳點(diǎn)，圍繞個(gè)人信息、人格權(quán)構(gòu)建專項(xiàng)保護(hù)體系，針對(duì)未成年人設(shè)置特殊保護(hù)條款，以制度化設(shè)計(jì)防范權(quán)益侵害風(fēng)險(xiǎn)。三是堅(jiān)持安全與發(fā)展并重，包容審慎引導(dǎo)產(chǎn)業(yè)創(chuàng)新。劃定安全紅線、強(qiáng)化風(fēng)險(xiǎn)防范、鼓勵(lì)應(yīng)用落地，在智能向善、安全可控的前提下，推動(dòng)示范應(yīng)用、完善產(chǎn)業(yè)生態(tài)，支持研發(fā)創(chuàng)新和產(chǎn)學(xué)研協(xié)同，為產(chǎn)業(yè)發(fā)展預(yù)留制度空間，平衡技術(shù)創(chuàng)新與安全治理。四是堅(jiān)持多元共治，構(gòu)建協(xié)同監(jiān)管治理格局。多部門協(xié)同監(jiān)管，鼓勵(lì)行業(yè)組織加強(qiáng)自律，接受社會(huì)監(jiān)督，整合多方治理資源，形成權(quán)責(zé)清晰、協(xié)同高效的治理新格局。五是堅(jiān)持標(biāo)準(zhǔn)引領(lǐng)，推動(dòng)產(chǎn)業(yè)國(guó)際化發(fā)展。鼓勵(lì)參與國(guó)際規(guī)則制定與交流合作，推動(dòng)國(guó)內(nèi)產(chǎn)業(yè)形成統(tǒng)一規(guī)范的標(biāo)準(zhǔn)體系，提升網(wǎng)絡(luò)空間治理國(guó)際話語(yǔ)權(quán)。
四、守正創(chuàng)新：構(gòu)建數(shù)字虛擬人全鏈條治理體系
(一)守正延續(xù)治理框架，夯實(shí)安全治理基礎(chǔ)
《辦法》多項(xiàng)制度與我國(guó)現(xiàn)有網(wǎng)絡(luò)空間治理法律法規(guī)、監(jiān)管規(guī)則一脈相承，體現(xiàn)治理體系的連續(xù)性，為數(shù)字虛擬人治理提供堅(jiān)實(shí)制度支撐。一是延續(xù)算法治理要求，強(qiáng)化智能內(nèi)核監(jiān)管。要求具有輿論屬性或社會(huì)動(dòng)員能力的服務(wù)提供者、技術(shù)支持者，履行算法備案、變更、注銷義務(wù)，提升算法透明度，防范算法濫用帶來(lái)的內(nèi)容安全風(fēng)險(xiǎn)。二是遵循數(shù)據(jù)安全法規(guī)，落實(shí)全流程數(shù)據(jù)管控。明確使用合法來(lái)源數(shù)據(jù)，服務(wù)提供者落實(shí)數(shù)據(jù)安全保護(hù)主體責(zé)任，采取技術(shù)措施保障數(shù)據(jù)存儲(chǔ)、傳輸安全，從源頭防范數(shù)據(jù)安全風(fēng)險(xiǎn)。三是承接深度合成管理規(guī)則，明晰虛實(shí)邊界。要求設(shè)置“數(shù)字人”字樣顯著提示標(biāo)識(shí)，延續(xù)身份標(biāo)識(shí)義務(wù)，防范用戶認(rèn)知混淆。四是堅(jiān)持全流程監(jiān)管，完善監(jiān)督追責(zé)機(jī)制。延續(xù)事前評(píng)估、事中監(jiān)測(cè)、事后追責(zé)思路，設(shè)置安全評(píng)估、監(jiān)督檢查制度，建立舉報(bào)機(jī)制，暢通違法違規(guī)反饋渠道，確保風(fēng)險(xiǎn)早發(fā)現(xiàn)、早預(yù)警、早處置。
(二)創(chuàng)新設(shè)計(jì)治理制度，防控產(chǎn)業(yè)安全風(fēng)險(xiǎn)
緊扣數(shù)字虛擬人形象擬人化、數(shù)據(jù)敏感化、場(chǎng)景多元化的技術(shù)特征，《辦法》設(shè)計(jì)創(chuàng)新性制度，精準(zhǔn)防控產(chǎn)業(yè)特有風(fēng)險(xiǎn)，填補(bǔ)治理空白。一是個(gè)人信息保護(hù)精細(xì)化規(guī)則。個(gè)人信息用于建模等活動(dòng)需取得自然人單獨(dú)同意，自然人撤回同意后應(yīng)注銷數(shù)字虛擬人，明確逝者肖像、聲音等信息的使用規(guī)范。二是數(shù)字人格權(quán)全方位保護(hù)。明確不得以丑化、污損等形式侵害他人的人格權(quán)，未經(jīng)同意不得提供可識(shí)別特定自然人身份的服務(wù)，保護(hù)范圍涵蓋有社會(huì)知名度的筆名、藝名、網(wǎng)名等衍生標(biāo)識(shí)，精準(zhǔn)界定虛擬人與自然人的人格權(quán)邊界。三是未成年人保護(hù)剛性化條款。禁止誘導(dǎo)未成年人沉迷、提供虛擬戀愛、誘導(dǎo)消費(fèi)、誘導(dǎo)信教等行為，從內(nèi)容、行為、交互多維度劃定服務(wù)禁區(qū)。四是人工智能擬人化互動(dòng)服務(wù)領(lǐng)域?qū)ｍ?xiàng)化規(guī)范。禁止誘騙或過度誘導(dǎo)用戶使用，同時(shí)鼓勵(lì)對(duì)用戶自殺、自殘等傾向進(jìn)行積極干預(yù)和專業(yè)救助，兼顧防沉迷與生命健康保護(hù)，體現(xiàn)治理的人文關(guān)懷。五是傳播平臺(tái)責(zé)任制度化要求。明確傳播平臺(tái)需留存日志信息、優(yōu)化內(nèi)容審核和賬號(hào)管理，將平臺(tái)主體責(zé)任具體化，推動(dòng)形成服務(wù)提供者、傳播平臺(tái)雙層責(zé)任體系，強(qiáng)化信息內(nèi)容與認(rèn)知安全的全鏈條管控。六是梯度化法律責(zé)任設(shè)計(jì)。設(shè)置警告、通報(bào)、罰款的梯度罰則，根據(jù)違法情節(jié)實(shí)施差異化處罰，強(qiáng)化市場(chǎng)主體合規(guī)意識(shí)，避免一刀切重罰抑制產(chǎn)業(yè)創(chuàng)新，體現(xiàn)過罰相當(dāng)?shù)姆ㄖ卧瓌t。
五、治理價(jià)值彰顯：賦能數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展
《辦法》的制定是對(duì)數(shù)字虛擬人新興業(yè)態(tài)的專項(xiàng)規(guī)范，為數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展和網(wǎng)絡(luò)強(qiáng)國(guó)建設(shè)提供重要制度支撐。從國(guó)家層面看，《辦法》補(bǔ)齊了數(shù)字虛擬人業(yè)態(tài)的治理短板，完善了網(wǎng)絡(luò)空間安全治理制度體系。通過將其納入法治化、規(guī)范化軌道，從多維度防范風(fēng)險(xiǎn)，筑牢了網(wǎng)絡(luò)空間權(quán)益保護(hù)與數(shù)據(jù)安全防線，提升了我國(guó)網(wǎng)絡(luò)空間安全治理的精細(xì)化、專業(yè)化水平，契合總體國(guó)家安全觀和網(wǎng)絡(luò)強(qiáng)國(guó)戰(zhàn)略要求。從產(chǎn)業(yè)層面看，《辦法》為數(shù)字虛擬人產(chǎn)業(yè)劃定清晰合規(guī)邊界，通過明確市場(chǎng)主體責(zé)任，消除企業(yè)發(fā)展顧慮，推動(dòng)安全治理、合規(guī)經(jīng)營(yíng)內(nèi)化為關(guān)鍵業(yè)務(wù)流程。明確鼓勵(lì)創(chuàng)新發(fā)展導(dǎo)向，為技術(shù)創(chuàng)新、場(chǎng)景落地提供制度保障，推動(dòng)數(shù)字虛擬人技術(shù)與實(shí)體經(jīng)濟(jì)深度融合，釋放數(shù)字經(jīng)濟(jì)創(chuàng)新潛能。從國(guó)際層面看，《辦法》為全球數(shù)字虛擬人治理提供了中國(guó)方案，彰顯我國(guó)網(wǎng)絡(luò)空間治理的責(zé)任與擔(dān)當(dāng)。將“以人為本、智能向善”理念與網(wǎng)絡(luò)空間安全要求相結(jié)合，構(gòu)建了兼顧權(quán)益保護(hù)、風(fēng)險(xiǎn)防范與產(chǎn)業(yè)創(chuàng)新的治理框架，為全球治理提供可借鑒經(jīng)驗(yàn)。鼓勵(lì)參與國(guó)際規(guī)則制定，提升我國(guó)在全球網(wǎng)絡(luò)空間治理的話語(yǔ)權(quán)，推動(dòng)構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體。
六、結(jié)語(yǔ)
隨著《辦法》的制定與迭代完善，數(shù)字虛擬人信息服務(wù)將在安全合規(guī)框架下持續(xù)釋放技術(shù)價(jià)值，垂類應(yīng)用將更具深度與廣度，成為賦能實(shí)體經(jīng)濟(jì)、豐富數(shù)字生態(tài)、推動(dòng)數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展的重要力量。網(wǎng)絡(luò)安全技術(shù)的持續(xù)創(chuàng)新與融合應(yīng)用，將為數(shù)字虛擬人筑牢堅(jiān)實(shí)保護(hù)屏障，推動(dòng)智能向善、安全可控、合規(guī)有序的健康發(fā)展，為網(wǎng)絡(luò)空間安全治理與數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展注入發(fā)展新動(dòng)能。(作者：黃永峰，中關(guān)村實(shí)驗(yàn)室雙聘專家、研究員)