中新社北京12月27日電 (記者 劉育英)中國國家互聯(lián)網(wǎng)信息辦公室27日發(fā)布《人工智能擬人化互動服務(wù)管理暫行辦法(征求意見稿)》,其中提出服務(wù)提供者應(yīng)當(dāng)顯著提示用戶正在與人工智能而非自然人進(jìn)行交互。
征求意見稿稱,服務(wù)提供者不得生成傳播危害國家安全、淫穢暴力等違規(guī)內(nèi)容;禁止通過鼓勵、美化、暗示自殺自殘等方式損害用戶身體健康,或者通過語言暴力、情感操控等方式損害用戶人格尊嚴(yán)與心理健康;禁止通過算法操縱、信息誤導(dǎo)、設(shè)置情感陷阱等方式,誘導(dǎo)用戶作出不合理決策;禁止誘導(dǎo)、套取涉密敏感信息。
針對特殊群體,征求意見稿要求服務(wù)提供者向未成年人提供情感陪伴服務(wù)時,應(yīng)當(dāng)取得監(jiān)護人的明確同意,設(shè)置屏蔽特定角色、限制使用時長、防止充值消費等;不得提供模擬老年人用戶親屬、特定關(guān)系人的服務(wù),需引導(dǎo)老年人設(shè)置緊急聯(lián)系人。
征求意見稿還要求,服務(wù)提供者應(yīng)當(dāng)顯著提示用戶正在與人工智能而非自然人進(jìn)行交互;用戶連續(xù)使用擬人化互動服務(wù)超過2個小時的,應(yīng)當(dāng)以彈窗等方式動態(tài)提醒用戶暫停使用服務(wù)。
此外,注冊用戶達(dá)100萬以上或者月活躍用戶達(dá)10萬以上的提供者,以及功能上線、重大技術(shù)變更等情形,需開展安全評估并提交報告?;ヂ?lián)網(wǎng)應(yīng)用商店需落實上架審核責(zé)任,對違規(guī)應(yīng)用采取下架等措施。(完)