我國(guó)《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》施行

IT之家 7 月 15 日消息，國(guó)家互聯(lián)網(wǎng)信息辦公室、國(guó)家發(fā)展改革委、工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局于 4 月 10 日聯(lián)合公布《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》），該辦法自今起施行。

IT之家注：擬人化互動(dòng)服務(wù)是指企業(yè)利用人工智能技術(shù)，向境內(nèi)公眾提供模擬自然人人格特征、思維模式和溝通風(fēng)格的持續(xù)性的情感互動(dòng)服務(wù)，包括通過(guò)文字、圖片、音頻、視頻等形式提供的情感照護(hù)、陪伴、支持等互動(dòng)服務(wù)。其中智能客服、知識(shí)問(wèn)答、工作助手、學(xué)習(xí)教育、科學(xué)研究等不涉及持續(xù)性情感互動(dòng)的服務(wù)，不適用該《辦法》。

近年來(lái)，擬人化互動(dòng)服務(wù)在文化傳播、適幼照護(hù)、適老陪伴等領(lǐng)域的創(chuàng)新應(yīng)用不斷涌現(xiàn)，但同時(shí)，危害未成年人身心健康、影響網(wǎng)絡(luò)信息安全、威脅公民生命健康以及加劇倫理偏差等問(wèn)題也日益顯現(xiàn)。 《辦法》提出，國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，鼓勵(lì)擬人化互動(dòng)服務(wù)創(chuàng)新發(fā)展，對(duì)擬人化互動(dòng)服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。 在促進(jìn)措施方面，國(guó)家支持算法、框架、芯片等技術(shù)的自主創(chuàng)新，推進(jìn)技術(shù)研發(fā)和相關(guān)標(biāo)準(zhǔn)建設(shè)，鼓勵(lì)服務(wù)提供者有序拓展文化傳播、適幼照護(hù)、適老陪伴、特殊人群支持等領(lǐng)域應(yīng)用，同時(shí)加強(qiáng)安全知識(shí)和法律法規(guī)的宣傳普及。 《辦法》明確規(guī)定了提供擬人化互動(dòng)服務(wù)不得從事的六類活動(dòng)，包括：生成危害國(guó)家安全、榮譽(yù)和利益，煽動(dòng)顛覆國(guó)家政權(quán)、推翻社會(huì)主義制度等內(nèi)容；生成鼓勵(lì)、美化、暗示自殘自殺等損害用戶身體健康，或語(yǔ)言暴力等損害用戶人格尊嚴(yán)與心理健康的內(nèi)容；生成誘導(dǎo)、套取國(guó)家秘密、工作秘密、商業(yè)秘密、個(gè)人隱私和個(gè)人信息的內(nèi)容；向未成年人用戶生成可能引發(fā)未成年人模仿不安全行為、產(chǎn)生極端情緒、誘導(dǎo)未成年人不良嗜好等影響未成年人身心健康的內(nèi)容；過(guò)度迎合用戶、誘導(dǎo)情感依賴或者沉迷，損害用戶真實(shí)人際關(guān)系；通過(guò)情感操縱等方式，誘導(dǎo)用戶作出不合理決策，損害用戶合法權(quán)益。 在安全管理方面，《辦法》要求擬人化互動(dòng)服務(wù)提供者明確安全主體責(zé)任，加強(qiáng)服務(wù)全生命周期安全管理，保障數(shù)據(jù)安全，保護(hù)用戶權(quán)益。明確不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系服務(wù)；向不滿十四周歲未成年人提供其他擬人化互動(dòng)服務(wù)的，應(yīng)當(dāng)取得其父母或者其他監(jiān)護(hù)人的同意?！掇k法》還規(guī)定了安全評(píng)估和算法備案相關(guān)制度。安全評(píng)估主要針對(duì)上線擬人化互動(dòng)服務(wù)或增設(shè)相關(guān)功能、使用新技術(shù)新應(yīng)用導(dǎo)致服務(wù)發(fā)生重大變化、注冊(cè)用戶 100 萬(wàn)以上或月活躍用戶 10 萬(wàn)以上、存在可能影響國(guó)家安全或公共利益等安全風(fēng)險(xiǎn)等情形。評(píng)估內(nèi)容包括服務(wù)安全保障措施建設(shè)情況、訓(xùn)練數(shù)據(jù)處理情況、用戶極端情境的識(shí)別與應(yīng)急處置情況、用戶規(guī)模與年齡結(jié)構(gòu)等。此外，服務(wù)提供者還須按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案手續(xù)?！掇k法》同時(shí)明確推動(dòng)人工智能沙箱安全服務(wù)平臺(tái)建設(shè)，鼓勵(lì)服務(wù)提供者接入沙箱平臺(tái)進(jìn)行技術(shù)創(chuàng)新和安全測(cè)試。

國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，擬人化互動(dòng)服務(wù)的發(fā)展與治理需要政府、企業(yè)、社會(huì)、網(wǎng)民等多方參與，共同維護(hù)良好網(wǎng)絡(luò)生態(tài)，促進(jìn)人工智能向上向善。