國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、工業(yè)和信息化部、公安部、市場(chǎng)監(jiān)管總局，共同發(fā)布了《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》）。這一舉措旨在規(guī)范人工智能擬人化互動(dòng)服務(wù)的發(fā)展，保障國(guó)家安全和社會(huì)公共利益，同時(shí)保護(hù)公民、法人和其他組織的合法權(quán)益。
近年來(lái)，隨著人工智能技術(shù)的不斷進(jìn)步，擬人化互動(dòng)服務(wù)在文化傳播、適幼照護(hù)、適老陪伴等領(lǐng)域的應(yīng)用日益廣泛。然而，這一新興領(lǐng)域也暴露出諸多問(wèn)題，如危害未成年人身心健康、影響網(wǎng)絡(luò)信息安全、威脅公民生命健康以及加劇倫理偏差等。為了應(yīng)對(duì)這些挑戰(zhàn)，相關(guān)部門制定了《辦法》，以促進(jìn)擬人化互動(dòng)服務(wù)的健康發(fā)展和規(guī)范應(yīng)用。
《辦法》明確規(guī)定了擬人化互動(dòng)服務(wù)提供者的安全主體責(zé)任，要求其加強(qiáng)全生命周期的安全管理，包括部署、運(yùn)行、升級(jí)和終止服務(wù)等各階段的安全要求。同時(shí)，服務(wù)提供者還需保障數(shù)據(jù)安全，保護(hù)用戶權(quán)益，并開展安全風(fēng)險(xiǎn)處置。
在未成年人保護(hù)方面，《辦法》提出了嚴(yán)格的要求。擬人化互動(dòng)服務(wù)提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系的服務(wù)。對(duì)于向不滿十四周歲的未成年人提供其他擬人化互動(dòng)服務(wù)或處理其個(gè)人信息的，必須取得其父母或其他監(jiān)護(hù)人的同意。
《辦法》還鼓勵(lì)擬人化互動(dòng)服務(wù)在多個(gè)領(lǐng)域的應(yīng)用拓展，如文化傳播、適幼照護(hù)、適老陪伴和特殊人群支持等。同時(shí)，國(guó)家將支持算法、框架、芯片等技術(shù)的自主創(chuàng)新，推進(jìn)相關(guān)標(biāo)準(zhǔn)建設(shè)，并探索電子簽名授權(quán)應(yīng)用研究。
為了確保擬人化互動(dòng)服務(wù)的安全性，《辦法》規(guī)定了多項(xiàng)禁止性活動(dòng)，包括生成危害國(guó)家安全、榮譽(yù)和利益的內(nèi)容，鼓勵(lì)自殘自殺等損害用戶身體健康的內(nèi)容，以及誘導(dǎo)、套取國(guó)家秘密、商業(yè)秘密和個(gè)人隱私的內(nèi)容等。服務(wù)提供者必須遵守這些規(guī)定，確保服務(wù)內(nèi)容的合法性和正當(dāng)性。
針對(duì)老年人用戶，《辦法》也提出了特別要求。服務(wù)提供者應(yīng)加強(qiáng)對(duì)老年人健康使用服務(wù)的指導(dǎo)，以顯著方式提示安全風(fēng)險(xiǎn)，并及時(shí)響應(yīng)老年人的咨詢和求助。同時(shí)，服務(wù)提供者還需依法落實(shí)數(shù)據(jù)產(chǎn)權(quán)等制度，保護(hù)用戶交互數(shù)據(jù)的安全。
為了確保《辦法》的有效實(shí)施，相關(guān)部門將建立健全監(jiān)督檢查和法律責(zé)任機(jī)制。擬人化互動(dòng)服務(wù)提供者需按照規(guī)定履行算法備案和變更、注銷備案手續(xù)，并接受網(wǎng)信部門的年度核驗(yàn)。對(duì)于違反《辦法》規(guī)定的行為，相關(guān)部門將依法進(jìn)行處理和處罰。
《辦法》還規(guī)定了安全評(píng)估制度。擬人化互動(dòng)服務(wù)提供者在上線服務(wù)、增設(shè)功能或使用新技術(shù)導(dǎo)致服務(wù)發(fā)生重大變化時(shí)，需開展安全評(píng)估并向所在地省級(jí)網(wǎng)信部門提交評(píng)估報(bào)告。省級(jí)網(wǎng)信部門將依據(jù)職責(zé)進(jìn)行書面審查和情況核實(shí)，確保服務(wù)的安全性。
《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》的發(fā)布，標(biāo)志著我國(guó)在人工智能擬人化互動(dòng)服務(wù)領(lǐng)域邁出了重要的一步。通過(guò)規(guī)范服務(wù)提供者的行為，加強(qiáng)數(shù)據(jù)管理和安全保障，這一《辦法》將為擬人化互動(dòng)服務(wù)的健康發(fā)展和規(guī)范應(yīng)用提供有力保障。
