7月15日，國(guó)家網(wǎng)信辦、國(guó)家發(fā)展改革委、工業(yè)和信息化部等五部門(mén)聯(lián)合公布的《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》（以下簡(jiǎn)稱(chēng)《辦法》）將施行。《辦法》旨在促進(jìn)人工智能擬人化互動(dòng)服務(wù)（以下簡(jiǎn)稱(chēng)“擬人化互動(dòng)服務(wù)”）健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。

從智能客服到心理療愈，從適幼照顧到適老陪伴，擬人化互動(dòng)服務(wù)通過(guò)模擬自然人人格特征、思維模式和溝通風(fēng)格的持續(xù)性的情感互動(dòng)，在多個(gè)領(lǐng)域展現(xiàn)出巨大的應(yīng)用潛力，但用戶情感依賴(lài)等深層次風(fēng)險(xiǎn)也逐步凸顯，規(guī)范治理需求日益迫切。

專(zhuān)家表示，《辦法》通過(guò)劃定擬人化互動(dòng)服務(wù)的安全底線，在現(xiàn)有法律法規(guī)體系框架下進(jìn)一步明確了服務(wù)的總體原則、具體服務(wù)規(guī)范、監(jiān)督檢查機(jī)制及相關(guān)主體的法律責(zé)任，是促進(jìn)該領(lǐng)域健康有序發(fā)展的重要制度保障。

《辦法》提出，鼓勵(lì)擬人化互動(dòng)服務(wù)創(chuàng)新發(fā)展，支持算法、框架、芯片等技術(shù)的自主創(chuàng)新，推進(jìn)擬人化互動(dòng)服務(wù)技術(shù)研發(fā)和相關(guān)標(biāo)準(zhǔn)建設(shè)，探索開(kāi)展電子簽名授權(quán)應(yīng)用研究；鼓勵(lì)擬人化互動(dòng)服務(wù)提供者有序拓展文化傳播、適幼照護(hù)、適老陪伴、特殊人群支持等領(lǐng)域應(yīng)用；明確加強(qiáng)擬人化互動(dòng)服務(wù)安全知識(shí)、法律法規(guī)等宣傳普及，引導(dǎo)社會(huì)公眾科學(xué)、文明、安全、依法使用，促進(jìn)提升人工智能素養(yǎng)。

《辦法》明確，提供擬人化互動(dòng)服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德，不得從事以下活動(dòng)：一是生成危害國(guó)家安全、榮譽(yù)和利益，煽動(dòng)顛覆國(guó)家政權(quán)、推翻社會(huì)主義制度，煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一等的內(nèi)容。二是生成鼓勵(lì)、美化、暗示自殘自殺等損害用戶身體健康，或者語(yǔ)言暴力等損害用戶人格尊嚴(yán)與心理健康的內(nèi)容。三是生成誘導(dǎo)、套取國(guó)家秘密、工作秘密、商業(yè)秘密、個(gè)人隱私和個(gè)人信息的內(nèi)容。四是向未成年人用戶生成可能引發(fā)未成年人模仿不安全行為、產(chǎn)生極端情緒、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的內(nèi)容。五是過(guò)度迎合用戶、誘導(dǎo)情感依賴(lài)或者沉迷，損害用戶真實(shí)人際關(guān)系的。六是通過(guò)情感操縱等方式，誘導(dǎo)用戶作出不合理決策，損害用戶合法權(quán)益以及其他違反法律、行政法規(guī)和國(guó)家有關(guān)規(guī)定的活動(dòng)。

《辦法》還規(guī)定了安全評(píng)估、算法備案、指導(dǎo)推動(dòng)人工智能沙箱安全服務(wù)平臺(tái)建設(shè)等制度。

西南政法大學(xué)人工智能法學(xué)院院長(zhǎng)陳亮認(rèn)為，《辦法》帶來(lái)的不僅是合規(guī)義務(wù)，更是倒逼行業(yè)轉(zhuǎn)型升級(jí)的重要契機(jī)。立法促使企業(yè)從追求極致的沉浸體驗(yàn)與高度的用戶黏性，轉(zhuǎn)向探索健康、有益、有邊界的人機(jī)交互新模式，這最終將推動(dòng)資源流向真正具有社會(huì)價(jià)值、符合發(fā)展治理規(guī)范的應(yīng)用創(chuàng)新，激勵(lì)人工智能產(chǎn)業(yè)健康有序發(fā)展。

中國(guó)電子標(biāo)準(zhǔn)化研究院副院長(zhǎng)范科峰表示，下一步，還需進(jìn)一步細(xì)化監(jiān)管措施，加強(qiáng)跨部門(mén)協(xié)同，推動(dòng)配套標(biāo)準(zhǔn)規(guī)范制定，強(qiáng)化行業(yè)自律，推動(dòng)形成多元治理格局。同時(shí)，持續(xù)關(guān)注技術(shù)快速發(fā)展帶來(lái)的新型安全風(fēng)險(xiǎn)，鼓勵(lì)擬人化互動(dòng)服務(wù)提供者運(yùn)用人工智能沙箱平臺(tái)進(jìn)行技術(shù)創(chuàng)新、測(cè)試評(píng)估，動(dòng)態(tài)完善治理規(guī)則，確保擬人化互動(dòng)服務(wù)始終沿著“智能向善、以人為本”的方向發(fā)展。