智能制造網(wǎng)APP
智能制造網(wǎng)手機(jī)站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號(hào)
智能控制
機(jī)器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
回放
品牌
明基環(huán)保
人工智能技術(shù)的突破正推動(dòng)人機(jī)交互從功能性輔助邁向情感化與人格化，在重塑社會(huì)互動(dòng)模式的同時(shí)，也催生一系列新風(fēng)險(xiǎn)挑戰(zhàn)。此類風(fēng)險(xiǎn)具有隱蔽傳導(dǎo)特征，可能侵害公民權(quán)益，甚至沖擊社會(huì)倫理秩序與信任根基。若缺乏有效治理，將嚴(yán)重阻礙人工智能健康發(fā)展，損害社會(huì)公共利益。在此背景下制定《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法(征求意見稿)》(以下簡稱《辦法》)，有利于促進(jìn)人工智能擬人化互動(dòng)服務(wù)有序開展，引領(lǐng)人工智能“負(fù)責(zé)任創(chuàng)新”，為構(gòu)建“以人為本”的人工智能治理體系提供重要的制度支撐。
一、錨定國家戰(zhàn)略方向，彰顯“負(fù)責(zé)任創(chuàng)新”理念
以國家戰(zhàn)略與政策導(dǎo)向?yàn)楦咀裱?，凸顯了人工智能治理的前瞻性、精準(zhǔn)性、系統(tǒng)性與協(xié)同性。一是堅(jiān)持科學(xué)立法原則，合理前瞻技術(shù)演進(jìn)趨勢，為人工智能創(chuàng)新發(fā)展預(yù)留制度空間。二是實(shí)施分類分級(jí)監(jiān)管，立足擬人化互動(dòng)服務(wù)特性精準(zhǔn)識(shí)別風(fēng)險(xiǎn)并差異化施策。三是構(gòu)建全鏈條治理體系，統(tǒng)籌技術(shù)創(chuàng)新、倫理規(guī)范與社會(huì)效益，確保人工智能健康有序發(fā)展。四是形成多元共治格局，注重政府監(jiān)管與行業(yè)自律相結(jié)合，提升治理效能。
以“負(fù)責(zé)任創(chuàng)新”理念為指引，明確人工智能創(chuàng)新活動(dòng)的責(zé)任邊界，讓技術(shù)始終在安全、公平、可持續(xù)的軌道上發(fā)展。擬人化互動(dòng)服務(wù)通過模擬人類內(nèi)在特質(zhì)與用戶建立準(zhǔn)社會(huì)化的“情感聯(lián)結(jié)”，可能導(dǎo)致新型社會(huì)關(guān)系異化，而立法所貫徹的“負(fù)責(zé)任創(chuàng)新”理念正是為了保障人的主體性地位，維護(hù)真實(shí)人際關(guān)系的價(jià)值。基于這一理念設(shè)計(jì)的一系列制度，重在防范技術(shù)濫用對(duì)人格尊嚴(yán)、社會(huì)信任與倫理秩序造成沖擊，確保人工智能發(fā)展始終服務(wù)于人民福祉。
二、聚焦重點(diǎn)突出風(fēng)險(xiǎn)，構(gòu)建精準(zhǔn)治理體系
《辦法》精準(zhǔn)識(shí)別并系統(tǒng)回應(yīng)了由“擬人化”和“情感交互”兩大核心特征所衍生的重點(diǎn)突出風(fēng)險(xiǎn)，以“人機(jī)邊界模糊”為治理重點(diǎn)，構(gòu)建多維度風(fēng)險(xiǎn)防控體系。
一是建立身份透明制度，劃定擬人化安全紅線，精準(zhǔn)防范人機(jī)邊界模糊引發(fā)的認(rèn)知混淆、信任侵蝕、人格權(quán)侵害及倫理越界等風(fēng)險(xiǎn)。一方面，以顯著標(biāo)識(shí)義務(wù)為核心的身份透明制度重在保障用戶知情權(quán)與選擇權(quán)，為法律追責(zé)提供清晰起點(diǎn)，能夠有效遏制技術(shù)濫用的匿名性庇護(hù)，從源頭降低認(rèn)知混淆與信任侵蝕風(fēng)險(xiǎn)。另一方面，《辦法》劃定人工智能擬人化政治安全紅線，防范深度偽造與新型網(wǎng)絡(luò)暴力，保護(hù)個(gè)人人格權(quán)益免受侵害。因此，立法堅(jiān)持?jǐn)M人化互動(dòng)服務(wù)的輔助人類定位，禁止替代、扭曲真實(shí)人際關(guān)系，并確保技術(shù)發(fā)展符合主流價(jià)值觀。
二是加強(qiáng)特殊群體保護(hù)，建立防沉迷機(jī)制，關(guān)注不同群體的差異化訴求，彰顯人文關(guān)懷與實(shí)質(zhì)公平理念。擬人化互動(dòng)服務(wù)因其高度情感回應(yīng)性與陪伴特性，具有天然的沉迷風(fēng)險(xiǎn)。未成年人正處于價(jià)值觀塑造與社交能力發(fā)展的關(guān)鍵期，老年人則可能面臨數(shù)字鴻溝與情感陪伴缺失的雙重困境，這些特殊群體在擬人化交互中易陷入情感依賴。立法針對(duì)性內(nèi)化企業(yè)的社會(huì)責(zé)任，確保技術(shù)進(jìn)步紅利能夠公平、安全地惠及所有群體，實(shí)現(xiàn)實(shí)質(zhì)意義上的公平正義。
三是強(qiáng)調(diào)對(duì)用戶交互信息的嚴(yán)格保護(hù)，是對(duì)《個(gè)人信息保護(hù)法》的深化與場景化適用。情感類個(gè)人信息能夠映射用戶的內(nèi)心世界、情感弱點(diǎn)與潛意識(shí)傾向，不當(dāng)利用可能會(huì)引發(fā)心理操控、待遇歧視及情感勒索等風(fēng)險(xiǎn)。同時(shí)，“情感計(jì)算”相關(guān)技術(shù)可能被濫用于提供成癮性服務(wù)，使用戶在無意識(shí)中暴露更多的敏感信息。因此，對(duì)用戶交互數(shù)據(jù)施加更嚴(yán)格的目的限制、安全存儲(chǔ)與使用禁令，是人格權(quán)保護(hù)在數(shù)智時(shí)代的延伸。
三、踐行系統(tǒng)治理思維，落實(shí)包容審慎監(jiān)管
《辦法》通過全鏈條責(zé)任、彈性監(jiān)管工具與多元共治格局，為“負(fù)責(zé)任創(chuàng)新”理念落地提供堅(jiān)實(shí)保障，推動(dòng)產(chǎn)業(yè)生態(tài)良性發(fā)展。
一是將責(zé)任設(shè)計(jì)貫穿擬人化互動(dòng)服務(wù)的關(guān)鍵節(jié)點(diǎn)，實(shí)現(xiàn)風(fēng)險(xiǎn)精準(zhǔn)防控。在模型設(shè)計(jì)階段，從源頭避免替代社會(huì)交往、控制用戶心理、誘導(dǎo)沉迷依賴等后果。在模型訓(xùn)練階段，使用體現(xiàn)主流價(jià)值觀的數(shù)據(jù)，評(píng)估合成數(shù)據(jù)的安全性，防止數(shù)據(jù)污染。在應(yīng)用部署前，依法開展安全評(píng)估，避免服務(wù)出現(xiàn)重大安全風(fēng)險(xiǎn)。在服務(wù)運(yùn)營中，建立風(fēng)險(xiǎn)動(dòng)態(tài)處置機(jī)制，及時(shí)應(yīng)對(duì)突發(fā)風(fēng)險(xiǎn)。可以看出，這種全流程治理模式能夠有效避免事后補(bǔ)救式監(jiān)管的滯后性，推動(dòng)風(fēng)險(xiǎn)管理內(nèi)化為企業(yè)的核心業(yè)務(wù)流程，實(shí)現(xiàn)治理效能最大化。
二是強(qiáng)調(diào)協(xié)同共治，鼓勵(lì)行業(yè)組織制定標(biāo)準(zhǔn)、加強(qiáng)自律，體現(xiàn)了立法者對(duì)人工智能治理復(fù)雜性的清晰認(rèn)知。《辦法》積極回應(yīng)新技術(shù)新應(yīng)用多元治理需要，整合政府、企業(yè)、行業(yè)組織、社會(huì)公眾等主體的治理資源，形成治理合力。同時(shí)，《辦法》力求在防范風(fēng)險(xiǎn)與鼓勵(lì)創(chuàng)新之間取得動(dòng)態(tài)平衡，推動(dòng)形成動(dòng)態(tài)敏捷、多元協(xié)同的人工智能治理格局，促進(jìn)擬人化互動(dòng)服務(wù)在規(guī)范有序的環(huán)境中實(shí)現(xiàn)高質(zhì)量發(fā)展。
三是積極落實(shí)包容審慎監(jiān)管思路，探索“監(jiān)管沙盒”等彈性監(jiān)管工具，為新技術(shù)新應(yīng)用提供“安全試錯(cuò)”的制度環(huán)境。《辦法》首次在部門規(guī)章層面明確“監(jiān)管沙盒”制度，允許企業(yè)在監(jiān)管機(jī)構(gòu)的監(jiān)督指導(dǎo)下開展創(chuàng)新試點(diǎn)和安全測試，在保障企業(yè)創(chuàng)新活力的同時(shí)，及時(shí)發(fā)現(xiàn)并防范試點(diǎn)過程中出現(xiàn)的風(fēng)險(xiǎn)。這一彈性監(jiān)管模式準(zhǔn)確適應(yīng)了人工智能技術(shù)迭代快、應(yīng)用場景多的特點(diǎn)，為新技術(shù)的成熟推廣、安全防控創(chuàng)造有利條件。
總的來看，《辦法》將“負(fù)責(zé)任創(chuàng)新”理念轉(zhuǎn)化為可執(zhí)行、可追責(zé)的立法規(guī)則，為我國擬人化互動(dòng)服務(wù)的健康發(fā)展提供了穩(wěn)定預(yù)期，也為全球應(yīng)對(duì)類似前沿挑戰(zhàn)貢獻(xiàn)了兼具前瞻性與實(shí)操性的“中國方案”。
作者：林 維 西南政法大學(xué)校長、中國法學(xué)會(huì)副會(huì)長
審核：陳舞陽
編輯：呂燕芳
校對(duì)：柴于涵
浙公網(wǎng)安備 33010602000006號(hào)
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號(hào)
