依法推動(dòng)深度合成技術(shù)向上向善

依法推動(dòng)深度合成技術(shù)向上向善【資政場(chǎng)】隨著人工智能技術(shù)不斷迭代演進(jìn)，網(wǎng)絡(luò)治理面臨新課題、新挑戰(zhàn)。習(xí)近平總書記高度關(guān)注人工智能技術(shù)發(fā)展，強(qiáng)調(diào)“要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，維護(hù)人民利益和國(guó)家安全，確保人工智能安全、可靠、可控”，“建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德”。人工智能技術(shù)的廣泛應(yīng)用，在促進(jìn)數(shù)字經(jīng)濟(jì)與數(shù)字社會(huì)迅猛發(fā)展的同時(shí)，也帶來(lái)風(fēng)險(xiǎn)與挑戰(zhàn)。如深度合成技術(shù)若遭非法濫用，不僅會(huì)侵害公民人身權(quán)益與財(cái)產(chǎn)安全，還會(huì)污染網(wǎng)絡(luò)生態(tài)環(huán)境、危及國(guó)家網(wǎng)絡(luò)安全。因此，需要以法治方式筑牢信息安全屏障，確保人工智能技術(shù)在法治軌道上健康發(fā)展。深度合成技術(shù)安全風(fēng)險(xiǎn)急需立法回應(yīng)2022年我國(guó)人工智能核心產(chǎn)業(yè)規(guī)模達(dá)5080億元，同比增長(zhǎng)18%，躋身國(guó)際領(lǐng)先行列。深度合成技術(shù)是人工智能領(lǐng)域一項(xiàng)前沿技術(shù)，不僅包含了深度偽造技術(shù)，也泛指所有AI生成算法和涵蓋自動(dòng)生成圖像、視頻、語(yǔ)音、文本、音樂(lè)等內(nèi)容的人工智能合成技術(shù)。其中深度偽造技術(shù)借助人工智能技術(shù)，通過(guò)深度學(xué)習(xí)對(duì)生物識(shí)別信息、音頻或視頻等進(jìn)行修改和創(chuàng)造，能高度還原一個(gè)人的樣貌、聲音、動(dòng)態(tài)，甚至能以假亂真，有被濫用的風(fēng)險(xiǎn)。實(shí)際上，目前也已出現(xiàn)通過(guò)深度偽造技術(shù)進(jìn)行詐騙的案例。人工智能的生態(tài)環(huán)境與安全治理，是構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體的重要環(huán)節(jié)。為防范人工智能發(fā)展的潛在風(fēng)險(xiǎn)，各國(guó)日益重視人工智能深度合成技術(shù)的法律規(guī)制。美國(guó)通過(guò)平臺(tái)審查、技術(shù)對(duì)抗、法律監(jiān)督形成自下而上的治理路徑，先后提出了多部與深度偽造有關(guān)的法案。歐盟則將深度偽造視為對(duì)生物識(shí)別信息的濫用，運(yùn)用《通用數(shù)據(jù)保護(hù)條例》加以規(guī)制，并發(fā)布《反虛假信息行為準(zhǔn)則》，通過(guò)行業(yè)自律、提升人工智能安全素養(yǎng)、加強(qiáng)人工智能倫理治理等協(xié)調(diào)歐盟各成員國(guó)參與治理。對(duì)人工智能深度合成技術(shù)安全風(fēng)險(xiǎn)進(jìn)行立法回應(yīng)，已經(jīng)成為包括中國(guó)在內(nèi)的許多國(guó)家的共識(shí)。規(guī)制深度合成技術(shù)應(yīng)用的中國(guó)方案黨的十八大以來(lái)，我國(guó)網(wǎng)絡(luò)安全和信息化事業(yè)取得重大成就。網(wǎng)絡(luò)安全和信息化工作始終堅(jiān)持黨管互聯(lián)網(wǎng)，堅(jiān)持網(wǎng)信為民，走中國(guó)特色治網(wǎng)之道，統(tǒng)籌發(fā)展和安全，筑牢國(guó)家網(wǎng)絡(luò)安全屏障。針對(duì)人工智能技術(shù)應(yīng)用潛在風(fēng)險(xiǎn)的防范，我國(guó)以多部門立法相結(jié)合的方式作出積極回應(yīng)。在法律層面上，民法典第1019條的規(guī)定為深度偽造技術(shù)的圖像和視頻應(yīng)用劃定紅線。在規(guī)章層面，《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等規(guī)范性文件相繼制定，規(guī)定了服務(wù)提供者對(duì)深度合成的音頻或視頻的顯著標(biāo)識(shí)義務(wù)。今年年初施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》是我國(guó)最具系統(tǒng)性、針對(duì)性、可操作性的第一部規(guī)制深度合成的專門立法。該法規(guī)定在深度偽造技術(shù)應(yīng)用中，利用生物識(shí)別信息編輯的，應(yīng)取得信息主體的單獨(dú)同意；提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。深度合成管理規(guī)定的出臺(tái)，開(kāi)啟了對(duì)深度合成技術(shù)全方位立法治理的時(shí)代。近日頒布的《生成式人工智能服務(wù)管理暫行辦法》，是我國(guó)首部全面監(jiān)管生成式人工智能的立法文件。該法一方面劃定不得生成違法內(nèi)容、防止歧視、尊重知識(shí)產(chǎn)權(quán)和他人合法權(quán)益的法律底線；一方面鼓勵(lì)創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。這兩部規(guī)章的實(shí)施，不僅為我國(guó)人工智能深度合成技術(shù)健康發(fā)展提供了重要法制保障，而且所采用的由監(jiān)管機(jī)構(gòu)全面監(jiān)管、預(yù)先遏制新技術(shù)潛在安全風(fēng)險(xiǎn)的開(kāi)創(chuàng)性治理路徑，為全球人工智能治理提供了中國(guó)方案、貢獻(xiàn)了中國(guó)智慧。構(gòu)建規(guī)制深度合成技術(shù)應(yīng)用法律體系加快發(fā)展數(shù)字經(jīng)濟(jì)，貫徹落實(shí)國(guó)家發(fā)展新一代人工智能的決策部署，提升人工智能安全治理能力，應(yīng)堅(jiān)持以人民為中心的人工智能治理理念，結(jié)合民法、行政法、刑法等多法律部門，構(gòu)建多維度、全方位的法律規(guī)范體系，切實(shí)規(guī)制深度合成技術(shù)應(yīng)用，推動(dòng)科技向善，發(fā)展負(fù)責(zé)的人工智能。在人工智能立法方面，各地相繼出臺(tái)新規(guī)，國(guó)家層面的人工智能立法也在提速。筆者認(rèn)為，對(duì)深度合成的規(guī)制應(yīng)納入人工智能治理框架，重視深度合成技術(shù)的算法治理，提升區(qū)塊鏈溯源防偽和反向破解技術(shù)，對(duì)人工智能應(yīng)用生物識(shí)別信息提出嚴(yán)格限制。在個(gè)人信息保護(hù)方面，在利用生物識(shí)別信息深度偽造的場(chǎng)景中，信息處理者應(yīng)取得信息主體的單獨(dú)書面同意，切實(shí)履行“通知—?jiǎng)h除”義務(wù)、“發(fā)現(xiàn)—?jiǎng)h除”義務(wù)以及“發(fā)現(xiàn)—標(biāo)記”義務(wù)。在民法保護(hù)方面，對(duì)生物識(shí)別信息應(yīng)采用權(quán)利保護(hù)模式，信息主體有證據(jù)證明行為人非法利用生物識(shí)別信息進(jìn)行深度偽造的，有權(quán)立即申請(qǐng)人格權(quán)侵害禁令，責(zé)令停止侵害，屏蔽、刪除AI換臉記錄。在行政立法方面，應(yīng)提升深度合成專門立法的法律位階，落實(shí)數(shù)字平臺(tái)的主體監(jiān)管責(zé)任，強(qiáng)化問(wèn)責(zé)機(jī)制與懲罰性賠償責(zé)任。在刑事立法方面，可考慮對(duì)以深度偽造技術(shù)為犯罪工具竊用他人身份的犯罪行為設(shè)定新罪名；適度降低應(yīng)用深度偽造技術(shù)進(jìn)行侮辱、誹謗或危害