《生成式人工智能服務(wù)管理暫行辦法》業(yè)實(shí)務(wù)解讀

《生成式人工智能服務(wù)管理暫行辦法》企業(yè)實(shí)務(wù)解讀2023年7月13日下午，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》（以下稱《暫行辦法》），自2023年8月15日起施行。同時(shí)于當(dāng)日發(fā)布了《國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人就<生成式人工智能服務(wù)管理暫行辦法>答記者問》（以下稱《答記者問》），以便于公眾了解該辦法的出臺(tái)的背景、目標(biāo)和關(guān)鍵規(guī)范內(nèi)容?！稌盒修k法》于今年4月份發(fā)布征求意見稿至昨天推出正式稿以及擬定下月施行，不過短短數(shù)月。如此迅速出臺(tái)該人工智能技術(shù)管理部門規(guī)章，不難看出國家貫徹落實(shí)有關(guān)政策及推行法規(guī)要求以有效促進(jìn)生成式人工智能技術(shù)健康發(fā)展的迫切和決心。根據(jù)《暫行辦法》和《答記者問》，國家在生成式人工智能技術(shù)的整體監(jiān)管策略上釋放了利好信號(hào)，大力鼓勵(lì)創(chuàng)新和探索，其治理框架而言并未提出標(biāo)新立異治理要求，而是圍繞生成式人工智能技術(shù)的應(yīng)用匯總網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個(gè)人信息保護(hù)、算法治理、知識(shí)產(chǎn)權(quán)保護(hù)等有關(guān)規(guī)定及要求。除訓(xùn)練數(shù)據(jù)合規(guī)要求外，具體合規(guī)要求仍沿襲網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理管理管控要求為主，要求生成式人工智能服務(wù)提供者作為“內(nèi)容生產(chǎn)者”，落實(shí)安全管控主體責(zé)任。作者在下文將依據(jù)《暫行辦法》《答記者問》和內(nèi)容安全治理等相關(guān)法規(guī)，結(jié)合本人在網(wǎng)絡(luò)信息內(nèi)容安全、算法合規(guī)及數(shù)據(jù)合規(guī)的實(shí)務(wù)經(jīng)驗(yàn)，從實(shí)務(wù)層面對(duì)該辦法進(jìn)行解讀，供相關(guān)行業(yè)或企業(yè)參考。一、國家對(duì)于生成式人工智能技術(shù)的整體管制策略或原則是什么？答根據(jù)《暫行辦法》第一、三、五和六條及《答記者問》第一問，對(duì)于生成式人工智能技術(shù)，國家“堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。”此外該辦法名為“暫行辦法”，意味著國家有關(guān)部門后續(xù)會(huì)結(jié)合實(shí)際情況進(jìn)行快速修改，以適應(yīng)人工智能技術(shù)的快速發(fā)展之需。實(shí)務(wù)解讀比對(duì)了《暫行辦法》的征求意見稿和生效文本，生效文本刪除了大量較為嚴(yán)格限制規(guī)定，其正文更是直接把鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展”寫入規(guī)定，明顯對(duì)于人工智能技術(shù)施以“包容”和“寬松”，利好信號(hào)十分明顯。該舉措實(shí)質(zhì)為鼓勵(lì)各行業(yè)各領(lǐng)域企業(yè)機(jī)構(gòu)抓住這號(hào)稱“最新一輪技術(shù)革命”所帶來的經(jīng)濟(jì)機(jī)遇，進(jìn)行創(chuàng)新和探索，以培育新技術(shù)應(yīng)用場(chǎng)景和構(gòu)建新應(yīng)用生態(tài)體系。當(dāng)然，國家也明確了對(duì)生成式人工智能技術(shù)采取“審慎和分類分級(jí)監(jiān)管的政策，推進(jìn)各種相關(guān)法律規(guī)定管控要求在企業(yè)層面的落實(shí)，以防范和應(yīng)對(duì)人工智能技術(shù)帶來的社會(huì)性風(fēng)險(xiǎn)，從而引導(dǎo)新技術(shù)的健康發(fā)展，建立長效機(jī)制。對(duì)于企業(yè)而言，這是寬嚴(yán)相濟(jì)的管控策略，企業(yè)可積極利用生成式人工智能技術(shù)進(jìn)行研發(fā)和應(yīng)用等探索，同時(shí)采取審慎態(tài)度注意相應(yīng)的監(jiān)管紅線，落實(shí)主體責(zé)任。二、《暫行辦法》對(duì)生成式人工智能技術(shù)提出了什么樣的新治理要求？答《暫行辦法》是我國境內(nèi)首部針對(duì)生成式人工智能技術(shù)管控專門規(guī)定，但其并未提出較多新要求。本質(zhì)仍是圍繞生成式人工智能技術(shù)，匯總?cè)诤狭艘延械木W(wǎng)絡(luò)安全，尤其網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定、個(gè)人信息保護(hù)、數(shù)據(jù)安全、算法管理規(guī)定、知識(shí)產(chǎn)權(quán)保護(hù)（著作權(quán)為主）有關(guān)法律法規(guī)的要求。這也對(duì)應(yīng)了《答記者問》第一問中提到的制定《暫行辦法》背景之——“推進(jìn)實(shí)施法律規(guī)定的內(nèi)在要求，即“落實(shí)《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》、《科學(xué)技術(shù)進(jìn)步法》有關(guān)規(guī)定的重要要求，進(jìn)一步規(guī)范數(shù)據(jù)處理等活動(dòng)”。當(dāng)然，《暫行辦法》在第七條提出了訓(xùn)練數(shù)據(jù)處理活動(dòng)的管控要求，以及在第八條提出了數(shù)據(jù)標(biāo)注的有關(guān)要求，要求企業(yè)在新技術(shù)應(yīng)用過程，采取措施提升其所依賴的運(yùn)算的巨量數(shù)據(jù)和模型來源的合法性，以及采取措施提升數(shù)據(jù)及其內(nèi)容的質(zhì)量。實(shí)務(wù)解讀《暫行辦法》匯總了生成式人工智能技術(shù)應(yīng)當(dāng)遵循的全部各類原則、合規(guī)要求。對(duì)于企業(yè)合規(guī)從業(yè)人員而言，省去了一些從不同法規(guī)去梳理“合規(guī)地圖”的工作。從治理要求而言，企業(yè)可從人工智能技術(shù)自行研發(fā)、或者引入第三方API接口的立項(xiàng)開始，重點(diǎn)圍繞內(nèi)容安全、數(shù)據(jù)安全和個(gè)人信息保護(hù)、同時(shí)兼顧算法治理規(guī)定和倫理規(guī)定等要求，分拆相關(guān)的合規(guī)要求和責(zé)任主體，在不同環(huán)節(jié)進(jìn)行布控和落實(shí)管控，該工作應(yīng)當(dāng)以生成式人工智能技術(shù)依賴的算法模型、數(shù)據(jù)來源的合法性進(jìn)行著手，尤其企業(yè)自行爬取的數(shù)據(jù)或第三方提供數(shù)據(jù)的合法、真實(shí)和客觀性建立評(píng)估模型，確保源頭合法。三、哪些對(duì)象或行為需遵循《暫行辦法》的要求？答從適用對(duì)象而言，根據(jù)《暫行辦法》第二條和第四條，其適用對(duì)象和范疇包括了生成式人工智能技術(shù)的服務(wù)提供者和服務(wù)使用者兩大類。相較于征求意見稿，《暫行辦法》正式稿排除了“研發(fā)生成式人工智能產(chǎn)品行為”，同時(shí)直接明確“未向境內(nèi)公眾提供生成式人工智能服務(wù)的，不適用本辦法的規(guī)定”。實(shí)務(wù)解讀舉例說明哪些對(duì)象落入本法適用范疇和排除的范疇：1.生成式人工智能技術(shù)的服務(wù)提供者：判斷的關(guān)鍵詞：“利用生成式人工智能技術(shù)”+“面向境內(nèi)公眾”+“提供生成式人工智能服務(wù)”，這包括了兩種情形：■

APP等網(wǎng)絡(luò)平臺(tái)運(yùn)營者，向境內(nèi)公眾提供生成式人工智能技術(shù)工具，以便用戶進(jìn)行內(nèi)容創(chuàng)作、生成或制定；■

APP等網(wǎng)絡(luò)平臺(tái)運(yùn)營者，向境內(nèi)公眾用戶所提供的內(nèi)容為生成式人工智能技術(shù)工具創(chuàng)作、生成或制定的。反之，被《暫行辦法》排除適用的例子：■

純粹研發(fā)行為:e.g.面向企業(yè)而非公眾提供人工智能技術(shù)的研發(fā)方法，如算法模型或其他相關(guān)技術(shù)研發(fā)、技術(shù)支撐方等，尤其是被委托研發(fā)的一方、委托進(jìn)行算法模型優(yōu)化技術(shù)支撐者，不在辦法約束范疇；■

純粹企業(yè)機(jī)構(gòu)或個(gè)人自用行為:e.g.企業(yè)內(nèi)部用作知識(shí)庫、快速生產(chǎn)內(nèi)容的工具；■

服務(wù)對(duì)象為境外公眾的行為；e.g.雖在境內(nèi)研發(fā)并運(yùn)營，但明確這不面向中國境內(nèi)公眾提供服務(wù)的平臺(tái)。2.生成式人工智能服務(wù)的使用者；使用者的判斷標(biāo)準(zhǔn)相對(duì)簡單，無論企業(yè)、機(jī)構(gòu)還是個(gè)人，但凡在境內(nèi)使用生成式人工智能技術(shù)進(jìn)行內(nèi)容創(chuàng)作的，包括利用AI完成OGC、PGC和UGC創(chuàng)作或生成并進(jìn)行網(wǎng)絡(luò)傳輸?shù)男袨?，需遵守該辦法。例如B站的UP主利用境內(nèi)的類似于“Midjourney”或其他類似的生成式人工智能服務(wù)制作其視頻、傳播該視頻的行為，就屬于《暫行辦法》的第四條規(guī)范的行為。當(dāng)然第四條的內(nèi)容也主要源于《網(wǎng)絡(luò)安全法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等網(wǎng)絡(luò)信息內(nèi)容安全管控的要求。四、《暫行辦法》正式頒布稿刪除了“研發(fā)生成式人工智能產(chǎn)品”，是否可認(rèn)為生成式人工智能產(chǎn)品的研發(fā)行為無需進(jìn)行合規(guī)?答《暫行辦法》正式頒布稿刪除征求意見稿多次提到的“研發(fā)生成式人工智能產(chǎn)品”，同時(shí)根據(jù)上文可知國家主張鼓勵(lì)企業(yè)對(duì)人工智能的研發(fā)和探索的投入，以“發(fā)展”和“鼓勵(lì)創(chuàng)新”為主基調(diào)兼顧安全和治理，但其這不代表生成式人工智能產(chǎn)品的研發(fā)無需采取合規(guī)措施。因?yàn)槌恕稌盒修k法》外，生成式人工智能產(chǎn)品的研發(fā)行為涉及模型搭建或引入新模型，進(jìn)行數(shù)據(jù)收集和數(shù)據(jù)訓(xùn)練等行為，還需遵守包括但不限于網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個(gè)人信息保護(hù)和知識(shí)產(chǎn)權(quán)的有關(guān)法律規(guī)定。實(shí)務(wù)解讀生成式人工智能技術(shù)的研發(fā)行為雖未納入《暫行辦法》的適用范疇，企業(yè)仍應(yīng)前置合規(guī)部署，宜直接參考《暫行辦法》采取自律合規(guī)措施，并宜在相應(yīng)項(xiàng)目研發(fā)立項(xiàng)階段啟動(dòng)合規(guī)管控，否則等到生成式人工智能技術(shù)產(chǎn)品或服務(wù)上線運(yùn)營（golive）后才啟動(dòng)合規(guī)管控，就太晚了。這其中重點(diǎn)是前置采取合規(guī)評(píng)估措施，包括對(duì)研發(fā)行為中涉及的科技倫理評(píng)估、數(shù)據(jù)處理的安全及合規(guī)評(píng)估、生產(chǎn)內(nèi)容的真實(shí)、合法和客觀等合規(guī)評(píng)估，以及包括研發(fā)過程涉及技術(shù)支撐方、數(shù)據(jù)供應(yīng)商等第三方的合規(guī)評(píng)估就也應(yīng)優(yōu)先納入自律管控的合規(guī)版塊中。五、落入《暫行辦法》適用范疇企業(yè)或個(gè)人，有哪些需落實(shí)的合規(guī)義務(wù)？答《暫行辦法》主要對(duì)生成式人工智能服務(wù)提供者和使用者提出了合規(guī)要求，其中絕大部分責(zé)任是落生成式人工智能服務(wù)提供者上，要求其以“內(nèi)容生產(chǎn)者責(zé)任”落實(shí)網(wǎng)絡(luò)信息安全義務(wù)，此外涉?zhèn)€人信息的則落實(shí)個(gè)人信息保護(hù)義務(wù)。下文則匯總前文零散提及的合規(guī)義務(wù)，對(duì)《暫行辦法》所涉及的條款和該合規(guī)義務(wù)的來源等進(jìn)行簡要說明。針對(duì)生成式人工智能服務(wù)提供者，簡單梳理如上義務(wù)要點(diǎn)，但實(shí)質(zhì)上，這幾個(gè)合規(guī)義務(wù)類型很多都有交叉重疊的部分，尤其網(wǎng)絡(luò)信息安全管控義務(wù)就可作為一個(gè)包羅上文單列的其他義務(wù)的“口袋”。針對(duì)未成年人網(wǎng)絡(luò)保護(hù)義務(wù)和內(nèi)容安全自檢自查的評(píng)估和自律合規(guī)舉措，可參考《北源觀點(diǎn)|針對(duì)“清朗·2023年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專項(xiàng)行動(dòng)的解讀及合規(guī)應(yīng)對(duì)建議》結(jié)語《暫行辦法》的出臺(tái)，對(duì)于促進(jìn)人工智能技術(shù)和相關(guān)產(chǎn)業(yè)的健