《生成式人工智能服務管理辦法（征求意見稿）》

第一條為促進生成式人工智能健康發(fā)展和規(guī)范應用，根據(jù)《中

華人民共和國網(wǎng)絡安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人

民共和國個人信息保護法》等法律、行政法規(guī)，制定本辦法。

第二條研發(fā)、利用生成式人工智能產(chǎn)品，面向中華人民共和國

境內(nèi)公眾提供服務的，適用本辦法。

本辦法所稱生成式人工智能，是指基于算法、模型、規(guī)則生成文

本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。

第三條國家支持人工智能算法、框架等基礎技術(shù)的自主創(chuàng)新、

推廣應用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和

數(shù)據(jù)資源。

第四條提供生成式人工智能產(chǎn)品或服務應當遵守法律法規(guī)的要

求，尊重社會公德、公序良俗，符合以下要求：

（一）利用生成式人工智能生成的內(nèi)容應當體現(xiàn)社會主義核心價

值觀，不得含有顛覆國家政權(quán)、推翻社會主義制度，煽動分裂國家、

破壞國家統(tǒng)一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，

暴力、淫穢色情信息，虛假信息，以及可能擾亂經(jīng)濟秩序和社會秩序

的內(nèi)容。

（二）在算法設計、訓練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務

等過程中，采取措施防止出現(xiàn)種族、民族、信仰、國別、地域、性別、

年齡、職業(yè)等歧視。

（三）尊重知識產(chǎn)權(quán)、商業(yè)道德，不得利用算法、數(shù)據(jù)、平臺等

優(yōu)勢實施不公平競爭。

（四）利用生成式人工智能生成的內(nèi)容應當真實準確，采取措施

防止生成虛假信息。

（五）尊重他人合法利益，防止傷害他人身心健康，損害肖像權(quán)、

名譽權(quán)和個人隱私，侵犯知識產(chǎn)權(quán)。禁止非法獲取、披露、利用個人

信息和隱私、商業(yè)秘密。

第五條利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音

生成等服務的組織和個人（以下稱“提供者”），包括通過提供可編

程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產(chǎn)品生

成內(nèi)容生產(chǎn)者的責任；涉及個人信息的，承擔個人信息處理者的法定

責任，履行個人信息保護義務。

第六條利用生成式人工智能產(chǎn)品向公眾提供服務前，應當按照

《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務安全評估規(guī)定》向

國家網(wǎng)信部門申報安全評估，并按照《互聯(lián)網(wǎng)信息服務算法推薦管理

規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

第七條提供者應當對生成式人工智能產(chǎn)品的預訓練數(shù)據(jù)、優(yōu)化

訓練數(shù)據(jù)來源的合法性負責。

用于生成式人工智能產(chǎn)品的預訓練、優(yōu)化訓練數(shù)據(jù)，應滿足以下

要求：

（一）符合《中華人民共和國網(wǎng)絡安全法》等法律法規(guī)的要求；

（二）不含有侵犯知識產(chǎn)權(quán)的內(nèi)容；

（三）數(shù)據(jù)包含個人信息的，應當征得個人信息主體同意或者符

合法律、行政法規(guī)規(guī)定的其他情形；

（四）能夠保證數(shù)據(jù)的真實性、準確性、客觀性、多樣性；

（五）國家網(wǎng)信部門關(guān)于生成式人工智能服務的其他監(jiān)管要求。

第八條生成式人工智能產(chǎn)品研制中采用人工標注時，提供者應

當制定符合本辦法要求，清晰、具體、可操作的標注規(guī)則，對標注人

員進行必要培訓，抽樣核驗標注內(nèi)容的正確性。

第九條提供生成式人工智能服務應當按照《中華人民共和國網(wǎng)

絡安全法》規(guī)定，要求用戶提供真實身份信息。

第十條提供者應當明確并公開其服務的適用人群、場合、用途，

采取適當措施防范用戶過分依賴或沉迷生成內(nèi)容。

第十一條提供者在提供服務過程中，對用戶的輸入信息和使用

記錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息，

不得根據(jù)用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸

入信息。法律法規(guī)另有規(guī)定的，從其規(guī)定。

第十二條提供者不得根據(jù)用戶的種族、國別、性別等進行帶有

歧視性的內(nèi)容生成。

第十三條提供者應當建立用戶投訴接收處理機制，及時處置個

人關(guān)于更正、刪除、屏蔽其個人信息的請求；發(fā)現(xiàn)、知悉生成的文本、

圖片、聲音、視頻等侵害他人肖像權(quán)、名譽權(quán)、個人隱私、商業(yè)秘密，

或者不符合本辦法要求時，應當采取措施，停止生成，防止危害持續(xù)。

第十四條提供者應當在生命周期內(nèi)，提供安全、穩(wěn)健、持續(xù)的

服務，保障用戶正常使用。

第十五條對于運行中發(fā)現(xiàn)、用戶舉報的不符合本辦法要求的生

成內(nèi)容，除采取內(nèi)容過濾等措施外，應在3個月內(nèi)通過模型優(yōu)化訓練

等方式防止再次生成。

第十六條提供者應當按照《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》

對生成的圖片、視頻等內(nèi)容進行標識。

第十七條提供者應當根據(jù)國家網(wǎng)信部門和有關(guān)主管部門的要求，

提供可以影響用戶信任、選擇的必要信息，包括預訓練和優(yōu)化訓練數(shù)

據(jù)的來源、規(guī)模、類型、質(zhì)量等描述，人工標注規(guī)則，人工標注數(shù)據(jù)

的規(guī)模和類型，基礎算法和技術(shù)體系等。

第十八條提供者應當指導用戶科學認識和理性使用生成式人工

智能生成的內(nèi)容，不利用生成內(nèi)容損害他人形象、名譽以及其他合法

權(quán)益，不進行商業(yè)炒作、不正當營銷。

用戶發(fā)現(xiàn)生成內(nèi)容不符合本辦法要求時，有權(quán)向網(wǎng)信部門或者有

關(guān)主管部門舉報。

第十九條提供者發(fā)現(xiàn)用戶利用生成式人工智能產(chǎn)品過程中違反

法律法規(guī)，違背商業(yè)道德、社會公德行為時，包括從事網(wǎng)絡炒作、惡

意發(fā)帖跟評、制造垃圾郵件、編寫惡意軟件，實施不正當?shù)纳虡I(yè)營銷

等，應當暫?；蛘呓K止服務。

第二十條提供者違反本辦法規(guī)定的，由網(wǎng)信部門和有關(guān)主管部

門按照《中華人民共和國網(wǎng)絡安全法》《中華人民共和國數(shù)據(jù)安全法》

《中華人民共和國個人信息保護法》等法律、行政法規(guī)的規(guī)定予以處

罰。

法律、行政法規(guī)沒有規(guī)定的，由網(wǎng)信部門和有關(guān)主管部門依據(jù)職

責給予警告、通報批評，責令限期改正；拒不改