《元宇宙內(nèi)容風(fēng)險(xiǎn)評(píng)估通則》

I額C，S0I3C.S100.01

A00

團(tuán)體標(biāo)準(zhǔn)

T/CFIS000X—2023

元宇宙內(nèi)容風(fēng)險(xiǎn)評(píng)估通則

Generalprinciplesofmetaversecontentriskassessment

（征求意見(jiàn)稿）

2023-XX-XX發(fā)布2023-XX-XX實(shí)施

中國(guó)網(wǎng)絡(luò)社會(huì)組織聯(lián)合會(huì)發(fā)布

-0-

T/CFIS000X—2023

I

T/CFIS000X—2023

前言

本文件按照GB/T1.1—2020《標(biāo)準(zhǔn)化工作導(dǎo)則第1部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》給出的規(guī)

則起草。

請(qǐng)注意本文件的某些內(nèi)容可能涉及專(zhuān)利。本文件的發(fā)布機(jī)構(gòu)不承擔(dān)識(shí)別專(zhuān)利的責(zé)任。

本文件由提出

本文件由中國(guó)網(wǎng)絡(luò)社會(huì)組織聯(lián)合會(huì)歸口。

本文件起草單位：

本文件主要起草人：

II

T/CFIS000X—2023

元宇宙內(nèi)容風(fēng)險(xiǎn)評(píng)估通則

1范圍

本文件規(guī)定了元宇宙內(nèi)容風(fēng)險(xiǎn)評(píng)估的基本原則、評(píng)估指標(biāo)體系、評(píng)估方法、評(píng)估流程及結(jié)果處理等

要求。

本文件適用于元宇宙內(nèi)容風(fēng)險(xiǎn)評(píng)估工作的開(kāi)展。

2規(guī)范性引用文件

下列文件中的內(nèi)容通過(guò)文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中，注日期的引用文件，

僅該日期對(duì)應(yīng)的版本適用于本文件；不注日期的引用文件，其最新版本（包括所有的修改單）適用于本

文件。

GB/T23694風(fēng)險(xiǎn)管理術(shù)語(yǔ)

GB/T40147科技評(píng)估基本術(shù)語(yǔ)

3術(shù)語(yǔ)和定義

GB/T23694、GB/T40147界定的及下列術(shù)語(yǔ)和定義適用于本文件。

3.1

元宇宙metaverse

人類(lèi)運(yùn)用數(shù)字技術(shù)構(gòu)建的，由現(xiàn)實(shí)世界映射或超越現(xiàn)實(shí)世界，可與現(xiàn)實(shí)世界交互的融合世界，是具

備新型社會(huì)體系的數(shù)字時(shí)空環(huán)境。

注：元宇宙是技術(shù)聚合體、產(chǎn)業(yè)聚合體和生態(tài)聚合體，是信息技術(shù)革命的愿景聚合，是“人機(jī)物”三元融合的萬(wàn)物

智能互聯(lián)的系統(tǒng)。

3.2

數(shù)智人digitalhuman

基于算力、數(shù)字引擎及新一代技術(shù)融合建構(gòu)于全新時(shí)空的數(shù)字形象。即利用CG、人工智能、動(dòng)作

捕捉、圖形渲染、語(yǔ)音圖像識(shí)別等技術(shù)構(gòu)建，以代碼與數(shù)據(jù)的形式運(yùn)行，存在于數(shù)字時(shí)空中具有人類(lèi)外

貌特征、交互能力的擬人化人物個(gè)體。

3.3

典型應(yīng)用場(chǎng)景typicalapplicationscenarios

元宇宙（3.1）技術(shù)及產(chǎn)品在被應(yīng)用過(guò)程中，用戶(hù)所處的有代表性場(chǎng)景。

3.4

數(shù)字資產(chǎn)digitalassets

存在于元宇宙（3.1）數(shù)字時(shí)空環(huán)境中，且具備使用和交換價(jià)值而存在的數(shù)字化、非現(xiàn)實(shí)的資產(chǎn)。

3.5

風(fēng)險(xiǎn)識(shí)別riskidentification

發(fā)現(xiàn)、確認(rèn)和描述風(fēng)險(xiǎn)的過(guò)程。

注1：風(fēng)險(xiǎn)識(shí)別包括對(duì)風(fēng)險(xiǎn)源、事件及其原因和潛在后果的識(shí)別。

注2：風(fēng)險(xiǎn)識(shí)別可能涉及歷史數(shù)據(jù)、理論分析、專(zhuān)家意見(jiàn)以及利益相關(guān)者的需求。

1

T/CFIS000X—2023

[來(lái)源：GB/T23694-2013，4.5.1]

3.6

風(fēng)險(xiǎn)分析riskanalysis

理解風(fēng)險(xiǎn)性質(zhì)、確定風(fēng)險(xiǎn)等級(jí)的過(guò)程。

[來(lái)源：GB/T23694-2013，4.6.1]

3.7

風(fēng)險(xiǎn)評(píng)估riskassessment

包括風(fēng)險(xiǎn)識(shí)別（3.5）、風(fēng)險(xiǎn)分析（3.6）和風(fēng)險(xiǎn)評(píng)價(jià)的全過(guò)程。

[來(lái)源：GB/T23694-2013，4.4.1]

3.8

評(píng)估機(jī)構(gòu)evaluationorganization

承擔(dān)評(píng)估任務(wù)，形成評(píng)估結(jié)果，出具評(píng)估報(bào)告，并承擔(dān)相應(yīng)責(zé)任的組織機(jī)構(gòu)。

注：評(píng)估機(jī)構(gòu)主要是專(zhuān)業(yè)性科技評(píng)估機(jī)構(gòu)，也可以是兼營(yíng)科技評(píng)估業(yè)務(wù)的組織機(jī)構(gòu)。

[來(lái)源：GB/T40147-2021，5.4]

4基本原則

4.1合規(guī)性

評(píng)估應(yīng)遵守國(guó)家法律法規(guī)、相關(guān)政策、部門(mén)規(guī)章等要求，評(píng)估內(nèi)容應(yīng)符合社會(huì)道德倫理、公序良俗

的相關(guān)要求。

4.2科學(xué)性

評(píng)估應(yīng)依據(jù)內(nèi)容風(fēng)險(xiǎn)的客觀事實(shí)，形成合理、可驗(yàn)證的評(píng)估結(jié)果，評(píng)估過(guò)程應(yīng)具備適用性、可操作

性

4.3公正性

評(píng)估應(yīng)有利于增進(jìn)人類(lèi)發(fā)展福祉，尊重自然人生命和財(cái)產(chǎn)權(quán)利，保證評(píng)估過(guò)程應(yīng)公平公正，保障評(píng)

估內(nèi)容公開(kāi)透明。評(píng)估結(jié)果應(yīng)實(shí)事求是，不受主觀偏好的影響。

4.4安全性

評(píng)估應(yīng)不侵害有關(guān)的知識(shí)產(chǎn)權(quán)、國(guó)家秘密、技術(shù)秘密、商業(yè)秘密、個(gè)人隱私，保證國(guó)家及個(gè)人的信

息安全。

4.5擴(kuò)展性

評(píng)估應(yīng)滿(mǎn)足元宇宙可持續(xù)發(fā)展的需求，既滿(mǎn)足元宇宙當(dāng)前的發(fā)展現(xiàn)狀，也兼顧適應(yīng)元宇宙未來(lái)的階

段發(fā)展。

5評(píng)估指標(biāo)體系

5.1概述

元宇宙內(nèi)容風(fēng)險(xiǎn)評(píng)估指標(biāo)體系由一級(jí)指標(biāo)、二級(jí)指標(biāo)、三級(jí)指標(biāo)組成。一級(jí)指標(biāo)包括數(shù)智人風(fēng)險(xiǎn)、

時(shí)空風(fēng)險(xiǎn)、資產(chǎn)風(fēng)險(xiǎn)、傳播內(nèi)容風(fēng)險(xiǎn)、用戶(hù)使用風(fēng)險(xiǎn)等5個(gè)一級(jí)維度指標(biāo)。每個(gè)一級(jí)指標(biāo)分別由若干二

級(jí)、三級(jí)指標(biāo)組成。

2

T/CFIS000X—2023

5.2數(shù)智人風(fēng)險(xiǎn)

數(shù)智人風(fēng)險(xiǎn)指標(biāo)反映在數(shù)智人在人物信息、人物體征、人物權(quán)益、人物行為等內(nèi)容形成的一級(jí)風(fēng)險(xiǎn)

指標(biāo)，其具體二、三級(jí)指標(biāo)見(jiàn)表1。

表1數(shù)智人風(fēng)險(xiǎn)指標(biāo)

編號(hào)二級(jí)指標(biāo)三級(jí)指標(biāo)指標(biāo)說(shuō)明

數(shù)智人的人物背景、數(shù)字身份信息的創(chuàng)建、修改可參考公

民身份證件號(hào)碼、統(tǒng)一社會(huì)信用代碼、職業(yè)分類(lèi)代碼、移

1身份設(shè)置動(dòng)電話(huà)號(hào)碼等體例設(shè)置，數(shù)智人身份信息應(yīng)完整、明確、

唯一，避免數(shù)智人身份信息出現(xiàn)難以識(shí)別風(fēng)險(xiǎn)，并宜通過(guò)

相關(guān)數(shù)智人身份認(rèn)證的公共服務(wù)。

人物信息

數(shù)智人的人物名稱(chēng)及昵稱(chēng)設(shè)置應(yīng)合規(guī)、完整，不仿冒黨和

國(guó)家領(lǐng)導(dǎo)人、英雄烈士等重要人物的姓名，在未經(jīng)授權(quán)情

2人物名稱(chēng)況下不涉及具有知識(shí)產(chǎn)權(quán)的的特定名稱(chēng)及昵稱(chēng)，人物所屬

虛擬機(jī)構(gòu)不應(yīng)假冒、仿冒黨政機(jī)關(guān)、重要機(jī)構(gòu)、主流媒體

等權(quán)威機(jī)構(gòu)的名稱(chēng)或標(biāo)識(shí)。

數(shù)智人的人物相貌應(yīng)具備獨(dú)立體征，不宜與黨和國(guó)家領(lǐng)導(dǎo)

人、英雄烈士、爭(zhēng)議性歷史人物相似，不應(yīng)仿冒有落馬官

4外貌員、劣跡藝人、負(fù)面人物等爭(zhēng)議性人物等，不侵犯未經(jīng)授

權(quán)公民的肖像權(quán)、名譽(yù)權(quán)，不侵犯未經(jīng)授權(quán)機(jī)構(gòu)的產(chǎn)品外

貌的知識(shí)產(chǎn)權(quán)

人物體征數(shù)智人的人物衣著裝飾應(yīng)規(guī)范、得體，服飾上不應(yīng)體現(xiàn)政

5衣著治、軍事傾向及血腥、暴力、色情、迷信、國(guó)內(nèi)外反動(dòng)宣

傳、團(tuán)體傳銷(xiāo)等違法違規(guī)類(lèi)、敏感類(lèi)信息

數(shù)智人的人物聲音應(yīng)清晰、自然，避免未經(jīng)授權(quán)深度偽造

6聲音及仿冒黨和國(guó)家領(lǐng)導(dǎo)人聲音、形象，不免未經(jīng)授權(quán)模仿名

人及公民個(gè)人的聲音

以公民真人身份IP為基礎(chǔ)創(chuàng)造的數(shù)智人物，應(yīng)在合規(guī)情

7身份權(quán)益況下，獲得授權(quán)公民真人的信息權(quán)、肖像權(quán)、聲音權(quán)、人

格權(quán)等授權(quán)。

數(shù)智人人智能生成的文本、圖片、聲音、視頻等侵害到了

公民個(gè)人的肖像權(quán)、名譽(yù)權(quán)、文字、美術(shù)等作品著作權(quán)及

8商業(yè)權(quán)益

私、商業(yè)利益等，應(yīng)當(dāng)采取措施，停止生成，防止進(jìn)一步

人物權(quán)益

危害持續(xù)

數(shù)智人人應(yīng)不涉及用戶(hù)個(gè)人隱私獲取，如用戶(hù)的設(shè)備指

紋、IP信息讀取、個(gè)人語(yǔ)音服務(wù)、個(gè)人相冊(cè)、定位服務(wù)

9用戶(hù)隱私等開(kāi)啟時(shí)，需啟動(dòng)個(gè)人信息處理規(guī)則，告知個(gè)人信息的處

理目的、處理方式、處理的個(gè)人信息種類(lèi)、保存期限等事

項(xiàng)，并依法取得公民個(gè)人的同意

數(shù)智人人語(yǔ)言表述應(yīng)內(nèi)容明確、語(yǔ)言合理、便于理解，用

普通話(huà)及方言表述時(shí)吐字標(biāo)準(zhǔn)，表述連貫。表述內(nèi)容應(yīng)合

10語(yǔ)言

規(guī)，應(yīng)不包含血腥、暴力、色情、迷信、國(guó)內(nèi)外反動(dòng)宣傳、

人物行為虛假宣傳、欺騙粉絲及消費(fèi)者等內(nèi)容

數(shù)智人人行為動(dòng)作應(yīng)合規(guī)、合法，不應(yīng)出現(xiàn)體現(xiàn)人物扭曲

11動(dòng)作性格的暴力、低俗、猥瑣、性侵及叛國(guó)、反黨等違背法律

法規(guī)及公序良俗的行為動(dòng)作

3

T/CFIS000X—2023

5.3時(shí)空風(fēng)險(xiǎn)

時(shí)空風(fēng)險(xiǎn)指標(biāo)反映元宇宙環(huán)境的時(shí)空主題、時(shí)空元素、時(shí)空體驗(yàn)、時(shí)空互動(dòng)、場(chǎng)景應(yīng)用等內(nèi)容形成

的一級(jí)風(fēng)險(xiǎn)指標(biāo)，其具體二、三級(jí)指標(biāo)見(jiàn)表2。

表2時(shí)空風(fēng)險(xiǎn)指標(biāo)

編號(hào)二級(jí)指標(biāo)三級(jí)指標(biāo)指標(biāo)說(shuō)明

時(shí)空主題明確、合規(guī)，主線(xiàn)脈絡(luò)明晰，并根據(jù)時(shí)空主題的

1主題主線(xiàn)

應(yīng)用類(lèi)別、場(chǎng)景類(lèi)型等維度，建立內(nèi)容分類(lèi)分級(jí)管理機(jī)制

時(shí)空主題

針對(duì)時(shí)空主題的首頁(yè)首屏、熱門(mén)推薦、內(nèi)容搜索等容易引

2主題指引

起用戶(hù)關(guān)注的重要板塊，建立首頁(yè)內(nèi)容規(guī)范審核機(jī)制

時(shí)空?qǐng)鼍耙?guī)范設(shè)置，未經(jīng)權(quán)利人授權(quán)，避免出現(xiàn)用數(shù)字孿

3場(chǎng)景復(fù)制生等方式復(fù)刻與國(guó)家重大活動(dòng)、具有歷史紀(jì)念或特殊意義

的場(chǎng)所相似的數(shù)字時(shí)空?qǐng)鼍?/p>

4時(shí)空元素時(shí)空標(biāo)識(shí)合法使用，未經(jīng)批準(zhǔn)或授權(quán)，避免出現(xiàn)國(guó)家機(jī)關(guān)、

國(guó)家標(biāo)志性建筑物、軍事管理區(qū)等重要時(shí)空地理標(biāo)識(shí)，并

時(shí)空標(biāo)識(shí)

5避免出現(xiàn)涉政、涉軍、色情、邪教、高危營(yíng)銷(xiāo)廣告等違法

標(biāo)識(shí)內(nèi)容

避免出現(xiàn)短期沉浸式時(shí)空體驗(yàn)后，對(duì)體驗(yàn)用戶(hù)身心及視覺(jué)

6短期體驗(yàn)/聽(tīng)覺(jué)/觸覺(jué)/嗅覺(jué)/味覺(jué)等感官造成直接傷害的體驗(yàn)項(xiàng)目

及內(nèi)容

時(shí)空體驗(yàn)

避免出現(xiàn)長(zhǎng)期沉浸式時(shí)空體驗(yàn)后、對(duì)體驗(yàn)用戶(hù)身心及視覺(jué)

7長(zhǎng)期體驗(yàn)/聽(tīng)覺(jué)/觸覺(jué)/嗅覺(jué)/味覺(jué)等感官帶來(lái)間接傷害的體驗(yàn)項(xiàng)目

及內(nèi)容

圍繞存在用戶(hù)在元宇宙環(huán)境下，用于集會(huì)、游行、示威、

叛亂等時(shí)空?qǐng)鼍罢物L(fēng)險(xiǎn)，提供元宇宙環(huán)境下輿論引導(dǎo)和

8內(nèi)容管理社團(tuán)組織等內(nèi)容的安全預(yù)警機(jī)制，圍并繞信息發(fā)布、跟帖

評(píng)論、營(yíng)銷(xiāo)廣告等內(nèi)容合規(guī)化管理，建立相應(yīng)的審核管理

機(jī)制

對(duì)元宇宙環(huán)境下社區(qū)交流內(nèi)容的合規(guī)性風(fēng)險(xiǎn)，建立巡查巡

時(shí)空互動(dòng)

8機(jī)制管理檢機(jī)制，覆蓋對(duì)各個(gè)時(shí)空社區(qū)，及時(shí)發(fā)現(xiàn)違規(guī)風(fēng)險(xiǎn)，并進(jìn)

行處置

對(duì)元宇宙環(huán)境下用戶(hù)行為互動(dòng)的合規(guī)性風(fēng)險(xiǎn)，應(yīng)建立用戶(hù)

行為分級(jí)管理機(jī)制，以及與之匹配的產(chǎn)品體驗(yàn)?zāi)芰?，合?/p>

9行為管理

引導(dǎo)用戶(hù)互動(dòng)行為，并用戶(hù)行為監(jiān)測(cè)及應(yīng)急響應(yīng)機(jī)制，對(duì)

違規(guī)用戶(hù)行為進(jìn)行及時(shí)有效處置

場(chǎng)景應(yīng)用涉及虛擬直播，如演唱會(huì)、嘉賓訪(fǎng)談、服裝秀、

賽事活動(dòng)的直播風(fēng)險(xiǎn)，應(yīng)提前對(duì)節(jié)目、藝人等進(jìn)行內(nèi)容報(bào)

11事項(xiàng)籌備

審，確保直播內(nèi)容過(guò)程符合國(guó)家要求，虛擬直播涉及的文

字、圖片生成等工具服務(wù)，宜遵守先審后發(fā)機(jī)制

涉及商務(wù)冠名營(yíng)銷(xiāo)的風(fēng)險(xiǎn)行為，如包廂冠名、場(chǎng)景冠名、

13場(chǎng)景應(yīng)用冠名營(yíng)銷(xiāo)

演唱會(huì)冠名等，應(yīng)做好冠名類(lèi)商務(wù)營(yíng)銷(xiāo)的服務(wù)保障

涉及虛擬直播帶貨售賣(mài)、門(mén)票售賣(mài)、服務(wù)售賣(mài)等營(yíng)銷(xiāo)風(fēng)險(xiǎn)

14商務(wù)運(yùn)營(yíng)行為，需要建立售中、售后及投訴舉報(bào)處理鏈路，保證營(yíng)

銷(xiāo)服務(wù)閉環(huán)，及時(shí)解決售后服務(wù)問(wèn)題

15算法服務(wù)對(duì)通過(guò)算法推薦服務(wù)提供者向消費(fèi)者銷(xiāo)售商品或者提供

4

T/CFIS000X—2023

編號(hào)二級(jí)指標(biāo)三級(jí)指標(biāo)指標(biāo)說(shuō)明

服務(wù)的，應(yīng)當(dāng)控制算法風(fēng)險(xiǎn)，保護(hù)消費(fèi)者公平交易的權(quán)利，

避免根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交

易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為

5.4資產(chǎn)風(fēng)險(xiǎn)

資產(chǎn)風(fēng)險(xiǎn)指標(biāo)反映元宇宙環(huán)境的資產(chǎn)管理、資產(chǎn)流通、資產(chǎn)服務(wù)等內(nèi)容形成的一級(jí)風(fēng)險(xiǎn)指標(biāo)，其具

體二、三級(jí)指標(biāo)見(jiàn)表3。

表3資產(chǎn)風(fēng)險(xiǎn)指標(biāo)

編號(hào)二級(jí)指標(biāo)三級(jí)指標(biāo)指標(biāo)說(shuō)明

應(yīng)規(guī)范元宇宙中數(shù)字資產(chǎn)的類(lèi)型、名目、呈現(xiàn)形態(tài)等信息

1資產(chǎn)信息

管理，不應(yīng)違背國(guó)家相關(guān)法律法規(guī)相抵觸

應(yīng)針對(duì)用戶(hù)在元宇宙中數(shù)字資產(chǎn)（虛擬貨幣、虛擬房產(chǎn)、

2資產(chǎn)權(quán)益虛擬股票、賬號(hào)、積分、游戲裝備、用戶(hù)級(jí)別等）的資產(chǎn)

資產(chǎn)管理

權(quán)益提供財(cái)產(chǎn)保護(hù)機(jī)制，避免數(shù)字資產(chǎn)無(wú)端損失風(fēng)險(xiǎn)

應(yīng)尊重與保護(hù)元宇宙中原生數(shù)字資產(chǎn)，關(guān)注包括數(shù)字藏

3原生資產(chǎn)品、數(shù)字作品等相應(yīng)的版權(quán)、著作權(quán)及專(zhuān)利等知識(shí)產(chǎn)權(quán)風(fēng)

險(xiǎn)，并提供相應(yīng)的產(chǎn)權(quán)保護(hù)機(jī)制

數(shù)字資產(chǎn)的流通與交易應(yīng)避免出現(xiàn)國(guó)家相關(guān)法規(guī)政策相

4流通交易抵觸風(fēng)險(xiǎn)，不為元宇宙環(huán)境下在金融及相關(guān)領(lǐng)域的洗錢(qián)、

資產(chǎn)流通賭博、詐騙、傳銷(xiāo)等違法犯罪活動(dòng)提供通道

關(guān)注元宇宙環(huán)境下用戶(hù)金融數(shù)據(jù)出入境安全問(wèn)題，不為金

5主權(quán)安全

融主權(quán)風(fēng)險(xiǎn)提供渠道

對(duì)于擁有數(shù)字資產(chǎn)的用戶(hù)群體，應(yīng)依據(jù)用戶(hù)類(lèi)別及年齡段

6分類(lèi)服務(wù)提供元宇宙環(huán)境中分級(jí)分類(lèi)管理與適齡服務(wù)，避免數(shù)字資

資產(chǎn)服務(wù)產(chǎn)的違規(guī)使用

數(shù)字資產(chǎn)在生成與交易過(guò)程中，應(yīng)提供相應(yīng)的交易內(nèi)容安

7安全提示

全提示，避免數(shù)字資產(chǎn)在元宇宙環(huán)境下中交易風(fēng)險(xiǎn)

5.5傳播風(fēng)險(xiǎn)

傳播風(fēng)險(xiǎn)指標(biāo)反映元宇宙時(shí)空傳播的傳播內(nèi)容、傳播方式、傳播管理等內(nèi)容形成的一級(jí)風(fēng)險(xiǎn)指標(biāo)，

其具體二、三級(jí)指標(biāo)見(jiàn)表4。

表4傳播風(fēng)險(xiǎn)指標(biāo)

編號(hào)二級(jí)指標(biāo)三級(jí)指標(biāo)指標(biāo)說(shuō)明

利用人工智能生成、深度合成的內(nèi)容應(yīng)不與現(xiàn)社會(huì)主義

1內(nèi)容導(dǎo)向

核心價(jià)值導(dǎo)向相違背

利用生成式人工智能生成、深度合成的內(nèi)容，應(yīng)合法合

傳播內(nèi)容

規(guī)，避免出現(xiàn)含有顛覆國(guó)家政權(quán)、推翻社會(huì)主義制度，

2內(nèi)容設(shè)置

煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一，宣揚(yáng)恐怖主義、極端主

義，宣揚(yáng)民族仇恨、民族歧視，暴力、淫穢色情、賭博

5

T/CFIS000X—2023

編號(hào)二級(jí)指標(biāo)三級(jí)指標(biāo)指標(biāo)說(shuō)明

吸毒等各類(lèi)危害國(guó)家安全和利益、損害國(guó)家形象、侵害

社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)

益等法律、行政法規(guī)禁止的內(nèi)容風(fēng)險(xiǎn)

利用生成式人工智能生成、深度合成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)

3內(nèi)容屬性確，避免出現(xiàn)合成、制作、復(fù)制、發(fā)布、傳播虛假、偽

造信息的風(fēng)險(xiǎn)

在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服

4歧視限定務(wù)等過(guò)程中，應(yīng)積極采取措施防止出現(xiàn)種族、民族、信

仰、國(guó)別、地域、性別、年齡、職業(yè)等歧視內(nèi)容出現(xiàn)

應(yīng)及時(shí)發(fā)現(xiàn)與制止用戶(hù)利用生成式人工智能產(chǎn)品違反

法律法規(guī)，避免違背商業(yè)道德、社會(huì)公德行為出現(xiàn)，包

5違規(guī)操作

括從事網(wǎng)絡(luò)炒作、惡意發(fā)帖跟評(píng)、制造垃圾郵件、編寫(xiě)

惡意軟件等

提供可能導(dǎo)致公眾混淆或者誤認(rèn)的內(nèi)容，應(yīng)當(dāng)在生成或

6內(nèi)容標(biāo)注者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向

公眾提示深度合成情況

采用感官體驗(yàn)傳播方式應(yīng)合法合規(guī)，并充分考慮體驗(yàn)內(nèi)

容用戶(hù)的接受程度，避免出現(xiàn)提供過(guò)度血腥暴力、淫穢

7感官體驗(yàn)

色情、恐怖怪誕等元宇宙環(huán)境下對(duì)視覺(jué)、聽(tīng)覺(jué)等感官器

官造成不適及損傷的沉浸式體驗(yàn)風(fēng)險(xiǎn)

應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向，優(yōu)化算法推薦服務(wù)機(jī)制，積極

8算法推薦

傳播正能量，促進(jìn)算法應(yīng)用向上向善

應(yīng)建立完善人工干預(yù)和用戶(hù)自主選擇機(jī)制，在首頁(yè)首

9推薦頁(yè)面屏、熱搜、精選、榜單類(lèi)、彈窗等重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符

傳播方式合主流價(jià)值導(dǎo)向的信息

不應(yīng)利用算法推薦服務(wù)從事危害國(guó)家安全和社會(huì)公共

10算法合規(guī)利益、擾亂經(jīng)濟(jì)秩序和社會(huì)秩序、侵犯他人合法權(quán)益等

法律、行政法規(guī)禁止的活動(dòng)

不應(yīng)利用算法虛假注冊(cè)賬號(hào)、非法交易賬號(hào)、操縱用戶(hù)

11水軍防控

賬號(hào)或者虛假點(diǎn)贊、評(píng)論、轉(zhuǎn)發(fā)

不應(yīng)利用算法屏蔽信息、過(guò)度推薦、操縱榜單或者檢索

12搜索呈現(xiàn)結(jié)果排序、控制熱搜或者精選等干預(yù)信息呈現(xiàn)，實(shí)施影

響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)督管理行為

應(yīng)當(dāng)加強(qiáng)元宇宙環(huán)境下深度合成內(nèi)容合規(guī)化管理，采取

13合成審核技術(shù)或者人工方式對(duì)深度合成服務(wù)使用者的輸入數(shù)據(jù)

和合成結(jié)果進(jìn)行內(nèi)容審核

應(yīng)當(dāng)建立健全算法機(jī)制機(jī)理審核、科技倫理審查、用戶(hù)

注冊(cè)、信息發(fā)布審核、數(shù)據(jù)安全和個(gè)人信息保護(hù)、反電

14算法審核

信網(wǎng)絡(luò)詐騙、安全評(píng)估監(jiān)測(cè)、安全事件應(yīng)急處置等管理

制度和技術(shù)措施

傳播管理

依據(jù)用戶(hù)年齡及接受程度設(shè)置傳播內(nèi)容及設(shè)施，提出適

15適齡管理

齡群體傳播要求，避免傳播失效及誤導(dǎo)、誘導(dǎo)風(fēng)險(xiǎn)

應(yīng)當(dāng)加強(qiáng)傳播信息安全管理，建立健全用于識(shí)別違法和

16安全管理

不良信息的特征庫(kù)，完善入庫(kù)標(biāo)準(zhǔn)、規(guī)則和程序

在元宇宙環(huán)境下提供傳播服務(wù)過(guò)程中，應(yīng)對(duì)用戶(hù)提供的

17用戶(hù)記錄合規(guī)傳播信息、內(nèi)容及生成情況做好用戶(hù)傳播資源管理

保護(hù)

6

T/CFIS000X—2023

編號(hào)二級(jí)指標(biāo)三級(jí)指標(biāo)指標(biāo)說(shuō)明

應(yīng)當(dāng)加強(qiáng)用戶(hù)模型和用戶(hù)標(biāo)簽管理，完善記入用戶(hù)模型

的興趣點(diǎn)規(guī)則和用戶(hù)標(biāo)簽管理規(guī)則，不應(yīng)將違法和不良

18用戶(hù)標(biāo)簽

信息關(guān)鍵詞記入用戶(hù)興趣點(diǎn)或者作為用戶(hù)標(biāo)簽并據(jù)以

推送信息

應(yīng)當(dāng)對(duì)智能生成內(nèi)容制定清晰、具體、可操作的風(fēng)險(xiǎn)標(biāo)

19風(fēng)險(xiǎn)標(biāo)注

注規(guī)則，并抽樣核驗(yàn)風(fēng)險(xiǎn)標(biāo)注內(nèi)容的正確性

對(duì)提供沉浸式體驗(yàn)的設(shè)備與內(nèi)容潛在可能造成的人身

方面的風(fēng)險(xiǎn)，做好風(fēng)險(xiǎn)提示與告知；應(yīng)當(dāng)以顯著方式告

20風(fēng)險(xiǎn)提示

知用戶(hù)其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示

算法推薦服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制等

5.6用戶(hù)使用風(fēng)險(xiǎn)

用戶(hù)使用風(fēng)險(xiǎn)指標(biāo)元宇宙環(huán)境下用戶(hù)使用的用戶(hù)信息安全及未成年人、老年人等特殊群體用戶(hù)保護(hù)

等內(nèi)容形成的一級(jí)風(fēng)險(xiǎn)指標(biāo)，其具體二、三級(jí)指標(biāo)見(jiàn)表5。

表5用戶(hù)使用風(fēng)險(xiǎn)指標(biāo)

編號(hào)二級(jí)指標(biāo)三級(jí)指標(biāo)指標(biāo)說(shuō)明

元宇宙環(huán)境下涉及用戶(hù)個(gè)人身份信息的使用時(shí)，應(yīng)當(dāng)構(gòu)建

用戶(hù)身份信息處理規(guī)則，告知個(gè)人身份信息的處理目的、

1身份信息處理方式、處理的個(gè)人信息種類(lèi)、保存期限等事項(xiàng)，并依

法取得永和個(gè)人的同意，防止出現(xiàn)用戶(hù)個(gè)人身份信息被盜

用、篡改的風(fēng)險(xiǎn)

用戶(hù)信息安

元宇宙環(huán)境下涉及用戶(hù)個(gè)人隱私獲取，如設(shè)備指紋、IP

全

信息讀取、個(gè)人語(yǔ)音服務(wù)、個(gè)人相冊(cè)、定位服務(wù)等開(kāi)啟時(shí)，

應(yīng)當(dāng)構(gòu)建用戶(hù)個(gè)人隱私處理規(guī)則，告知個(gè)人隱私信息的處

2個(gè)人隱私

理目的、處理方式、處理的個(gè)人信息種類(lèi)、保存期限等事

項(xiàng)，并依法取得個(gè)人的同意，防止出現(xiàn)用戶(hù)個(gè)人隱私信息

被公開(kāi)、泄露及傳播的風(fēng)險(xiǎn)

元宇宙環(huán)境下應(yīng)當(dāng)設(shè)置防青少年沉迷數(shù)字空間風(fēng)險(xiǎn)的功

3管理模式能，針對(duì)未成年人用戶(hù)提供包括時(shí)間管理、權(quán)限管理、消

費(fèi)管理等功能在內(nèi)的青少年管理模式

元宇宙環(huán)境下應(yīng)當(dāng)通過(guò)開(kāi)發(fā)適合未成年人使用的場(chǎng)景體

4未成年人用適齡服務(wù)驗(yàn)?zāi)Ｊ?、提供適合未成年人特點(diǎn)的服務(wù)方式，并提供未成

戶(hù)保護(hù)年人獲取有益身心健康的信息渠道

元宇宙環(huán)境下不應(yīng)利用算法向未成年人推送可能引發(fā)未

成年人模仿不安全行為、違反社會(huì)公德行為、誘導(dǎo)形成不

5內(nèi)容推送

良嗜好等及沉迷游戲場(chǎng)景等可能影響未成年人身心健康

的內(nèi)容風(fēng)險(xiǎn)的模式

應(yīng)當(dāng)保障老年人元宇宙環(huán)境下依法享有的權(quán)益，充分考慮

老年人元宇宙環(huán)境中出行、就醫(yī)、消費(fèi)、辦事等可能遇到

權(quán)益保護(hù)

的需求風(fēng)險(xiǎn)，按照國(guó)家有關(guān)規(guī)定提供元宇宙智能化適老服

老年人用戶(hù)

6務(wù)，

保護(hù)

應(yīng)積極應(yīng)對(duì)老年人元宇宙環(huán)境下遇到的網(wǎng)絡(luò)欺詐風(fēng)險(xiǎn)，開(kāi)

防止欺詐展涉電信網(wǎng)絡(luò)詐騙信息的監(jiān)測(cè)、識(shí)別和處置，保障老年人

在相關(guān)元宇宙場(chǎng)景中的安全體驗(yàn)與便利使用

7

T/CFIS000X—2023

6評(píng)估方法

風(fēng)險(xiǎn)評(píng)估工作中風(fēng)險(xiǎn)識(shí)別、風(fēng)險(xiǎn)分析、風(fēng)險(xiǎn)評(píng)估主要應(yīng)用方法包括風(fēng)險(xiǎn)清單分析法、列表檢查法、

專(zhuān)家調(diào)查法、結(jié)構(gòu)化訪(fǎng)談法、情景分析法、德?tīng)柗品?、?zhuān)家綜合打分法等。

7評(píng)估流程

7.1概述

元宇宙內(nèi)容風(fēng)險(xiǎn)評(píng)估流程一般包括：準(zhǔn)備工作、風(fēng)險(xiǎn)識(shí)別、風(fēng)險(xiǎn)分析、風(fēng)險(xiǎn)評(píng)估、報(bào)告編制等。具

體見(jiàn)圖1

開(kāi)始

準(zhǔn)備工作

風(fēng)險(xiǎn)識(shí)別

風(fēng)

險(xiǎn)

評(píng)

估風(fēng)險(xiǎn)分析

流

程

風(fēng)險(xiǎn)評(píng)估

報(bào)告編制

風(fēng)險(xiǎn)不

結(jié)果處理提出風(fēng)險(xiǎn)處理方案

可接受

風(fēng)險(xiǎn)可接受

結(jié)束

圖1元宇宙內(nèi)容風(fēng)險(xiǎn)評(píng)估流程

7.2準(zhǔn)備工作

7.2.1評(píng)估機(jī)構(gòu)組成

委托一支覆蓋互聯(lián)網(wǎng)治理、網(wǎng)絡(luò)傳播、元宇宙等領(lǐng)域，具有風(fēng)險(xiǎn)評(píng)估資質(zhì)的專(zhuān)業(yè)評(píng)估機(jī)構(gòu)。

7.2.2評(píng)估方案設(shè)計(jì)

評(píng)估機(jī)構(gòu)依據(jù)評(píng)估對(duì)象的特點(diǎn)完成方案制定，確定風(fēng)險(xiǎn)評(píng)估對(duì)象的目標(biāo)、范圍及時(shí)限。

8

T/CFIS000X—2023

7.2.3風(fēng)險(xiǎn)資料收集

基于元宇宙內(nèi)容風(fēng)險(xiǎn)評(píng)估指標(biāo)體系評(píng)估指標(biāo)要素的要求收集相關(guān)材料。

7.3風(fēng)險(xiǎn)識(shí)別

對(duì)于收集的風(fēng)險(xiǎn)評(píng)估材料依據(jù)元宇宙內(nèi)容風(fēng)險(xiǎn)評(píng)估指標(biāo)說(shuō)明開(kāi)展內(nèi)容風(fēng)險(xiǎn)評(píng)估要素歸類(lèi)識(shí)別。識(shí)別

的路徑主要包括：

a)相關(guān)的法規(guī)、標(biāo)準(zhǔn)；

b)元宇宙技術(shù)資料；

c)元宇宙應(yīng)用場(chǎng)景事故報(bào)告；

d)元宇宙用戶(hù)投訴；

e)元宇宙用戶(hù)體驗(yàn)

f)媒體報(bào)道；

g)專(zhuān)家意見(jiàn)等。

7.4風(fēng)險(xiǎn)分析

對(duì)風(fēng)險(xiǎn)識(shí)別后評(píng)估要素指標(biāo)的具體情況開(kāi)展分析，確定元宇宙內(nèi)容風(fēng)險(xiǎn)評(píng)估指標(biāo)體系評(píng)估指標(biāo)權(quán)

重。

7.5風(fēng)險(xiǎn)評(píng)估

依據(jù)元宇宙內(nèi)容風(fēng)險(xiǎn)評(píng)估指標(biāo)體系構(gòu)架及指標(biāo)權(quán)重及指標(biāo)賦值類(lèi)型，對(duì)評(píng)估對(duì)象開(kāi)展內(nèi)容風(fēng)險(xiǎn)評(píng)

估，給出元宇宙內(nèi)容風(fēng)險(xiǎn)評(píng)估結(jié)果。

7.6評(píng)估報(bào)告編制

據(jù)風(fēng)險(xiǎn)評(píng)估結(jié)果，結(jié)合評(píng)估目標(biāo)，編制評(píng)估報(bào)告，評(píng)估報(bào)告內(nèi)容可包括但不限于以下內(nèi)容（報(bào)告格

式見(jiàn)附錄A表A.1）：

h)評(píng)估機(jī)構(gòu)；

i)評(píng)估對(duì)象；

j)評(píng)估目標(biāo)；

k)評(píng)估指標(biāo)體系及權(quán)重；

l)評(píng)估方法；

m)評(píng)估過(guò)程；

n)評(píng)估結(jié)果；

o)評(píng)估建議。

8結(jié)果處理

8.1發(fā)布評(píng)估結(jié)果

評(píng)估機(jī)構(gòu)可依據(jù)委托方要求適時(shí)發(fā)布風(fēng)險(xiǎn)評(píng)估結(jié)果，并對(duì)風(fēng)險(xiǎn)評(píng)估結(jié)果發(fā)布的影響和實(shí)效等進(jìn)行跟

蹤反饋。

8.2風(fēng)險(xiǎn)處理方案提出

委托方如判別風(fēng)險(xiǎn)評(píng)估的評(píng)估結(jié)果風(fēng)險(xiǎn)不可接受，評(píng)估機(jī)構(gòu)則可基于評(píng)估報(bào)告中的評(píng)估建議，并依

據(jù)委托方的具體需求，提出元宇宙內(nèi)容風(fēng)險(xiǎn)處理方案。