77.生成式人工智能分類分級(jí)應(yīng)用指南

生成式人工智能分類分級(jí)應(yīng)用指南標(biāo)準(zhǔn)名稱：生成式人工智能分類分級(jí)應(yīng)用指南二、項(xiàng)目提出單位：上海市經(jīng)濟(jì)和信息化委員會(huì)起草單位：上海計(jì)算機(jī)軟件技術(shù)開發(fā)中心、騰訊科技（上海）有限公司、上海市人工智能行業(yè)協(xié)會(huì)、上海人工智能創(chuàng)新中心(上海人工智能實(shí)驗(yàn)室)、信通院華東分院、上海交通大學(xué)、上海人工智能研究院有限公司、華東師范大學(xué)等。四、立項(xiàng)理由：中央網(wǎng)信辦聯(lián)合七部委2023年7月10日發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，明確提出對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。當(dāng)前，生成式人工智能在社會(huì)生產(chǎn)和生活的方方面面開始發(fā)揮重要的作用，但存在著諸如虛假內(nèi)容傳播、侵犯隱私等倫理、安全方面的風(fēng)險(xiǎn)。目前政府、社會(huì)、相關(guān)企業(yè)對(duì)規(guī)范AIGC技術(shù)應(yīng)用的重要性和必要性已達(dá)成基本共識(shí)。國(guó)內(nèi)外還沒有生成式人工智能分類分級(jí)相關(guān)的標(biāo)準(zhǔn)。國(guó)際標(biāo)準(zhǔn)方面，目前沒有專門針對(duì)生成式人工智能相關(guān)的標(biāo)準(zhǔn)，只有一些相關(guān)的技術(shù)報(bào)告。國(guó)內(nèi)標(biāo)準(zhǔn)方面，目前生成式人工智能相關(guān)的標(biāo)準(zhǔn)研制也剛剛起步，主要集中在深度合成相關(guān)的標(biāo)準(zhǔn)方面。因此，制定生成式人工智能分類分級(jí)應(yīng)用指南，提出AIGC應(yīng)用的“上海方案”，有利于AIGC技術(shù)更加安全可信的應(yīng)用于社會(huì)的各項(xiàng)生產(chǎn)活動(dòng)中，指導(dǎo)人工智能企業(yè)構(gòu)建AIGC系統(tǒng)的實(shí)施與自我評(píng)估，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，降低AIGC應(yīng)用風(fēng)險(xiǎn)。指導(dǎo)第三方測(cè)評(píng)機(jī)構(gòu)通過標(biāo)準(zhǔn)對(duì)AIGC系統(tǒng)的應(yīng)用風(fēng)險(xiǎn)進(jìn)行評(píng)估，為政府對(duì)AIGC系統(tǒng)應(yīng)用的監(jiān)管提供規(guī)范。五、主要內(nèi)容：該標(biāo)準(zhǔn)規(guī)定了生成式人工智能分類分級(jí)應(yīng)用的基本原則、生成式人工智能分類方法、分級(jí)分類應(yīng)用要求及評(píng)估方法。生成式人工智能分類分級(jí)的基本原則包括：合理性原則、安全性原則、良性發(fā)展原則、權(quán)責(zé)一致原則、未成年人保護(hù)原則。生成式人工智能分類按照常見應(yīng)用場(chǎng)景分類：按照內(nèi)容模態(tài)、內(nèi)容細(xì)分、應(yīng)用領(lǐng)域進(jìn)行了三級(jí)劃分；內(nèi)容模態(tài)分為文本、音頻、圖像、3D模型四大類，內(nèi)容細(xì)分是在內(nèi)容模態(tài)之下對(duì)于內(nèi)容類型的進(jìn)一步詳細(xì)分類，應(yīng)用領(lǐng)域是各內(nèi)容細(xì)分依照行業(yè)進(jìn)行進(jìn)一步劃分。生成式人工智能風(fēng)險(xiǎn)等級(jí)考慮：應(yīng)用目的風(fēng)險(xiǎn)、內(nèi)容侵權(quán)風(fēng)險(xiǎn)、數(shù)據(jù)泄漏風(fēng)險(xiǎn)、內(nèi)容越界風(fēng)險(xiǎn)、覆蓋廣度風(fēng)險(xiǎn)、管理水平風(fēng)險(xiǎn)、網(wǎng)絡(luò)環(huán)境風(fēng)險(xiǎn)等要素，從低到高劃分為低風(fēng)險(xiǎn)、中低風(fēng)險(xiǎn)、中風(fēng)險(xiǎn)、中高風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)五個(gè)風(fēng)險(xiǎn)等級(jí)。該標(biāo)準(zhǔn)進(jìn)一步明確了生成式人工智能分級(jí)分類的應(yīng)用要求和評(píng)估方法，按照公平性、透明性、嚴(yán)謹(jǐn)性的評(píng)估原則和特定的評(píng)估流程對(duì)AIGC的風(fēng)險(xiǎn)等級(jí)進(jìn)行評(píng)估。六、適用范圍標(biāo)準(zhǔn)適用于上海市企業(yè)內(nèi)部在研發(fā)生成式人工智能系統(tǒng)時(shí)對(duì)風(fēng)險(xiǎn)進(jìn)行自我評(píng)估，以及第三方機(jī)構(gòu)對(duì)企業(yè)生成式人工智能系統(tǒng)的風(fēng)險(xiǎn)進(jìn)行評(píng)價(jià)。適用的產(chǎn)品