76.人工智能大模型可信賴(lài)應(yīng)用評(píng)價(jià)指標(biāo)體系

大模型可信賴(lài)應(yīng)用評(píng)價(jià)指標(biāo)體系一、標(biāo)準(zhǔn)名稱(chēng)：人工智能大模型可信賴(lài)應(yīng)用評(píng)價(jià)指標(biāo)體系二、項(xiàng)目提出單位：上海市經(jīng)濟(jì)和信息化委員會(huì)三、起草單位：上海華東電信研究院、上海市人工智能行業(yè)協(xié)會(huì)、上海市質(zhì)量和標(biāo)準(zhǔn)化研究院、上海商湯智能科技有限公司、復(fù)旦大學(xué)、上海交通大學(xué)、百度(中國(guó))有限公司、達(dá)觀數(shù)據(jù)有限公司、華為云計(jì)算技術(shù)有限公司上海分公司、科大訊飛股份有限公司、名之夢(mèng)（上海）科技有限公司等四、立項(xiàng)理由當(dāng)前，以ChatGPT為代表的大模型引領(lǐng)新一輪人工智能創(chuàng)新浪潮，正在成為推動(dòng)全球經(jīng)濟(jì)增長(zhǎng)、引領(lǐng)數(shù)字經(jīng)濟(jì)、重塑產(chǎn)業(yè)格局、鞏固國(guó)家競(jìng)爭(zhēng)優(yōu)勢(shì)的重要戰(zhàn)略支撐力量。國(guó)內(nèi)外大模型競(jìng)爭(zhēng)白熱化，“百模大戰(zhàn)”開(kāi)啟，我國(guó)企業(yè)、高校及科研機(jī)構(gòu)快速跟進(jìn)，布局了一批大模型產(chǎn)品。人工智能大模型顯著降低了人工智能技術(shù)的應(yīng)用門(mén)檻，正在快速推動(dòng)產(chǎn)業(yè)應(yīng)用創(chuàng)新，應(yīng)用生態(tài)初步顯現(xiàn)。人工智能大模型在技術(shù)、產(chǎn)業(yè)和社會(huì)等方面引發(fā)了顛覆式變革，也帶來(lái)了新的問(wèn)題，如模型的可解釋性、魯棒性、公平性等，這些問(wèn)題比以往任何時(shí)候都更加復(fù)雜也更加迫切。從技術(shù)維度來(lái)看，大模型使用深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，進(jìn)一步放大了深度學(xué)習(xí)自有的技術(shù)局限，模型不可解釋、多模態(tài)不一致性攻擊、數(shù)據(jù)模型竊取等問(wèn)題日益凸顯。從產(chǎn)業(yè)維度來(lái)看，大模型存在潛在的壟斷風(fēng)險(xiǎn)，在賦能產(chǎn)業(yè)的同時(shí)也可能傳遞產(chǎn)業(yè)鏈風(fēng)險(xiǎn)；大模型本身參數(shù)規(guī)模大、性能相對(duì)較強(qiáng)，而目前仍存在“配套標(biāo)準(zhǔn)缺乏”、“評(píng)估體系不健全和不規(guī)范”等威脅。從社會(huì)維度來(lái)看，大模型降低了有害信息傳播的門(mén)檻，增大社會(huì)安全風(fēng)險(xiǎn)。原有可信AI的概念和范疇在大模型引領(lǐng)變革中是否還適應(yīng)？原有可信AI技術(shù)是否能滿足大模型時(shí)代人工智能可信賴(lài)應(yīng)用的需求？原有的可信AI體系與大模型可信賴(lài)應(yīng)用體系是什么關(guān)系？這些問(wèn)題亟待回答，人工智能大模型可信賴(lài)應(yīng)用問(wèn)題的解決對(duì)于大模型在各領(lǐng)域大規(guī)模深度應(yīng)用至關(guān)重要。國(guó)家層面，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)陸續(xù)發(fā)布，強(qiáng)調(diào)要重視通用人工智能發(fā)展并重視防范風(fēng)險(xiǎn)。地方層面，上海將圍繞大模型創(chuàng)新能力、創(chuàng)新要素、創(chuàng)新應(yīng)用、創(chuàng)新環(huán)境等四大方向，重點(diǎn)打造“3項(xiàng)計(jì)劃+5大平臺(tái)”。在2023WAIC開(kāi)幕式，“大模型測(cè)試驗(yàn)證與協(xié)同創(chuàng)新中心”正式成立，旨在籌備和論證大模型能力測(cè)評(píng)、大模型系列標(biāo)準(zhǔn)、生態(tài)服務(wù)、模型治理和軟硬件協(xié)同等五方面工作?？紤]到大模型發(fā)展的必要性、重要性和前瞻性，本項(xiàng)目以現(xiàn)有人工智能治理框架為基礎(chǔ)，結(jié)合上海市大模型在可信賴(lài)應(yīng)用方面面臨的機(jī)遇和挑戰(zhàn)，充分發(fā)揮中國(guó)信通院“大模型生態(tài)合作共同體”的業(yè)界力量，也為了更好的為“大模型測(cè)試驗(yàn)證與協(xié)同創(chuàng)新中心”提供工作路徑指導(dǎo)，項(xiàng)目組對(duì)相關(guān)政策、法規(guī)、技術(shù)發(fā)展、應(yīng)用領(lǐng)域進(jìn)行廣泛和深入的研究，對(duì)于新形勢(shì)下人工智能大模型可信賴(lài)應(yīng)用的概念、范疇、技術(shù)、落地等進(jìn)行深入分析和積極探索，以建立一套具有廣泛指導(dǎo)意義的人工智能大模型可信賴(lài)應(yīng)用的評(píng)價(jià)指標(biāo)體系，對(duì)于開(kāi)展廣泛的人工智能大模型可信賴(lài)應(yīng)用評(píng)測(cè)工作是必不可少的基礎(chǔ)框架和底層邏輯。五、主要內(nèi)容本文件將結(jié)合人工智能大模型發(fā)展規(guī)律、大模型風(fēng)險(xiǎn)治理、上海人工智能大模型發(fā)展需求和目的之間的關(guān)系，提取關(guān)鍵指標(biāo)要素，建立全面的、系統(tǒng)的、合理的、適用的多層次的指標(biāo)體系，厘清各指標(biāo)之間的關(guān)系，并提出