2024ChatGPT人工智能大模型風(fēng)險(xiǎn)應(yīng)對(duì)

Q1通用大模型的近期進(jìn)展Q2各國(guó)通用大模型的能力比較 通用大模型的治理風(fēng)險(xiǎn)評(píng)估Q4通用大模型的近期進(jìn)展 通用大模型的近期進(jìn)展 運(yùn)行機(jī)制

預(yù)訓(xùn)練模型的發(fā)展歷程

“大模型”和“小模型”協(xié)進(jìn)

通用化與專(zhuān)用化并行平臺(tái)化與簡(jiǎn)易化并進(jìn)1通用大模型的近期進(jìn)展

大模型的內(nèi)涵與特征大模型是指容量較大，用于深度學(xué)習(xí)任務(wù)的模型，通常具有海量的參數(shù)和復(fù)雜的架構(gòu)。大模型具有更好的通用性、精度和效率，可以通過(guò)預(yù)訓(xùn)練或其他方式在大型數(shù)據(jù)集上進(jìn)行學(xué)習(xí)，再通過(guò)微調(diào)高效地處理計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理等復(fù)雜任務(wù)。要）GAN、CNN以及

1

大模型的內(nèi)涵與特征 有效集成自然語(yǔ)言處理等多個(gè)人工智能核心研究領(lǐng)域的多項(xiàng)技術(shù)，實(shí)現(xiàn)1+1>2的融

大模型能夠有效支撐智能終端、平臺(tái)、系統(tǒng)等產(chǎn)品應(yīng)用落地，解決壁壘多、

在海量通用數(shù)據(jù)上預(yù)訓(xùn)練以具備多種基礎(chǔ)能力，擺脫傳統(tǒng)人工智能能力碎片化、作坊式開(kāi)發(fā)的1

大模型的發(fā)展歷程 能夠處理自然語(yǔ)言，源

具備多樣化的基礎(chǔ)語(yǔ)言能力，開(kāi)始分別處理多種自然語(yǔ)言任務(wù)，如機(jī)器翻譯、問(wèn)答系統(tǒng)、情

1

大模型的發(fā)展歷程 1

發(fā)展趨勢(shì)：“大模型”和“小模型”協(xié)進(jìn)

1

發(fā)展趨勢(shì)：“大模型”和“小模型”協(xié)進(jìn) 1

發(fā)展趨勢(shì)：通用化與專(zhuān)用化并行 1

發(fā)展趨勢(shì)：通用化與專(zhuān)用化并行

1

發(fā)展趨勢(shì)：平臺(tái)化與簡(jiǎn)易化并進(jìn)

1

各國(guó)通用大模型的能力比較 各國(guó)通用大模型的能力比較美國(guó)目前通用大模型的發(fā)展現(xiàn)狀

為何中美之間會(huì)存在如此差距？引言：各國(guó)通用大模型的技術(shù)進(jìn)展

中國(guó)對(duì)大模型相關(guān)領(lǐng)域的布局情況其他國(guó)家大模型技術(shù)的發(fā)展情況

原創(chuàng)能力技術(shù)配套制度環(huán)境發(fā)展差距2各國(guó)通用大模型的能力比較

引言：各國(guó)通用大模型的技術(shù)進(jìn)展ChatGPT（GPT，GenerativePre-trainedTransformer,生成預(yù)訓(xùn)練轉(zhuǎn)換器）的出現(xiàn)反映出了人工智能發(fā)展的新趨勢(shì)，即AI正在從感知智能向認(rèn)知智能快速發(fā)展。美國(guó)作為人工智能發(fā)展領(lǐng)域的前沿國(guó)家，其擁有一系列具備充足技術(shù)和資金資源的公司和實(shí)驗(yàn)室，如谷歌、微軟、OpenAI等。中國(guó)作為人工智能領(lǐng)域發(fā)展的重要參與者，中國(guó)正在加快其在通用大模型領(lǐng)域的投資與研究。例如，百度、騰訊、阿里、科大訊飛等大型科技公司正在加速開(kāi)發(fā)該領(lǐng)域的技術(shù)。2各國(guó)通用大模型的能力比 美國(guó)目前通用大模型的發(fā)展現(xiàn)狀美國(guó)目前的科技巨頭公司，如谷歌、微軟、亞馬遜、Meta等都在通用大模型上進(jìn)行了進(jìn)一步的布局與投資。StabilityAI等AI初創(chuàng)公司同樣表示將積極布局AIGC、ChatGPT等相關(guān)技術(shù)和產(chǎn)業(yè)。perday2

美國(guó)目前通用大模型的發(fā)展現(xiàn)狀OpenPre-1750具備指令微調(diào)，可以改善其對(duì)未見(jiàn)任務(wù)的生成創(chuàng)意文本、解決基本數(shù)學(xué)問(wèn)題、回答閱讀理高質(zhì)量的自然語(yǔ)言訓(xùn)閱讀理解、常識(shí)在人工智能大模型領(lǐng)域，美國(guó)各巨頭科技公司均有相關(guān)的技術(shù)資源。整體而言，目前ChatGPT的表現(xiàn)最為優(yōu)異。即便是谷歌的Bard在實(shí)際表現(xiàn)上似乎也遜于ChatGPT2

中國(guó)對(duì)大模型相關(guān)領(lǐng)域的布局情況繼OpenAI發(fā)布ChatGPT大模型之后，中國(guó)的各科技公司紛紛加入了大模型開(kāi)發(fā)和應(yīng)用的隊(duì)伍。例如、騰訊、阿里、百度、科大訊飛等科技巨頭公司均有跟進(jìn)大模型的研發(fā)與應(yīng)用。對(duì)目前國(guó)內(nèi)大模型發(fā)展而言，我們與國(guó)外的差距重點(diǎn)不在模型，而在算力。ERNIEResNetBlocks國(guó)內(nèi)首個(gè)AI統(tǒng)一圖像描述、視覺(jué)定位2

中國(guó)對(duì)大模型相關(guān)領(lǐng)域的布局情況全球首個(gè)視覺(jué)-文本-語(yǔ)音在人工智能大模型領(lǐng)域，中國(guó)公司的科技實(shí)力與國(guó)外公司存在一定差距。中國(guó)企業(yè)目前正在努力將之前的發(fā)展重點(diǎn)（單一模型對(duì)應(yīng)單一任務(wù)的專(zhuān)用大模型）調(diào)整為通用大模型。例如，百度2023年3月即將推出“文心一言”通用大模型。華為、阿里和騰訊也表示將加快通用大模型的落地。2

其他國(guó)家大模型技術(shù)的發(fā)展情況采用Apache2.0授權(quán)同時(shí)允許研究及商A21尚未對(duì)輸出的潛在有害內(nèi)容

發(fā)展差距：為何中美之間會(huì)存在如此差距？通用大模型的研發(fā)已經(jīng)成為各國(guó)新一輪技術(shù)競(jìng)爭(zhēng)的核心領(lǐng)域。中國(guó)企業(yè)在原創(chuàng)能力、技術(shù)配套、制度環(huán)境三個(gè)方面，存在一系列亟待解決的問(wèn)題。這些問(wèn)題制約了中國(guó)通用大模型的進(jìn)一步發(fā)展，并導(dǎo)致中國(guó)與美國(guó)存在一定的技術(shù)差距。2各國(guó)通用大模型的能力比 發(fā)展差距：原創(chuàng)能力2各國(guó)通用大模型的能力比 發(fā)展差距：技術(shù)配套2各國(guó)通用大模型的能力比 發(fā)展差距：制度環(huán)境2各國(guó)通用大模型的能力比 通用大模型的治理風(fēng)險(xiǎn)評(píng)估 通用大模型的治理風(fēng)險(xiǎn)評(píng)估技術(shù)風(fēng) 社會(huì)風(fēng) 經(jīng)濟(jì)風(fēng) 政治風(fēng)險(xiǎn)魯棒性不足

數(shù)字鴻溝

寡頭壟斷

政治決策

顛覆性變革

輿論引導(dǎo)

傳統(tǒng)崗位替代

監(jiān)管失能

世界分工重組

國(guó)際關(guān)系動(dòng)蕩

3.1技術(shù)風(fēng)險(xiǎn)：魯棒性不足系統(tǒng)在面對(duì)黑天鵝事件和對(duì)抗性威脅時(shí)表現(xiàn)出的能力缺失在具體應(yīng)用場(chǎng)景中考慮更細(xì)粒度的安全問(wèn)題

魯棒性不 大模型具有涌現(xiàn)性對(duì)抗樣本干擾

產(chǎn)生錯(cuò)誤預(yù)測(cè)助長(zhǎng)算法偏見(jiàn)引發(fā)社會(huì)風(fēng)險(xiǎn)

訓(xùn)練數(shù)據(jù)偏差錯(cuò)誤推理語(yǔ)言多樣性缺失缺乏針對(duì)語(yǔ)義的上下文理解

技術(shù)風(fēng)險(xiǎn)：可解釋性低可信度降 安全問(wèn)題

現(xiàn)有問(wèn) 可控性較弱的原因人類(lèi)難以理解模型的決策過(guò)程

解釋效果不理想缺乏統(tǒng)一的標(biāo)準(zhǔn)

數(shù)據(jù)投毒后門(mén)、木馬攻擊常見(jiàn)詞匯偏差方法多結(jié)果少

可解釋性的AI應(yīng)用少

應(yīng)用領(lǐng)域仍有限

偽相關(guān)問(wèn)題研究的局限3通用大模型的治理風(fēng)險(xiǎn)評(píng) 技術(shù)風(fēng)險(xiǎn)：算法偏見(jiàn) 語(yǔ)料庫(kù)缺乏代表性機(jī)器學(xué)習(xí)習(xí)得人類(lèi)偏見(jiàn)數(shù)據(jù)來(lái)源不均

數(shù)據(jù)偏見(jiàn)種族偏見(jiàn) 性別偏見(jiàn) 年齡偏見(jiàn)語(yǔ)言偏見(jiàn)職業(yè)偏見(jiàn)地理偏見(jiàn)人物形象偏見(jiàn)3通用大模型的治理風(fēng)險(xiǎn)評(píng) 社會(huì)風(fēng)險(xiǎn)：數(shù)字鴻溝

社會(huì)在信息層面所形成的不公平現(xiàn)象（技術(shù)擁有者和技術(shù)缺乏者之間的差距）不公正決策減少少數(shù)族裔或弱勢(shì)群體的參與加劇社會(huì)不公平損害信任降低模型可靠性

技術(shù)主體之間技術(shù)主體與使用者之間

各階段數(shù)據(jù)技術(shù)行為主體出于自身利益考慮，對(duì)其他行為主體產(chǎn)生戒備，數(shù)據(jù)交流共享難以暢通。大模型使用者，也即大模型技術(shù)的作用對(duì)象，是作為數(shù)據(jù)生產(chǎn)者的普通大眾。他們面臨的數(shù)字風(fēng)險(xiǎn)較高，而收益甚微。3通用大模型的治理風(fēng)險(xiǎn)評(píng) 社會(huì)風(fēng)險(xiǎn)：侵犯?jìng)€(gè)人隱私模型設(shè)計(jì)數(shù)據(jù)來(lái)源惡意濫用“長(zhǎng)尾效應(yīng)”

推理能力三角互證與多重驗(yàn)證過(guò)程監(jiān)測(cè)與跟蹤 大模型方面3通用大模型的治理風(fēng)險(xiǎn)評(píng) 社會(huì)風(fēng)險(xiǎn)：誘發(fā)犯罪 誘發(fā)犯罪的類(lèi)型語(yǔ)言模型輔助的內(nèi)容生成技術(shù)以更加低廉的價(jià)格更加有效地生成虛假信息大模型擁有創(chuàng)建高度逼真的合成文本或語(yǔ)音的能力虛假信息識(shí)別難度提高

信息欺詐

網(wǎng)絡(luò)詐騙仇恨言 侵犯知識(shí)產(chǎn)權(quán)3通用大模型的治理風(fēng)險(xiǎn)評(píng) 社會(huì)風(fēng)險(xiǎn)：沖擊教育體系產(chǎn)生原 缺乏相關(guān)應(yīng)對(duì)措施準(zhǔn)備技術(shù)因素：高度逼真的合成文本能力各類(lèi)資料高度開(kāi)源增加大模型應(yīng)答準(zhǔn)確性

技術(shù)快速迭代與檢測(cè)技術(shù)滯后之間的矛盾限時(shí)開(kāi)卷考試等傳統(tǒng)測(cè)試手段已基本無(wú)解社會(huì)因素：現(xiàn)有教育體系缺乏應(yīng)對(duì)準(zhǔn)備學(xué)生缺乏數(shù)字素養(yǎng)就業(yè)壓力和學(xué)業(yè)競(jìng)爭(zhēng)加劇

尚缺乏對(duì)大模型學(xué)術(shù)不端的準(zhǔn)確界定標(biāo)準(zhǔn)監(jiān)管責(zé)任主體缺失3通用大模型的治理風(fēng)險(xiǎn)評(píng) 經(jīng)濟(jì)風(fēng)險(xiǎn)：寡頭壟斷為何大模型落地難？

3通用大模型的治理風(fēng)險(xiǎn)評(píng) 經(jīng)濟(jì)風(fēng)險(xiǎn)：顛覆性變革 顛覆

通 3通用大模型的治理風(fēng)險(xiǎn)評(píng) 3.3經(jīng)濟(jì)風(fēng)險(xiǎn)：傳統(tǒng)崗位替代為什么

3通用大模型的治理風(fēng)險(xiǎn)評(píng) 經(jīng)濟(jì)風(fēng)險(xiǎn)：世界分工重組都有較大優(yōu)勢(shì)，有能力創(chuàng)造出先進(jìn)生 美國(guó)與中國(guó)、乃至全世界脫鉤的成本 大大降低，“小院高墻”足以自給自 足。這將加劇技術(shù)保護(hù)主義思潮和逆

中?其他國(guó)家，尤其是廣大發(fā)展中國(guó)家在心通用模型的研發(fā)領(lǐng)域與美國(guó)差距甚大邊結(jié)構(gòu)固3通用大模型的治理風(fēng)險(xiǎn)評(píng) 3.4政治風(fēng)險(xiǎn)：政治決策政治決策機(jī)制重塑危險(xiǎn)政策決策忽視偏好問(wèn) 政治決策信任度危機(jī)

政治 ?大模型類(lèi)人化程度極高，決策者和決策對(duì)決策 之間以此為媒介的溝通很難確認(rèn)真實(shí)性。風(fēng)險(xiǎn) ?政治決策者與訴求表達(dá)者之間出現(xiàn)雙向信3通用大模型的治理風(fēng)險(xiǎn)評(píng) 政治風(fēng)險(xiǎn)：輿論引導(dǎo)潛移默化引導(dǎo)公眾輿論國(guó)家闡釋權(quán)的趨 意識(shí)形態(tài)武器化趨向 輿論 引導(dǎo)風(fēng)險(xiǎn)

3通用大模型的治理風(fēng)險(xiǎn)評(píng) 政治風(fēng)險(xiǎn)：監(jiān)管失能監(jiān) 壟斷

侵?大模型必須的高投入導(dǎo)致 家?巨頭壟斷將侵蝕國(guó)家治理 3通用大模型的治理風(fēng)險(xiǎn)評(píng) 政治風(fēng)險(xiǎn)：國(guó)際關(guān)系動(dòng)蕩極 聯(lián)盟勢(shì)導(dǎo)致少數(shù)優(yōu)勢(shì)大國(guó)的壟斷 圍繞大模型的激烈競(jìng)爭(zhēng)加劇技優(yōu)勢(shì)國(guó)家的技術(shù)保護(hù)主義，政弱勢(shì)國(guó)家被迫選邊站隊(duì)，科技政治極化對(duì)抗風(fēng)險(xiǎn)激增。

?大模型加劇廣大弱勢(shì)國(guó)家 通用大模型的治理風(fēng)險(xiǎn)評(píng) 通用大模型的風(fēng)險(xiǎn)應(yīng)對(duì)策略4通用大模型的風(fēng)險(xiǎn)應(yīng)對(duì)策略增強(qiáng)競(jìng)爭(zhēng)能力加強(qiáng)市場(chǎng)應(yīng)用4通用大模型的風(fēng)險(xiǎn)應(yīng)對(duì)策略增強(qiáng)競(jìng)爭(zhēng)能力加強(qiáng)市場(chǎng)應(yīng)用通用大模型的風(fēng)險(xiǎn)應(yīng)對(duì)策略構(gòu)建法律之治構(gòu)建法律之治防范失業(yè)風(fēng)險(xiǎn)推動(dòng)教育改革消除政治風(fēng)險(xiǎn)防范失業(yè)風(fēng)險(xiǎn)推動(dòng)教育改革消除政治風(fēng)險(xiǎn)4創(chuàng)新激勵(lì)原則4創(chuàng)新激勵(lì)原則積極責(zé)任原則場(chǎng)景公正原則基本原則4.1構(gòu)建法律之治：基本原則風(fēng)險(xiǎn)法治原則風(fēng)險(xiǎn)法治原則4建設(shè)大模型服務(wù)備案制度4建設(shè)大模型服務(wù)備案制度探索大模型服務(wù)避風(fēng)港規(guī)則明確大模型服務(wù)提供者的積極責(zé)任在場(chǎng)景公正中作出法律推理制度建構(gòu)4.1構(gòu)建法律之治：制度建構(gòu)444.2增強(qiáng)競(jìng)爭(zhēng)能力：構(gòu)設(shè)整體性創(chuàng)新機(jī)制應(yīng)對(duì)科技競(jìng)爭(zhēng)風(fēng)險(xiǎn)的關(guān)鍵在于整體性創(chuàng)新機(jī)制的構(gòu)設(shè)。整體性創(chuàng)新機(jī)制包括企業(yè)創(chuàng)新、制度配套和聯(lián)盟學(xué)習(xí)。頭部企業(yè)發(fā)揮冒險(xiǎn)精神，承擔(dān)社會(huì)責(zé)任，以技術(shù)變革的魄力引領(lǐng)產(chǎn)業(yè)整體水平的提升。政府提供相關(guān)配套措施的大力支持，包括硬件基礎(chǔ)設(shè)施建設(shè)、知識(shí)產(chǎn)權(quán)保護(hù)、專(zhuān)業(yè)投資預(yù)算和產(chǎn)業(yè)政策引導(dǎo)。政府、企業(yè)和科研機(jī)構(gòu)都應(yīng)頭部企業(yè)發(fā)揮冒險(xiǎn)精神，承擔(dān)社會(huì)責(zé)任，以技術(shù)變革的魄力引領(lǐng)產(chǎn)業(yè)整體水平的提升。政府提供相關(guān)配套措施的大力支持，包括硬件基礎(chǔ)設(shè)施建設(shè)、知識(shí)產(chǎn)權(quán)保護(hù)、專(zhuān)業(yè)投資預(yù)算和產(chǎn)業(yè)政策引導(dǎo)。政府、企業(yè)和科研機(jī)構(gòu)都應(yīng)該建設(shè)學(xué)習(xí)交流機(jī)制，通過(guò)吸收先進(jìn)地區(qū)的經(jīng)驗(yàn)來(lái)降低試錯(cuò)成本、加快技術(shù)研發(fā)。企業(yè)創(chuàng) 制度配 聯(lián)盟學(xué)44應(yīng)對(duì)科技競(jìng)爭(zhēng)風(fēng)險(xiǎn)必須要在持續(xù)性創(chuàng)新基礎(chǔ)之上推進(jìn)。中國(guó)在創(chuàng)新基礎(chǔ)上的獨(dú)特優(yōu)勢(shì)：不僅具備龐大的人口基數(shù)和海量數(shù)據(jù)，而且擁有強(qiáng)大的社會(huì)動(dòng)員能力。 重點(diǎn)在于構(gòu)建原創(chuàng)性的奠基式架構(gòu)，而非在現(xiàn)有底層模型的基礎(chǔ)上一味擴(kuò)大模型規(guī)模。數(shù)據(jù)是訓(xùn)練通用大模型所需的重要資源，中國(guó)需要在數(shù)據(jù)量和數(shù)據(jù)多樣性上發(fā)揮獨(dú)有優(yōu)勢(shì)。由政府牽頭設(shè)立的“算力池”能夠?yàn)榇竽Ｐ烷_(kāi)發(fā)提供公共算力。444.3加強(qiáng)市場(chǎng)應(yīng)用：兩個(gè)面向通用大模型作為前沿技術(shù)，在提升產(chǎn)業(yè)流程效率、引領(lǐng)產(chǎn)業(yè)智能化等領(lǐng)域都具有創(chuàng)造性作用。在實(shí)際應(yīng)用環(huán)節(jié)，大模型依然面臨重重阻礙。需?24.34.3加強(qiáng)市場(chǎng)應(yīng)用：從生態(tài)到參與科技部門(mén)牽頭技術(shù)

工信部門(mén)牽頭頭部企業(yè)群建立公共聯(lián)盟應(yīng)用

建立低代碼開(kāi)發(fā)工具搭建公共大模型平臺(tái)

從生態(tài)到參與

促進(jìn)上、中、下游企業(yè)全流程參與通用大模型的應(yīng)對(duì)策 444.4防范失業(yè)風(fēng)險(xiǎn)需要對(duì)通用大模型的“創(chuàng)新性破壞”作用予以謹(jǐn)慎觀察。密切關(guān)注通用大模型發(fā)展可能導(dǎo)致的三類(lèi)失業(yè)現(xiàn)象，并需要提前準(zhǔn)備綜合性應(yīng)對(duì)措施。三類(lèi)失 措施 推動(dòng)教育改