人工智能與風(fēng)險(xiǎn)治理體系的重構(gòu)

人工智能與風(fēng)險(xiǎn)治理體系的重構(gòu)

人工智能的“替代”:大數(shù)據(jù)和算法的“創(chuàng)造性破壞”在農(nóng)業(yè)社會(huì)，人們通過(guò)植物和動(dòng)物了解世界。在工業(yè)社會(huì)，人們通過(guò)蒸汽機(jī)征服世界。在互聯(lián)網(wǎng)時(shí)代，人們通過(guò)路由器連接世界。在人工智能時(shí)代，人們改變了世界。就像望遠(yuǎn)鏡讓我們能夠感受宇宙,顯微鏡讓我們能夠觀測(cè)微生物一樣,人工智能但脫胎于現(xiàn)代性的人工智能風(fēng)險(xiǎn)也如影隨形般發(fā)生了,數(shù)據(jù)涉及的隱私權(quán)問(wèn)題頻發(fā),年初支付寶年度賬單默認(rèn)勾選《芝麻服務(wù)協(xié)議》被質(zhì)疑侵犯隱私權(quán),百度涉嫌侵害消費(fèi)者個(gè)人信息安全被江蘇省消保委提起公益民事訴訟。而算法涉及的政治倫理問(wèn)題也開(kāi)始顯現(xiàn),特朗普?qǐng)F(tuán)隊(duì)利用數(shù)以千萬(wàn)的Facebook數(shù)據(jù),通過(guò)挖掘算法使總統(tǒng)大選獲勝;世界上首起UBER自動(dòng)駕駛汽車(chē)公共道路致死案也在美國(guó)亞利桑那州發(fā)生。隨著平臺(tái)企業(yè)將人工智能的商業(yè)邏輯推向極致,大數(shù)據(jù)和算法潛在的風(fēng)險(xiǎn)和“創(chuàng)造性破壞”也必將隨之爆發(fā),國(guó)家主權(quán)、生產(chǎn)關(guān)系、社會(huì)結(jié)構(gòu)及法律秩序等關(guān)鍵議題都面臨著“顛覆式重構(gòu)”。這集中體現(xiàn)為隱私與數(shù)據(jù)權(quán)、數(shù)據(jù)歧視、倫理與人格尊嚴(yán)、生態(tài)、就業(yè)、貧富兩極化、國(guó)家能力及國(guó)家安全等系列問(wèn)題。正如馬斯克所說(shuō):“人類(lèi)下一個(gè)生存威脅恐怕就是人工智能。對(duì)于人工智能應(yīng)該在國(guó)際或者國(guó)家層面上有相應(yīng)的監(jiān)管措施,以防人類(lèi)做出不可挽回的傻事來(lái)?！被诖?筆者主要討論的是人工智能的風(fēng)險(xiǎn)以及人類(lèi)的法律應(yīng)對(duì)。一方面,以費(fèi)雪的“行政憲制主義理論”一、心翼翼在汽車(chē)中的駕駛與駕駛生活在人工智能時(shí)代,不像是處在一輛被小心翼翼控制并熟練地駕駛著的汽車(chē)之中,更像是坐在朝向四方疾馳狂奔的不可駕馭的野馬身上,膽戰(zhàn)心驚,更不知道未來(lái)會(huì)發(fā)生什么。(一)人工智能實(shí)踐中的問(wèn)題在一個(gè)到處充斥著數(shù)據(jù)的“人工智能時(shí)代”,人類(lèi)社會(huì)正在從“原子世界”向“比特世界”演進(jìn),不斷演繹著“人是生而平等的,卻無(wú)往不在枷鎖之中”的事情,人工智能賦予了人類(lèi)很大的自由,人類(lèi)實(shí)踐著空間維度的自由,甚至開(kāi)始追求時(shí)間維度的自由,但過(guò)于泛濫的大數(shù)據(jù)卻給予了人類(lèi)太多的選擇,能力有限的人類(lèi)變得如同遇到洪水猛獸般不知所措。這就是未來(lái)社會(huì)的不可預(yù)測(cè)性,“被動(dòng)自由”問(wèn)題變得日益突出。這主要由以下原因?qū)е?第一,大數(shù)據(jù)的“全體性”“混雜性”及“相關(guān)性”必然帶來(lái)的是風(fēng)險(xiǎn)的不確定性。在小數(shù)據(jù)時(shí)代,人們受限于技術(shù),只能選擇分析隨機(jī)樣本;但在大數(shù)據(jù)時(shí)代,收集與分析全樣本是現(xiàn)實(shí)可行的。大數(shù)據(jù)中的“大”非絕對(duì)意義的大,而是指全數(shù)據(jù);第二,算法的不可預(yù)見(jiàn)性也直接導(dǎo)致了風(fēng)險(xiǎn)的不確定性。擁有強(qiáng)大算法能力的人工智能決策系統(tǒng)則不同,它能夠在短時(shí)間精確計(jì)算所有可能性的基礎(chǔ)上,選擇機(jī)器認(rèn)為的最佳方案。而人工智能決策系統(tǒng)并不受預(yù)置的價(jià)值觀念、經(jīng)驗(yàn)法則、道德法制等因素的制約,它們很有可能做出人類(lèi)根本不可能考慮的實(shí)施方案。這就是算法帶來(lái)的不可預(yù)見(jiàn)性。由此,盡管人類(lèi)制造了人工智能,但我們卻無(wú)法預(yù)見(jiàn)到人工智能最終的決策選擇。隨著深度學(xué)習(xí)技術(shù)的進(jìn)步,人工智能行為的不可預(yù)見(jiàn)性問(wèn)題更加凸顯,而且程度不斷加深。一個(gè)具有自主學(xué)習(xí)能力的人工智能系統(tǒng),實(shí)踐中大數(shù)據(jù)的喂養(yǎng)使其愈發(fā)進(jìn)化,使得最細(xì)心的制造者都沒(méi)有辦法控制或預(yù)測(cè)指數(shù)級(jí)升級(jí)的人工智能的決策過(guò)程及決策結(jié)果,這就是一個(gè)黑箱。第三,架構(gòu)的封閉性更加劇了風(fēng)險(xiǎn)的不確定性。網(wǎng)絡(luò)“性質(zhì)”并非由上帝的旨意來(lái)決定,而僅僅是由它的架構(gòu)設(shè)計(jì)來(lái)決定。(二)人工智能與人的關(guān)系“自然存在度在世界流變體系中呈現(xiàn)為逐層遞減的分布趨勢(shì)”,“愈進(jìn)化的存在物其存在度愈低……它可以顯示某種相對(duì)活躍或較為主動(dòng)的存在‘能力’,卻不得不借助于日益精巧的求存能力來(lái)為日益衰落的‘自在’自負(fù)其責(zé)?！钡谝?強(qiáng)自主性帶來(lái)了失控性問(wèn)題。與人類(lèi)早期科技不同,人工智能的本質(zhì)特征是以行為自動(dòng)化為基礎(chǔ)的機(jī)器決策自主化。這種自主化有強(qiáng)弱之分。以自動(dòng)駕駛為例,人類(lèi)對(duì)于3級(jí)以上的具有自主性決策能力的人工智能系統(tǒng)的監(jiān)管將是非常困難的。第二,人工智能研發(fā)的隱秘性和分散性加劇了失控性。與核能、轉(zhuǎn)基因等傳統(tǒng)風(fēng)險(xiǎn)源不同,人工智能的研發(fā)不需要建造大量的基礎(chǔ)設(shè)施,不需要雇傭大量的員工,甚至不需要購(gòu)置生產(chǎn)設(shè)備,只需一臺(tái)電腦或一部智能手機(jī)即可。因此,大量初創(chuàng)科技公司或個(gè)人都從事于人工智能行業(yè),他們甚至可以在全球的每一個(gè)角落隨時(shí)隨地進(jìn)行研發(fā)。這種物理上的隱秘性和分散性使得監(jiān)管機(jī)關(guān)很難確定是誰(shuí)以及在何處制造潛在的威脅,社會(huì)風(fēng)險(xiǎn)由此不斷集聚。(三)人工智能風(fēng)險(xiǎn)在“制度”層面的重構(gòu)與財(cái)富一樣,前現(xiàn)代社會(huì)的風(fēng)險(xiǎn)分配是附著在階級(jí)模式上,只不過(guò)是以顛倒的方式進(jìn)行:財(cái)富在上層聚集,而風(fēng)險(xiǎn)在下層聚集。由此,為了防范人工智能帶來(lái)的諸多風(fēng)險(xiǎn),在不阻礙創(chuàng)新的前提下重構(gòu)法律治理體系顯得尤為重要。從這個(gè)意義上說(shuō),我們理應(yīng)觀察科技風(fēng)險(xiǎn)治理對(duì)國(guó)家和社會(huì)、政府和市場(chǎng)的關(guān)系演變以及法律體系歷史變遷的影響,這也是行政法學(xué)的重要任務(wù)。二、人工智能能否成為治理風(fēng)險(xiǎn)的最佳手段“這是以往的哥白尼革命、達(dá)爾文革命及神經(jīng)科學(xué)革命中不存在的,人類(lèi)在宇宙中的特殊地位受到威脅,人類(lèi)已不再是信息圈毋容置疑的主宰,機(jī)器開(kāi)始替代我們執(zhí)行越來(lái)越多的原本需要人的思想來(lái)解決的任務(wù)?！蹦敲?人工智能的風(fēng)險(xiǎn)到底能不能被治理?“某只看不見(jiàn)的手正在建造一種與網(wǎng)絡(luò)空間誕生時(shí)完全相反的架構(gòu),這只看不見(jiàn)的手,由政府和商務(wù)共同推動(dòng),正在構(gòu)筑一種能夠?qū)崿F(xiàn)最佳控制并使高效規(guī)制成為可能的架構(gòu)。”而“技術(shù)風(fēng)險(xiǎn)爭(zhēng)論并不單單是一個(gè)個(gè)不相關(guān)聯(lián)的技術(shù)或倫理上的不同意見(jiàn),它關(guān)系到政府機(jī)構(gòu)應(yīng)當(dāng)如何認(rèn)定和理解技術(shù)風(fēng)險(xiǎn)并采取相應(yīng)的措施”,(一)決策能力:決方案是促進(jìn)科學(xué)決策或?qū)＜覜Q策該進(jìn)路主張科學(xué)和專(zhuān)業(yè)知識(shí)是人工智能風(fēng)險(xiǎn)決策的主要依據(jù)?！凹夹g(shù)問(wèn)題的解決方案就是推動(dòng)和促進(jìn)科學(xué)決策或?qū)＜覜Q策……據(jù)此,國(guó)家須要保證風(fēng)險(xiǎn)決策盡可能地客觀,保證決策者是其專(zhuān)業(yè)領(lǐng)域的專(zhuān)家……科學(xué)需要被帶入政治過(guò)程、帶入規(guī)制過(guò)程、帶入法庭,這樣,技術(shù)風(fēng)險(xiǎn)才能得到恰當(dāng)?shù)睦斫狻！?二)“科學(xué)的‘客觀”該進(jìn)路主張民主和倫理等價(jià)值作為人工智能風(fēng)險(xiǎn)決策的主要依據(jù)?！翱茖W(xué)的‘客觀性’實(shí)際上是給意識(shí)形態(tài)披上偽裝斗篷,而且風(fēng)險(xiǎn)決策關(guān)系到共同體民眾整體上意愿怎樣生活。因此,科學(xué)只是一個(gè)有限的決策工具……國(guó)家應(yīng)當(dāng)采取更為民主的應(yīng)對(duì)風(fēng)險(xiǎn)的進(jìn)路?！?三)人工智能風(fēng)險(xiǎn)治理的目標(biāo)無(wú)論是科學(xué)進(jìn)路,還是民主進(jìn)路,法律在人工智能風(fēng)險(xiǎn)治理中的作用都被描述成簡(jiǎn)單工具性的、無(wú)關(guān)緊要的或者會(huì)起妨礙作用的。事實(shí)上,人工智能風(fēng)險(xiǎn)治理的主要目標(biāo)如下:保護(hù)個(gè)人數(shù)據(jù)隱私、安全及相關(guān)權(quán)益;抵御可能的集體風(fēng)險(xiǎn),維護(hù)國(guó)家安全、公共安全及社會(huì)穩(wěn)定;在個(gè)人數(shù)據(jù)權(quán)益保護(hù)和社會(huì)自主創(chuàng)新之間實(shí)現(xiàn)平衡。為了實(shí)現(xiàn)上述目標(biāo),我們需要重構(gòu)一個(gè)風(fēng)險(xiǎn)治理體系,而核心問(wèn)題是政府和法律的作用。該體系的特征如下:(一)組織社會(huì)的自治。在現(xiàn)代社會(huì),我國(guó)由于網(wǎng)絡(luò)的非開(kāi)放性架構(gòu)導(dǎo)致了人工智能風(fēng)險(xiǎn)治理結(jié)構(gòu)的封閉性,具體表現(xiàn)為“行政主體—行政相對(duì)人”的固定規(guī)制結(jié)構(gòu),這種封閉性治理結(jié)構(gòu)極大地增加公眾的存在性焦慮及風(fēng)險(xiǎn)的社會(huì)可接受性。在抽象體系的交匯口,連接公眾與信任關(guān)系的當(dāng)面承諾,通常表現(xiàn)出明白無(wú)誤的可信任性與誠(chéng)實(shí)性,并伴隨著一種“習(xí)以為?！被颉版?zhèn)定自若”的態(tài)度。(二)政府與社會(huì)的問(wèn)題面對(duì)著以復(fù)雜、不確定性和失控性為特征的人工智能風(fēng)險(xiǎn),我們需要一種整體性的風(fēng)險(xiǎn)治理體系,即應(yīng)當(dāng)從中央與地方、政府與市場(chǎng)、立法與行政、國(guó)家與社會(huì)四個(gè)面向,以開(kāi)放和多維度的方式來(lái)重構(gòu)治理結(jié)構(gòu),意在實(shí)現(xiàn)政府、市場(chǎng)、社會(huì)及公眾之間的一個(gè)新型社會(huì),一個(gè)更開(kāi)放的社會(huì),一個(gè)權(quán)力分享的社會(huì),一個(gè)網(wǎng)狀的社會(huì)。具體來(lái)說(shuō),對(duì)于人工智能的風(fēng)險(xiǎn)治理,我們要實(shí)現(xiàn)從單維度到多維度的轉(zhuǎn)變,我們不僅需要政府的規(guī)制,也需要市場(chǎng)的自發(fā)秩序;我們不僅需要全國(guó)人大的立法規(guī)制,也需要國(guó)務(wù)院的行政規(guī)制;我們不僅需要中央政府高屋建瓴式的領(lǐng)導(dǎo)性規(guī)制,也需要地方政府對(duì)癥下藥式的自主性規(guī)制;我們不僅需要國(guó)家的外在強(qiáng)制性規(guī)制,也需要包括平臺(tái)公司在內(nèi)的社會(huì)自我規(guī)制。(三)從向權(quán)的角度限定行政法學(xué)模型傳統(tǒng)的風(fēng)險(xiǎn)治理結(jié)構(gòu)的特征往往是政府向市場(chǎng)、行政向立法、中央向地方、國(guó)家向社會(huì)的單向權(quán)力運(yùn)動(dòng)或放權(quán),但對(duì)于人工智能的治理,我們需要一種雙向的權(quán)力(利)運(yùn)動(dòng)模式,即承認(rèn)上述單向運(yùn)動(dòng)的合理性和有效性的同時(shí),還需要一種反向的權(quán)力(利)運(yùn)動(dòng)形式,即市場(chǎng)向政府、立法向行政、地方向中央、社會(huì)向國(guó)家的鱘魚(yú)回歸式的權(quán)力(權(quán)利)運(yùn)行,這一點(diǎn)從某種意義上更為重要。由此,現(xiàn)有的以追求秩序行政為目標(biāo),以法律保留原則、法律安定性原則和法律明確性原則為基石的封閉式行政法學(xué)理論顯然不足以抑制人工智能帶來(lái)的風(fēng)險(xiǎn)。我們無(wú)法再以絕對(duì)性、確定性、統(tǒng)一性、可計(jì)算性為前提的法學(xué)理論來(lái)構(gòu)建前人工智能時(shí)代的法律秩序,我們需要一種以“開(kāi)放與分享”為基本特征的整體性四維雙向風(fēng)險(xiǎn)治理體系。三、治理的模式分類(lèi)根據(jù)政府參與的深度和廣度,對(duì)于人工智能風(fēng)險(xiǎn)的治理大致可以分為私法模式和公法模式,私法模式以市場(chǎng)為基石,公法模式則以政府為基石。而政府與市場(chǎng)的關(guān)系則是四重雙向風(fēng)險(xiǎn)治理體系的第一維度。(一)人工智能賦能政府建設(shè)正向運(yùn)動(dòng)的產(chǎn)生原因是什么呢?由于包括技術(shù)和效率等國(guó)家能力的欠缺,以及基于經(jīng)濟(jì)便利和政治因素的考量,政府在很多情況下會(huì)考慮通過(guò)企業(yè)力量和市場(chǎng)機(jī)制來(lái)實(shí)現(xiàn)人工智能行業(yè)的發(fā)展以及對(duì)其風(fēng)險(xiǎn)的防范。但“未來(lái)社會(huì)的生產(chǎn)部門(mén)主要由少數(shù)的從業(yè)者、機(jī)器人以及人工智能共同完成,而憤怒的失業(yè)者則構(gòu)成了社會(huì)中的不安定因素”。在政府放任的“野蠻生長(zhǎng)”階段,“非法興起”使得市場(chǎng)和平臺(tái)公司等商業(yè)力量迅速成為人工智能發(fā)展的主要推動(dòng)機(jī)制。以此為契機(jī),我國(guó)在自動(dòng)駕駛、語(yǔ)音及人臉識(shí)別、智能投顧、機(jī)器人等人工智能領(lǐng)域都取得了長(zhǎng)足進(jìn)步;以深度學(xué)習(xí)為代表的機(jī)器技術(shù)開(kāi)始進(jìn)入政府的智慧城市建設(shè);206工程強(qiáng)勢(shì)進(jìn)入上海法院,人工智能開(kāi)始成為司法機(jī)關(guān)重要的輔助決策系統(tǒng),甚至被認(rèn)為是法院的未來(lái)圖景。以“政府?dāng)?shù)據(jù)開(kāi)放”為例,政府與企業(yè)力量、市場(chǎng)機(jī)制實(shí)現(xiàn)深度融合的方式如下:第一,政府和企業(yè)的全方位戰(zhàn)略合作。如上海市政府與騰訊公司簽訂了戰(zhàn)略合作框架協(xié)議,共建智慧城市。雙方通過(guò)云計(jì)算和大數(shù)據(jù)能力,推動(dòng)信息化服務(wù)產(chǎn)業(yè)鏈條的完形,以及在社會(huì)信用管理等領(lǐng)域進(jìn)行大數(shù)據(jù)技術(shù)的探索。(二)人工智能時(shí)代的隱私保護(hù)作為人工智能風(fēng)險(xiǎn)治理維度之一的政府和市場(chǎng)關(guān)系,往往會(huì)經(jīng)歷雙向運(yùn)動(dòng)?！艾F(xiàn)代社會(huì)的原動(dòng)力是由一雙重傾向支配著:一方面是市場(chǎng)不斷的擴(kuò)張,另一方面是這個(gè)傾向遭到一個(gè)相反的傾向———把市場(chǎng)之?dāng)U張局限在一個(gè)特定的方向———的對(duì)抗。這一對(duì)抗自律性市場(chǎng)危害性的社會(huì)保護(hù)傾向非常重要。”那么,這種反向運(yùn)動(dòng)的產(chǎn)生原因是什么呢?自生自發(fā)的市場(chǎng)秩序從來(lái)都是烏托邦,人工智能帶來(lái)的巨大風(fēng)險(xiǎn)自然也不能由市場(chǎng)機(jī)制本身所能化解,而市場(chǎng)機(jī)制自身所帶來(lái)的外部性卻日益顯現(xiàn),具體表現(xiàn)在:第一,隱私權(quán)。身處后隱私時(shí)代的我們,人人都變成了“透明人”,并深陷于一個(gè)巨大的“黑箱社會(huì)”之中?！吧鐣?huì)個(gè)體不知道自己有多少信息被記錄了,這些信息會(huì)傳播到什么地方,也不知道哪些人會(huì)使用它,使用這些信息的目的何在,更無(wú)從知道這些信息的泄露會(huì)產(chǎn)生怎樣的后果,依據(jù)這些信息所作的判斷是否準(zhǔn)確,是否存在偏見(jiàn)或破壞性?”就人類(lèi)而言,時(shí)間是最好的療傷劑,遺忘是常態(tài),記憶才是例外。但隨著人工智能時(shí)代的到來(lái),這種平衡被打破了。往事像炫目的刺青一樣永遠(yuǎn)刻在我們的數(shù)字皮膚上,洗也洗不掉!隨著海量數(shù)據(jù)存在越來(lái)越廉價(jià)的云存儲(chǔ)器上,平臺(tái)企業(yè)對(duì)數(shù)據(jù)的獲取成本遠(yuǎn)遠(yuǎn)比選擇性刪除某些需要被遺忘數(shù)據(jù)的時(shí)間成本要低得多。于是,“在信息權(quán)力與時(shí)間的交會(huì)處,永遠(yuǎn)的記憶創(chuàng)造了空間和實(shí)踐圓形監(jiān)獄的幽靈。完整的數(shù)字化記憶摧毀了歷史,損害了我們的判斷和我們及時(shí)行動(dòng)的能力”。隱私的傳統(tǒng)保護(hù)模式主要是一種私法機(jī)制,采取的是目前仍舊在世界廣泛流行的嚴(yán)格的“告知-許可-例外”權(quán)利模式。雖然隱私保護(hù)的對(duì)象大致經(jīng)歷了從住宅到人、到信息再到數(shù)據(jù)的轉(zhuǎn)變,但不變的是在這個(gè)過(guò)程中市場(chǎng)始終起到了基礎(chǔ)性的配置作用。但在人工智能時(shí)代,這種私法保護(hù)模式將面臨著越來(lái)越多的局限性:其一,不管是告知與許可、模糊化還是匿名化,這三大傳統(tǒng)的隱私保護(hù)策略都將失效。第二,倫理問(wèn)題。不管我們是否承認(rèn),“一切被記錄,一切被監(jiān)管”的人工智能時(shí)代已經(jīng)來(lái)臨,數(shù)據(jù)開(kāi)放帶來(lái)的倫理問(wèn)題若隱若現(xiàn),具體表現(xiàn)在:1.大數(shù)據(jù)和高級(jí)算法可能會(huì)使所有人喪失了未來(lái)的自由選擇權(quán)。當(dāng)醫(yī)療數(shù)據(jù)集比醫(yī)生更了解病人身體狀況、醫(yī)療病例和醫(yī)療方法時(shí),絕大多數(shù)病人的選擇很可能是拋棄醫(yī)生,而選擇相信精確算法基礎(chǔ)上的人工智能;當(dāng)基于高級(jí)算法的數(shù)據(jù)集能夠準(zhǔn)確預(yù)測(cè)員工未來(lái)幾年的能力值、忠誠(chéng)度、經(jīng)濟(jì)貢獻(xiàn)值以及生育計(jì)劃的話,公司會(huì)選擇據(jù)此提前解雇某些可能成為負(fù)資產(chǎn)的員工;當(dāng)基于高級(jí)算法的健康數(shù)據(jù)集能夠預(yù)測(cè)某人未來(lái)的健康狀況時(shí),那么沒(méi)有保險(xiǎn)公司愿意接受他的人壽保險(xiǎn)申請(qǐng);更為恐怖的是,當(dāng)基于算法的信用數(shù)據(jù)集可以預(yù)測(cè)某人未來(lái)犯罪的可能性時(shí),公安部門(mén)可能會(huì)以“預(yù)防犯罪”為名提前干預(yù)他的自由權(quán)利。大數(shù)據(jù)的高速流動(dòng)和再利用也許可以“打造一個(gè)更安全、更高效的社會(huì),但是卻否定了我們之所以為人的重要組成部分———自由選擇的能力和行為責(zé)任自負(fù)。大數(shù)據(jù)成為了集體選擇的工具,但也放棄了我們的自由意志”。2.大數(shù)據(jù)和高級(jí)算法可能會(huì)帶來(lái)數(shù)據(jù)歧視問(wèn)題。數(shù)據(jù)表面上看是中立的,似乎并不涉及價(jià)值判斷,但在數(shù)據(jù)商業(yè)化過(guò)程中,一旦冷冰冰的政府?dāng)?shù)據(jù)加上高深理性的算法,數(shù)據(jù)歧視的產(chǎn)生可能就不可避免了。當(dāng)健康大數(shù)據(jù)可以基本準(zhǔn)確預(yù)測(cè)某位孕婦可能懷的是女孩,該孕婦可能會(huì)據(jù)此選擇墮胎,這是典型的性別歧視;當(dāng)司法大數(shù)據(jù)推測(cè)黑人的犯罪率較高或阿拉伯人成為恐怖分子的可能性較高,那么監(jiān)管部門(mén)可能會(huì)對(duì)他們重點(diǎn)監(jiān)管,甚至提前預(yù)防犯罪,而有些公司也可能會(huì)據(jù)此拒絕雇傭他們,這就是典型的種族歧視和職業(yè)歧視;當(dāng)電商平臺(tái)根據(jù)消費(fèi)大數(shù)據(jù),用高級(jí)算法作一個(gè)精確的推薦系統(tǒng),如收入較低的顧客瀏覽此平臺(tái)時(shí),非常多的打折信息會(huì)不斷跳出來(lái)騷擾,又如平臺(tái)給“經(jīng)常打好評(píng)”和“很少退貨者”寄送假貨,而某旅游網(wǎng)站的“同房不同價(jià)”,這是典型的消費(fèi)歧視。這就是人工智能時(shí)代“開(kāi)放的大數(shù)據(jù)”加上“復(fù)雜卻差異化的算法”帶來(lái)的歧視,這是商業(yè)領(lǐng)域隱匿的“窮人與狗不得入內(nèi)”。以上市場(chǎng)外部性亟待政府的反向運(yùn)動(dòng)通過(guò)保護(hù)性干預(yù)來(lái)解決。具體包括:1.建議政府通過(guò)立法方式重塑“公正”“合法推定原則”及“無(wú)罪推定原則”等概念。在充斥著“過(guò)去決定未來(lái)”及“數(shù)據(jù)預(yù)測(cè)未來(lái)”的人工智能社會(huì),政府需要重新定義公正的概念,“個(gè)人動(dòng)因的保護(hù)”應(yīng)成為公正的新內(nèi)容。人們應(yīng)該只為他們的行為負(fù)責(zé),而不能為未來(lái)的趨勢(shì)或傾向負(fù)責(zé),應(yīng)當(dāng)堅(jiān)決杜絕政府或企業(yè)依據(jù)大數(shù)據(jù)預(yù)測(cè)的行為而非真實(shí)的行為對(duì)人們進(jìn)行評(píng)級(jí)或獎(jiǎng)懲。只有這樣,自然人在法律上才是作為真正的“人”來(lái)對(duì)待,他們有行為選擇自由和通過(guò)自主行為被評(píng)判的人。這是人工智能時(shí)代的“合法推定原則”及“無(wú)罪推定原則”的新含義。2.建議政府通過(guò)立法的方式積極推動(dòng)企業(yè)算法的公開(kāi)、公平和公正等特別保護(hù)措施。對(duì)于政府行為的合法性和合理性,法律設(shè)置了非常詳盡的實(shí)體法和程序法的規(guī)定。但對(duì)于同樣涉及我們每個(gè)人的權(quán)利和自由(甚至我們的未來(lái))等重要利益的企業(yè)決策和評(píng)價(jià),法律卻沒(méi)有任何限制性規(guī)定,這在法理上是說(shuō)不通的。因?yàn)樯虡I(yè)算法會(huì)直接影響到我們每個(gè)人的利益,所以企業(yè)不僅要遵循公開(kāi)原則,向全社會(huì)無(wú)條件公布算法的具體內(nèi)容;企業(yè)還要遵循正當(dāng)程序原則,不能既作算法的評(píng)分裁判者又作算法的事實(shí)參與者;企業(yè)還要遵循可辯駁原則,企業(yè)在對(duì)用戶作出不利的評(píng)價(jià)之前,必須給用戶辯駁和說(shuō)明理由的機(jī)會(huì)?？傊?市場(chǎng)向政府的反向運(yùn)動(dòng)在法律上主要體現(xiàn)為公法模式。這種風(fēng)險(xiǎn)治理模式是通過(guò)政府有意識(shí)的保護(hù)性立法和政府干預(yù)手段而實(shí)現(xiàn)。它強(qiáng)調(diào)的是政府的強(qiáng)力介入,通過(guò)詳盡規(guī)則的出臺(tái),政府的人為設(shè)計(jì)甚至是政府的制度性導(dǎo)向來(lái)實(shí)現(xiàn)人工智能風(fēng)險(xiǎn)的治理。這種模式中起主要作用的公法機(jī)制,往往是顯性的。以歐盟為例,對(duì)于人工智能涉及的個(gè)人隱私等權(quán)利保護(hù),成員國(guó)并非依賴(lài)私法權(quán)利體系及個(gè)人司法救濟(jì)來(lái)實(shí)現(xiàn),而主要通過(guò)公法機(jī)制來(lái)實(shí)現(xiàn)?！皬摹稊?shù)據(jù)保護(hù)指令》到《統(tǒng)一數(shù)據(jù)保護(hù)條例》,歐盟一直致力于建立‘行業(yè)行為準(zhǔn)則+法律強(qiáng)制性規(guī)范’的雙重規(guī)范體系和‘?dāng)?shù)據(jù)控制者自律+政府?dāng)?shù)據(jù)監(jiān)管機(jī)構(gòu)的監(jiān)督管理’的雙重管理體系,尤其是新的條例要求歐盟各成員國(guó)均要建立獨(dú)立的數(shù)據(jù)監(jiān)管機(jī)構(gòu),建立數(shù)據(jù)主體向監(jiān)管機(jī)構(gòu)投訴、受理及處理的一整套完備的行政救濟(jì)制度框架。”四、國(guó)家:培育人工智能風(fēng)險(xiǎn)預(yù)防能力人工智能的風(fēng)險(xiǎn)治理應(yīng)當(dāng)以公民基本權(quán)利的保護(hù)為根本出發(fā)點(diǎn),基于人工智能風(fēng)險(xiǎn)預(yù)防特征,考察不同國(guó)家權(quán)力在手段與功能上的配置,實(shí)現(xiàn)治理責(zé)任的轉(zhuǎn)移和優(yōu)化。(一)人工智能風(fēng)險(xiǎn)標(biāo)準(zhǔn)制定中行政權(quán)的復(fù)雜性在人工智能風(fēng)險(xiǎn)治理的職能分工中,行政機(jī)關(guān)因其權(quán)力的獨(dú)特性承擔(dān)了越來(lái)越多的責(zé)任。由此,立法向行政放權(quán)的正向運(yùn)動(dòng)開(kāi)始啟動(dòng),具體有三種方式:通過(guò)《立法法》及其他法律的明文授權(quán),授予行政機(jī)關(guān)廣泛的行政立法權(quán);通過(guò)法律文本中的不確定概念賦予行政機(jī)關(guān)更多的自由裁量權(quán);通過(guò)設(shè)置“風(fēng)險(xiǎn)預(yù)防原則”賦予行政機(jī)關(guān)更多的事實(shí)上的風(fēng)險(xiǎn)決策權(quán)。而這個(gè)正向運(yùn)動(dòng)主要是由行政的以下特性決定:第一,主動(dòng)性及調(diào)動(dòng)資源的能力?！靶姓淖饔迷谟谛纬缮鐣?huì)生活、實(shí)現(xiàn)國(guó)家目的,特別是在福利國(guó)家或社會(huì)國(guó)家中,國(guó)家的任務(wù)更為龐雜而繁重,行政往往必須積極介入社會(huì)、經(jīng)濟(jì)、文化、教育、交通等各種關(guān)系人民生活的領(lǐng)域,成為一只處處看得見(jiàn)的手,如此方能滿足人民和社會(huì)的需要?！比斯ぶ悄茱L(fēng)險(xiǎn)標(biāo)準(zhǔn)的制定、評(píng)估及反饋需要查閱和收集大量相關(guān)的風(fēng)險(xiǎn)信息。這類(lèi)相關(guān)信息往往涉及人工智能風(fēng)險(xiǎn)的法律性質(zhì)、影響的范圍以及政府治理的法律后果,甚至可能直接關(guān)系到人工智能項(xiàng)目的生與死。第二,專(zhuān)業(yè)性。在時(shí)間和空間分離的巨大跨距之中,脫域機(jī)制通過(guò)將社會(huì)關(guān)系從它們所處的特色的地域“情境”中提取出來(lái),使得這種時(shí)空延伸成為可能。第三,靈活性。與立法機(jī)關(guān)、司法機(jī)關(guān)相比,行政機(jī)關(guān)在機(jī)構(gòu)組織形式、行政負(fù)責(zé)人的挑選與任期、行使職權(quán)的方式等各方面具有更大的自由裁量空間和更多靈活性。事實(shí)上,行政機(jī)關(guān)依據(jù)《立法法》擁有了廣泛的立法性權(quán)力,依據(jù)《行政復(fù)議法》擁有了處理法律糾紛的司法性權(quán)力,而且還能發(fā)揮其實(shí)施法律的傳統(tǒng)國(guó)家作用。這種“三位一體”的行政權(quán)所體現(xiàn)的靈活性對(duì)人工智能的風(fēng)險(xiǎn)治理意義重大。風(fēng)險(xiǎn)標(biāo)準(zhǔn)制定中的核心問(wèn)題是風(fēng)險(xiǎn)的可接受性,這不僅需要考慮特定的科學(xué)評(píng)估及客觀事實(shí),而且也要關(guān)注不同社會(huì)階層的社會(huì)利益和政治關(guān)懷。事實(shí)上,立法機(jī)關(guān)雖然是最民主的,但其不具備處置具體風(fēng)險(xiǎn)的專(zhuān)家系統(tǒng)、機(jī)構(gòu)能力和時(shí)間;同樣法院也不具備專(zhuān)家系統(tǒng),不具備可用來(lái)收集風(fēng)險(xiǎn)信息和商談的手段,更缺乏主動(dòng)對(duì)特定風(fēng)險(xiǎn)的持續(xù)監(jiān)管與及時(shí)反應(yīng)的能力。(二)人工智能風(fēng)險(xiǎn)治理中行政自由裁量權(quán)的法理構(gòu)造由于行政缺乏民主正當(dāng)性,“行政立法”“行政司法”及廣泛的“行政自由裁量權(quán)”存在合憲性上的先天性缺陷,行政這個(gè)過(guò)度膨脹的當(dāng)代憲制國(guó)家“尷尬傳家寶”面臨著“鳩占鵲巢”的嫌疑,這樣一種強(qiáng)大的利維坦式國(guó)家作用令人感到不安且充滿了法律爭(zhēng)議。于是,一場(chǎng)保護(hù)性的反向運(yùn)動(dòng)應(yīng)運(yùn)而生,核心問(wèn)題是如何控制人工智能風(fēng)險(xiǎn)治理中的行政自由裁量權(quán),而這正是法律的主要功能。這種法律的作用本質(zhì)上是一種行政憲制主義的形式,重點(diǎn)是如何把治理人工智能風(fēng)險(xiǎn)的問(wèn)題融入公共行政的合法性、合理性及有效性的法律爭(zhēng)論之中。第一,理性—工具范式。該范式下行政的人工智能風(fēng)險(xiǎn)評(píng)估及決策行為,可看作是對(duì)立法授權(quán)所完成的“傳送帶”動(dòng)作,包括確認(rèn)特定的技術(shù)風(fēng)險(xiǎn),評(píng)估可能采取的規(guī)制手段的法律后果及用“利益代表制”確認(rèn)社會(huì)的價(jià)值偏好。第二,商談—建構(gòu)范式。該范式主張授予行政機(jī)關(guān)行使實(shí)質(zhì)性、強(qiáng)自由的裁量權(quán),立法并非是一套精確的命令,而只是為行政裁量權(quán)設(shè)定一般性原則和考慮的相關(guān)因素。行政不再只是立法的代理人,而是實(shí)施其自由意志的機(jī)構(gòu)。事實(shí)上,從“行政憲制主義”重新描述人工智能的風(fēng)險(xiǎn)治理,也許并不能直接產(chǎn)生具體的技術(shù)解決方案,但卻打開(kāi)了一扇理論建構(gòu)之窗,這有利于我們重新定位法律和政府在人工智能風(fēng)險(xiǎn)決策中的重要作用,并促使行政法學(xué)者開(kāi)始試圖重構(gòu)人工智能風(fēng)險(xiǎn)的整體法律治理系統(tǒng)。五、三維風(fēng)險(xiǎn)管理體系的第三個(gè)維度：中央和地方上文提到了市場(chǎng)與政府、立法與行政之間的雙向運(yùn)動(dòng),而縱向的央地關(guān)系也是難以回避的維度。(一)重構(gòu)人工智能風(fēng)險(xiǎn)的治理體系地方政府一方面基于“GDP錦標(biāo)賽”的需求,積極推動(dòng)本地經(jīng)濟(jì)試驗(yàn)與人工智能產(chǎn)業(yè)發(fā)展深度融合,人工智能產(chǎn)業(yè)的實(shí)踐推手主要是地方政府而非中央政府;另一方面,對(duì)于隨之而來(lái)的人工智能風(fēng)險(xiǎn),地方政府也是身先士卒地積極探索法律治理模式,并不斷積累經(jīng)驗(yàn)。我國(guó)是一個(gè)民主集中制原則下的單一制國(guó)家,其特征是中央的領(lǐng)導(dǎo)權(quán)和地方的自主權(quán)有機(jī)結(jié)合。而在人工智能的產(chǎn)業(yè)發(fā)展和風(fēng)險(xiǎn)治理實(shí)踐中,我國(guó)出現(xiàn)了一個(gè)明顯的中央向地方不斷授權(quán)以及地方自主權(quán)不斷擴(kuò)大的正向運(yùn)動(dòng),這種正向運(yùn)動(dòng)的產(chǎn)生原因如下:第一,單一制與有效治理的融合。按照憲法的規(guī)定,我國(guó)是單一制國(guó)家,體現(xiàn)為中央在財(cái)政、人事、自然資源等方面對(duì)地方的最高領(lǐng)導(dǎo)權(quán),而有效治理能力的增強(qiáng)是以地方自主權(quán)的擴(kuò)大為基礎(chǔ),法律上表現(xiàn)為中央向地方的自上而下的放權(quán)和授權(quán)。周雪光把這種中國(guó)國(guó)家治理邏輯歸納為“一統(tǒng)體制和有效治理的關(guān)系”。第二,新時(shí)代的特色法治經(jīng)驗(yàn)。重構(gòu)人工智能風(fēng)險(xiǎn)的治理體系大致需要以下幾步:第一步,由地方政府就風(fēng)險(xiǎn)治理先行先試,積累有效治理的初步經(jīng)驗(yàn);第二步,由地方人大基于已有的“地方性經(jīng)驗(yàn)”制定“地方性立法”,然后進(jìn)一步試錯(cuò)并積累經(jīng)驗(yàn);第三步,由國(guó)務(wù)院在充分總結(jié)地方經(jīng)驗(yàn)教訓(xùn)的基礎(chǔ)上制定行政法規(guī);第四步,如有必要,再考慮上升為法律,適用于全國(guó)。這種新時(shí)代的特色法治經(jīng)驗(yàn)的形成主要有兩個(gè)依據(jù):其一,我國(guó)經(jīng)濟(jì)文化情境差異巨大。我國(guó)疆域廣闊,人口眾多,多民族多文化,經(jīng)濟(jì)發(fā)展極度不平衡,東部、西部以及南方、北方的地理氣候資源變化多端,這決定了我國(guó)需要“差異化”的地方性立法及行政;其二,“民主集中制”原則由此看來(lái),對(duì)于人工智能的風(fēng)險(xiǎn)治理,地方行使自主權(quán)是法律的常態(tài),而中央行使領(lǐng)導(dǎo)權(quán)則是法律的例外。只有當(dāng)?shù)胤降男袨榭赡芨淖冎醒牒偷胤降恼纹胶鈺r(shí),中央領(lǐng)導(dǎo)權(quán)的介入才有必要。第一,出臺(tái)人工智能的地方規(guī)劃及行動(dòng)方案。據(jù)不完全統(tǒng)計(jì),截至2018年3月,全國(guó)31省、自治區(qū)、直轄市中,包括北京、第二,制定實(shí)驗(yàn)性政策及地方立法。地方政府應(yīng)當(dāng)加強(qiáng)人工智能相關(guān)法規(guī)、倫理和社會(huì)問(wèn)題研究,推動(dòng)建立保障人工智能發(fā)展的法規(guī)和倫理道德框架。根據(jù)新時(shí)代的特色法治經(jīng)驗(yàn),在人工智能產(chǎn)業(yè)發(fā)達(dá)的城市,如深圳或杭州就風(fēng)險(xiǎn)治理進(jìn)行試點(diǎn),積累有效治理的初步經(jīng)驗(yàn);由地方人大基于已有“地方性經(jīng)驗(yàn)”制定“地方性立法”,然后進(jìn)一步試錯(cuò),為國(guó)務(wù)院制定行政法規(guī)和未來(lái)的全國(guó)人大立法提供實(shí)踐基礎(chǔ)和理論支撐。第三,試驗(yàn)性設(shè)立獨(dú)立的人工智能風(fēng)險(xiǎn)及安全監(jiān)管機(jī)構(gòu)。地方立法既要保證該監(jiān)管機(jī)構(gòu)組成機(jī)構(gòu)及成員的獨(dú)立性,也要確保監(jiān)管機(jī)構(gòu)行使職權(quán)時(shí)程序上的透明度。安全監(jiān)管委員會(huì)的主要成員可以從所在地公安局及市場(chǎng)監(jiān)管局選任,該機(jī)構(gòu)應(yīng)當(dāng)具有如下主要職責(zé):人工智能風(fēng)險(xiǎn)的評(píng)估及風(fēng)險(xiǎn)標(biāo)準(zhǔn)的制定、風(fēng)險(xiǎn)決策過(guò)程正式和非正式的公眾參與制度的出臺(tái)、對(duì)人工智能平臺(tái)企業(yè)行使行政調(diào)查權(quán)及限期整改等矯正性權(quán)力、向上級(jí)機(jī)關(guān)或立法機(jī)關(guān)提出建議的權(quán)力以及定期發(fā)布人工智能風(fēng)險(xiǎn)預(yù)警和治理的年度報(bào)告等。由此,地方政府主導(dǎo)的人工智能風(fēng)險(xiǎn)治理試驗(yàn)從宣示開(kāi)明的政治姿態(tài)演變?yōu)閯?dòng)態(tài)的經(jīng)濟(jì)實(shí)踐,其內(nèi)在的政治與法律意涵開(kāi)始不斷豐富。(二)完善人工智能數(shù)據(jù)標(biāo)準(zhǔn)化的事先行政許可制度人工智能的風(fēng)險(xiǎn)治理應(yīng)當(dāng)是一種制度化體系,這種頂層制度設(shè)計(jì)只能由中央政府來(lái)構(gòu)建和提供,其目的在于保護(hù)自然人的數(shù)據(jù)權(quán)益,維護(hù)國(guó)家安全、公共安全和社會(huì)穩(wěn)定,但卻不能因噎廢食,阻礙數(shù)據(jù)合法的自由流通并完全禁止人工智能的研發(fā)。我們建議,全國(guó)人大在充分吸收地方的經(jīng)驗(yàn)和教訓(xùn)的基礎(chǔ)上制定《人工智能發(fā)展法》,具體制度如下:第一,設(shè)立人工智能系統(tǒng)的登記認(rèn)證審查制度。立法的重點(diǎn)是圍繞如何在不阻礙創(chuàng)新的前提下最大限度控制和防范人工智能的潛在風(fēng)險(xiǎn),因此,除了自動(dòng)駕駛系統(tǒng)這類(lèi)可能對(duì)自然人的人身財(cái)產(chǎn)權(quán)造成巨大威脅以及智能武器這類(lèi)可能威脅國(guó)家安全、公共安全的人工智能系統(tǒng)之外,立法并不能也沒(méi)有必要對(duì)所有的人工智能系統(tǒng)設(shè)立嚴(yán)格的事前行政許可制度。筆者建議,設(shè)立適用于所有人工智能系統(tǒng)的登記認(rèn)證審查制度,即所有的人工智能系統(tǒng)都應(yīng)當(dāng)按照法律的要求去監(jiān)管部門(mén)登記備案,但絕大多數(shù)并不需要事先取得監(jiān)管機(jī)構(gòu)的批準(zhǔn)性許可文書(shū)。同時(shí),實(shí)現(xiàn)認(rèn)證程序與侵權(quán)責(zé)任體系深度結(jié)合。企業(yè)可以自愿申請(qǐng)監(jiān)管部門(mén)或授權(quán)的專(zhuān)業(yè)機(jī)構(gòu)的認(rèn)證程序,經(jīng)過(guò)權(quán)威認(rèn)證的人工智能系統(tǒng)的設(shè)計(jì)者、生產(chǎn)者或銷(xiāo)售者僅需承擔(dān)有限侵權(quán)責(zé)任,而沒(méi)有經(jīng)過(guò)認(rèn)證的人工智能系統(tǒng)將會(huì)承擔(dān)嚴(yán)格的連帶責(zé)任。筆者還建議,設(shè)立抽查式事后的安全審查制度,監(jiān)管機(jī)構(gòu)審查的關(guān)鍵詞是“安全”,即查看人工智能系統(tǒng)“是否落實(shí)網(wǎng)絡(luò)安全等級(jí)保護(hù)制度,按照國(guó)家標(biāo)準(zhǔn)規(guī)范要求,采取管理和技術(shù)措施,保護(hù)網(wǎng)絡(luò)、信息系統(tǒng)、數(shù)據(jù)資源安全”,立法應(yīng)當(dāng)授予監(jiān)管部門(mén)“安全一票否決”的權(quán)力,即涉及“安全”問(wèn)題,監(jiān)管部門(mén)有權(quán)強(qiáng)制啟動(dòng)嚴(yán)格的事先行政許可制度,即人工智能系統(tǒng)獲得行政許可需要經(jīng)過(guò)多重多階段的嚴(yán)格安全測(cè)試,在沒(méi)有獲得許可前不能上市銷(xiāo)售。第二,設(shè)立人工智能專(zhuān)員制度。當(dāng)實(shí)施政府?dāng)?shù)據(jù)開(kāi)放和利用的機(jī)構(gòu)是政府部門(mén)時(shí),或者當(dāng)其核心業(yè)務(wù)是用算法處理大量數(shù)據(jù)且需要進(jìn)行定期的、系統(tǒng)化的大規(guī)模監(jiān)控時(shí),或者當(dāng)其核心業(yè)務(wù)是用算法去處理就業(yè)、社會(huì)保險(xiǎn)與社會(huì)保障法等領(lǐng)域以及與犯罪和違法行為有關(guān)的大規(guī)模特殊數(shù)據(jù)時(shí),立法應(yīng)當(dāng)明確要求數(shù)據(jù)控制者和處理者指定一名人工智能專(zhuān)員。第三,建設(shè)國(guó)家統(tǒng)一的大數(shù)據(jù)平臺(tái)。國(guó)家統(tǒng)一大數(shù)據(jù)平臺(tái)需要有足夠的立法支撐和可操作的實(shí)施方案,同時(shí)應(yīng)當(dāng)通過(guò)立法設(shè)立首席信息官、首席技術(shù)官及首席數(shù)據(jù)官等專(zhuān)業(yè)機(jī)構(gòu)。這樣的國(guó)家大數(shù)據(jù)平臺(tái)只能由中央政府來(lái)建構(gòu),并且需要一個(gè)較長(zhǎng)時(shí)間的經(jīng)驗(yàn)積累和試錯(cuò)。從地方分散實(shí)踐到中央統(tǒng)一立法的反向運(yùn)動(dòng)是可取的,我國(guó)地方數(shù)據(jù)平臺(tái)從數(shù)據(jù)量、時(shí)效性、數(shù)據(jù)集可視化、互動(dòng)分享等方面與美國(guó)存在巨大的差距,其中一個(gè)重要原因是各自為政下形成的“低法治”數(shù)據(jù)割據(jù)。由此,一個(gè)旨在全面提升數(shù)據(jù)的有用性和易用性以及公眾數(shù)據(jù)利用效果的全國(guó)性數(shù)據(jù)開(kāi)放平臺(tái)的建設(shè)必須提上全國(guó)人大的議事日程,應(yīng)當(dāng)將中國(guó)最為重要的政府?dāng)?shù)據(jù)統(tǒng)一集中到一個(gè)網(wǎng)站,為全國(guó)所有公眾無(wú)差別地提供一站式的、內(nèi)容豐富的、便于再利用的數(shù)據(jù)群,而這個(gè)工作只能由《人工智能發(fā)展法》來(lái)完成。六、科技風(fēng)險(xiǎn)的威脅對(duì)于人工智能風(fēng)險(xiǎn)的破壞力和臨界點(diǎn),人們也許還有不同的見(jiàn)解,但這種科技風(fēng)險(xiǎn)的威脅毫無(wú)疑問(wèn)是巨大的和不確定的。而國(guó)家和社會(huì)的雙向運(yùn)動(dòng)是我們重構(gòu)風(fēng)險(xiǎn)治理體系必須要考慮的一個(gè)維度。(一)國(guó)家從國(guó)家權(quán)力之間關(guān)系向國(guó)家與民眾關(guān)系的轉(zhuǎn)型當(dāng)前中國(guó)正處于一個(gè)尋求新的合法性基礎(chǔ)的過(guò)程中,逐步走向建立法治國(guó)家,而國(guó)家治理的主線也正從國(guó)家權(quán)力之間關(guān)系向國(guó)家與民眾之間關(guān)系進(jìn)行轉(zhuǎn)型。在這種背景下,人工智能的風(fēng)險(xiǎn)治理也正在經(jīng)歷著國(guó)家向社會(huì)放權(quán)和擴(kuò)權(quán)的正向運(yùn)動(dòng),具體表現(xiàn)為行政機(jī)關(guān)與平臺(tái)企業(yè)的合作治理。根據(jù)弗里曼的研究,人工智能風(fēng)險(xiǎn)合作治理的規(guī)范模型應(yīng)當(dāng)具有如下特征:(二)對(duì)社會(huì)的反思由于人工智能平臺(tái)企業(yè)的自我治理領(lǐng)域往往沒(méi)有清晰的法律邊界,而基于大數(shù)據(jù)的算法產(chǎn)品卻容易波及社會(huì)中的每一個(gè)人,這種巨大影響力必將最終損害到國(guó)家能力;受到人工智能平臺(tái)企業(yè)自我治理影響的利害關(guān)系人范圍之廣、數(shù)量之大,是傳統(tǒng)社會(huì)所難以見(jiàn)到的,因而很難設(shè)計(jì)一種讓所有利害關(guān)系人參與到人工智能風(fēng)險(xiǎn)評(píng)估和風(fēng)險(xiǎn)決策中來(lái)的法律機(jī)制。在“大眾創(chuàng)業(yè)、萬(wàn)眾創(chuàng)新”時(shí)代,政府機(jī)關(guān)有意無(wú)意地疏忽于“野蠻生長(zhǎng)”階段的監(jiān)管職責(zé),使得人工智能平臺(tái)在短時(shí)間實(shí)現(xiàn)“非法興起”,其后果是威脅公共安全和社會(huì)穩(wěn)定的法律風(fēng)險(xiǎn)短時(shí)間內(nèi)集中爆發(fā)。在此背景下,國(guó)家必須改變“強(qiáng)社會(huì)、弱國(guó)家”狀況,啟動(dòng)一場(chǎng)從社會(huì)向國(guó)家集權(quán)的“反向運(yùn)動(dòng)