深度解析歐盟《人工智能法案》 文章合集

深度解析歐盟《人工智能法案》文章合集目錄P歷時(shí)三年，歐盟《人工智能法案》通過歐洲議會(huì)表決路未央，花已遍芳——?dú)W盟《人工智能法案》主要監(jiān)管及激勵(lì)措施評(píng)述全球人工智能治理大變局之歐盟人工智能治理監(jiān)管框架評(píng)述及啟示歐盟《人工智能法案》圖解與合規(guī)要點(diǎn)啟示引言寧宣鳳一、《人工智能法案》制定歷程張浣然張浣然達(dá)成臨時(shí)協(xié)議并不代表歐盟本次人工智能立法程序的結(jié)束，而仍有待歐洲議會(huì)的最終表決。隨著立法程序的進(jìn)一步更新，2024年2月13日，歐盟議會(huì)內(nèi)部市場(chǎng)和消費(fèi)者保護(hù)委員會(huì)與公民自由、司法和內(nèi)政事務(wù)委員會(huì)以71票贊成、8票反對(duì)和7票棄權(quán)的投票結(jié)果通過了與各成員國(guó)就《人工智能法案》達(dá)成的談判草案。2024年3月13日，歐洲議會(huì)正式批準(zhǔn)了《人工智能法案》,掃清了歐盟人工智能監(jiān)管立法的前置障礙。未來，《人工智能法案》還將進(jìn)行條款勘誤，并預(yù)計(jì)在4月交由歐盟理事會(huì)批準(zhǔn)以使得《人工智能法案》正式成為歐盟法律。二、《人工智能法案》適用范圍《人工智能法案》的立法宗旨之一在于維護(hù)公平的人工智能競(jìng)爭(zhēng)環(huán)境并有效保護(hù)歐盟個(gè)人的自由等基本權(quán)利。為了實(shí)現(xiàn)前述目標(biāo)，《人工智能法案》確立了較為廣泛的適用范圍且具備域外效力：一方面，盡管某企業(yè)并非歐盟實(shí)體，只要其將人工智能系統(tǒng)在歐盟境內(nèi)投入市場(chǎng)或投入使用，也需適用《人工智能法案》。另一方面，人工智能系統(tǒng)最終在市場(chǎng)發(fā)揮作用，除人工智能系統(tǒng)提供者外，離不開部署者、分銷者等利益相關(guān)主體的參與。因此，人工智能系統(tǒng)價(jià)值責(zé)任鏈的相關(guān)主體均可能成為《人工智能法案》的規(guī)制對(duì)象系統(tǒng)提供者系統(tǒng)分銷者系統(tǒng)進(jìn)口者圖1《人工智能法案》適用范圍三、《人工智能法案》主要內(nèi)容不可接受的風(fēng)險(xiǎn)(UnacceptableRisk)的人工智能系統(tǒng)最新通過勺風(fēng)險(xiǎn)等輕微的風(fēng)險(xiǎn)(MinimalRisk)的人工智能系統(tǒng)最新通過勺風(fēng)險(xiǎn)等級(jí)劃分為識(shí)，并在歐盟委員會(huì)維護(hù)的歐盟數(shù)據(jù)庫(kù)中對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)進(jìn)行備案。高風(fēng)險(xiǎn)人工智能系統(tǒng)投放市場(chǎng)或投入使用后，其提供者應(yīng)持續(xù)監(jiān)測(cè)人工智能系統(tǒng)的風(fēng)險(xiǎn)活動(dòng)，以便評(píng)估其系統(tǒng)在上市后是否持續(xù)符合《人工智能法案》的相關(guān)要求；采取糾正措施例如召回、停用，以應(yīng)對(duì)人工智能系統(tǒng)已不符合監(jiān)管要求而帶來的風(fēng)險(xiǎn)；如發(fā)生嚴(yán)重事件，提供者還應(yīng)向嚴(yán)重事件發(fā)生地的成員國(guó)市場(chǎng)監(jiān)管管理機(jī)關(guān)進(jìn)行報(bào)告。此外，成員國(guó)的國(guó)家市場(chǎng)監(jiān)督管理機(jī)關(guān)、歐盟設(shè)立的人工智能辦公室等機(jī)構(gòu)有權(quán)依據(jù)《人工智能法案》履行相應(yīng)的職責(zé)，因此，高風(fēng)險(xiǎn)人工智能系統(tǒng)提供者等市場(chǎng)主體還負(fù)有配合主管機(jī)關(guān)執(zhí)法的義務(wù)。2.新增對(duì)通用人工智能模型及系統(tǒng)的監(jiān)管要求通用人工智能模型通用人工智能模型圖3:通用人工智能模型分類隨著ChatGPT等A應(yīng)用在世界范圍內(nèi)掀起熱議，歐盟理事會(huì)于2022年12月6日就《人工智能法案》達(dá)成共同立場(chǎng)時(shí)即新增了有關(guān)通用型AI模型(GeneralPurposeAIModels)的合規(guī)要求。最新通過的《人工智能法案》也順應(yīng)了對(duì)通用人工智能模型及其系統(tǒng)進(jìn)行規(guī)制的趨勢(shì)，并延續(xù)了“以風(fēng)險(xiǎn)為進(jìn)路”的思路，將通用人工智能模型進(jìn)一步區(qū)分為是否存在系統(tǒng)性風(fēng)險(xiǎn)(SystemicRisk),并對(duì)具有系統(tǒng)性風(fēng)險(xiǎn)的通用人工智能模型提供者提出更高水平的監(jiān)管要求。簡(jiǎn)而言之，通用人工智能模型提供者均應(yīng)履行《人工智能法案》第53條規(guī)定的透明性義務(wù)，包括編制技術(shù)文檔、提供相關(guān)信息至通用人工智能模型的下游人工智能系統(tǒng)提供者等。如果相關(guān)通用人工智能模型被認(rèn)定為存在系統(tǒng)性風(fēng)險(xiǎn)，其提供者還應(yīng)遵循《人工智能法案》第55條等相關(guān)要求，按照標(biāo)準(zhǔn)化協(xié)議和工具對(duì)模型進(jìn)行評(píng)估從而識(shí)別和減輕存在的系統(tǒng)性風(fēng)險(xiǎn)、報(bào)告事件等。3.確立人工智能監(jiān)管沙盒制度，激勵(lì)人工智能創(chuàng)新，保護(hù)中小企業(yè)發(fā)展一方面，人工智能的技術(shù)革新是數(shù)字社會(huì)發(fā)展的必然趨勢(shì)，基于維護(hù)個(gè)人的安全、健康、民主等基本權(quán)利之目的而對(duì)人工智能進(jìn)行監(jiān)管不應(yīng)過分扼制人工智能產(chǎn)業(yè)的發(fā)展。另一方面，新生的人工智能監(jiān)管要求可能在短時(shí)間內(nèi)拉高了企業(yè)的合規(guī)成本，尤其是對(duì)于小微企業(yè)(SmallandMediumEnterprises,SMEs)而言，高昂的合規(guī)成本可能影響其參與人工智能市場(chǎng)的競(jìng)爭(zhēng)?；诖?，歐盟建立人工智能監(jiān)管沙盒(AIRegulatorySandboxes)制度，以推動(dòng)人工智能生態(tài)系統(tǒng)的發(fā)展，促進(jìn)和加快人工智能系統(tǒng)、特別是小微企業(yè)的人工智能系統(tǒng)進(jìn)入市場(chǎng)。四、《人工智能法案》時(shí)代的企業(yè)合規(guī)方向O引言寧宣鳳1/blog/techtank/2023/05/08/thepolitics-of-ai-chatgp一、歐盟人工智能治理立法發(fā)展概述內(nèi)容介紹盟機(jī)器人民事法律規(guī)則》)歐盟法律事務(wù)對(duì)基于人工智能控制的機(jī)器人，提出其使用的責(zé)任歸屬、倫理規(guī)則及對(duì)人類自身和財(cái)產(chǎn)的傷害賠償?shù)缺O(jiān)管原則工智能》)徑歐盟委員會(huì)在這條新聞中公布了即將向公眾開放專家組的申請(qǐng)征集。地為歐洲人服務(wù)所做的一系列措施。的社會(huì)經(jīng)濟(jì)變化做好準(zhǔn)備、確保適當(dāng)?shù)牡赖潞头煽蚣?。?nèi)容介紹這份文件旨在基于倫理和社會(huì)價(jià)值觀發(fā)展可信人工智能的合作計(jì)劃》)制造的“人工智能”》)據(jù)、培養(yǎng)人才和確保信任。流》)和私人投資，為社會(huì)經(jīng)濟(jì)變革做好準(zhǔn)備，并確保建立適當(dāng)?shù)牡赖潞头煽蚣?。透明的治理框架?旨在解決算法透明度和問責(zé)制的不同方面：AI(《可信人工智能倫理指南》)家組(AIHLEG)滿足：1.應(yīng)是合法的，遵守所有適用的法律和法規(guī)；以及系統(tǒng)也可能造成無意的傷害。人工智能中構(gòu)筑信任的討論》)12月發(fā)布的《可信賴人工智能倫理準(zhǔn)則》初稿內(nèi)容介紹盟大會(huì)召開》)周年。聯(lián)盟匯集了包括普通公民在內(nèi)的利益相對(duì)經(jīng)濟(jì)和社會(huì)的影響。引評(píng)估清單”》)“可信賴人工智能評(píng)估清單”是《可信賴人工信任的歐洲方案》)同時(shí)革新安全和責(zé)任立法的展望。對(duì)于某些“高風(fēng)險(xiǎn)”行業(yè)，如醫(yī)療、交通、能源及特定公共領(lǐng)域，或影響勞動(dòng)者(以及可能包括消費(fèi)者)權(quán)利的情形，或涉及生物特征識(shí)別或監(jiān)視的情形，可能會(huì)施以強(qiáng)制性要求。(《歐洲數(shù)據(jù)戰(zhàn)略》)間共生數(shù)據(jù)的共享(物聯(lián)網(wǎng)數(shù)據(jù))和建立數(shù)據(jù)池(用于數(shù)據(jù)分析和機(jī)器學(xué)習(xí))的安全和信任歐盟委員會(huì)就如何確保人工智能安全、合法，及法律要求>的公眾問詢》)清單(ALTAI)》)的工具。該工具具有可操作性，符合2019年4月向歐盟委員會(huì)提交的人工智能高級(jí)專家組(AIHLEG)提出的《可信賴人工智能倫理準(zhǔn)則》概聯(lián)盟大會(huì)召開》)歐盟委員會(huì)內(nèi)容介紹CommunicationonFosteringa發(fā)展的歐洲路徑的交流》)權(quán)利構(gòu)成的潛在高風(fēng)險(xiǎn)，制定該協(xié)調(diào)計(jì)劃。法案》提案)于風(fēng)險(xiǎn)的方法(Risk-basedApproach),主要1.建立和維持風(fēng)險(xiǎn)管理系統(tǒng)；2.數(shù)據(jù)和數(shù)據(jù)治理要求；3.透明度和向用戶提供信息；CoordinatedPlanonArtificialIntelligence2021Review(《關(guān)于的審議》)歐盟委員會(huì)作，應(yīng)對(duì)全球挑戰(zhàn)。立法提案》)入使用和使用制定了統(tǒng)一的規(guī)則。這些規(guī)則需要確保高度保護(hù)公共利益，特別是在健康和安全方面，以及人民的基本權(quán)利和自由。它規(guī)定并規(guī)定了此類系統(tǒng)的提供者和用戶的義務(wù)。Committee,Opinionon于〈人工智能法案》的意見》)員會(huì)(EESC)禁止人工智能操作的范圍、定義及清晰度；與“風(fēng)險(xiǎn)金字塔”相關(guān)的分類原則的含義；對(duì)高風(fēng)險(xiǎn)人工智能的要求的風(fēng)險(xiǎn)緩解效果；內(nèi)容介紹于歐洲人工智能法案的修改意見》)會(huì)發(fā)展，不忽視卓越生態(tài)系統(tǒng)與信任生態(tài)系統(tǒng)共當(dāng)局使用的人工智能系統(tǒng)的高風(fēng)險(xiǎn)分類；工智能法案》的意見》)歐洲央行歐洲央行承認(rèn)，人工智能支持的創(chuàng)新在銀行部新固有的跨境性質(zhì)和機(jī)會(huì)，歐洲央行作為聯(lián)盟險(xiǎn)和要求時(shí)，確保信貸機(jī)構(gòu)協(xié)調(diào)實(shí)施擬議監(jiān)管的必要性。同樣，鑒于人工智能的重要性日益建立一個(gè)獨(dú)立的人工智能管理局的可能性，負(fù)單一市場(chǎng)協(xié)調(diào)適用擬議的條例。意見》)環(huán)境、公共衛(wèi)生和的潛在影響會(huì)關(guān)于《人工智能法案》的意見》)要求同時(shí)符合實(shí)際的標(biāo)準(zhǔn)；用人工智能系統(tǒng)；的作用。內(nèi)容介紹(人工智能法案》的意見》)該委員會(huì)提議法案應(yīng)在以下三個(gè)方面做出改進(jìn)：運(yùn)輸行為者施加雙重/沖突的義務(wù)；促進(jìn)和維護(hù)對(duì)運(yùn)輸行業(yè)特別重要的國(guó)際標(biāo)準(zhǔn)；施人工智能方面開發(fā)自己的專門知識(shí)，同時(shí)堅(jiān)持最高的道德標(biāo)準(zhǔn)。人工智能責(zé)任指令的提議》)歐洲消費(fèi)者組織背景下，歐洲消費(fèi)者組織針對(duì)人工智能責(zé)任指令提出了建議。(《人工智能法案》妥協(xié)版本)妥協(xié)版本突出強(qiáng)調(diào)了歐盟與國(guó)際接軌的人工智能系統(tǒng)定義，并提出了對(duì)于小型企業(yè)的豁免要折衷草案注重基于風(fēng)險(xiǎn)來制定監(jiān)管制度，進(jìn)一步細(xì)化和補(bǔ)充了風(fēng)險(xiǎn)管理制度，以平衡人工智止對(duì)人類安全造成不可接受風(fēng)險(xiǎn)的人工智能系(《人工智能法案》折衷草案)2021年4月，《人工智能法案(提案)》(以下簡(jiǎn)稱“2021年《AI法案》提案”)正式發(fā)布，該法案引入風(fēng)險(xiǎn)分級(jí)監(jiān)管、市場(chǎng)準(zhǔn)入(1)人工智能是指通過分析環(huán)境并采取行動(dòng)(具有一定程度的自主性)以實(shí)現(xiàn)特定目標(biāo)來展示其智能行為的系統(tǒng)。基依賴于軟件，在虛擬世界中運(yùn)行(例如語音助手、圖像分析軟件、搜索引擎、語音和人臉識(shí)別系統(tǒng))或者也可以嵌入硬件設(shè)備中成影響交互環(huán)境的輸出(如內(nèi)容、預(yù)測(cè)、建議或決策),以實(shí)現(xiàn)人為指定的特定目標(biāo)?！逼渲校戒?列舉的技術(shù)方器學(xué)習(xí)方法(包括監(jiān)督、無監(jiān)督、強(qiáng)化和深度學(xué)習(xí));基于邏輯和知識(shí)的方法(包括知識(shí)表示、歸納編程、知識(shí)庫(kù)、影響和演繹引斷擴(kuò)展。如今，人工智能技術(shù)也發(fā)展出多個(gè)技術(shù)分支，應(yīng)(2)通用型人工智能系統(tǒng)(3)高風(fēng)險(xiǎn)Al系統(tǒng)·就業(yè)、員工管理和獲得自營(yíng)職業(yè)·用于下列目的的AI系統(tǒng)：·評(píng)估職業(yè)教育培訓(xùn)資格·用于大型社交媒體在線平臺(tái)推薦56GDPRAt.22Automatedindividualdecision-making,includinThedatasubjectshallhavetherightnottobesubjectodecisionbasedsolelyonautomatedprocessi8EDWARDSL,VEALEM.Slavetothealgorithm?whyarighttoexplanationnisprobablynottheremedyyourelookin11seeMargotKaminskietal,AgorthmiclmpactAssessmentsundertheGDPR:Producing2,2021.(3)人工智能的外部問責(zé)機(jī)制算法問責(zé)的各項(xiàng)程序。紐約市2018年設(shè)置了“算法問責(zé)特別工作組”(Algorithm二、2023年《AI法案》折衷草案重點(diǎn)變化分析方式，并在此基礎(chǔ)上增加適用歐盟規(guī)定(EU)2016/679、(EU)2016/1725和指令(EU)2016/280處理他們的生物識(shí)別特征和其第5條(1)(c)禁止公共機(jī)關(guān)或其代表度評(píng)估或分類風(fēng)險(xiǎn)的Al系統(tǒng)實(shí)施了嚴(yán)格的禁止。折中草案更加注重隱私權(quán)保護(hù)。相較于前兩版，折中草案對(duì)公共空間實(shí)時(shí)遠(yuǎn)程生物識(shí)別系統(tǒng)采取了更為嚴(yán)格的立場(chǎng)，全面外，折中草案還禁止了有可能侵犯人權(quán)以外的地區(qū)，被視為不可接受的Al系統(tǒng)也是被禁止的，折中草案禁止歐盟供應(yīng)商向第三國(guó)出口不可接受的Al系統(tǒng)。第5條(1)(d)實(shí)時(shí)遠(yuǎn)程生物識(shí)別系統(tǒng)第5條(1)(d)、第5條(1)(db)得創(chuàng)建或擴(kuò)展通過從互聯(lián)網(wǎng)或閉路電視畫面中無目標(biāo)地刮取面部圖像的面部識(shí)別數(shù)據(jù)庫(kù)。第5條(1)(dc)明確禁止在執(zhí)法、邊第5條(1)(da)明確禁止使用Al系統(tǒng)測(cè)實(shí)際或潛在的刑事或行政犯罪的發(fā)生或重發(fā)。15Article5(1)(d)oftheArtificialIntelligenceAct.原則。在“預(yù)測(cè)性警務(wù)”人工智能應(yīng)用方面，美國(guó)對(duì)這類預(yù)測(cè)性警務(wù)人工智能的應(yīng)用更為普遍和廣泛，其中在較有代表性的統(tǒng)的產(chǎn)品，或者Al系統(tǒng)本身就是產(chǎn)以便根據(jù)列入附錄II的歐盟法規(guī)將產(chǎn)第6條(1)(b)在折中草案中，第三方合管方面，2023年的折中草案不僅強(qiáng)調(diào)許主管部門訪問系統(tǒng)日志。這顯示了險(xiǎn)Al系統(tǒng)外，附錄Ⅲ中提到的Al系統(tǒng)第6條(2)附錄I的Al系統(tǒng)僅在對(duì)自然人的自然人的健康、安全或基本權(quán)利構(gòu)成重大風(fēng)險(xiǎn)第6條(2)(2b)錯(cuò)誤分類的系統(tǒng)在監(jiān)管機(jī)第6條(2)(2c)國(guó)家監(jiān)管機(jī)構(gòu)需向Al辦公室提包括收到的通知數(shù)量、相關(guān)高風(fēng)險(xiǎn)領(lǐng)域和處理(1)(a)、(b)的情況下，通過委托行政法規(guī)更新《附件Ⅲ》的第7條(1)委員會(huì)有權(quán)在特定風(fēng)險(xiǎn)出現(xiàn)的情案修改《附件I》的高風(fēng)險(xiǎn)Al系統(tǒng)或使用案例。第7條(1a)委員會(huì)還有權(quán)在滿足第1段所述過授權(quán)法案從《附件Ⅲ》的清單中刪除高風(fēng)或影響程度，通過報(bào)告或提交給國(guó)第7條(2a)當(dāng)委員會(huì)評(píng)估Al系統(tǒng)以便滿足第1應(yīng)咨詢AI辦公室和相關(guān)的代表團(tuán)體，行業(yè)、獨(dú)立專并公開咨詢結(jié)果和最后評(píng)估結(jié)果。第3條(1)(1d)定義了“通用AI系統(tǒng)”為可被用于和適應(yīng)各種非專門和特定設(shè)計(jì)的應(yīng)用的AI型和通用Al?；A(chǔ)模型，包括基礎(chǔ)模型提供者需滿足在市場(chǎng)投放前后和用于生成式AI的各項(xiàng)義務(wù)。義務(wù)包括風(fēng)險(xiǎn)評(píng)估、和開發(fā)滿足高性能、安全等要求的模型，最小化能源使用，注冊(cè)至EU數(shù)據(jù)庫(kù)。通用Al,如ChatGPT,需接受全生命周是否符合嚴(yán)格要求。第3條(1)(1e)定義了“大規(guī)模訓(xùn)練”為生產(chǎn)強(qiáng)大Al模型的過程，該過程需要超過非常高閾第28條b(1)提供者在將基礎(chǔ)模型投入市場(chǎng)或投入服務(wù)前，需要確保它符合本第28條b(2)描述了基礎(chǔ)模型提供者的義務(wù)，包括通過合適的設(shè)計(jì)、測(cè)試和分析來期內(nèi)的適當(dāng)性能等。第28條b(3)基礎(chǔ)模型的提供者需要在基礎(chǔ)模型投放市場(chǎng)或投入使用后的10使用情境中明顯可以知道這一點(diǎn)。(4)算法透明度要求第13條(1)透明度的目的是讓用戶第13條(1)透明度確保提供者和用戶能夠式。提供者和用戶會(huì)得到關(guān)于可解釋性的額外規(guī)定，以及用戶解釋決策的能力折衷草案對(duì)人工智能系統(tǒng)的透明度要舊版法案主要要求披露提供者身份和明度和合規(guī)性的要求越來越具體，以第13條(2)使用說明必須包含簡(jiǎn)明、第13條(2)使用說明應(yīng)當(dāng)易于理解，包含操作和維護(hù)信息，并支持知情決策。使用說明可以以持久介質(zhì)見導(dǎo)致對(duì)健康、安全或基本權(quán)利構(gòu)可能導(dǎo)致對(duì)健康、安全、基本權(quán)利或環(huán)境構(gòu)成風(fēng)險(xiǎn)。還添加了第13條(3)(aa)額外的要求包括關(guān)于執(zhí)行符信息，第13條(3)(b)(iia)Al系統(tǒng)解釋其決策(3)(ea)用戶收集、存儲(chǔ)和解釋日志的機(jī)制，第13條(3)3a第52條(1)未要求告知AI啟用功能、人工監(jiān)督存在、決策責(zé)任人信息，未提現(xiàn)有權(quán)利和程序信息第52條(1)需明確告知交互對(duì)象：?jiǎn)⒂昧四男?jù)處理前的同意第52條(2)使用者需要告知情緒識(shí)別或生物識(shí)別系統(tǒng)的使第52條(3)用戶須明確公開內(nèi)容已被AI生成折衷草案對(duì)人工智能系統(tǒng)的透明度要披露提供者身份和明度和合規(guī)性的要求越來越具體，以第52條(3a)對(duì)創(chuàng)新、諷刺、藝術(shù)或虛構(gòu)作第52條(3b)應(yīng)在首次交互/接觸時(shí)或前提第7條(2a)當(dāng)委員會(huì)評(píng)估Al系統(tǒng)以便滿足第1或1a應(yīng)咨詢Al辦公室和相關(guān)的代表團(tuán)體，行業(yè)、作伙伴和民間社會(huì)組織。委員會(huì)還應(yīng)在此方面(5)人工智能系統(tǒng)人為監(jiān)督第14條(1)人工智能系統(tǒng)應(yīng)該由具有足夠Al侵犯道德、倫理和明度，提升公眾對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的信任和接受度或最小化高風(fēng)險(xiǎn)Al系統(tǒng)使用過程中出現(xiàn)的健康、安全或基本權(quán)利風(fēng)險(xiǎn)第14條(2)人工監(jiān)督的目的不僅包括預(yù)防全、基本權(quán)利風(fēng)險(xiǎn)，還增加了環(huán)境風(fēng)險(xiǎn)，并考第14條(3)人工監(jiān)督應(yīng)考慮特定的風(fēng)險(xiǎn)，Al需要充分了解高風(fēng)險(xiǎn)Al系統(tǒng)的能力第14條(4a)負(fù)責(zé)人工監(jiān)督的自然人需要意風(fēng)險(xiǎn)AI系統(tǒng)的相關(guān)能力和限制，并以適當(dāng)需要能夠干預(yù)高風(fēng)險(xiǎn)Al系統(tǒng)的運(yùn)行或通過“停止”按鈕或類似程序中斷系統(tǒng)第14條(4e)負(fù)責(zé)人工監(jiān)督的自然人需要能夠干預(yù)高風(fēng)險(xiǎn)Al系非人為干預(yù)會(huì)增加風(fēng)險(xiǎn)或?qū)π阅墚a(chǎn)生負(fù)面影響第14條(5)根據(jù)附錄Ⅲ的1(a)點(diǎn)，需要確?；谙到y(tǒng)得出的識(shí)別結(jié)果的用戶的任何行動(dòng)或決定都已經(jīng)由第14條(5)根據(jù)附錄川的1(a)點(diǎn)，需要確保O—27(6)監(jiān)管沙盒制度第53條(1)-(1b)成員國(guó)須設(shè)立至少一個(gè)AI監(jiān)管沙盒，且可在各級(jí)別或《人工智能法案》要求歐盟成員國(guó)建立并使用監(jiān)管沙盒，驗(yàn)證人沙盒的規(guī)定，并強(qiáng)制成員國(guó)按照護(hù)個(gè)人數(shù)據(jù)僅為公共利益開發(fā)目的使用。提供者需承擔(dān)實(shí)驗(yàn)中對(duì)構(gòu)需每年向人工智能辦公室提交報(bào)告，直到沙盒終止。第53條(1c)-(1e)設(shè)立機(jī)構(gòu)須確保資源充足，為Al系統(tǒng)開發(fā)提供創(chuàng)新環(huán)第53條(1f)-(4)沙盒運(yùn)作需保證風(fēng)險(xiǎn)識(shí)別與緩解，尤其針對(duì)第53條(5)-(5b)設(shè)立機(jī)構(gòu)應(yīng)在Al辦公室的框架內(nèi)進(jìn)行合作，并公開沙第53條(6)委員會(huì)開發(fā)AI沙盒信息接口，提供非約束性指導(dǎo)和協(xié)調(diào)服務(wù)。第53條(6a)-(a)委員會(huì)幫助成員國(guó)建立和運(yùn)營(yíng)A沙盒，制定了詳細(xì)規(guī)則和程第54條提議規(guī)定在沙盒中處理數(shù)據(jù)的條件，及推動(dòng)Al研究以支持社Q—28萬歐元，或者是前一財(cái)年全球年?duì)I第71條(3)最高罰款金額為4000萬歐元，或者案》妥協(xié)版本到2023年《Al法案》折衷草案的變化趨勢(shì)主要表現(xiàn)在兩個(gè)方面：一方面，草案明顯提高了行政罰款的上限，這顯示了立法者對(duì)于人工智能實(shí)踐中的違規(guī)行為的嚴(yán)肅態(tài)圖；另一方面，慮了侵權(quán)行為的性質(zhì)、嚴(yán)重性和持續(xù)時(shí)間，同時(shí)強(qiáng)調(diào)了與歐洲數(shù)合作程度以及如何修正侵權(quán)行為處罰及引導(dǎo)合規(guī)行為的訴求。萬歐元，或者是前一財(cái)年全球年?duì)I第71條(4)最高罰款金額為1000萬歐元，或者第71條(7)各成員國(guó)需要就公共機(jī)構(gòu)和機(jī)構(gòu)的第71條(8a)罰款及相關(guān)訴訟費(fèi)用和賠償要求不能成為提供商、的主題第71條(8b)國(guó)家監(jiān)管機(jī)構(gòu)應(yīng)每年向Al辦公室第72條(1)(a)違規(guī)的性質(zhì)、嚴(yán)重程度和持續(xù)時(shí)間以最高500000歐元的行政罰款第72條(2)不遵守第5條所提到的人工智能實(shí)第72條(2a)Al系統(tǒng)不符合第10條所規(guī)定的要求第10條規(guī)定的，將被處以最高250000歐元的行政罰款第72條(3)Al系統(tǒng)不符合本條例規(guī)定的任何要5條和第10條規(guī)定的，將被處以最高750第72條(6a)歐洲數(shù)據(jù)保護(hù)監(jiān)察員應(yīng)每年通知的7%。(1)責(zé)任機(jī)制存在缺陷(2)阻礙產(chǎn)業(yè)發(fā)展三、歐盟人工智能監(jiān)管體系對(duì)中國(guó)的啟示我國(guó)一直關(guān)注人工智能技術(shù)與產(chǎn)業(yè)的發(fā)展，早在2017年7時(shí)間制定部門文件性質(zhì)據(jù)處理安全保護(hù)義務(wù)。人信息的基本原則和基本規(guī)則，確認(rèn)了個(gè)人信息權(quán)利和個(gè)人信息處理者義務(wù)。部門規(guī)章國(guó)家互聯(lián)網(wǎng)信息辦公室等四部門部門規(guī)章服務(wù)提供者提出了安全管理、內(nèi)容審核等一系列義務(wù)要求，落實(shí)算法備案，同時(shí)根據(jù)群體特殊性規(guī)定了一系列特殊義務(wù)。國(guó)家互聯(lián)網(wǎng)信息辦公室等三部門部門規(guī)章要求，加強(qiáng)了數(shù)據(jù)和技術(shù)管理規(guī)范，落實(shí)提供者安全主體責(zé)任。時(shí)間制定部門文件性質(zhì)國(guó)家互聯(lián)網(wǎng)信息辦公室等七部門部門規(guī)章為，對(duì)提供者算法訓(xùn)練義務(wù)、信息內(nèi)容管理義務(wù)、用戶管理等相關(guān)義務(wù)進(jìn)行了規(guī)定。國(guó)家新一代人工智能治理專業(yè)委員會(huì)部門規(guī)章(征求意見)理審查要求，覆蓋涉及人的科技活動(dòng)以及可能帶來倫理風(fēng)險(xiǎn)挑戰(zhàn)的科技活動(dòng)，對(duì)倫理審查委員會(huì)的組織以及審查程序做出了一系列規(guī)定。(1)依據(jù)主體的治理范式與依據(jù)風(fēng)險(xiǎn)的治理范式《生成式人工智能服務(wù)管理辦法(征求意見稿)》出臺(tái)之后，對(duì)生成式人工智能服務(wù)提供者的義務(wù)體系設(shè)計(jì)引23/s/a6txd2WVCJvNWUC12plBMA24/s/NCT-9LGEuJcJiBCXYbVNA25/cn/zh/insights/latestthinking/china-first-interimregulatory-measure-o(2)通用型人工智能的監(jiān)管問題2023年《A法案》折衷草案則對(duì)這一問題進(jìn)行了回應(yīng)。這類系統(tǒng)在2023年《A法案》折衷草案中被的數(shù)據(jù)上進(jìn)行規(guī)?；?xùn)練的人工智能模型，其設(shè)計(jì)是為了實(shí)現(xiàn)輸出的通用性，并能適應(yīng)各(例如生成式人工智能),也可以成為其他人工智能系統(tǒng)的組件。針對(duì)“基本模型”的泛用性特征，2023年《A法案》折衷草案對(duì)26/tp/arxiv/papers/2107/2107.03721.pdf27/article/10.1007/s12027-022(4)對(duì)中小企業(yè)的兼顧激勵(lì)與監(jiān)管的制度體系O一、縱觀：歐盟《人工智能法案》的監(jiān)管思路寧宣鳳系統(tǒng)除外),并允許監(jiān)管機(jī)構(gòu)隨著A的發(fā)展不斷將新的應(yīng)用領(lǐng)域納入現(xiàn)有的風(fēng)險(xiǎn)類別，而沒有針對(duì)特定A應(yīng)用領(lǐng)/article/br/bs/202303/20230303399532.shtml,最后訪問時(shí)間：2023年7月17日?！げ捎脻撘庾R(shí)技術(shù)或有目的的操縱或欺騙技術(shù)，明顯損害或?qū)嵸|(zhì)性扭曲人的·利用個(gè)人或社會(huì)群體的弱點(diǎn)或已知的人格特征或社會(huì)經(jīng)濟(jì)狀況用于損害或·利用人的社會(huì)行為或人格特征進(jìn)行社會(huì)評(píng)分并對(duì)個(gè)人造成有害后果或歧視·在公眾場(chǎng)所的“實(shí)時(shí)”遠(yuǎn)程生物識(shí)別系統(tǒng)1.在歐盟統(tǒng)一立法規(guī)制范圍內(nèi)作為產(chǎn)品的安全組件或本身屬于產(chǎn)品且其需要·可能威脅人的生命和健康的關(guān)鍵基礎(chǔ)設(shè)施·可能決定人的受教育機(jī)會(huì)教育或職業(yè)培訓(xùn)·就業(yè)、員工管理和獲得自營(yíng)職業(yè)·獲得和享受基本的私人和公共服務(wù)·可能影響人的基本權(quán)利的執(zhí)法活動(dòng)·移民、庇護(hù)和邊境控制管理·使用高質(zhì)量訓(xùn)練、集二、評(píng)述：各風(fēng)險(xiǎn)級(jí)別人工智能系統(tǒng)的主要監(jiān)管制度防Al產(chǎn)品系統(tǒng)性風(fēng)險(xiǎn)的立法，并不僅僅針對(duì)全領(lǐng)域通用性立法。投入使用之前在內(nèi)的整個(gè)生命周后監(jiān)控和事件報(bào)告要求等?！ね瓿葾l系統(tǒng)注冊(cè)的要求投放市場(chǎng)后·采取糾正措施的義務(wù)(產(chǎn)品召回)·配合監(jiān)管部門開展工作的義務(wù)a)風(fēng)險(xiǎn)管理體系需求識(shí)別和分析高風(fēng)險(xiǎn)Al系統(tǒng)在預(yù)定目的和可合理預(yù)見范圍內(nèi)的目的中已知和可預(yù)見的風(fēng)險(xiǎn)，考量風(fēng)險(xiǎn)的要點(diǎn)在于Al系統(tǒng)對(duì)自然利等的影響。結(jié)合為高風(fēng)險(xiǎn)Al系統(tǒng)配置的上市后風(fēng)險(xiǎn)監(jiān)測(cè)系統(tǒng)收集的數(shù)據(jù)，對(duì)前述出b)訓(xùn)練數(shù)據(jù)質(zhì)量要求在的偏見問題，2023年《A法案》折衷草案還進(jìn)一步要求數(shù)據(jù)具有相關(guān)性、充分的代表性，在考慮到預(yù)期目的的情況下盡可能地·高風(fēng)險(xiǎn)Al系統(tǒng)的預(yù)期目的、提供者名稱和系統(tǒng)版本，反應(yīng)現(xiàn)版本與舊版本的關(guān)系等；·可能涉及的數(shù)據(jù)類型，尤其是可能涉及的個(gè)人信息主體類型；·對(duì)系統(tǒng)的主要優(yōu)化目標(biāo)的描述；·為開發(fā)Al系統(tǒng)所采取的方法和步驟；描述訓(xùn)練方法和技術(shù)以及所使用的訓(xùn)練數(shù)據(jù)集，包含訓(xùn)練數(shù)據(jù)集的來·所使用的驗(yàn)證和測(cè)試程序等關(guān)于Al系統(tǒng)監(jiān)測(cè)、運(yùn)作和控制的·Al系統(tǒng)性能的能力和局限性；·有關(guān)Al系統(tǒng)在開發(fā)階段的能源消耗以及在使用過程中的預(yù)期能源消耗等；·對(duì)風(fēng)險(xiǎn)管理體系的詳細(xì)描述；說明提供者在該系統(tǒng)生命周期內(nèi)所做出的任何改變；·歐盟合規(guī)聲明復(fù)印件；1用于高風(fēng)險(xiǎn)Al系統(tǒng)的設(shè)計(jì)、設(shè)計(jì)控制和設(shè)計(jì)驗(yàn)2用于高風(fēng)險(xiǎn)Al系統(tǒng)的開發(fā)、質(zhì)量控制和質(zhì)量保34險(xiǎn)Al系統(tǒng)符合第三編第二章對(duì)高風(fēng)險(xiǎn)Al系統(tǒng)規(guī)定的要求而采取的措施5據(jù)匯總、數(shù)據(jù)保留以及在高風(fēng)險(xiǎn)AI系統(tǒng)投放市場(chǎng)或投入使用之前和為之進(jìn)行的有關(guān)數(shù)據(jù)6風(fēng)險(xiǎn)管理制度(根據(jù)第9條規(guī)定)7建立、實(shí)施和維持系統(tǒng)投放市場(chǎng)后的監(jiān)測(cè)系統(tǒng)(根據(jù)第61條規(guī)定)8與報(bào)告嚴(yán)重事故和故障有關(guān)的程序(根據(jù)第62條規(guī)定)9(2)投放市場(chǎng)時(shí)theproposedapproach.“生物識(shí)別和和基于生物識(shí)別的系統(tǒng)”通用規(guī)范；(2)提供者未應(yīng)用或未完全應(yīng)用歐盟協(xié)調(diào)標(biāo)準(zhǔn)；(3)應(yīng)用時(shí)收到相應(yīng)限制等情估(可自主選擇第三方，衷草案附錄7)產(chǎn)品使用的AI系統(tǒng)(詳見2023年a)因系統(tǒng)而異的分級(jí)分類制度《AI法案》折衷草案相較而言，除了新增了特殊部署者的備案義務(wù)，還進(jìn)一步補(bǔ)充了在AI系統(tǒng)發(fā)生實(shí)質(zhì)變更(Substantial12Al系統(tǒng)的商品名稱和其他任何明確的參考資料，從而對(duì)Al系統(tǒng)進(jìn)行識(shí)別3對(duì)Al系統(tǒng)簡(jiǎn)單易懂的描述，包括Al系統(tǒng)的預(yù)期目的，對(duì)Al系統(tǒng)4可能或預(yù)期可能由Al系統(tǒng)處理的數(shù)據(jù)類型及性質(zhì)(3)投放市場(chǎng)后其投放市場(chǎng)或投入使用的高風(fēng)險(xiǎn)Al系統(tǒng)不符估要求)或投入使用的成員國(guó)的國(guó)家主管部門應(yīng)與部署者合作調(diào)查原因(如適用)2023年7月18日。繼續(xù)完善產(chǎn)品安全法律法規(guī)體系的基礎(chǔ)上，進(jìn)一步明確針對(duì)人工智能領(lǐng)域的強(qiáng)制報(bào)告的內(nèi)容、程序、時(shí)限以及報(bào)告知：上述系統(tǒng)運(yùn)行情況的存在。從一個(gè)具有合理的充分信息、觀察力和謹(jǐn)慎的自然人的角度來看，Al互相當(dāng)保護(hù)第三方權(quán)利和自由的情況下用的使用的情形。和自由的情況下用于偵查、預(yù)防和法律授權(quán)的為了偵查、預(yù)防、合的處理原則三、人工智能創(chuàng)新激勵(lì)制度—一人工智能監(jiān)管沙盒(RegulatorySandbox)8uk/publications/documents/regulato金融科技的技術(shù)多樣化和其自身快速發(fā)展與變革的特征決定了金融科技初創(chuàng)企業(yè)(尤其是中小企業(yè))在產(chǎn)品設(shè)2023年《A法案》折衷草案序言第(72)條列明了Al監(jiān)管沙盒的(“AI監(jiān)管沙盒”或“沙盒”)立法初衷：即AI監(jiān)管沙盒的目標(biāo)應(yīng)10TheAdvantagesofRegulatorySandboxesinFinTech,https//youtapinsightscom/theadvantagesanddisadvantO—57技術(shù)上市前的特2023年《AI法案》折衷草案第53a(3)條新增規(guī)定，針對(duì)擬參與沙盒的提供者，特別是中小企業(yè)和初創(chuàng)企業(yè)，應(yīng)當(dāng)協(xié)助它們獲得(1)技術(shù)部署前的服務(wù)，例如關(guān)于《AI法案》實(shí)施的相關(guān)指導(dǎo)；(2)幫助其標(biāo)準(zhǔn)化文件、獲得認(rèn)證與咨詢等增值服務(wù)；(3)接觸其他數(shù)據(jù)單一市場(chǎng)(DigitalSingleMarket)倡議的機(jī)會(huì)，例如Testing&ExperimentationFacilities、DigitalHubs以及CentresofExcellence并符合歐盟基準(zhǔn)能力。許在AI監(jiān)管沙盒中基于處理數(shù)據(jù)原始目的以外的目的開發(fā)特定Al本制度在2022年《AI法案》妥協(xié)版本已有體現(xiàn)，2023年《AI法案》折衷草案對(duì)該項(xiàng)規(guī)定進(jìn)行54條所列條件全部滿足的前提下，才可以出于處理數(shù)據(jù)原始目的以外的目的在監(jiān)管沙盒中開發(fā)特定AI系統(tǒng)。同時(shí)，第54條新增允許處理數(shù)據(jù)目的的種類，包括為公共安全與公共健康開展的疾病監(jiān)測(cè)與診斷之目的、保護(hù)生物多樣性、改進(jìn)環(huán)境污染及全球變暖緩釋措施之目的、公共交通、關(guān)鍵基礎(chǔ)設(shè)施與網(wǎng)絡(luò)的安全與適應(yīng)力之目的等。此外，第54條刪除了需要在參與沙盒終止后一年內(nèi)仍需保留處理個(gè)人信息的日志記錄要求。applications/C350EADFB379465E7F4A95B973A49O—58《AI法案》折衷草案第53條(4)明確規(guī)定，擬參與A監(jiān)點(diǎn)等方面確立統(tǒng)一的規(guī)范制度，對(duì)于在沙盒中可能存在的技術(shù)耦合進(jìn)行風(fēng)險(xiǎn)評(píng)估(例如是否允許交互耦合、耦合的程度等),沙盒試驗(yàn)環(huán)境的信息網(wǎng)絡(luò)安全措施由哪一方保證落實(shí)(監(jiān)管部門或另行指定具有技術(shù)能力的第三方)也需要進(jìn)一步四、人工智能監(jiān)管的未來方向值得注意的是，OpenAl于近日創(chuàng)建了一個(gè)名為Superalignmen智能(Trustwor