歐盟《人工智能法案》圖解與合規(guī)要點(diǎn)啟示

2024年5月21日，歐盟《人工智能法案》（ArtificialIntelligence(AI)Act）（以下簡稱“AI法案”）由歐盟理事會(huì)正式批準(zhǔn)通過，并將于當(dāng)?shù)貢r(shí)間8月1日正式生效。[1]至此，全球首部針對人工智能（AI）的專門性法律正式出臺(tái)。該法案于2021年4月首次提議后歷經(jīng)三年的多輪審議，最終形成了一部人工智能系統(tǒng)監(jiān)管的統(tǒng)一規(guī)則，對全球人工智能的監(jiān)管框架產(chǎn)生了借鑒意義。對于我們此前對歐盟AI法案審議草案及歐盟人工智能監(jiān)管框架的解讀，可參考《全球人工智能治理大變局之歐盟人工智能治理監(jiān)管框架評述及啟示》及《路未央，花已遍芳——?dú)W盟《人工智能法案》主要監(jiān)管及激勵(lì)措施評述》。本文將進(jìn)一步以圖示及合規(guī)要點(diǎn)解讀的形式，幫助中國企業(yè)了解并梳理如何適用AI法案下的合規(guī)義務(wù)，同時(shí)也將結(jié)合我國當(dāng)前對人工智能監(jiān)管的規(guī)則要點(diǎn)，總結(jié)人工智能合規(guī)治理的要點(diǎn)，供讀者參閱。一、AI法案的合規(guī)義務(wù)路徑圖解根據(jù)AI法案，中國企業(yè)如涉及面向歐洲提供相關(guān)AI系統(tǒng)或技術(shù)服務(wù)的，一方面宜判斷自身提供的AI系統(tǒng)是否構(gòu)成AI法案所提出的“受規(guī)制的AI系統(tǒng)”，進(jìn)而根據(jù)相應(yīng)的系統(tǒng)風(fēng)險(xiǎn)等級(jí)判斷所需履行的合規(guī)義務(wù)；另一方面，也需判斷企業(yè)自身是否構(gòu)成AI法案下的“AI系統(tǒng)提供者”，進(jìn)而適用AI法案對提供者所提出的相關(guān)合規(guī)要求（進(jìn)口者、部署者、分銷者也需承擔(dān)相應(yīng)的合規(guī)義務(wù)）。具體而言，可參考的判斷步驟如下：概覽Q1.何為“AI系統(tǒng)”？AI系統(tǒng)：是一種基于機(jī)器的系統(tǒng)，設(shè)計(jì)為以不同程度的自主性運(yùn)行，在部署后可能表現(xiàn)出適應(yīng)性，并且為了明確或隱含的目標(biāo)，從其接收的輸入中推斷如何生成可影響物理或虛擬環(huán)境的輸出，如預(yù)測、內(nèi)容、建議或決Q2.是否提供“受規(guī)制的AI系統(tǒng)”？AI系統(tǒng)分類：不可接受的風(fēng)險(xiǎn)（Unacceptablerisk）的AI系統(tǒng)；高風(fēng)險(xiǎn)（Highrisk）的AI系統(tǒng)；特定風(fēng)險(xiǎn)/有限風(fēng)險(xiǎn)（Limitedrisk）的AI系統(tǒng)；最小風(fēng)險(xiǎn)（Minimalrisk）的AI系統(tǒng)。Q3.是否構(gòu)成AI系統(tǒng)的“提供者”？在歐盟市場內(nèi)投放或投入使用其AI系統(tǒng)——無論是否收費(fèi)，無論實(shí)體是否在歐盟境內(nèi)，都適用AI法案。例如：在歐盟應(yīng)用商店內(nèi)作為提供者投放AI系統(tǒng)；運(yùn)營面向歐盟公眾訪問的網(wǎng)站，并在網(wǎng)站上提供AI系統(tǒng)的下載渠道，供歐盟公眾自行下載AI系統(tǒng)。不在歐盟市場內(nèi)投放或投入使用其AI系統(tǒng)，但AI系統(tǒng)產(chǎn)生的結(jié)果被用于歐盟境內(nèi)。例如：在歐盟境內(nèi)的運(yùn)營商將特定服務(wù)外包至歐盟外的主體，歐盟外的主體使用AI系統(tǒng)處理在歐盟境內(nèi)收集的數(shù)據(jù)并向歐盟境內(nèi)的運(yùn)營商提供經(jīng)AI系統(tǒng)處理后的輸出結(jié)果。Q4.是否構(gòu)成“不可接受風(fēng)險(xiǎn)的AI系統(tǒng)”？1.采用潛意識(shí)、操縱或欺騙技術(shù)，來扭曲行為，并損害知情決策，從而造成嚴(yán)重?fù)p害；例如：虛擬現(xiàn)實(shí)AI系統(tǒng)的作用如是為了以明顯有害的方式扭曲個(gè)人的行為，則應(yīng)當(dāng)受到禁止。2.利用與年齡、殘疾或社會(huì)經(jīng)濟(jì)狀況相關(guān)的弱點(diǎn)，來扭曲行為，造成嚴(yán)重傷害。在醫(yī)療方面的合法使用除外，例如對心理精神疾病進(jìn)行治療；3.社會(huì)評分，根據(jù)社會(huì)行為或個(gè)人特征，對個(gè)人或群體進(jìn)行評估或分類，從而對這些人造成有害或不利待遇；4.僅根據(jù)個(gè)人的性格特征來評估個(gè)人犯罪的風(fēng)險(xiǎn)（用于增強(qiáng)基于與犯罪活動(dòng)直接相關(guān)的客觀、可驗(yàn)證的事實(shí)的人類評估除外）；5.通過從互聯(lián)網(wǎng)或閉路電視錄像中無針對性地抓取面部圖像，來編制面部識(shí)別數(shù)據(jù)庫；6.在工作場所和教育機(jī)構(gòu)領(lǐng)域推斷自然人的情緒，除非出于醫(yī)療或安全原因；7.推斷敏感屬性（種族、政治觀點(diǎn)、工會(huì)會(huì)員身份、宗教或哲學(xué)信仰、性生活或性取向）的生物分類系統(tǒng)（對合法獲取的生物數(shù)據(jù)集進(jìn)行標(biāo)記或過濾，或執(zhí)法部門對生物特征數(shù)據(jù)進(jìn)行分類時(shí)除外）；8.在公共場所為執(zhí)法目的使用“實(shí)時(shí)”遠(yuǎn)程生物識(shí)別系統(tǒng)，特定情形除外。例如：執(zhí)法人員佩戴執(zhí)法記錄儀等工具實(shí)時(shí)進(jìn)行遠(yuǎn)程生物識(shí)別的，只有在不使用該工具將造成嚴(yán)重傷害的情況下才允許使用，且必須兼顧受影響個(gè)人的權(quán)利和自由。Q5.如果不涉及第4步上述情形，則公司需考慮作為AI系統(tǒng)提供者，應(yīng)當(dāng)履行哪些合規(guī)義務(wù)？通用AI模型：通用AI模型具有顯著的通用性，能夠勝任各種不同的任務(wù)，并可集成到各種下游系統(tǒng)或應(yīng)用中。但是在投放市場前用于研究、開發(fā)或原型設(shè)計(jì)的人工智能模型除外。例如：使用大量數(shù)據(jù)進(jìn)行大規(guī)模自我監(jiān)督訓(xùn)練的人工智能模型。高風(fēng)險(xiǎn)AI系統(tǒng)：1）未禁用的生物識(shí)別技術(shù)：遠(yuǎn)程生物識(shí)別系統(tǒng)。根據(jù)敏感或受保護(hù)的屬性或特征的生物識(shí)別分類系統(tǒng)。情感識(shí)2）關(guān)鍵基礎(chǔ)設(shè)施：關(guān)鍵數(shù)字基礎(chǔ)設(shè)施。道路交通以及水、氣、暖和電供應(yīng)的管理和運(yùn)行的安全組件。3）教育和職業(yè)培訓(xùn)：確定各級(jí)教育和職業(yè)培訓(xùn)機(jī)構(gòu)的入學(xué)、錄取或分配的AI系統(tǒng)。評估學(xué)習(xí)成果的AI系統(tǒng)。評估個(gè)人適當(dāng)?shù)慕逃降腁I系統(tǒng)。監(jiān)控和檢測考試期間學(xué)生的違紀(jì)行為的AI系統(tǒng)。4）就業(yè)、工人管理和自營職業(yè)：用于招聘或選拔的AI系統(tǒng)（特別是用于發(fā)布有針對性的招聘廣告、分析和篩選求職申請以及評估候選人的AI系統(tǒng)）。晉升和終止合同、根據(jù)性格特征和行為分配任務(wù)以及監(jiān)測和評估績效的5）獲得和享受基本私人服務(wù)以及基本公共服務(wù)：由公共機(jī)關(guān)使用AI系統(tǒng)評估福利和服務(wù)的資格。評估信用（發(fā)現(xiàn)金融欺詐除外）。評估和分類緊急呼叫，包括調(diào)度警察、消防員、醫(yī)療救助和緊急患者分診服務(wù)。健康和人壽保險(xiǎn)的風(fēng)險(xiǎn)評估和定價(jià)。6）執(zhí)法：用于評估個(gè)人成為犯罪受害者風(fēng)險(xiǎn)的AI系統(tǒng)。測謊儀。在刑事調(diào)查或起訴期間評估證據(jù)可靠性。評估個(gè)人犯罪或再次犯罪的風(fēng)險(xiǎn)，而不僅僅是基于分析或評估個(gè)性特征或過去的犯罪行為。在刑事偵查、調(diào)查或起訴期間進(jìn)行分析。7）移民、庇護(hù)和邊境管制管理：測謊儀。非正常移民或健康風(fēng)險(xiǎn)評估。審查庇護(hù)、簽證和居留許可申請，以及與資格相關(guān)的投訴。檢測、識(shí)別或確定個(gè)人身份，但核實(shí)旅行證件除外。8）司法和民主進(jìn)程：用于研究和解釋事實(shí)，并將法律應(yīng)用于具體事實(shí)或用于替代性爭議解決。影響選舉和公投結(jié)果或投票行為，不包括不直接與人互動(dòng)的輸出，如用于組織、優(yōu)化和構(gòu)建政治運(yùn)動(dòng)的工具。視為高風(fēng)險(xiǎn)AI系統(tǒng)——作為產(chǎn)品安全組件或作為產(chǎn)品本身：AI系統(tǒng)屬于歐盟立法所涵蓋的產(chǎn)品，或此類產(chǎn)品的安全組件，并且根據(jù)歐盟相關(guān)統(tǒng)一立法需要進(jìn)行第三方合格評定的AI系統(tǒng)，視為高風(fēng)險(xiǎn)AI系統(tǒng)。其中，歐盟立法所涵蓋的產(chǎn)品，參見AI法案附件1，主要包括機(jī)械、玩具、電梯、無線電設(shè)備、醫(yī)療器械和體外診斷醫(yī)療器械等。不構(gòu)成高風(fēng)險(xiǎn)AI系統(tǒng)的例外：1）AI系統(tǒng)執(zhí)行狹窄的程序任務(wù)；例如：將收到的文件進(jìn)行分離。2）AI系統(tǒng)旨在改進(jìn)先前完成的人類活動(dòng)的結(jié)果；例如：相關(guān)AI系統(tǒng)執(zhí)行的任務(wù)是優(yōu)化既有文本所使用的語言。3）AI系統(tǒng)旨在檢測決策模式或先前決策模式的偏差，而不是在未經(jīng)適當(dāng)人工審查的情況下取代或影響先前完成例如：在經(jīng)自然人打分后，通過AI系統(tǒng)檢測打分標(biāo)準(zhǔn)是否與評分規(guī)則發(fā)生偏移。有限/特定風(fēng)險(xiǎn)AI系統(tǒng)的提供者：1）與自然人直接互動(dòng)的AI系統(tǒng)；例如：虛擬現(xiàn)實(shí)AI系統(tǒng)。2）生成音頻、圖像、視頻或文本等內(nèi)容的通用AI系統(tǒng)。例如：經(jīng)用戶輸入關(guān)鍵詞即可生成發(fā)言稿的文字生成式AI系統(tǒng)。有限/特定風(fēng)險(xiǎn)AI系統(tǒng)的部署者：1）情緒識(shí)別AI系統(tǒng)或生物特征分類AI系統(tǒng)；例如：根據(jù)個(gè)人的生物識(shí)別數(shù)據(jù)判斷個(gè)人是否快樂或悲傷的AI系統(tǒng)。2）為了向公眾提供有關(guān)公共利益問題的信息而使用的AI系統(tǒng)，即對于AI系統(tǒng)生成的內(nèi)容，如果發(fā)布的目的是為了向公眾提供有關(guān)公共利益問題的信息，也需履行相應(yīng)的披露義務(wù)。最小風(fēng)險(xiǎn)AI系統(tǒng)：未歸入上述不可接受風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)的AI系統(tǒng)，可被視為最小風(fēng)險(xiǎn)AI系統(tǒng)。例如，垃圾郵件過濾器、人工智能視頻游戲等應(yīng)用程序。二、中歐人工智能治理框架下的合規(guī)要點(diǎn)啟示1.AI大模型訓(xùn)練數(shù)據(jù)合規(guī)以高風(fēng)險(xiǎn)AI系統(tǒng)提供者的合規(guī)義務(wù)為例，AI法案主要就高風(fēng)險(xiǎn)AI系統(tǒng)提出涵蓋全生命周期的監(jiān)管機(jī)制。例如，在將高風(fēng)險(xiǎn)AI系統(tǒng)投放市場前，提供者應(yīng)當(dāng)開展數(shù)據(jù)治理活動(dòng)，數(shù)據(jù)治理應(yīng)涵蓋數(shù)據(jù)的選擇、收集、預(yù)處理例如標(biāo)記、清洗等多方面。同時(shí)，數(shù)據(jù)治理還包括對數(shù)據(jù)集可能存在的偏見進(jìn)行審查；如存在可能影響自然人基本權(quán)利的偏見，應(yīng)當(dāng)采取合理措施以減少相關(guān)偏見。在選擇數(shù)據(jù)集時(shí)，尤其應(yīng)當(dāng)注意有關(guān)訓(xùn)練數(shù)據(jù)的數(shù)據(jù)權(quán)益爭議問題，當(dāng)使用涉及他人版權(quán)或知識(shí)產(chǎn)權(quán)的數(shù)據(jù)以及可能涉及個(gè)人信息的數(shù)據(jù)作為數(shù)據(jù)源時(shí)，如何保證訓(xùn)練數(shù)據(jù)的真實(shí)性與準(zhǔn)確性是出海企業(yè)需要考量的問題之一。對此，《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱“《AIGC暫行辦法》”）及配套的《生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全規(guī)范》標(biāo)準(zhǔn)文件對數(shù)據(jù)治理同樣提出了一系列義務(wù)，包括使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型，涉及知識(shí)產(chǎn)權(quán)的，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)；涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形等。然而，在實(shí)踐訓(xùn)練數(shù)據(jù)過程中，可能仍然會(huì)產(chǎn)生違規(guī)侵權(quán)的后果，其主要原因來自權(quán)利人認(rèn)為大模型廠商在未獲得其授權(quán)的前提下，將其受版權(quán)法保護(hù)的內(nèi)容作為訓(xùn)練數(shù)據(jù)的內(nèi)容以進(jìn)行大模型訓(xùn)練，構(gòu)成侵權(quán)。無論是國內(nèi)還是國外，均已發(fā)生數(shù)起版權(quán)人就訓(xùn)練數(shù)據(jù)使用起訴大模型廠商或AI服務(wù)提供者的案件。對此，大模型廠商多以版權(quán)的合理使用作為抗辯理由，即便是將大模型應(yīng)用于商業(yè)用途。例如，北京互聯(lián)網(wǎng)法院于2024年6月在線審理的畫師起訴AI繪畫軟件開發(fā)運(yùn)營者的著作權(quán)侵權(quán)案件中，被告即表示使用原告受著作權(quán)保護(hù)的作品進(jìn)行大模型訓(xùn)練構(gòu)成合理使用。不過，由此延伸的問題即是在大模型不斷地模型訓(xùn)練當(dāng)中，訓(xùn)練數(shù)據(jù)已更迭數(shù)代，且大模型的性能也已獲得了提高，在此過程中，如僅一批訓(xùn)練數(shù)據(jù)集（例如僅占大模型整體訓(xùn)練數(shù)據(jù)規(guī)模的10%）涉及侵權(quán)問題，且對應(yīng)的權(quán)利人要求刪除侵權(quán)訓(xùn)練數(shù)據(jù)及對應(yīng)的大模型時(shí)，相應(yīng)的主張能否得到支持以及能夠在多大程度上得到支持。例如，在大模型廠商未經(jīng)授權(quán)利用相關(guān)受版權(quán)保護(hù)的內(nèi)容進(jìn)行訓(xùn)練數(shù)據(jù)的動(dòng)作結(jié)束后，僅銷毀訓(xùn)練數(shù)據(jù)集可能已不具有實(shí)質(zhì)意義上的停止侵權(quán)效果；而如果全量響應(yīng)權(quán)利人的需求例如銷毀基于侵權(quán)數(shù)據(jù)訓(xùn)練而成的大模型，不僅可能違背了比例原則，也可能造成資源浪費(fèi)。盡管在廣州互聯(lián)網(wǎng)法院（2024）粵0192民初113號(hào)一案當(dāng)中，原告要求被告將涉案受到版權(quán)保護(hù)的奧特曼物料從被告的訓(xùn)練數(shù)據(jù)集中刪除，但由于被告僅為AI服務(wù)的提供者，不涉及開展實(shí)際的模型訓(xùn)練行為，因此該主張未得到法院的支持。因此，如何解答這一疑問，實(shí)踐暫未提供任一方向的解答。2.個(gè)人信息保護(hù)無論是AI法案還是《AIGC暫行辦法》，其均規(guī)定了個(gè)人信息的處理需遵循相應(yīng)的法律要求，采取適當(dāng)?shù)募夹g(shù)和管理措施從而保障訓(xùn)練數(shù)據(jù)涉及的個(gè)人信息的安全性等要求，這也與《通用數(shù)據(jù)保護(hù)條例》和《個(gè)人信息保護(hù)法》確立的個(gè)人信息保護(hù)原則相一致。但在實(shí)踐中不難發(fā)現(xiàn)，企業(yè)在利用涉及個(gè)人信息的訓(xùn)練數(shù)據(jù)時(shí)，逐一落實(shí)個(gè)人信息主體同意的要求已無法實(shí)現(xiàn)，而主張無需基于個(gè)人信息主體同意而處理個(gè)人信息的其他合法性基礎(chǔ)，亦存在較大局限性。以“在合理范圍內(nèi)處理已公開個(gè)人信息”的合法性基礎(chǔ)為例，主張大模型訓(xùn)練屬于合理范圍的難度可能較大，并且如何定義“已公開個(gè)人信息”，目前尚未有進(jìn)一步實(shí)踐指引。同時(shí)，一方面而言，《AIGC暫行辦法》、歐盟EDPS發(fā)布的生成式人工智能數(shù)據(jù)合規(guī)指南等均要求保護(hù)個(gè)人信息主體權(quán)利。在另一方面，在前述事實(shí)背景下，行使相關(guān)權(quán)利本身就存在一定障礙。因此，如何在不影響生成式AI系統(tǒng)有效性的前提下履行相關(guān)主體權(quán)利請求則成為需后續(xù)明確關(guān)注的事項(xiàng)之一。AI法案與《AIGC暫行辦法》均提出了有關(guān)提示用戶辨別AI服務(wù)的相關(guān)義務(wù)：AI法案規(guī)定生成合成音頻、圖像、視頻或文本內(nèi)容的AI系統(tǒng)提供者應(yīng)確保AI系統(tǒng)的輸出以機(jī)器可讀的格式進(jìn)行標(biāo)注，并且可檢測相關(guān)輸出為人工生成的；《AIGC暫行辦法》規(guī)定生成式服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。值得一提的是，在廣州互聯(lián)網(wǎng)法院（2024）粵0192民初113號(hào)一案，法院認(rèn)定被告存在過錯(cuò)、未盡合理注意義務(wù)的理由之一即在于，被告作為AI服務(wù)提供者，并未顯著標(biāo)識(shí)涉案圖片，從而確保相關(guān)主體能夠明確認(rèn)識(shí)到產(chǎn)生的圖片系由AI生成。兩者提出的標(biāo)識(shí)義務(wù)的底層邏輯存在相似的部分，即其本質(zhì)意義是確保用戶及公眾能夠明確地了解與意識(shí)相關(guān)服務(wù)或內(nèi)容由AI提供或生成，然而，技術(shù)實(shí)施細(xì)節(jié)及履行程度可能存在差異，例如AI法案明確提出了機(jī)器可讀的要求。因此，企業(yè)如計(jì)劃產(chǎn)品出海，應(yīng)當(dāng)尤為關(guān)注此類差異性要求，在大模型服務(wù)布局初期可能即需開展相關(guān)工作的部署，以保證AI服務(wù)全生命周期的整體合規(guī)性。在境內(nèi)外可能就類似監(jiān)管要求提出存在差異的執(zhí)行細(xì)則的前提下，前述議題對企業(yè)界構(gòu)成了多層次的挑戰(zhàn)，尤其是當(dāng)本土企業(yè)計(jì)劃將其現(xiàn)有模型或（AI）系統(tǒng)推向國際市場時(shí)，如何有效調(diào)和來自不同司法管轄區(qū)間的差異化合規(guī)標(biāo)準(zhǔn)，設(shè)計(jì)出既能保護(hù)數(shù)據(jù)主體權(quán)益、增進(jìn)社會(huì)福利，又兼顧商業(yè)價(jià)值的AI服務(wù)與產(chǎn)品，已成為企業(yè)合規(guī)策略中的核心議題之一。結(jié)語進(jìn)一步觀察發(fā)現(xiàn)，無論是歐盟AI法案還是我國的《AIGC暫行辦法》等規(guī)范性文件，均普遍遵循了共通的AI治理原則，即在確保公共利益與個(gè)人基本權(quán)利得到充分尊重與保護(hù)的基礎(chǔ)上，積極促進(jìn)AI技術(shù)的創(chuàng)新步伐與應(yīng)用廣度。具體而言，這些治理原則的實(shí)現(xiàn)依賴于監(jiān)管機(jī)制的構(gòu)建與AI技術(shù)發(fā)展的動(dòng)態(tài)平衡策略，一方面，要求建立健全的監(jiān)管體系，以引導(dǎo)并規(guī)范AI技術(shù)的健康發(fā)展軌跡；另一方面，需靈活調(diào)整監(jiān)管策略，以適應(yīng)技術(shù)進(jìn)步的