2023全球生成式人工智能監(jiān)管研究報告-Anjie+Broad

全球生成式人工智能監(jiān)管研究報告一、生成式人工智能監(jiān)管地圖 1二、主要地區(qū)監(jiān)管概述 2 (一)中國 2 (二)歐盟 2 (三)美國 6 (四)加拿大 7 (五)英國 9 (六)澳大利亞 11 (七)印度 12 (八)日本 13 (九)新加坡 14 (十)中國香港 16 (一)監(jiān)管對象 17 (二)監(jiān)管部門 18 (三)合規(guī)義務(wù)要求 18 (四)未來可能面臨的監(jiān)管挑戰(zhàn) 19 (一)監(jiān)管框架 21 (二)一般合規(guī)義務(wù) 24 (三)特殊合規(guī)義務(wù) 29 (四)監(jiān)管動態(tài) 31 (五)相關(guān)機構(gòu) 32 (一)監(jiān)管框架 34 (二)一般合規(guī)義務(wù) 37 (三)特殊合規(guī)義務(wù) 39 (四)監(jiān)管動態(tài) 40 (五)相關(guān)機構(gòu) 41六、加拿大 42 (一)監(jiān)管框架 42 (二)一般合規(guī)義務(wù) 43 (三)監(jiān)管動態(tài) 48 (四)相關(guān)機構(gòu) 49，主和中國；2.橙色區(qū)域表明該地區(qū)目前對生成式人工智能產(chǎn)品存在一定的限制和監(jiān)管1 落實科技倫理審查制度。。智能的主要合規(guī)義務(wù)：2 歐盟上，成式人工智能相關(guān)基礎(chǔ)模型提供者的義務(wù)。模的行政罰款。將禁止的人工智能系統(tǒng)投放市場或投入使用最高可被處4000萬歐元罰款罰款4000萬歐元或上一財政年度全球年營業(yè)額的7%(以較高者為準)不遵守高風險人工智能系統(tǒng)關(guān)于數(shù)據(jù)治理、透明度和提供信息給用戶的規(guī)定最高可被處2000萬歐元罰款罰款2000萬歐元或上一財政年度全球年營業(yè)額的4%(以較高者為準)3違反其他對于人工智能系統(tǒng)或模型的要求和義務(wù)最高可被處1000萬歐元罰款罰款1000萬歐元或上一財政年度全球年營業(yè)額的2%(以較高者為準)在答復(fù)請求時向公告機構(gòu)和國家主管當局提供不正確、不完整或誤導(dǎo)性的信息最高可被處500萬歐元罰款罰款500萬歐元或上一財政年度全球年營業(yè)額的1%(以較高者為準)能的監(jiān)管仍非常嚴苛。的《人工智能法》表的特殊義務(wù)：45 美國能的創(chuàng)新和發(fā)展作為高度優(yōu)先事項。時核心價值觀。護。美國行事的主要參考和依循。6成材料的作品申請版權(quán)保護的申請人有以下義務(wù)：7 )加拿大大對人工智能的監(jiān)管重點在于隱私保護。智大法使或罰、行政訴訟甚至刑事制裁。《人工智能和數(shù)據(jù)法》下人工智能系統(tǒng)負責人的合規(guī)義務(wù)：8責人將面臨下表所示的處罰。經(jīng)公訴定罪法院酌情罰款不超過1千萬加元與其被判刑前的財政年度內(nèi)全球總收入的3%的罰款中更高額的罰款經(jīng)簡易程序定罪不超過5萬加元罰款不超過500萬加元與其被判刑前的財政年度內(nèi)全球總收入的2%的罰款中更高額的罰款能(一般是生成式人工智能技術(shù))發(fā)布了實務(wù)指導(dǎo)。公室等部門負責各自領(lǐng)域與人工智能有關(guān)的執(zhí)法工作。 英國9 發(fā)展持較開放的態(tài)度。例如，財政部建議讓創(chuàng)新者和企業(yè)家在監(jiān)管沙盒 工智能的一般原則。式人工智能自動決策等問題。3對于人工智能生成的作品，英國知智害費者的行為進行監(jiān)管等。 六)澳大利亞O智能政策文件的制定。 印度關(guān) 接收者的數(shù)據(jù)主體。 所性文件等對人工智能進行規(guī)范，鼓勵人工智能用戶和企業(yè)自愿采取行動以實現(xiàn) )新加坡的人工智能生態(tài)系統(tǒng)。 出建立可信賴和負責任地使用生成式人工智能的生態(tài)系統(tǒng)的想法。13決算行政監(jiān)視委員會分科會質(zhì)疑を振り返る。-きいたかし(キイタカシ)/選挙ドットコム數(shù)據(jù)使用、處理等行為進行監(jiān)管。規(guī)需求定制報告等。 措適作出應(yīng)對。件。 一)監(jiān)管對象外向境內(nèi)提供的生成式人工智能服務(wù)也受到該辦法的管轄。 二)監(jiān)管部門 (三)合規(guī)義務(wù)要求深度合成規(guī)定》與《生成式辦法》三部規(guī)章的要求?！渡墒睫k法》要求提供具有輿論屬性或者社會動員能力的生成式人工智能式人工智能服務(wù)上市前的必要流程，據(jù)悉目前主流的GPT產(chǎn)品如 (四)未來可能面臨的監(jiān)管挑戰(zhàn)廣的適用范圍。倫理審查辦法(試行)》，完善了科技倫理審查的流程和要求。能企業(yè)可能需要承擔的合規(guī)義務(wù)有：1)建立本單位的科技倫理(審查)委員會。)建立健全科技活動全流程科技倫理監(jiān)管機制和審查質(zhì)量控制、監(jiān)督評價置。開展科技活動前進行科技倫理風險評估或?qū)彶??？萍蓟顒迂撠熑藨?yīng)向本單位科技倫理(審查)委員會申請倫理審查。意見》需要按規(guī)定進行登記。 一)監(jiān)管框架上， (《可信賴的人工智能的道德指南》提出的七項關(guān)鍵要求及其交互關(guān)系) (《人工智能法》的分級監(jiān)管示意圖)O修改人工智能系統(tǒng)的定義，使其與亞太經(jīng)合組織商定的定義保持一致O擴大被禁止的人工智能系統(tǒng)清單進行基本權(quán)利影響評估O對通用人工智能17和ChatGPT等生成式人工智能18模型的提供者施加義務(wù)O賦予各國當局要求訪問人工智能系統(tǒng)的訓練和培訓模型(包括基礎(chǔ)模型) (《人工智能法》最新立法進度圖) (二)一般合規(guī)義務(wù) 險人工智能系統(tǒng)：全面禁止《人工智能法》禁止以下類型的人工智能系統(tǒng)進入歐洲市場。 《人工智能法》將高風險人工智能系統(tǒng)分為以下兩大類。 或無風險人工智能系統(tǒng)：無額外法律義務(wù)頻或視頻內(nèi)容的人工智能系統(tǒng)(即深度偽造)但 基礎(chǔ)模型專門用于生成式人工智能系統(tǒng)的提供者有義務(wù)在基礎(chǔ)模型投放市場或分銷商 (三)特殊合規(guī)義務(wù)型的提供者在將高風險人工智能系統(tǒng)投放市場或投入使用前存在下圖所示的義成式人工智能基礎(chǔ)模型的提供者模的行政罰款。個人公司將禁止的人工智能系統(tǒng)投放市場或投入使用歐元罰款罰款4000萬歐元或上一財政年度全球年營業(yè)額的7%(以較高者為準)不遵守高風險人工智能系統(tǒng)關(guān)于數(shù)據(jù)治理、透明度和提供信息給用戶規(guī)定歐元罰款罰款2000萬歐元或上一財政年度全球年營業(yè)額的4%(以較高者為準)違反其他對于人工智能系統(tǒng)或模型的要求和義務(wù)歐元罰款罰款1000萬歐元或上一財政年度全球年營業(yè)額的2%(以較高者為準)在答復(fù)請求時向公告機構(gòu)和國家主管當局提供不正確、不完整或誤導(dǎo)性的信息可被處500萬歐元罰款罰款500萬歐元或上一財政年度全球年營業(yè)額的1%(以較高者為準) 四)監(jiān)管動態(tài)展開調(diào)查。時間國家監(jiān)管機構(gòu)性質(zhì)措施事由意大利主動調(diào)查限時中止令未成年人數(shù)據(jù)處理、數(shù)據(jù)準確性法國CNIL投訴驅(qū)動被動調(diào)查法性基礎(chǔ)、數(shù)據(jù)權(quán)利行使西班牙AEPD主動調(diào)查主動調(diào)查透明度德國BADI主動調(diào)查編制問卷數(shù)據(jù)保護影響評估挪威未開啟調(diào)查官方表態(tài)/愛爾蘭未開啟調(diào)查官方表態(tài)/ (歐盟成員國對ChatGPT的調(diào)查情況表21)門立即對ChatGPT和類似的聊天機器人展開調(diào)查。歐洲消費者組織副總干事 五)相關(guān)機構(gòu)的主管部門聯(lián)合監(jiān)管和執(zhí)法。立在國家一級和跨境一級執(zhí)行數(shù)據(jù)保護法的歐洲數(shù)據(jù)保護委員會(European使《通用數(shù)據(jù)保護條例》得到遵守。能的EUPCN)是負責在非食品領(lǐng)域執(zhí)行歐盟產(chǎn)品立法的國家當局之間的主要合作論督員會(EDPB)秘書處定期舉辦聯(lián)合研討會，討論消費者和數(shù)據(jù)保護執(zhí)法人員共同 一)監(jiān)管框架美國目前無論在聯(lián)邦還是州一級均尚未專門針對通用人工智能或生成式人能進行研究。備忘錄邦機人工智能創(chuàng)新和發(fā)展的影響。他機構(gòu)負責任地使用人工智能。 (《人工智能：聯(lián)邦機構(gòu)和其他實體的問責框架》示意圖)享有的五項核心保護。 (五項核心保護)信度 (《人工智能風險管理框架》四大功能示意圖)部建議立法設(shè)置如下機制：退出數(shù)據(jù)收集的選項 (二)一般合規(guī)義務(wù)雖然美國尚未針對通用人工智能及生成式人工智能系統(tǒng)及相關(guān)主體設(shè)定合文v (三)特殊合規(guī)義務(wù)人工智能生成材料的作品申請版權(quán)保護的申請人在不同的申請階段存在不同義中國公司提供使用先進人工智能芯片的云計算服務(wù)前將需先征得美國政府的許 四)監(jiān)管動態(tài)e31PCASTWorkingGrouponGenerativeAIInvitesPublicInput|PCAST|TheWhiteHouse 五)相關(guān)機構(gòu)美國聯(lián)邦貿(mào)易委員會通過執(zhí)行《聯(lián)邦貿(mào)易委員會法案》和許多其他法律法規(guī)，有權(quán)起訴人工智能侵犯數(shù)據(jù)隱私、數(shù)據(jù)安全、不公平競爭等行為。美國消費者產(chǎn)品安全委員會依據(jù)《消費者產(chǎn)品安全法》等法律有權(quán)監(jiān)管無論使用何種技術(shù)(包括人工智能)，聯(lián)邦消費者金融法律和不利行動要求 一)監(jiān)管框架工人工智能戰(zhàn)略《泛加拿大人工智保束力的命令及對無視隱私的企業(yè)實施經(jīng)濟處罰。息工能被用于向法院提交的材料時，材料必須表明人工智能是如何被使用的。 (二)一般合規(guī)義務(wù)準留給后續(xù)將出臺的法規(guī)予以規(guī)定。 、系統(tǒng)的簡單說明的義務(wù)：可供參考： 主體：透明度義務(wù)處理或提供與人類活動有關(guān)的任何數(shù)據(jù)的人承擔著一定的透明度義務(wù)：似義務(wù)：。 (《人工智能和數(shù)據(jù)法》立法計劃)即將出臺的法規(guī)確定。經(jīng)公訴定罪法院酌情罰款不超過1千萬加元與其被判刑前的財政年度內(nèi)全球總收入的3%的罰款中更高額的罰款經(jīng)簡易程序定罪不超過5萬加元罰款不超過500萬加元與其被判刑前的財政年度內(nèi)全球總收入的2