2023人工智能倫理治理研究報(bào)告

人工智能倫理治理研究報(bào)告(2023年)目 錄一、人工智能倫理治理概述 1（一）人工智能倫理的概念與特點(diǎn) 1（二）人工智能倫理治理的必要性 2二、人工智能倫理治理關(guān)切 5（一）人工智能倫理挑戰(zhàn) 5（二）典型應(yīng)用場(chǎng)景的人工智能倫理風(fēng)險(xiǎn) 7三、人工智能倫理治理實(shí)踐 12（一）國(guó)際組織人工智能倫理治理方案 12（二）域外國(guó)家和地區(qū)人工智能倫理治理機(jī)制 13（三）我國(guó)人工智能倫理治理實(shí)踐 17四、人工智能倫理治理展望 21（一）協(xié)調(diào)人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展與倫理治理 21（二）完善人工智能倫理治理舉措 21（三）提升各主體人工智能倫理風(fēng)險(xiǎn)應(yīng)對(duì)能力 23（四）加強(qiáng)人工智能倫理治理國(guó)際交流合作 23人工智能倫理治理研究報(bào)告（2023年）人工智能倫理治理研究報(bào)告（2023年）PAGEPAGE10一、人工智能倫理治理概述（一）人工智能倫理的概念與特點(diǎn)1一是人與人工智能技術(shù)的發(fā)展應(yīng)用密切相關(guān)。從1940年人工智能第一次浪2004（二）人工智能倫理治理的必要性通過(guò)倫理治理，加深關(guān)于“人工智能體”的哲學(xué)探討控3二與工業(yè)時(shí)代可視、可理解、可控制的工具不同，通過(guò)倫理治理，應(yīng)對(duì)人工智能應(yīng)用風(fēng)險(xiǎn)屬4技通過(guò)倫理治理，實(shí)現(xiàn)敏捷有效的風(fēng)險(xiǎn)規(guī)制人工智能倫理治理具有靈活敏捷、包容開放的特點(diǎn)，與人工智能二、人工智能倫理治理關(guān)切（一）人工智能倫理挑戰(zhàn)據(jù)OECDAIIncidentsMonitor20231280件56層面分析評(píng)估人業(yè)人員，加速教育投入的折舊7，引發(fā)進(jìn)一步的就業(yè)替代沖擊。（二）典型應(yīng)用場(chǎng)景的人工智能倫理風(fēng)險(xiǎn)人工智能生成內(nèi)容ChatGPTClaudeStableDiffusion、Midjourney20238阻止未經(jīng)允許的模型訓(xùn)練。在生成內(nèi)容的權(quán)利誤用濫用案例：生成假視頻、圖片、聲音以實(shí)施詐騙2023228328隱私侵犯案例：泄露用戶信息20231128ChatGPT2023325OpenAIChatGPTPlus知識(shí)產(chǎn)權(quán)爭(zhēng)議案例：是否屬于“合理使用”的爭(zhēng)議20239OpenAI在未經(jīng)許可的情況將受版權(quán)保護(hù)的作品用于大語(yǔ)言模型20237OpenAI自動(dòng)駕駛責(zé)任歸屬案例：駕駛員和汽車廠商的責(zé)任劃分20183Uber692020915Uber駕駛員RafaelaVasquez，2.52019Model3動(dòng)駕駛系統(tǒng)Autopilot20239陷，特斯拉方面稱該案件是由駕駛員人為因素導(dǎo)致。自動(dòng)駕駛汽車算法設(shè)計(jì)問(wèn)題：緊急情況下的處置不當(dāng)2023年10月，一行人被人類駕駛的轎車撞倒并滾落至車道上。此時(shí)，由CruiseRobotaxiRobotaxi207智慧醫(yī)療人工智能在醫(yī)療衛(wèi)生領(lǐng)域的應(yīng)用帶來(lái)顯著的機(jī)遇，為病灶診斷、藥物研發(fā)、疾病風(fēng)險(xiǎn)預(yù)測(cè)等提供了重要的工具。根據(jù)斯坦福大學(xué)最新6011確保人類監(jiān)督和決策案例：禁止人工智能替代醫(yī)師和生成處方確保人類監(jiān)督和決策案例：禁止人工智能替代醫(yī)師和生成處方20238征求意見(jiàn)稿供診療，禁止使用人工智能等自動(dòng)生成處方。三、人工智能倫理治理實(shí)踐（一）國(guó)際組織人工智能倫理治理方案193個(gè)成員202110項(xiàng)政IECIEEEITU20228ISO/IEC發(fā)布（ISO/IECTR24368）。202166項(xiàng)原則。目前，人工智能倫理已成為全球人工智能治理討論的重要議題，，20235252023102612820239（G20）G20（二）域外國(guó)家和地區(qū)人工智能倫理治理機(jī)制美國(guó)發(fā)展以鼓勵(lì)創(chuàng)新為基礎(chǔ)的可信賴人工智能105202010年10579OpenAI15家企業(yè)就開，美國(guó)聯(lián)邦政府不同部門也依據(jù)主責(zé)主業(yè)發(fā)布相應(yīng)的倫理原則和治理框架。20202023年1（NIST）的指南。2023年12月，美國(guó)審計(jì)署發(fā)布報(bào)告，公布對(duì)聯(lián)邦23個(gè)機(jī)構(gòu)負(fù)責(zé)任使用人工智能的情況評(píng)估。歐盟通過(guò)健全監(jiān)管規(guī)制落地人工智能倫理要求年4712德國(guó)關(guān)注人工智能具體應(yīng)用領(lǐng)域倫理風(fēng)險(xiǎn)規(guī)制，201892023月71-520新加坡積極探索人工智能倫理治理技術(shù)工具202023122.0再次強(qiáng)調(diào)建立一個(gè)可信賴和負(fù)責(zé)任的人工智能生態(tài)。在工具方面，2022520236AI（三）我國(guó)人工智能倫理治理實(shí)踐確立科技倫理治理體制機(jī)制202211202232023108日，科技部、教育部、工業(yè)和信息化部等十部門聯(lián)合發(fā)布《科技倫理審查辦法（試行）》，對(duì)科技倫理審查的基本程序、標(biāo)準(zhǔn)、條件（）（）7的清單。細(xì)化人工智能倫理要求2017202520192201962021年918202210720234行業(yè)積極探索人工智能倫理治理落地措施積極參與人工智能倫理治理國(guó)際合作202382023年10202310四、人工智能倫理治理展望（一）協(xié)調(diào)人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展與倫理治理人工智能倫理治理需要關(guān)注產(chǎn)業(yè)科技創(chuàng)新活動(dòng)與倫理風(fēng)險(xiǎn)防范（二）完善人工智能倫理治理舉措健全多學(xué)科多主體合作的治理體系建立分類分級(jí)倫理治