【美團研究院】2021全球人工智能倫理治理的發(fā)展特征與基本準則

1全球人工智能倫理治理的發(fā)展特征與基本準則對其引發(fā)的倫理道德問題越發(fā)起步階段，但已就一些基本理全球2015-2020年間出臺的118份關(guān)于人工智能倫理治理的政策文件，探索全球人工智能倫理治理的發(fā)展特征和發(fā)展趨勢。2一、全球人工智能倫理治理尚處于起步階段決策，逐漸對人類的倫理準則形成挑戰(zhàn)。各國政府自2015年起紛紛將人工智能倫理治理納入國家人工智能發(fā)展戰(zhàn)略。美國將人工智能倫理治理列為《國家人工智能研究和發(fā)展戰(zhàn)略規(guī)劃》八大戰(zhàn)略之一；歐盟委員會在《歐洲人工智能》中強調(diào)人工智能治理；英國在《人工智能發(fā)展的國際社會的人工智能倫理治理工作尚處于起步階段。年以來，在提交給國際知名的人工智能會議的2020年開始，倫理議題才被大家更頻繁地討論。如神經(jīng)信息處理系統(tǒng)(NeurIPS)會議(世界上最大的人工智能研討會之一)在2020年首次要求研究人員提交文章的同時，也要提交“廣泛影響性”聲明。30Salesforce、IBM等大型企業(yè)，IEEE、ACM等研究機構(gòu)以及OECD、G20等國際組織近年來紛紛發(fā)布人工智能道德規(guī)范與人工智能倫理準則(見圖2)。全球IT研究與顧問咨詢公司Gartner于2020年發(fā)布報告3，總結(jié)了國際社會五大人工智能倫理準則，2020年間出臺的118份關(guān)于人工智能倫理治理的政策文件進行分析后發(fā)現(xiàn)，在以上五大準則方面大家已形成共識，除此之外，可持續(xù)發(fā)展也是國際社會人工智能倫理治理的基本準則之一(見PratesMAvelarPLamb,L.C.OnquantifyingandunderstandingtheroleofethicsinAIresearch:Ahistoricalaccountofflagshipconferencesandjournals[J].arXivpreprintarXiv:1809.08328.,2018.BuytendikkFSicularSBrethenouxEHareJ.AIEthics:Use5CommonGuidelinesasYourStartingPoint.er4541910 2337201520162017201820192020企業(yè)研究機構(gòu)政府5透明公平積極創(chuàng)造更多就業(yè)安全可靠對技術(shù)、產(chǎn)品部署、運營負責(zé)確保人類決策主動權(quán)增強人的能力以人為本對透明公平積極創(chuàng)造更多就業(yè)安全可靠對技術(shù)、產(chǎn)品部署、運營負責(zé)確保人類決策主動權(quán)增強人的能力以人為本對人類社會有幫助人工智能倫理可持續(xù)發(fā)展保證用戶使用過程的知情權(quán)保證最終決策結(jié)果可解釋保護系統(tǒng)開發(fā)及利益相關(guān)方的知識產(chǎn)權(quán)確保算法可審計不歧視人不暗中操縱保護隱私對機器學(xué)習(xí)過程進行跟蹤不產(chǎn)生物理傷害制定和實施人工智能治理計劃合法構(gòu)建和諧的人與自然的關(guān)系6二、全球人工智能倫理治理的六大基本準則(一)透明(Transparency)度嵌入人類決策的過程中，但系統(tǒng)之間的信息不對稱，降低以及認同感，影響人類的知情權(quán)與主體地位。所以透明性原則要求人工智能要保證人類了解自的情況下與人工智能系統(tǒng)進行交互并且了解人工智能在此過程的功能。果往往不容易解釋，但可通過對爭議結(jié)果增加人工測試流程、對自動決策系統(tǒng)設(shè)置人工干預(yù)流程、加強反駁人工智能決策的假設(shè)、設(shè)置結(jié)果接受范圍以及在自動決策系統(tǒng)中設(shè)定過濾條件等方法來確保決策結(jié)果的可解釋性。騙、濫用等風(fēng)險，健全透明度披露的風(fēng)險管理辦法。備第三方機構(gòu)審計。7(二)公平(Fairness)在公平性問題上，人工智能是把“雙刃劍”。人工智能的輸出結(jié)果可實現(xiàn)全局最優(yōu)，但對個體而言也可能并不“公平”。有平，如特定算法導(dǎo)致種族與性別歧視、大數(shù)據(jù)殺熟以及竊取個人信息等。此外，一些問題尚用戶畫像判斷發(fā)放貸款是否有情況進行判斷。在共同富裕背景下，公平(相對于效率)在我國人工智能也應(yīng)盡快將公平性已形成以下基本共識。，避免讓弱勢群體處于更不利的人類生活變得更美好，而不應(yīng)該用其數(shù)據(jù)抓取與分析能力進行不合理推薦，也不應(yīng)造就“知識繭房”。械臂到機器人到自動化生產(chǎn)，人工智能替代人類勞動的情況層出美國人面臨被人工智能替代就業(yè)的危險。各國政府近年來紛紛出8臺相關(guān)規(guī)定，推動人工智能教育及人才培養(yǎng)。美國2018年發(fā)布《人工智能就業(yè)法案》，提出要營造終身學(xué)習(xí)和技能培訓(xùn)環(huán)境，應(yīng)對人工智能對就業(yè)的挑戰(zhàn)；英國2018年發(fā)布《英國發(fā)展人工智能的計劃、意愿和能力》，提到要重視人工智能專業(yè)人才的培養(yǎng)，加強對公民的再培訓(xùn)。(三)安全可靠(Security&Safety)能不對人類造成物理和心理上的傷害。其中：第一，隱私保護是人類建立與人工智能之間信任感的基礎(chǔ)。一方面要確保技術(shù)的可靠性與穩(wěn)定性，監(jiān)控人工智能機器學(xué)習(xí)過絡(luò)騷擾，導(dǎo)致信息泄露以及其他更嚴重的數(shù)字犯罪等；另一方面要合理搜集和使用數(shù)據(jù)，確保敏感數(shù)據(jù)加密且不用于其他目的。程跟蹤并不斷測試，尤其是在發(fā)生異常情況時。誤差地預(yù)測風(fēng)險，以確保機器與系統(tǒng)不會對人類造成物理傷害。制權(quán)。隨后美國、日本、巴西、新加坡等國家也紛紛出臺或修訂年11月1日正式生效的《個人信息保護法》，對個人信息的收集和使用進行了嚴格的規(guī)定，要9求收集個人信息要“告知-同意”，且符合最小必要原則，并列舉了用戶的權(quán)益清單。(四)負責(zé)任(Accountability)但不具有自主性，具有行動能力但不具有行動意識、思維能力。目標而制造的工具，其是智能的責(zé)任問題，實質(zhì)仍是創(chuàng)造它的人的責(zé)任問題。當前大多數(shù)的治理準則中建議利益相關(guān)者制定并實施人工智能治理計劃，加深對責(zé)任主體的研究。(五)以人為本(Human-Centric)以人為本是人與人工智能關(guān)系的根本原則。要求人工智能的主要目的是為人類服務(wù)，支持人類的目標，促進人類社會繁榮，增加人類社會的福祉。智能需要受到人類控制。何只注重效率而侵犯人類權(quán)利的技術(shù)都是違反倫理的，不宜提倡大問題做出積極貢獻。合法。需要保證開發(fā)和使用的合法性，遵循當?shù)胤梢?guī)范。(六)可持續(xù)發(fā)展(Sustainability)的發(fā)展也要為此服務(wù)?？沙掷m(xù)發(fā)展要求企業(yè)在人工智能的部署過多樣性的影響；在人工智能的設(shè)計過程中以提高能源使用效率，減少生態(tài)足跡為目的。三、我國人工智能倫理治理準則已與國際社會全面接軌務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，明確提出人工智能治理“三步走”的戰(zhàn)略目標：2020年部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)初步建立；2025年初步建立人工智能法律法規(guī)、倫理理規(guī)范和政策體系。國家新一代人工智能治理專業(yè)委員會于2019年6月發(fā)布《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》，提出人工智能治理的框架和行動指南，強調(diào)發(fā)展負責(zé)可信的人工智能八項治理原則：和諧友好、公平公正、包容共享、尊提出人工智能各類活動應(yīng)遵循