白宮-人工智能行業(yè)：美國(guó)人工智能權(quán)利法案藍(lán)圖（英譯中）

一個(gè)藍(lán)圖AIB的壞話R鎖定寬和高讓自動(dòng)化系統(tǒng)為美國(guó)人民服務(wù)關(guān)于本文檔智能世界的權(quán)利法案”的流程一年后發(fā)布的。它的發(fā)布是在公眾參與一年之后發(fā)布的，為這一舉措提供了信息。該框架科學(xué)和技術(shù)政策辦公室科學(xué)技術(shù)政策辦公室(OSTP)是根據(jù)1976年《國(guó)家科學(xué)技術(shù)政策，組織和優(yōu)先事項(xiàng)法》設(shè)立的，旨在向總統(tǒng)和總統(tǒng)辦公廳內(nèi)的OSTP領(lǐng)導(dǎo)機(jī)構(gòu)間的科學(xué)和技術(shù)政策協(xié)調(diào)工作，協(xié)助管理和預(yù)算辦公室(OMB)對(duì)聯(lián)邦預(yù)算中的研究和開發(fā)進(jìn)行年度審查和分析。法律免責(zé)聲明圖不具約束力，也不構(gòu)成美國(guó)政府的政策。它不會(huì)取代、修改或指導(dǎo)對(duì)任何現(xiàn)有法規(guī)、法規(guī)、政能決際談判中的立場(chǎng)。采用這些原則可能不符合現(xiàn)有法規(guī)、法規(guī)、政策或國(guó)際文書的要求，也不符合執(zhí)行這些，包括執(zhí)法、國(guó)家安全或情報(bào)活動(dòng)。本白皮書中闡述的原則的適當(dāng)應(yīng)用在很大程度上取決于使用自動(dòng)化系統(tǒng)的環(huán)境。在某些情況下，鑒于預(yù)期使用自動(dòng)化系統(tǒng)來實(shí)現(xiàn)政府機(jī)構(gòu)任務(wù)，全部或部分應(yīng)用這些原則可能不合適。未來的特定部門指南對(duì)于指導(dǎo)在某些環(huán)境中使用自動(dòng)化系統(tǒng)?！度斯ぶ悄軝?quán)利法案藍(lán)圖》承認(rèn)，執(zhí)法活動(dòng)需要平衡公平，例如，在保護(hù)敏感的執(zhí)法信息與通知原則之間;因此，通知可能不合適，或者可能需要進(jìn)行調(diào)整以保護(hù)來源、方法和其他執(zhí)法公平。即使在這些原則可能不全部或部分適用的情況下，聯(lián)邦部門和機(jī)構(gòu)仍受司法、隱私和公民自由監(jiān)督以及管理自動(dòng)化系統(tǒng)的現(xiàn)有政策和保障措施的約束，例如，包括第13960號(hào)行政命令，促進(jìn)聯(lián)邦政府使用可信賴的人工智能(2020年12月)。本白皮書認(rèn)識(shí)到，國(guó)家安全(包括某些執(zhí)法和國(guó)土安全活動(dòng))和國(guó)防活動(dòng)對(duì)我們國(guó)家的對(duì)手越來越敏感和感興趣，并且經(jīng)常受到特殊要求的約束，例如管理機(jī)密信息和其他受保護(hù)數(shù)據(jù)的要求。此類活動(dòng)需要通過管理自動(dòng)化系統(tǒng)和人工智能的現(xiàn)有政策(例如國(guó)防部(DOD)人工智能道德原則和負(fù)責(zé)任的人工智能實(shí)施途徑以及情報(bào)界(IC)人工智能倫理原則和框架)采取替代、兼容的保障措施。在可行的情況下，這些政策對(duì)國(guó)家安全和國(guó)防活動(dòng)的實(shí)施可以通過人工智能權(quán)利法案藍(lán)圖提供信息?！度斯ぶ悄軝?quán)利法案藍(lán)圖》無意也不會(huì)創(chuàng)造任何法律權(quán)利、利益或辯護(hù)，無論是實(shí)質(zhì)性的還是程序性的，可由任何一方針對(duì)美國(guó)、其部門、機(jī)構(gòu)或?qū)嶓w、其官員、雇員或代理人或任何其他人依法或衡平法強(qiáng)制執(zhí)行，也不構(gòu)成對(duì)主權(quán)豁免的放棄。版權(quán)信息本文件是美國(guó)政府的作品，屬于公有領(lǐng)域(見17U.S.C.§105)。FOREWORD當(dāng)今民主面臨的巨大挑戰(zhàn)之一是以威脅美國(guó)公眾權(quán)利的方式使用技術(shù)、數(shù)據(jù)和自動(dòng)化系統(tǒng)。這些工具經(jīng)常被用來限制我們的機(jī)會(huì)，阻止我們獲得關(guān)鍵資源或服務(wù)。這些問題都有據(jù)可查。在美國(guó)和世界各地，本應(yīng)幫助患者護(hù)理的系統(tǒng)已被證明是不安全的、無效的或有偏見的。已經(jīng)發(fā)現(xiàn)用于招聘和信貸決策的算法可以反映和復(fù)制現(xiàn)有的不受歡迎的不平等現(xiàn)象，或者嵌入新的有害偏見和歧視。未經(jīng)檢查的社交媒體數(shù)據(jù)收集被用來威脅人們的機(jī)會(huì)，破壞他們的隱私，或普遍跟蹤他們的活動(dòng)——通常是在他這些結(jié)果是非常有害的，但它們并非不可避免。自動(dòng)化系統(tǒng)帶來了額外的好處，從幫助農(nóng)民更有效地種植糧食的技術(shù)、預(yù)測(cè)風(fēng)暴路徑的計(jì)算機(jī)，到可以識(shí)別患者疾病的算法。這些工具現(xiàn)在推動(dòng)了跨部門的重要決策，而數(shù)據(jù)正在幫助徹底改變?nèi)蛐袠I(yè)。每個(gè)人的生活更美好。這一重要進(jìn)展絕不能以犧牲民權(quán)或民主價(jià)值觀為代價(jià)，拜登總統(tǒng)已確認(rèn)這些美國(guó)基本原則是其政府的基石。在上任的第一天，總統(tǒng)就命令整個(gè)聯(lián)邦政府努力根除不平等，將公平納入決策過程，并積極推進(jìn)美國(guó)的民權(quán)、平等機(jī)會(huì)和種族正義。1總統(tǒng)有力地談到了當(dāng)今民主面臨的緊迫挑戰(zhàn)，并經(jīng)常呼吁有良知的人采取行動(dòng)維護(hù)公民權(quán)利-包括隱私權(quán)，他稱之為“我們認(rèn)為理所當(dāng)然的為了推進(jìn)拜登總統(tǒng)的愿景，白宮科技政策辦公室確定了五項(xiàng)原則，這些原則應(yīng)指導(dǎo)自動(dòng)化系統(tǒng)的設(shè)計(jì)、使用和部署，以在人工智能時(shí)代保護(hù)美國(guó)公眾?！度斯ぶ悄軝?quán)利法案藍(lán)圖》為一個(gè)保護(hù)所有人免受這些威脅的社會(huì)提供了指南，并以加強(qiáng)我們最高價(jià)值觀的方式使用技術(shù)。為了回應(yīng)美國(guó)公眾的經(jīng)驗(yàn)，并參考研究人員、技術(shù)人員、倡導(dǎo)者、記者和政策制定者的見解，該框架附有技術(shù)伴侶——一本手冊(cè)，供任何尋求將這些保護(hù)措施納入政策和實(shí)踐的人使用，包括在技術(shù)設(shè)計(jì)過程中實(shí)現(xiàn)這些原則的詳細(xì)這些原則有助于提供指導(dǎo)。一個(gè)布特這個(gè)FRAMEWORK人工智能權(quán)利法案藍(lán)圖是一套五項(xiàng)原則和相關(guān)實(shí)踐，旨在幫助指導(dǎo)自動(dòng)化系統(tǒng)的設(shè)計(jì)、使用和部署，以保護(hù)人工智能時(shí)代美國(guó)公眾的權(quán)利。這些原則是通過與美國(guó)公眾的廣泛協(xié)商制定的，是構(gòu)建和部署符合民主價(jià)值觀并保護(hù)公民權(quán)利、公民自由和隱私的自動(dòng)化系統(tǒng)的藍(lán)圖?！度斯ぶ悄軝?quán)利法案藍(lán)圖》包括前言、五項(xiàng)原則、關(guān)于應(yīng)用《人工智能權(quán)利法案藍(lán)圖》的說明，以及一份技術(shù)伴侶，其中提供了從各級(jí)政府到各種規(guī)模的公司等多種組織可以采取的具體步驟，以維護(hù)這些價(jià)值觀。來自私營(yíng)部門、政府和國(guó)際財(cái)團(tuán)的專家發(fā)布了原則和框架，以指導(dǎo)負(fù)責(zé)任地使用自動(dòng)化系統(tǒng);該框架提供了一個(gè)與部門無關(guān)的國(guó)家價(jià)值觀聲明和工具包，為將這些保護(hù)措施納入政策、實(shí)踐或技術(shù)設(shè)計(jì)過程提供信息。如果現(xiàn)有法律或政策(例如特定行業(yè)的隱私法和監(jiān)督要求)尚未提供指導(dǎo)，則應(yīng)使用人工智能權(quán)利法案藍(lán)圖為政策決策提供信息。lISTENING到一個(gè)茶花會(huì)P分;通過小組討論、公眾聆聽會(huì)議、會(huì)議、正式的信息請(qǐng)求以及對(duì)可公開訪問和廣泛宣傳的電子郵件地址的輸入，美國(guó)各地的人們、聯(lián)邦機(jī)構(gòu)的公務(wù)員和國(guó)際社會(huì)成員都談到了這些技術(shù)的承諾和潛在危害，并在制定人工智能權(quán)利法案藍(lán)圖方面發(fā)揮了核心作用。從這些討論中收集到的核心信息包括，人工智能具有改善美國(guó)人生活的變革潛力，防止這些技術(shù)的危害是必要和可以實(shí)現(xiàn)BLUEPRINT一年代商品檢驗(yàn)TITLEAIB的壞話R鎖定寬和高年代安全的和EFFECTIVE年代系統(tǒng)你應(yīng)該被保護(hù)從不安全或無效的系統(tǒng)。自動(dòng)化系統(tǒng)應(yīng)和領(lǐng)域?qū)＜覅f(xié)商開發(fā)，以確定、風(fēng)險(xiǎn)和潛在影響。系統(tǒng)應(yīng)經(jīng)過部署前測(cè)試、風(fēng)險(xiǎn)識(shí)別和緩解以及持續(xù)監(jiān)控，以證明它們基于其預(yù)期用途是安全有效并遵守。這些保護(hù)措施的結(jié)果應(yīng)包括除系統(tǒng)。自動(dòng)化系統(tǒng)的設(shè)計(jì)不應(yīng)有意或合理可預(yù)見地危及您的安全或您所在社區(qū)的安全。他們應(yīng)該害而采取的步驟，并盡可能公布結(jié)果。一個(gè)LGORITHMICDISCRIMINATIONP保護(hù)你不應(yīng)該面對(duì)算法和系統(tǒng)的歧視，應(yīng)該使用和設(shè)計(jì)一個(gè)公平的方式。當(dāng)自動(dòng)化系統(tǒng)導(dǎo)致不合理時(shí)，就會(huì)發(fā)生算法歧視基于種族、膚色、民族、性別(包括懷孕、分娩和相關(guān)醫(yī)療狀況、性別認(rèn)同、雙性人身份和性取向)、宗教、年齡、國(guó)籍、殘疾、退伍軍人身份、遺傳信息或任何其他受法律保護(hù)的分類，對(duì)人們不利的不同待遇或影響。根據(jù)具體情況，這種算法歧視可能會(huì)違反法律保護(hù)。自動(dòng)化系統(tǒng)的設(shè)計(jì)者、開發(fā)人員和部署者應(yīng)采取積極主動(dòng)和持續(xù)的措施，保護(hù)個(gè)人和社區(qū)免受算法歧視，并以公平的方式使用和設(shè)計(jì)系統(tǒng)。這種保護(hù)應(yīng)包括作為系統(tǒng)設(shè)計(jì)一部分的主動(dòng)公平評(píng)估，使用代表性數(shù)據(jù)和防止人口特征的代理，確保殘疾人在設(shè)計(jì)和開發(fā)、部署前和正在進(jìn)行的差異測(cè)試和緩解方面的無障礙性，以及明確的組織監(jiān)督。應(yīng)進(jìn)行獨(dú)立評(píng)估和算法影響確認(rèn)這些保護(hù)措施。5年代商品檢驗(yàn)TITLEDATAPRIVACY你應(yīng)該是受保護(hù)的從虐待數(shù)據(jù)實(shí)踐通內(nèi)置的保護(hù)和你過應(yīng)該對(duì)如何使用有關(guān)您的數(shù)據(jù)有代理權(quán)。您應(yīng)該通過設(shè)計(jì)選擇來保護(hù)您免受侵犯隱私，以確保默認(rèn)情況下包含此類保護(hù)，包括確保數(shù)據(jù)集合符合合理預(yù)期這只有數(shù)據(jù)嚴(yán)格必要為具體的尊重您以適當(dāng)方式和最大可能收集、使用、訪問、傳輸和刪除您的數(shù)據(jù)的決定;在不可能的情況下，應(yīng)使用其他設(shè)計(jì)隱私保障措施。系統(tǒng)不應(yīng)采用混淆用戶選擇或用戶使用侵犯隱私的默認(rèn)值給用戶帶來負(fù)擔(dān)的用戶體驗(yàn)和設(shè)計(jì)決策。同意只應(yīng)用于在可以適當(dāng)和有意義地提供數(shù)據(jù)的情況下證明收集數(shù)據(jù)的合理性。任何同意請(qǐng)求都應(yīng)簡(jiǎn)短，以通俗易懂的語(yǔ)言理解，并為您提供數(shù)據(jù)收集和特定使用環(huán)境的代理權(quán);應(yīng)該改變目前難以理解的廣泛使用數(shù)據(jù)的通知和選擇做法。加強(qiáng)對(duì)與敏感領(lǐng)域(包括健康、工作、教育、刑事司法和金融)相關(guān)的數(shù)據(jù)和推論以及與青年有關(guān)的數(shù)據(jù)的保護(hù)和限制，應(yīng)將您放在首位。在敏感領(lǐng)域，您的數(shù)據(jù)和相關(guān)推論能，并且您應(yīng)該受到道德審查的保護(hù)和使用禁令。你和你的社區(qū)應(yīng)不受未經(jīng)檢查的監(jiān)視;監(jiān)視，至少包括部署前評(píng)估其潛在危害和范圍限制，以保護(hù)隱私和公民自由。持續(xù)監(jiān)視和監(jiān)測(cè)應(yīng)該不被用在教育,工作,住房、或在其他上下文使用這種監(jiān)視在哪里利、機(jī)會(huì)或獲取。每當(dāng)報(bào)告那證實(shí)了你的數(shù)據(jù)決定以訪問一直受人尊敬和提供了一個(gè)評(píng)估的的N結(jié)果,EXPLANATION問的通俗語(yǔ)言文檔，包括對(duì)整體系統(tǒng)功能和自動(dòng)化所扮演角色的清晰描述，注意此類系統(tǒng)正在使用中，負(fù)責(zé)系，以及對(duì)清晰、及時(shí)和可訪問的結(jié)果的解釋。此類通知應(yīng)保持最新，并應(yīng)通知受系統(tǒng)影響的人員重大用例或關(guān)括當(dāng)自動(dòng)化系統(tǒng)不是決定結(jié)果的唯一輸入時(shí)。了解系統(tǒng)的人使用，并根據(jù)上下文校準(zhǔn)。應(yīng)盡可能公開以通俗易懂的語(yǔ)言包含有關(guān)這些自動(dòng)化系統(tǒng)的摘要信息的報(bào)告，以及對(duì)通知和解釋的6年代商品檢驗(yàn)TITLEH烏曼一個(gè)LTERNATIVESCONSIDERATION,和FALLBACK在適當(dāng)?shù)那闆r下，您應(yīng)該能夠選擇退出，并可以聯(lián)系可以快速考慮和解決您遇到的問題的人員。在適當(dāng)?shù)那闆r下，您應(yīng)該能夠選擇退出自動(dòng)化系統(tǒng)，轉(zhuǎn)而使用人工替代方案。應(yīng)根據(jù)特定情況下的合理期望確定適當(dāng)性，并側(cè)重于確保廣泛的可及性并保護(hù)公眾免受特別有害的影響。在某些情況下，法律可能需要人類或其他替代方案。如果自動(dòng)化系統(tǒng)出現(xiàn)故障、產(chǎn)生錯(cuò)誤，或者您想對(duì)其對(duì)您的影響提出上訴或質(zhì)疑，您應(yīng)該可以通過回退和升級(jí)過程獲得及時(shí)的人工考慮和補(bǔ)救措施。人力考慮和后備應(yīng)該是可及的、公平的、有效的、維護(hù)的，并輔之以適當(dāng)?shù)牟僮鲉T培訓(xùn)，并且不應(yīng)給公眾帶來不合理的負(fù)擔(dān)。在敏感領(lǐng)域(包括但不限于刑事司法、就業(yè)、教育和衛(wèi)生)內(nèi)具有預(yù)期用途的自動(dòng)化系統(tǒng)還應(yīng)根據(jù)目的進(jìn)行調(diào)整，為監(jiān)督提供有意義的訪問，包括對(duì)與系統(tǒng)互動(dòng)的任何人的培訓(xùn)，并納入對(duì)不利或高風(fēng)險(xiǎn)決策的人為考慮。應(yīng)盡可能公開報(bào)告，包括對(duì)這些人類治理過程的描述，并評(píng)估其及時(shí)性、可訪問性、結(jié)果和有效性?！度斯ぶ悄軝?quán)利法案藍(lán)圖》中關(guān)鍵術(shù)語(yǔ)的定義可以在應(yīng)用人工智能權(quán)利法案藍(lán)圖中找到。隨附的分析和實(shí)現(xiàn)每個(gè)原則的工具可在技術(shù)手冊(cè)中找到。7應(yīng)用人工智能權(quán)利法案的藍(lán)圖雖然很多的擔(dān)憂解決在這框架來自使用人工智能技術(shù)這種系統(tǒng)的功能和具體定義隨著創(chuàng)新的速度而變化，即使使用技術(shù)不太復(fù)雜的工具，其使用的潛在危害也會(huì)發(fā)生。因此，該框架使用兩部分測(cè)試來確定哪些系統(tǒng)在范圍內(nèi)。該框架適用于(1)自動(dòng)化系統(tǒng)，這些系統(tǒng)(2)有可能對(duì)美國(guó)公眾的權(quán)利，機(jī)會(huì)或?qū)﹃P(guān)鍵資源或服務(wù)的訪問產(chǎn)生有意義的影響。無論自動(dòng)化系統(tǒng)在我們的生活中扮演何種不斷變化的角色，這些權(quán)利、R鎖定寬和高阿,機(jī)會(huì),或一個(gè)CCESS公民權(quán)利、公民自由和隱私,包括言論自由、投票自由，以及保護(hù)其在公共和私營(yíng)部門免受歧視、過度懲罰、非法監(jiān)視以及;機(jī)會(huì),包括公平獲得教育、住房、信貸、就業(yè)和其他計(jì)劃;或關(guān)商品和服務(wù)的非欺騙性信息以及政府福利。附錄中提供了應(yīng)考慮這些原則的自動(dòng)化系統(tǒng)示例列表。下面的技術(shù)指南為創(chuàng)建、部署或監(jiān)督自動(dòng)化系統(tǒng)的任何個(gè)人或?qū)嶓w提綜合考慮，《人工智綜合考慮，《人工智能權(quán)利法案藍(lán)圖》的五項(xiàng)原則和相關(guān)做法構(gòu)成了一套針對(duì)潛在危害的重疊后盾。這個(gè)有目的地重疊的框架，作為一個(gè)整體，形成了一個(gè)藍(lán)圖，以幫助保護(hù)公眾免受傷害。為實(shí)現(xiàn)本框架中提出的愿景而采取的措施應(yīng)與對(duì)人們的權(quán)利、機(jī)會(huì)和獲取的損害或風(fēng)險(xiǎn)的程度和性質(zhì)相稱。R關(guān)系到EXISTINGl哦,POLICY人工智能權(quán)利法案藍(lán)圖是設(shè)想未來的做法，在這個(gè)未來中，美國(guó)公眾受到保護(hù)，免受自動(dòng)化系統(tǒng)的潛在危害，并可以充分享受自動(dòng)化系統(tǒng)的好處。它描述了有助于確保這些保護(hù)的原則。其中一些保護(hù)措施已經(jīng)由美國(guó)憲法要求或根據(jù)現(xiàn)有美國(guó)法律實(shí)施。例如，政府監(jiān)控、數(shù)據(jù)搜查和扣押都受到法律要求和司法監(jiān)督的約束。對(duì)刑事偵查事項(xiàng)的人工審查有憲法要求，對(duì)司法應(yīng)用人工智能權(quán)利法案的藍(lán)圖R關(guān)系到EXISTINGl哦,POLICY醫(yī)療器械有監(jiān)管安全要求，以及部門、人群或技術(shù)方面的隱私和安全保護(hù)。要確保這一框架中提出的一些額外保護(hù)措施，就需要頒布新的法律或采用新的政策和做法。在某些情況下，可能需要對(duì)《人工智能權(quán)利法案藍(lán)圖》中描述的原則進(jìn)行例外處理，以遵守現(xiàn)行法律，符合特定用例的實(shí)用性，或平衡相互競(jìng)爭(zhēng)的公共利益。特別是，執(zhí)法和其他監(jiān)管環(huán)境可能要求政府行為者以符合但使用替代機(jī)制的方式保護(hù)公民權(quán)利、公民自由和隱私，但與本框架中討論的具體原則一致，但使用替代機(jī)制。《技術(shù)伴侶》中給出的期望旨在作為制定應(yīng)針對(duì)特定部門和情況量身定制的其他技術(shù)標(biāo)準(zhǔn)和做法的藍(lán)圖。雖然現(xiàn)有法律為《人工智能權(quán)利法案藍(lán)圖》的制定提供了信息，但該框架除了酌情提供現(xiàn)有保護(hù)措施的例子外，并沒有詳細(xì)說明這些法律。相反，該框架分享了一個(gè)廣泛的、前瞻性的愿景，即自動(dòng)化系統(tǒng)開發(fā)和使用的建議原則，以告知私人和公眾參與這些系統(tǒng)，只要它們有能力對(duì)權(quán)利、機(jī)會(huì)或訪問產(chǎn)生有意義的影響。此外，本框架不分析或?qū)κ小⒅莺吐?lián)邦政府或其他國(guó)家/地區(qū)的立法和近年來，我們看到了一些進(jìn)展，一些州和地方政府通過立法應(yīng)對(duì)這些問題，一些法院將長(zhǎng)期的法定保護(hù)擴(kuò)展到新興技術(shù)。有些公司正在努力在設(shè)計(jì)和使用自動(dòng)化系統(tǒng)時(shí)納入額外的保護(hù)措施，研究人員正在開發(fā)創(chuàng)新的護(hù)欄。倡導(dǎo)者、研究人員和政府組織提出了人工智能和其他自動(dòng)化系統(tǒng)的道德使用原則。其中包括經(jīng)濟(jì)合作與發(fā)展組織(OECD)的2019年人工智能建議書，理可信賴人工智能的原則，美國(guó)通過了該建議書，以及關(guān)于促進(jìn)聯(lián)邦政府使用可信賴人工智能的第13960號(hào)行政命令，該命令規(guī)定了管理聯(lián)邦政府使用人工智能的原則。人工智能權(quán)利法案的藍(lán)圖完全符合這些原則以及關(guān)于通過聯(lián)邦政府促進(jìn)種族平等和支持服務(wù)不足社區(qū)的第13985號(hào)行政命令的方向。這些原則在公平信息實(shí)踐原則(FIPP)中找到了親的權(quán)利公民。4雖然沒有單身,通用清晰度FIPPS,這些核心特別是有關(guān)自動(dòng)化系統(tǒng)中,沒有表達(dá)一組特定的FIPPS或范圍個(gè)特定領(lǐng)域的利益，如隱私、公民權(quán)利和公民自由、道德或風(fēng)險(xiǎn)管理。技術(shù)伴侶以先前的工作為基礎(chǔ)，提供實(shí)步驟移動(dòng)這些原則成實(shí)踐和促進(jìn)常見的方法允許技術(shù)。應(yīng)用人工智能權(quán)利法案的藍(lán)圖DEFINITIONS算法的歧視:“算法歧視”發(fā)生當(dāng)自動(dòng)化系統(tǒng)基于種族、膚色、民族、性別(包括懷孕、分娩和相關(guān)醫(yī)療狀況、性別認(rèn)同、雙性人身份和性取向)、宗教、年齡、國(guó)籍、殘疾、退伍軍人身份、遺傳信息或任何其他受法律保護(hù)的分類，導(dǎo)致不合理的不同待遇或影響。根據(jù)具體情況，這種算法歧視可能會(huì)違反法律保護(hù)。在整個(gè)框架中，術(shù)語(yǔ)“算法歧視”具有這個(gè)含義(而不是將歧視作為區(qū)分項(xiàng)目的技術(shù)理解)。自動(dòng)化系統(tǒng):“自動(dòng)化系統(tǒng)”是指使用計(jì)算作為整個(gè)或系統(tǒng)的一部分來確定結(jié)果、做出或幫助決策、通知政策實(shí)施、收集的任何數(shù)據(jù)或觀察,或者與人互動(dòng)和/或社區(qū)。自動(dòng)化系統(tǒng)年代源自機(jī)器學(xué)習(xí)、統(tǒng)計(jì)或其他數(shù)據(jù)處理并排除被動(dòng)計(jì)算基礎(chǔ)設(shè)施。“被動(dòng)計(jì)算或幫助做出決定,通知政策實(shí)現(xiàn),或收集數(shù)據(jù)或觀察,包括網(wǎng)絡(luò)登記,網(wǎng)絡(luò),緩存,數(shù)據(jù)存儲(chǔ),或網(wǎng)絡(luò)安全。在這框架,自動(dòng)化系統(tǒng)考慮范圍只有那些有潛力社區(qū):“社區(qū)”包括:社區(qū);社會(huì)網(wǎng)絡(luò)連接(包括在線和離線);家庭(廣義解釋);通過親和力、身份或共同特征聯(lián)系在一起的人;以及正式的組織聯(lián)系。這包括部落、氏族、樂隊(duì)、牧場(chǎng)、村莊和其他土著社區(qū)。人工智能和其他數(shù)據(jù)驅(qū)動(dòng)的自動(dòng)化系統(tǒng)最直接地收集數(shù)據(jù)，做出推斷，并可能對(duì)個(gè)人造成傷害。但是，其影響的總體程度在社區(qū)層面可能最為明顯。因此，社區(qū)的概念是《人工智能權(quán)利法案藍(lán)圖》范圍的組成部分。美國(guó)的法律和政策長(zhǎng)期以來一直采用保護(hù)個(gè)人權(quán)利的方法，但現(xiàn)有的框架有時(shí)難以提供保護(hù)，當(dāng)效果在社區(qū)層面表現(xiàn)得最為明個(gè)人和社區(qū)層面進(jìn)行評(píng)估、保護(hù)和糾正。股票:“公平”是指對(duì)所有個(gè)人的一致和系統(tǒng)的公平、公正和公正的待遇。系統(tǒng)、公平和公正的待遇必須考慮到屬于服務(wù)不足社區(qū)的個(gè)人的地位，這些社區(qū)被剝奪了這種待遇，例如黑人、拉丁裔、土著和美洲原住民、亞裔美國(guó)人和太平洋島民以及其他群體成員;女人,女孩,非二進(jìn)制人;女同性戀、男同性戀、雙性戀、變性人、酷兒和雙性人(LGBTQI+)權(quán)利、機(jī)會(huì)或訪問:“權(quán)利、機(jī)會(huì)或獲取”用于表示該框架的范圍界定。它描述了這套：公民權(quán)利、公民自由和隱私，包括言論自由、投票自由，以及保護(hù)他們?cè)诠埠退綘I(yíng)部門背景下免受歧視、過度懲罰、非法監(jiān)視以及侵犯隱私和其他自由;機(jī)會(huì)均等，包括公平獲得教育、住房、信貸、就業(yè)和其他計(jì)劃;或者，獲得關(guān)鍵資源或服務(wù)，例如醫(yī)療保健、金融服務(wù)、安全、社會(huì)服應(yīng)用人工智能權(quán)利法案的藍(lán)圖敏感數(shù)據(jù):如果數(shù)據(jù)和元數(shù)據(jù)與敏感域(定義見下文)中的個(gè)人有關(guān)，則為敏感數(shù)據(jù)和元數(shù)據(jù);由敏感領(lǐng)域使用的技術(shù)生成;可用于從敏感域推斷數(shù)據(jù)或有關(guān)個(gè)人的敏感數(shù)據(jù)(例如殘疾相關(guān)數(shù)據(jù)、基因組數(shù)據(jù)、生物特征數(shù)據(jù)、行為數(shù)據(jù)、地理位置數(shù)據(jù)、與刑事司法系統(tǒng)互動(dòng)相關(guān)的數(shù)據(jù)、關(guān)系歷史和法律地位，例如監(jiān)護(hù)權(quán)和離婚信息，以及家庭、工作或?qū)W校環(huán)境數(shù)據(jù));或具有合理的潛力，可能使個(gè)人面臨有意義的傷害，例如由于身份盜用而導(dǎo)致的隱私損失或經(jīng)濟(jì)損失。由尚未成年的人生成的數(shù)據(jù)和元數(shù)據(jù)或關(guān)于那些尚未成年的人生成的數(shù)據(jù)和元數(shù)據(jù)也是敏感的，即使與敏感域無關(guān)。此類數(shù)據(jù)包括但不限于數(shù)字、文敏感的領(lǐng)域:“敏感領(lǐng)域”是指正在進(jìn)行的活動(dòng)可能造成物質(zhì)損害的領(lǐng)域，包括對(duì)人權(quán)(如自治和尊嚴(yán))以及公民自由和公民權(quán)利產(chǎn)生重大不利影響的領(lǐng)域。歷史上被挑出來被認(rèn)為值得加強(qiáng)數(shù)據(jù)保護(hù)或公眾合理期望加強(qiáng)保護(hù)的領(lǐng)域包括但不限于健康、計(jì)劃生育和護(hù)理、就業(yè)、教育、刑事司法和個(gè)人理財(cái)。在本框架的背景下，無論系統(tǒng)環(huán)境的細(xì)節(jié)是否需要根據(jù)現(xiàn)行法律進(jìn)行推移而根據(jù)社會(huì)規(guī)范和背景而發(fā)生變化。監(jiān)視技術(shù)：“監(jiān)控技術(shù)”是指銷售或可以合法用于檢測(cè)、監(jiān)控、攔截、收集、利用、保存、保護(hù)、傳輸和/或保留有關(guān)個(gè)人或團(tuán)體的數(shù)據(jù)、識(shí)別信息或通信的產(chǎn)品或服務(wù)。該框架將其重點(diǎn)限制在政府和商業(yè)使用的監(jiān)控技術(shù)上，當(dāng)與實(shí)時(shí)或隨后的自動(dòng)分的影響時(shí)。缺醫(yī)少藥社區(qū):“服務(wù)不足的社區(qū)”一詞是指被系統(tǒng)地剝奪了參與經(jīng)濟(jì)、社會(huì)和公民生活各方面的充分機(jī)會(huì)的社區(qū)，如前面的“公從原理到實(shí)踐一個(gè)TECHINCALCOMPANION來的藍(lán)圖對(duì)于一個(gè)AIB的壞話R鎖定寬和高T可以的C內(nèi)容F羅P無理,P演練:一個(gè)TECHNICALCOMPANION到BLUEPRINT12對(duì)于一個(gè)AIB的壞話R鎖定寬和高唱T他的TECHNICALCOMPANION14安全的和EFFECTIVE年代系統(tǒng)15一個(gè)LGORITHMICDISCRIMINATIONP保護(hù)23ATAPRIVACY30結(jié)果,EXPLANATION40H烏曼一個(gè)LTERNATIVESCONSIDERATION,和FALLBACK46一個(gè)PPENDIX53以的一個(gè)UTOMATED年代系統(tǒng)53ISTENING到一個(gè)茶花會(huì)P人55ENDNOTES63U技術(shù)的同伴一起唱這首歌人工智能權(quán)利法案藍(lán)圖是一套五項(xiàng)原則和相關(guān)實(shí)踐，以幫助指導(dǎo)自動(dòng)化系統(tǒng)的設(shè)計(jì)、使用和部署，以保護(hù)人工智能時(shí)代美國(guó)公眾的權(quán)利。本技術(shù)伴侶考慮了《人工智能權(quán)利法案藍(lán)圖》中的每一項(xiàng)原則，并為社區(qū)、行業(yè)、政府和其他人提供了示例和具體綜上所述，《人工智能權(quán)利法案藍(lán)圖》中規(guī)定的技術(shù)保護(hù)和實(shí)踐可以幫助保護(hù)美國(guó)公眾免受美國(guó)和世界各地研究人員、技術(shù)學(xué)家、倡導(dǎo)者、記者、政策制定者和社區(qū)發(fā)現(xiàn)的許多潛在和實(shí)際危害。此技術(shù)伴侶旨在供許多情況下的人們參考-受自動(dòng)化系統(tǒng)的任何人。11W為什么這一原則是很重要的:本節(jié)簡(jiǎn)要概述了該原則試圖解決和防范的問題，包括說明性實(shí)例。WW帽子應(yīng)該是預(yù)期的自動(dòng)化系統(tǒng):.對(duì)自動(dòng)化系統(tǒng)的期望旨在作為制定其他技術(shù)標(biāo)準(zhǔn)和實(shí)踐的藍(lán)圖，這些標(biāo)準(zhǔn)和實(shí)踐應(yīng)針對(duì)特定部門和情況量身定制。.本節(jié)概述了為實(shí)現(xiàn)人工智能權(quán)利法案藍(lán)圖愿景而可以實(shí)施的實(shí)際步驟。所提出的期望通常反映了技術(shù)開發(fā)的現(xiàn)有實(shí)踐，包括部署前測(cè)試、持續(xù)監(jiān)控和自動(dòng)化系統(tǒng)的治理結(jié)構(gòu)，但也進(jìn)一步解決了未滿足的變革需求，并為如何進(jìn)行這些變革提供了具體方向。.對(duì)報(bào)告的期望適用于開發(fā)或使用自動(dòng)化系統(tǒng)的實(shí)體。由此產(chǎn)生的報(bào)告可以提供給公眾、監(jiān)管機(jī)構(gòu)、審計(jì)師、行業(yè)標(biāo)準(zhǔn)組織或其他從事獨(dú)立審查的根據(jù)法律、法規(guī)和政策公開，并注意知識(shí)產(chǎn)權(quán)、執(zhí)法或國(guó)家安全考慮可能會(huì)阻止公開發(fā)布。如果無法公開報(bào)告，則應(yīng)將信息提供私、公民自由或其他負(fù)責(zé)維護(hù)個(gè)人權(quán)利的道德官員。這些報(bào)告期望對(duì)于透明度很重要，因此美國(guó)人民可以確信他們的權(quán)利、機(jī)會(huì)33H對(duì)這些原則可以移動(dòng)付諸實(shí)踐:本節(jié)提供了這些指導(dǎo)原則如何通過法律、政策和實(shí)踐成為現(xiàn)實(shí)的真實(shí)示例。它描述了保護(hù)權(quán)利、機(jī)會(huì)和獲取的實(shí)用技術(shù)和社會(huì)技術(shù)方法。提供的例子不是批評(píng)或認(rèn)可，而是作為說明性案例提供的，以幫助為實(shí)現(xiàn)人工智能權(quán)利法案的藍(lán)圖提供具體的愿景。有效實(shí)施合作和協(xié)作。安全有效的系統(tǒng)您應(yīng)該受到保護(hù)，免受不安全或無效系統(tǒng)的侵害家到識(shí)別在影響。系統(tǒng)別和緩解不安全的結(jié)果并遵守結(jié)果統(tǒng)的可能性化系統(tǒng)能性應(yīng)該被設(shè)計(jì)用或影響。您應(yīng)該保護(hù)您免受設(shè)計(jì)中不適當(dāng)或及從評(píng)估和報(bào)告新安安全有效的系統(tǒng)W為什么這一原則是很重要的雖然正在部署技術(shù)來解決各種問題中的問題，但我們對(duì)技術(shù)的依賴也可能導(dǎo)致它在尚未被證明有效的情況下使用——無論是根本無法工作還是在可接受的錯(cuò)誤范圍內(nèi)。在其他情況下，技術(shù)沒有按預(yù)期或承諾工作，造成重大和不合理的損害。自動(dòng)化系統(tǒng)有時(shí)依賴于來自其他系統(tǒng)的數(shù)據(jù)，包括歷史數(shù)據(jù)，允許從過去的決策中獲取不相關(guān)的信息，從而影響不相關(guān)情況下的決策。在某些情況下，有意或無意的用途會(huì)導(dǎo)致意想不到的傷害。這些技術(shù)造成的許多危害是可以預(yù)防的，并且已經(jīng)采取了保護(hù)公眾的行動(dòng)。一些公司已經(jīng)制定了保障措施，通過確保關(guān)鍵的發(fā)展決策得到道德審查的審查，防止傷害的發(fā)生;其他人已經(jīng)確定并減輕了通過部署前測(cè)試和持續(xù)監(jiān)測(cè)過程發(fā)現(xiàn)的危害。各級(jí)政府都有現(xiàn)有實(shí)踐已經(jīng)保護(hù)了美國(guó)公眾免受許多潛在危害。盡管如此，這些做法的部署太少且不均衡。擴(kuò)大的主動(dòng)保護(hù)措施可以建立在這些現(xiàn)有做法的基礎(chǔ)上，增加使用自動(dòng)化系統(tǒng)的信心，并保護(hù)美國(guó)公眾。創(chuàng)新者應(yīng)該有明確的道路規(guī)則，允許新思想蓬勃發(fā)展，美國(guó)公眾應(yīng)該得到保護(hù)，免受不安全后果的影響。所有人都可以從以下保證中受益：自動(dòng)化系統(tǒng)將被設(shè)計(jì)、測(cè)試和確認(rèn)為按預(yù)期工作，并且它們將得到主動(dòng)保護(hù)，免受可預(yù)見的意外有害后?開發(fā)了一種專有模型來預(yù)測(cè)住院患者患敗血癥的可能性，并在全國(guó)數(shù)百家醫(yī)院實(shí)施。一項(xiàng)獨(dú)立研究表明，模型預(yù)測(cè)表現(xiàn)不佳相對(duì)對(duì)設(shè)計(jì)師的要求也造成“警惕疲勞”的錯(cuò)誤警報(bào)?在社交媒體上，引用和批評(píng)種族主義信息的黑人在以下情況下自己的言論被壓制一個(gè)平臺(tái)的自動(dòng)化適度系統(tǒng)失敗區(qū)分這“反演講》(或其他評(píng)論來自此類言論回應(yīng)的原始仇恨信息。7?最初開發(fā)用于幫助人們跟蹤和查找丟失物品的設(shè)備已被纏擾者用作跟蹤受害者位置的工具，侵犯了他們的隱私和安全。設(shè)備制造商在發(fā)布后采取措施保護(hù)人們免受不必要的跟蹤，方法是在發(fā)現(xiàn)設(shè)備隨時(shí)間移動(dòng)時(shí)提醒手機(jī)上的人，并讓設(shè)備偶爾發(fā)出噪音?發(fā)現(xiàn)一種用于部署警察的算法可以反復(fù)向他們經(jīng)常訪問的社區(qū)派遣警察，即使這些社區(qū)不是犯罪率最高的社區(qū)。這些不正確的安安全有效的系統(tǒng)W為什么這一原則是很重要的以創(chuàng)建人們看似裸體的圖像-包括使非技術(shù)用戶能夠在未經(jīng)他們同意的情況下創(chuàng)建或更改個(gè)人圖像的應(yīng)用程序。這種技術(shù)正在成為一種常見的基于圖像的虐待形式，對(duì)婦女的影響尤為嚴(yán)重。隨著這些工具變得越來越復(fù)雜，它們正在產(chǎn)生越來越逼真的改變圖像，人類和人工智能都很難檢測(cè)到不真實(shí)。無論真實(shí)性如何，未經(jīng)0?一家公司在其送貨車上安裝了人工智能攝像頭，以評(píng)估其駕駛者的道路安全習(xí)慣，但當(dāng)其他汽車切斷駕駛員或道路上發(fā)生其他安安全有效的系統(tǒng)W帽子應(yīng)該是預(yù)期的自動(dòng)化系統(tǒng)為了確保自動(dòng)化系統(tǒng)的安全和有效，它應(yīng)包括保障措施，以積極和持續(xù)的方式保護(hù)公眾免受傷害;避免使用不適合或與手頭任。這些期望解釋如下。以積極和持續(xù)的方式保護(hù)公眾免受傷害咨詢.在自動(dòng)化系統(tǒng)開發(fā)的設(shè)計(jì)、實(shí)施、部署、采購(gòu)和維護(hù)階段，應(yīng)咨詢公眾，重點(diǎn)是在引入系統(tǒng)或?qū)嵤┲卮笞兏斑M(jìn)行早期咨詢。這種磋商應(yīng)直接讓不同的受影響社區(qū)參與進(jìn)來，考慮這些社區(qū)可能獨(dú)有的關(guān)切和風(fēng)險(xiǎn)，或者對(duì)他們來說不成比例地普遍或嚴(yán)重。這種參與的程度和與相關(guān)利益相關(guān)者的聯(lián)系形式可能因具體的自動(dòng)化系統(tǒng)和開發(fā)階段而異，但應(yīng)包括主題、特定部門和特定背景的專家以及潛在影響方面的專家，如公民權(quán)利、公民自由和隱私專家。對(duì)于私營(yíng)部門的申請(qǐng)，產(chǎn)品發(fā)布前的咨詢可能需要保密。政府申請(qǐng)，特別是執(zhí)法申請(qǐng)或引起國(guó)家安全考慮的應(yīng)用，可能需要基于系統(tǒng)敏感性和先前存在的監(jiān)督法律和結(jié)構(gòu)的保密或有限參與。應(yīng)記錄此咨詢中提出的問題，并且應(yīng)根據(jù)此反饋重新考慮建議創(chuàng)建、使用或部測(cè)試。系統(tǒng)應(yīng)該經(jīng)過廣泛的測(cè)試之前部署。這種測(cè)試應(yīng)該遵循特定領(lǐng)域的最佳實(shí)踐(如果可用)，以確保技術(shù)在其實(shí)際環(huán)境中運(yùn)行。此類測(cè)試應(yīng)考慮所使用的特定技術(shù)以及影響系統(tǒng)結(jié)果或有效性的任何人工操作員或?qū)彶檎叩慕巧?測(cè)試應(yīng)包括自動(dòng)化系統(tǒng)測(cè)試和人為主導(dǎo)(手動(dòng))測(cè)試。測(cè)試條件應(yīng)盡可能反映系統(tǒng)的部署條件，并且可能需要對(duì)每個(gè)部署進(jìn)行新的測(cè)試，以說明不同部署之間的條件存在重大差異。測(cè)試后，應(yīng)將系統(tǒng)性能與可能由人工驅(qū)動(dòng)的就地現(xiàn)狀過程進(jìn)行比較，將現(xiàn)有人工性能視為算法滿足預(yù)部署的性能基線，并作為生命周期最風(fēng)險(xiǎn)識(shí)別和緩解.在部署之前，應(yīng)以主動(dòng)和持續(xù)的方式識(shí)別和減輕自動(dòng)化系統(tǒng)的潛在風(fēng)險(xiǎn)。已識(shí)別的風(fēng)險(xiǎn)應(yīng)側(cè)重于對(duì)人們的權(quán)利、機(jī)會(huì)或訪問產(chǎn)生有意義影響的可能性，并包括那些可能不是自動(dòng)化系統(tǒng)直接用戶的受影響社區(qū)的風(fēng)險(xiǎn)、故意濫用系統(tǒng)導(dǎo)致的風(fēng)險(xiǎn)以及通過咨詢過程確定的其他問題。應(yīng)包括評(píng)估，并在可能的情況下衡量風(fēng)險(xiǎn)的影響，并加以平衡，以便高影響風(fēng)險(xiǎn)得到關(guān)注，并與這些影響相稱地減輕風(fēng)險(xiǎn)。不應(yīng)開發(fā)或使用旨在侵犯他人安全的自動(dòng)化系統(tǒng);在風(fēng)險(xiǎn)減輕之前，不應(yīng)使用具有已確定未確定后果的安全違規(guī)行為的系統(tǒng)。持續(xù)的風(fēng)險(xiǎn)緩解可能需要對(duì)已啟動(dòng)的自動(dòng)化系統(tǒng)進(jìn)行回滾或重大修安安全有效的系統(tǒng)W帽子應(yīng)該是預(yù)期的自動(dòng)化系統(tǒng)持續(xù)的監(jiān)控。自動(dòng)化系統(tǒng)應(yīng)有持續(xù)的監(jiān)測(cè)程序，包括重新校準(zhǔn)程序，以確保其性能不會(huì)隨著時(shí)間的推移而低于可接受的水平，這取決于不斷變化的現(xiàn)實(shí)世界條件或部署環(huán)境、部署后修改或意外條件。這種持續(xù)監(jiān)控應(yīng)包括對(duì)性能指標(biāo)和危害評(píng)估的持續(xù)評(píng)估，任何系統(tǒng)的更新，以及根據(jù)需要重新訓(xùn)練任何機(jī)器學(xué)習(xí)模型，以及確?；赝藱C(jī)制到位，以允許恢復(fù)到以前工作的系統(tǒng)。監(jiān)測(cè)應(yīng)同時(shí)考慮技術(shù)系統(tǒng)組件(算法以及任何硬件組件、數(shù)據(jù)輸入等)和人工操作人員的性能。它應(yīng)該包括測(cè)試系統(tǒng)生成的任何預(yù)測(cè)或建議的實(shí)際準(zhǔn)確性的機(jī)制，而不僅僅是人類操作員對(duì)其準(zhǔn)確性的確定。持續(xù)監(jiān)測(cè)程序應(yīng)包括人工、人為主導(dǎo)動(dòng)化系統(tǒng)的生命周期內(nèi)到位。明確組織的監(jiān)督。負(fù)責(zé)開發(fā)或使用自動(dòng)化系統(tǒng)的實(shí)體應(yīng)制定明確的治理結(jié)構(gòu)和程序。這包括在部署系統(tǒng)之前明確說明治理程序，以及特定個(gè)人或?qū)嶓w監(jiān)督持續(xù)評(píng)估和緩解的責(zé)任。組織利益干系人，包括那些監(jiān)督正在自動(dòng)化的業(yè)務(wù)流程或操作的人，以及可能因使用該系統(tǒng)而受到影響的其他組織部門，應(yīng)參與建立治理程序。組織中的責(zé)任應(yīng)該足夠高，以便可以迅速做出有關(guān)資源、緩解、事件響應(yīng)和潛在回滾的決策，并針對(duì)競(jìng)爭(zhēng)問題對(duì)風(fēng)險(xiǎn)緩解目標(biāo)給予足夠的權(quán)重。應(yīng)讓承擔(dān)此責(zé)任的人了解根據(jù)風(fēng)險(xiǎn)識(shí)別程序確定的任何可能對(duì)人們的權(quán)利、機(jī)會(huì)或訪問產(chǎn)生有意義影響的用例。在某些情況下，在部署之前進(jìn)行獨(dú)立的避免不適當(dāng)、低質(zhì)量或不相關(guān)的數(shù)據(jù)使用及其重復(fù)使用的復(fù)合危害相關(guān)的和高質(zhì)量的數(shù)據(jù)。用作任何自動(dòng)化系統(tǒng)創(chuàng)建、評(píng)估或質(zhì)量的，并且適合手頭的任務(wù)。相關(guān)性應(yīng)該是基于研究支持的對(duì)數(shù)據(jù)對(duì)特定用例的因果影響的證明而建立，或者基于對(duì)該領(lǐng)域和/或系統(tǒng)設(shè)計(jì)或持續(xù)開發(fā)的有用性的合理期望而更普遍地證明。不應(yīng)僅僅通過訴諸數(shù)據(jù)與結(jié)果的歷史聯(lián)系來確定數(shù)據(jù)的相關(guān)性。高質(zhì)量和量身定制的數(shù)據(jù)應(yīng)代表手頭的任務(wù)，應(yīng)衡量和限制數(shù)據(jù)輸入或其他來源的錯(cuò)誤。用作預(yù)測(cè)過程目標(biāo)的任何數(shù)據(jù)都應(yīng)特別注意預(yù)測(cè)結(jié)果或標(biāo)簽的質(zhì)量和有效性，以確保正確識(shí)別和測(cè)量自動(dòng)化系統(tǒng)的目標(biāo)。此外，應(yīng)為每個(gè)數(shù)據(jù)屬性和來源記錄理由，以解釋為什么使用該數(shù)據(jù)來告知在的情況下高維和/或派生屬性,這樣理由可以提供整體安安全有效的系統(tǒng)W帽子應(yīng)該是預(yù)期的自動(dòng)化系統(tǒng)仔細(xì)跟蹤和審查派生數(shù)據(jù)源。通過使用算法從其他數(shù)據(jù)派生的數(shù)據(jù)，例如從先前模型輸出派生或推斷的數(shù)據(jù)，應(yīng)進(jìn)行識(shí)別和跟蹤，例如，通過數(shù)據(jù)模式中的專用類型。派生數(shù)據(jù)應(yīng)被視為潛在的高風(fēng)險(xiǎn)輸入，可能導(dǎo)致反饋循環(huán)、復(fù)合傷害或不準(zhǔn)確的數(shù)據(jù)重用限制在敏感領(lǐng)域.數(shù)據(jù)重用，尤其是新環(huán)境中的數(shù)據(jù)重用，可能導(dǎo)致危害的擴(kuò)散和擴(kuò)展。來自某些領(lǐng)域的數(shù)據(jù)，包括刑事司法數(shù)據(jù)和在金融、就業(yè)和住房等領(lǐng)域產(chǎn)生不良后果的數(shù)據(jù)，尤其敏感，在某些情況下，其重復(fù)使用受到法律的限制。因此，此類數(shù)據(jù)應(yīng)受到額外的監(jiān)督，以確保安全性和有效性。在其他情況下(例如，為民事法律事務(wù)或私營(yíng)部門使用而重復(fù)使用犯罪數(shù)據(jù))的數(shù)據(jù)重用，只有在合法授權(quán)使用此類數(shù)據(jù)的情況下，才應(yīng)進(jìn)行，并且經(jīng)過審查后，對(duì)受系統(tǒng)影響的人的好處大于已識(shí)別的風(fēng)險(xiǎn)，并酌情實(shí)施了合理的措施來減輕已識(shí)別的風(fēng)險(xiǎn)。此類數(shù)據(jù)應(yīng)明確標(biāo)記，以根據(jù)敏感性確定有限重用的上下文。在可能的情況下，聚合數(shù)據(jù)集可能有助于替換個(gè)人級(jí)別的敏感數(shù)據(jù)。證明系統(tǒng)的安全性和有效性通過應(yīng)用程序編程接口)。獨(dú)立評(píng)估人員，如研究人員，記者,道德審查委員會(huì)、監(jiān)察長(zhǎng)和第三方審計(jì)員應(yīng)以符合隱私、安全、法律或法規(guī)(包括知識(shí)產(chǎn)權(quán)法等)的方式訪問系統(tǒng)和相關(guān)數(shù)據(jù)樣本，以便進(jìn)行此類評(píng)估。應(yīng)包括一些機(jī)制，以確保系統(tǒng)對(duì)評(píng)價(jià)的訪問是：及時(shí)向系統(tǒng)提供可部署版本;值得信賴，可提供對(duì)整個(gè)系統(tǒng)的真實(shí)、未經(jīng)過濾的訪問;并且真正獨(dú)立，因此在沒有合理和經(jīng)過驗(yàn)證的理由的情況下，評(píng)估員的訪問權(quán)限不能被撤銷。報(bào)告。12實(shí)體負(fù)責(zé)任的為的發(fā)展或使用自動(dòng)化系統(tǒng)應(yīng)該提供定期更新的報(bào)告，包括：系統(tǒng)概述，包括系統(tǒng)如何嵌入組織的業(yè)務(wù)流程或其他活動(dòng)、系統(tǒng)目標(biāo)、構(gòu)成系統(tǒng)一部分的任何人工的績(jī)效期望;用于訓(xùn)練機(jī)器的任何數(shù)據(jù)的描述學(xué)習(xí)模型或?yàn)槠渌哪康?包括如何數(shù)據(jù)來源加工和解釋,是嗎哪些數(shù)據(jù)可能缺失、不完整或錯(cuò)誤的摘要，以及數(shù)據(jù)相關(guān)性的理由;公眾咨詢的結(jié)果，例如提出的關(guān)注點(diǎn)以及因這些關(guān)注點(diǎn)而風(fēng)險(xiǎn)識(shí)別和管理評(píng)估以及為減輕潛在危害而采取的任何步驟;的結(jié)果性能測(cè)試包括,但不有限的,準(zhǔn)確性、微分人口影響,結(jié)果錯(cuò)誤率(整體和每人口集團(tuán)),相比較以前部署系統(tǒng);結(jié)果,行動(dòng)拍攝;和程序?yàn)橐约蔼?dú)立評(píng)估的結(jié)果。報(bào)告安安全有效的系統(tǒng)H對(duì)這些原則可以移動(dòng)付諸實(shí)踐。關(guān)于促進(jìn)聯(lián)邦政府使用可信賴人工智能的第13960號(hào)行政命令要求某些聯(lián)邦機(jī)構(gòu)在為國(guó)家安全或國(guó)防以外的目的設(shè)計(jì)、開發(fā)、獲取或使用人工智能時(shí)遵守九項(xiàng)原則。這些原則——雖然考慮到敏感的執(zhí)法和聯(lián)邦政府可能使用人工智能的其他環(huán)境，而不是私營(yíng)部門使用人工智能——要求人工智能是：(a)合法并尊重我們國(guó)家的價(jià)值觀;(b)有目的和以業(yè)績(jī)?yōu)閷?dǎo)向;(c)準(zhǔn)確、可靠和有效;(d)安全、可靠和有復(fù)原力;(e)可以理解;(f)負(fù)責(zé)和可追溯;(g)定期監(jiān)測(cè);(h)透明ent;(我)負(fù)責(zé)。藍(lán)圖為AI法案權(quán)利是一致的行政命令。些人工智能系統(tǒng)符合行政命令或使其退役。機(jī)動(dòng)車的法律和政策環(huán)境表明，強(qiáng)有力的安全法規(guī)以及發(fā)生傷害時(shí)解決傷害的措施可以促進(jìn)通信背景下的創(chuàng)新。叢技術(shù)。汽車,就像自動(dòng)化數(shù)字系統(tǒng),組成一個(gè)復(fù)雜的的集合組件。的國(guó)家公路交通安全管理,14通過其嚴(yán)格的標(biāo)準(zhǔn)和獨(dú)立評(píng)估,幫助確保車輛在我們道路安全沒有限制制造商的能力的從大公司到初創(chuàng)企業(yè)，工業(yè)界正在提供創(chuàng)新的解決方案，使組織減輕風(fēng)險(xiǎn)到安全和功效人工智能的系統(tǒng)中,這兩之前個(gè)部署和通過監(jiān)控在時(shí)間。17這些創(chuàng)新包括風(fēng)險(xiǎn)評(píng)估、審計(jì)機(jī)制、組織程序評(píng)估、允許持續(xù)監(jiān)控的儀表板、特定于模型評(píng)估的文檔程序，以及許多其他旨在減輕使用人工智能對(duì)管理和預(yù)算辦公室(OMB)呼吁擴(kuò)大利益相關(guān)者有意義地參與計(jì)劃和服務(wù)設(shè)計(jì)的機(jī)會(huì)。OMB還指出了許多有效和積極主動(dòng)的利益相關(guān)者參與的例子，包括美國(guó)國(guó)立衛(wèi)生研究院制定的基于社區(qū)的參與式研究計(jì)劃以及國(guó)家海洋和大氣管理局開發(fā)的參與式技術(shù)評(píng)估。18的國(guó)家研究所的標(biāo)準(zhǔn)和技術(shù)(NIST)開發(fā)一個(gè)風(fēng)險(xiǎn)管理框架為了更好的管理風(fēng)險(xiǎn)構(gòu)成個(gè)人,組織中,和社會(huì)人工智能。19NIST的AI風(fēng)險(xiǎn)管理框架,所規(guī)定的國(guó)會(huì),的目的是成的設(shè)計(jì)、的發(fā)展,使用,用輸入。NIST的框架的目培養(yǎng)的發(fā)展Of創(chuàng)新方法來地址誠(chéng)信包括準(zhǔn)確性、可解釋性和可解釋性、可靠性、隱私、魯棒性、安全性、安全(彈性),緩解意想不到的和/或有害的偏見,以及有害的使用。nist的框架將考慮和包含原則等前期設(shè)計(jì)、設(shè)計(jì)和的發(fā)展,部署,使用,安全有效的系統(tǒng)H對(duì)這些原則可以移動(dòng)付諸實(shí)踐。政府政府機(jī)構(gòu)有發(fā)達(dá)具體的框架為道德使用人工智能系統(tǒng)。能源部(DOE)已經(jīng)啟動(dòng)了人工智能促進(jìn)委員會(huì)，該委員會(huì)負(fù)責(zé)監(jiān)督能源部人工智能戰(zhàn)略的實(shí)施并提出建議，并解決人工道德原則和信條為負(fù)責(zé)任的人工智能特別是根據(jù)它國(guó)家的安全與防務(wù)活動(dòng)。21同樣，美國(guó)情報(bào)界(IC)也制定了原則。的國(guó)家科學(xué)基金會(huì)(NSF)基金廣泛的研究幫助福斯特的開發(fā)自動(dòng)化系統(tǒng)，以遵守并提高其安全性，安全性和安全性有效性。多個(gè)NSF計(jì)劃支持直接解決其中許多原則的研究：所23支持安全、可信、公平和可解釋的各個(gè)方面的研究人工智能算法和系統(tǒng);信息物理系統(tǒng)24程序支持研究在發(fā)展中安全自治和網(wǎng)絡(luò)物理系統(tǒng)與人工智能組件;的安全,值得信賴的網(wǎng)絡(luò)空間25技術(shù)自動(dòng)化系統(tǒng);的正式的方法在這個(gè)領(lǐng)域26程序支持對(duì)嚴(yán)格的形式驗(yàn)證和分析的研究自動(dòng)化系統(tǒng)和機(jī)器學(xué)習(xí)，以及設(shè)計(jì)負(fù)責(zé)任的軟件系統(tǒng)27該計(jì)劃支持對(duì)嚴(yán)格和可重復(fù)的方法的研究，以開發(fā)軟件系統(tǒng)，同時(shí)考慮到一些狀態(tài)立法機(jī)構(gòu)有放置強(qiáng)大的透明度和有效性要求的使用審判前的風(fēng)險(xiǎn)評(píng)估。算法審前風(fēng)險(xiǎn)評(píng)估的使用已經(jīng)審判前的風(fēng)險(xiǎn)評(píng)估,之前使用狀態(tài),先“顯示無偏見的任何類的個(gè)人保護(hù)歧視”,任何州或聯(lián)邦法律位置使用一個(gè)審判前的風(fēng)險(xiǎn)評(píng)估必須首先正式驗(yàn)證其沒有偏見的主張，“用于建立或驗(yàn)證風(fēng)險(xiǎn)評(píng)估的所有文件、記錄和信息應(yīng)向公眾開放檢查”，并且商業(yè)秘撤銷刑事案件一方在刑事案件中的發(fā)現(xiàn)”。你和應(yīng)該你和應(yīng)該系統(tǒng)公平的一個(gè)LGORITHMICDISCRIMINATIONP保護(hù)不的臉歧視通算法過把握現(xiàn)在ld使用和設(shè)計(jì)在一個(gè)是的方式.算法歧視發(fā)生在性別(包括懷孕、分娩和相關(guān)醫(yī)療狀況、性別認(rèn)同、雙性人身份和性取向)、宗教、年齡、國(guó)籍、殘疾、退伍軍人身份、遺傳信息或任何其他受法律保護(hù)的分類。根據(jù)具體情況，這種算法歧視可能會(huì)違反法律保護(hù)。自動(dòng)化系統(tǒng)的設(shè)計(jì)者、開發(fā)人員和部署者應(yīng)采取積極主動(dòng)和持續(xù)的措施，保護(hù)個(gè)人和社區(qū)免受算法歧視，并以公平的方式使用和設(shè)計(jì)系統(tǒng)。這種保護(hù)應(yīng)包括作為系統(tǒng)設(shè)計(jì)一部分的主動(dòng)公平評(píng)估，使用代表性數(shù)據(jù)和防止人口特征的代理，確保殘疾人在設(shè)計(jì)和開發(fā)、部署前和正在進(jìn)行的差異測(cè)試和緩解方面的無障礙性，以及明確的組織監(jiān)督。應(yīng)進(jìn)行獨(dú)立評(píng)估和算法影響評(píng)估形式的通俗語(yǔ)言報(bào)告，包括差異測(cè)算算法的歧視的保護(hù)W為什么這一原則是很重要的一系列后果。例如，可能導(dǎo)致錯(cuò)誤和歧視性逮捕的面部識(shí)別技術(shù)，31雇用為歧視性決策提供信息的算法，以及貶低美國(guó)黑人某些疾病嚴(yán)重程度的醫(yī)療保健算法。人工智能和其他自動(dòng)化系統(tǒng)中內(nèi)置和產(chǎn)生的歧視性做法實(shí)例存在于許多行業(yè)、領(lǐng)域和環(huán)境中。雖然自動(dòng)持續(xù)使用中。許多公司、非營(yíng)利組織和聯(lián)邦政府機(jī)構(gòu)已經(jīng)在采取措施，確保公眾免受算法歧視。一些公司已將偏差測(cè)試作為其產(chǎn)品質(zhì)量評(píng)估和發(fā)布程序的一部分，在某些情況下，這種測(cè)試導(dǎo)致產(chǎn)品被更改或未推出，從而防止對(duì)公眾造成傷害。聯(lián)邦政府機(jī)構(gòu)一直在制定使用自動(dòng)化系統(tǒng)的標(biāo)準(zhǔn)和指南，以幫助防止偏見。非營(yíng)利組織和公司已經(jīng)制定了審計(jì)和影響評(píng)估的最佳實(shí)踐，以幫助識(shí)別潛在的算法歧視但是，要保護(hù)公眾免受算法歧視，以公平的方式使用和設(shè)計(jì)自動(dòng)化系統(tǒng)，還有很多工作要做。保護(hù)公眾在日常生活中免受歧視的護(hù)欄應(yīng)包括他們的數(shù)字生活和影響——防止濫用、偏見和歧視的基本保障措施，以確保所有人在使用自動(dòng)化系統(tǒng)時(shí)都得到公平對(duì)待。這包括他們生活的各個(gè)方面，從招聘到貸款批準(zhǔn)，從醫(yī)療和付款到與刑事司法系統(tǒng)的接觸。確保公平還應(yīng)該超越現(xiàn)有的護(hù)欄，考慮措施。?研究發(fā)現(xiàn)，使用非傳統(tǒng)因素(如教育程度和工作經(jīng)歷)作為其貸款承銷和定價(jià)模型的一部分的自動(dòng)化系統(tǒng)更有可能向就讀于傳統(tǒng)黑人學(xué)院或大學(xué)(HBCU)的申請(qǐng)人收取更高的貸款價(jià)格，以便為學(xué)生貸款再融資，而不是沒有參加HBCU的申請(qǐng)人。?一種了解公司員工(主要是男性)特征的招聘工具，以虛假和歧視性的理由拒絕女性申請(qǐng);帶有“女子”一詞的簡(jiǎn)歷，例如“女?全國(guó)500多所大學(xué)使用了一種能夠預(yù)測(cè)學(xué)生是否有可能輟學(xué)的預(yù)測(cè)模型。發(fā)現(xiàn)該模型直接使用種族作為預(yù)測(cè)因子，并且還顯示出種族差異很大;黑人學(xué)生被認(rèn)為輟學(xué)風(fēng)險(xiǎn)很高的可能性是其他類似白人同齡人的四倍。這些風(fēng)險(xiǎn)評(píng)分被顧問用來指導(dǎo)學(xué)?旨在預(yù)測(cè)聯(lián)邦拘留所個(gè)人累犯風(fēng)險(xiǎn)的風(fēng)險(xiǎn)評(píng)估工具顯示出預(yù)測(cè)差異的證據(jù)。該工具在一般累犯工具上高估了某些有色人種群體的累犯風(fēng)險(xiǎn)，而在某些暴力累犯工具上低估了某些有色人種群體的累犯風(fēng)險(xiǎn)。司法部正在努力減少這些差異，并公開24算算法的歧視的保護(hù)W為什么這一原則是很重要的消極情緒的工具，被發(fā)現(xiàn)對(duì)猶太人和同性戀者有?搜索“黑人女孩”、“亞裔女孩”或“拉丁裔女孩”時(shí)，主要返回39色情內(nèi)容，而不是榜樣、玩具或活動(dòng)。40一些搜索引擎一直?預(yù)測(cè)誰最有可能點(diǎn)擊招聘廣告的廣告投放系統(tǒng)最終會(huì)強(qiáng)化種族和性別刻板印象，例如壓倒性地將超級(jí)市場(chǎng)收銀員廣告定向?TSA在機(jī)場(chǎng)安檢站使用的人體掃描儀要求操作員根據(jù)乘客的性別選擇“男性”或“女性”掃描設(shè)置，但該設(shè)置是根據(jù)操作員對(duì)乘選擇的。這些掃描儀更有可能將跨性別旅行者標(biāo)記為需要由一個(gè)人進(jìn)行額外篩查?？缧詣e旅行者描述?全國(guó)殘疾法律學(xué)生協(xié)會(huì)表示擔(dān)心，殘疾人更有可能被遠(yuǎn)程監(jiān)考人工智能系統(tǒng)標(biāo)記為潛在可疑，因?yàn)樗麄冃枰L(zhǎng)的休息時(shí)?一種旨在識(shí)別對(duì)醫(yī)療保健有高需求的患者的算法系統(tǒng)地為黑人患者分配了比白人患者更低的分?jǐn)?shù)(表明他們的需求不高)能包括社47算算法的歧視的保護(hù)W帽子應(yīng)該是預(yù)期的自動(dòng)化系統(tǒng)強(qiáng)這些法律保護(hù)，而且可以超越這些法律保護(hù)，以確保服務(wù)不足的社區(qū)的公平性。48即使在可能沒有明確確立具體法律保護(hù)的序進(jìn)行描述。以積極和持續(xù)的方式保護(hù)公眾免受算法歧視主動(dòng)評(píng)估股票的設(shè)計(jì)。負(fù)責(zé)開發(fā)、使用或監(jiān)督自動(dòng)化系統(tǒng)的人員應(yīng)在技術(shù)研發(fā)的設(shè)計(jì)階段或獲取期間進(jìn)行積極的公平評(píng)估，以審查潛在的輸入數(shù)據(jù)、相關(guān)的歷史背景、殘疾人的可訪問性和社會(huì)目標(biāo)，以確定引入該技術(shù)導(dǎo)致的潛在歧視和對(duì)公平的影響。被評(píng)估的群體應(yīng)盡可能包容公平定義中提到的服務(wù)不足的社區(qū)：黑人、拉丁裔、土著和美洲原住民、亞裔美國(guó)人和太平洋島民以及其他有色人種;宗教少數(shù)群體成員;婦女、女孩和非二元人;女同性戀、男同性戀、雙性戀、變性人、酷兒和雙性人(LGBTQI+);老年人;殘疾人;生活在農(nóng)村地區(qū)的人;以及受到持續(xù)貧困或不平等不利影響的人。評(píng)估可包括對(duì)該系統(tǒng)的定性和定量評(píng)價(jià)。這種公平性評(píng)估也應(yīng)被視為作為安全性和有效性審查的一部分進(jìn)行的咨詢目標(biāo)的核心部分。代表和健壯的數(shù)據(jù)。作為系統(tǒng)開發(fā)或評(píng)估的一部分使用的任何數(shù)據(jù)都應(yīng)根據(jù)計(jì)劃的部署設(shè)置代表當(dāng)?shù)厣鐓^(qū)，并應(yīng)根據(jù)數(shù)據(jù)防范代理。在設(shè)計(jì)、開發(fā)或部署自動(dòng)化系統(tǒng)(用于評(píng)估系統(tǒng)歧視或使用系統(tǒng)反歧視以外的目的)具有導(dǎo)致算法歧視的高風(fēng)險(xiǎn)，應(yīng)避免。在許多情況下，與人口統(tǒng)計(jì)特征高度相關(guān)的屬性(稱為代理)可能會(huì)導(dǎo)致算法歧視。在使用人口統(tǒng)計(jì)特征本身會(huì)導(dǎo)致非法算法歧視的情況下，法律也可能禁止在決策中依賴此類代理(例如算法促進(jìn)的代理)。應(yīng)執(zhí)行主動(dòng)測(cè)試，通過測(cè)試用作系統(tǒng)設(shè)計(jì)、開發(fā)或使用的任何數(shù)據(jù)中的人口統(tǒng)計(jì)信息與屬性之間的相關(guān)性來識(shí)別代理。如果標(biāo)識(shí)了代理，設(shè)計(jì)人員、開發(fā)人員和部署人員應(yīng)刪除代理;如果需要，可以確定可以改用的替代屬性。至少，組織應(yīng)確保代理功能不會(huì)受到過分的重視，并應(yīng)密切監(jiān)視系算算法的歧視的保護(hù)W帽子應(yīng)該是預(yù)期的自動(dòng)化系統(tǒng)確保可訪問性在設(shè)計(jì),的發(fā)展,和部署。系統(tǒng)應(yīng)該由各組織設(shè)計(jì)、開發(fā)和部署，以確保殘疾人能夠獲得可及性。這應(yīng)包括考慮各種各樣的殘疾，遵守相關(guān)的無障礙標(biāo)準(zhǔn)，以何無障礙障礙。差距評(píng)估。自動(dòng)化系統(tǒng)應(yīng)使用一套廣泛的措施來測(cè)試，以評(píng)估系統(tǒng)組件在部署前測(cè)試和上下文部署中是否會(huì)產(chǎn)生差異。被評(píng)估群體的人口統(tǒng)計(jì)數(shù)據(jù)應(yīng)盡可能包括種族、膚色、民族、性別(包括懷孕、分娩和相關(guān)醫(yī)療狀況、性別認(rèn)同、雙性人身份和性取向)、宗教、年齡、國(guó)籍、殘疾、退伍軍人身份、遺傳信息或任何其他受法律保護(hù)的分類。所評(píng)估的一套廣泛的衡量標(biāo)準(zhǔn)應(yīng)包括人口績(jī)效衡量、總體和亞組均等評(píng)估以及校準(zhǔn)。為差異評(píng)估收集的人口統(tǒng)計(jì)數(shù)據(jù)應(yīng)與用于自動(dòng)化系統(tǒng)的數(shù)據(jù)分開，并應(yīng)建立隱私保護(hù);在某些情況下，使用數(shù)據(jù)樣本執(zhí)行此類評(píng)估可能是有意義的。對(duì)于部署的自動(dòng)化系統(tǒng)導(dǎo)致不同記錄差異和繼續(xù)使用該系統(tǒng)的理由。差距減少。當(dāng)差異評(píng)估發(fā)現(xiàn)與被評(píng)估群體的差異時(shí)，采取措施減輕或消除差異可能是適當(dāng)?shù)?。在某些情況下，法律可能要求減輕或消除這種差異。可能導(dǎo)致算法歧視、造成有意義傷害或違反公平的差異49目標(biāo)應(yīng)該減輕。在設(shè)計(jì)和評(píng)估自動(dòng)化系統(tǒng)時(shí)，應(yīng)采取措施評(píng)估多個(gè)模型并選擇不利影響最小的模型，修改數(shù)據(jù)輸入選擇或以其他方式識(shí)別差異較小的系統(tǒng)。如果無法充分緩解差異，則應(yīng)重新考慮使用自動(dòng)化系統(tǒng)。是否使用該系統(tǒng)的考慮因素之一應(yīng)該是任何目標(biāo)措施的有效性;不可觀察的目標(biāo)可能會(huì)導(dǎo)致代理使用不當(dāng)。滿足這些標(biāo)準(zhǔn)可能需要制定緩解程序和其他保護(hù)措施，以解決算法歧視，避免有意義的持續(xù)監(jiān)測(cè)和緩解.應(yīng)定期監(jiān)測(cè)自動(dòng)化系統(tǒng)，以評(píng)估由于系統(tǒng)與部署前測(cè)試期間未考慮的不公平現(xiàn)象、部署后系統(tǒng)的變化或使用環(huán)境或相關(guān)數(shù)據(jù)的變化而可能產(chǎn)生的算法歧視。監(jiān)測(cè)和差異評(píng)估應(yīng)由部署或使用自動(dòng)化系統(tǒng)的實(shí)體進(jìn)行，以檢查系統(tǒng)在部署時(shí)是否導(dǎo)致了算法歧視。應(yīng)定期進(jìn)行此評(píng)估，并在出現(xiàn)異常結(jié)果模式時(shí)進(jìn)行。它可以使用多種方法執(zhí)行，同時(shí)考慮到受影響人群的人口統(tǒng)計(jì)信息是否以及如何可用，例如通過對(duì)用戶樣本進(jìn)行測(cè)試或通過定性用戶體驗(yàn)研究。應(yīng)更頻繁地監(jiān)測(cè)和評(píng)估風(fēng)險(xiǎn)較大和影響較大的系統(tǒng)。如果需要，此評(píng)估的結(jié)果應(yīng)包括額外的差異緩解措施，或者在不再滿足且無法緩解公算算法的歧視的保護(hù)W帽子應(yīng)該是預(yù)期的自動(dòng)化系統(tǒng)證明系統(tǒng)防止算法歧視獨(dú)立的評(píng)估。如安全有效系統(tǒng)一節(jié)所述，實(shí)體應(yīng)允許對(duì)其使用或監(jiān)督的自動(dòng)化系統(tǒng)造成的潛在算法歧視進(jìn)行獨(dú)立評(píng)估。在公共部門使用的情況下，除非執(zhí)法或國(guó)家安全限制阻止這樣做，否則應(yīng)公開這些獨(dú)立評(píng)估。應(yīng)注意平衡個(gè)人隱私與評(píng)估數(shù)私的情況下訪問此類數(shù)據(jù)。報(bào)告.負(fù)責(zé)開發(fā)或使用自動(dòng)化系統(tǒng)的實(shí)體應(yīng)提供適當(dāng)設(shè)計(jì)的算法影響評(píng)估報(bào)告，50明確說明誰執(zhí)行評(píng)估，誰評(píng)估系統(tǒng)以及如何采取糾正措施(如有必要)以響應(yīng)評(píng)估。這種算法影響評(píng)估應(yīng)至少包括：任何咨詢的結(jié)果、設(shè)計(jì)階段的公平性評(píng)估(可能包括定性分析)、可訪問性設(shè)計(jì)和測(cè)試、差異測(cè)試、記錄任何剩余的差異，并詳細(xì)說明任何緩解實(shí)施和評(píng)估。應(yīng)盡可能接地追究公共責(zé)任。算算法的歧視的保護(hù)H對(duì)這些原則可以移動(dòng)付諸實(shí)踐。聯(lián)邦政府正在努力打擊抵押貸款中的歧視。司法部發(fā)起了一項(xiàng)全國(guó)性的打擊紅線的倡議，其中包括審查可能避免為有色人種社區(qū)服務(wù)的貸款人如何進(jìn)行有針對(duì)性的營(yíng)銷和廣告。51該計(jì)劃將利用聯(lián)邦機(jī)構(gòu)之間的強(qiáng)大伙伴關(guān)系，包括消費(fèi)者金融保護(hù)局和審慎監(jiān)管機(jī)構(gòu)?！锻七M(jìn)財(cái)產(chǎn)評(píng)估和估值公平行動(dòng)計(jì)劃》包括監(jiān)督抵押貸款的機(jī)構(gòu)的承諾，即在自動(dòng)估值模型的擬議規(guī)平等就業(yè)機(jī)會(huì)委員會(huì)和律政司明確表示鋪設(shè)如何雇主使用人工智和其他自動(dòng)化系統(tǒng)可導(dǎo)致能以對(duì)求職者和殘疾雇員的歧視。53這些文件解釋了雇主使用依賴算法決策的軟件如何違反《美國(guó)殘疾人法案》(“ADA”)第一章的現(xiàn)有要求。這種技術(shù)援助還為雇主提供了有關(guān)如何遵守ADA的實(shí)用技巧，以及認(rèn)為自己的權(quán)利可能受到侵犯的求職者和雇員。差距評(píng)估確認(rèn)危害黑色病人的醫(yī)療保健訪問。一個(gè)廣泛使用的醫(yī)療保健算法依賴于每個(gè)患者過去醫(yī)療護(hù)理的成本來預(yù)測(cè)未來的醫(yī)療需求，為被認(rèn)為風(fēng)險(xiǎn)最大的患者推薦早期干預(yù)。這一過程歧視了黑人患者，他們通常獲得醫(yī)療服務(wù)的機(jī)會(huì)較少，因此產(chǎn)生的費(fèi)用低于患有類似疾病和需求的白人患者。一項(xiàng)具有里程碑意義的研究記錄了這種模式，并提出了減少這種偏見的實(shí)用方法，例如特別關(guān)注活躍的慢性健康狀況或與緊急就診和住院相關(guān)大雇主有發(fā)達(dá)最好實(shí)踐仔細(xì)檢查的的數(shù)據(jù)和模型使用的招聘。一項(xiàng)行業(yè)倡議開發(fā)了勞動(dòng)力算法偏見保障，這是一種結(jié)構(gòu)化問卷，企業(yè)在采購(gòu)軟件評(píng)估工人時(shí)可以主動(dòng)使用。它涵蓋了具標(biāo)準(zhǔn)組織有發(fā)達(dá)指導(dǎo)方針,合并可訪問性標(biāo)準(zhǔn)為工藝設(shè)計(jì)流程。在美國(guó)最普遍的是訪問委員會(huì)的第508條法規(guī)，56這是聯(lián)邦信息通信技術(shù)(軟件、硬件和網(wǎng)絡(luò))的技術(shù)標(biāo)準(zhǔn)。NIST發(fā)布了特別出版物1270，邁向識(shí)別和管理人工智能偏見的標(biāo)準(zhǔn)。59該特別出版物：描述了人工智能中偏見的風(fēng)險(xiǎn)和挑戰(zhàn)，并舉例說明了它如何以及為什么會(huì)削弱公眾的信任;確定人工智能中的三類偏見——系統(tǒng)性偏見、統(tǒng)計(jì)偏見和人類偏見，并描述它們?nèi)绾我约霸诤翁幵斐晌：?并描述了減輕偏見的三大挑戰(zhàn)——數(shù)據(jù)集、測(cè)試和評(píng)估以及人為因素——并介紹了解決這些問題的初步指導(dǎo)。自始至終，該特別出版物從社會(huì)技術(shù)角度來識(shí)別和管理人工智能偏見。DATAPRIVACY您應(yīng)該通過內(nèi)置保護(hù)您免受濫用數(shù)據(jù)實(shí)踐的影響保護(hù)和你應(yīng)該有機(jī)構(gòu)在數(shù)據(jù)如何你使用。應(yīng)通過設(shè)計(jì)選擇來保護(hù)您免受隱私侵犯，以確保默認(rèn)情況下包含此類保護(hù)，包括確保數(shù)據(jù)收集符合合理預(yù)期，并且僅收集特定上下文絕對(duì)必要的數(shù)據(jù)。自動(dòng)化系統(tǒng)的設(shè)計(jì)人員、開發(fā)人員和部署人員應(yīng)征求您的許可，并尊重您以適當(dāng)方式和最大可能收集、使用、訪問、傳輸和刪除您的數(shù)據(jù)的決定;在不可能的情況下，應(yīng)使用其他設(shè)計(jì)隱私保障措施。系統(tǒng)不應(yīng)采用混淆用戶選擇或給用戶帶來隱私侵犯性默認(rèn)值的用戶體驗(yàn)和設(shè)計(jì)決策。Con-sent只應(yīng)用于在可以適當(dāng)和有意義地提供數(shù)據(jù)的情況下證明收集數(shù)據(jù)的合理性。任何同意請(qǐng)求都應(yīng)簡(jiǎn)短，以通俗易懂的語(yǔ)言理解，并為您提供數(shù)據(jù)收集和特定使用環(huán)境的代理權(quán);應(yīng)改變目前難以理解的廣泛使用數(shù)據(jù)的做法。加強(qiáng)對(duì)與敏感行為(包括健康、工作、教育、刑事司法和金融)相關(guān)的數(shù)據(jù)和推論以及與青年有關(guān)的數(shù)據(jù)的保護(hù)和限制，應(yīng)將您放在首位。在敏感領(lǐng)域，您的數(shù)據(jù)和相關(guān)推論應(yīng)僅用于必要的功能，并且您應(yīng)該受到道德審查和使用禁令的保護(hù)。你和你的社區(qū)應(yīng)該不受檢查的監(jiān)視;監(jiān)控技術(shù)應(yīng)受到加強(qiáng)監(jiān)督，至少包括部署前評(píng)估其潛在危害和對(duì)保護(hù)隱私和公民自由的范圍限制。持續(xù)監(jiān)視和監(jiān)測(cè)不應(yīng)用于教育、工作、住房或其他使用此類監(jiān)視技術(shù)可能限制權(quán)利、機(jī)會(huì)或獲取的環(huán)境。只要有可能，您應(yīng)該有權(quán)訪問報(bào)告，確認(rèn)您的數(shù)據(jù)決策已得到尊重，并評(píng)估監(jiān)控技術(shù)對(duì)您的權(quán)利、機(jī)會(huì)或訪問權(quán)限的潛在數(shù)據(jù)隱私數(shù)據(jù)隱私W為什么這一原則是很重要的數(shù)據(jù)隱私是實(shí)現(xiàn)本框架中所有其他目標(biāo)所需的一項(xiàng)基本和跨領(lǐng)域原則。監(jiān)視和數(shù)據(jù)收集、共享、使用和重用現(xiàn)在是許多行業(yè)商業(yè)模式的基礎(chǔ)，越來越多的公司跟蹤美國(guó)公眾的行為，根據(jù)這些數(shù)據(jù)建立個(gè)人資料，并將這些細(xì)粒度的信息用作自動(dòng)化系統(tǒng)的輸入，以進(jìn)一步跟蹤、分析和影響美國(guó)公眾。政府機(jī)構(gòu)，特別是執(zhí)法機(jī)構(gòu)，也使用并幫助開發(fā)各種技術(shù)，以增強(qiáng)和擴(kuò)展監(jiān)控能力，這些技術(shù)同樣收集數(shù)據(jù)，用作直接影響人們生活的其他自動(dòng)化系統(tǒng)的輸入。聯(lián)邦法律尚未發(fā)展到解決私人數(shù)據(jù)收集規(guī)模不斷擴(kuò)大的問題，也與此同時(shí)，美國(guó)公眾往往無法訪問他們的個(gè)人數(shù)據(jù)或?qū)ζ涫占褪褂米龀鲫P(guān)鍵決定。數(shù)據(jù)經(jīng)紀(jì)人經(jīng)常在未經(jīng)消費(fèi)者許可或不知情的情況下從眾多來源收集消費(fèi)者數(shù)據(jù)。60此外，存在不準(zhǔn)確和錯(cuò)誤的數(shù)據(jù)可用于決定他們的生活的風(fēng)險(xiǎn)，例如他們是否有資格獲得貸款或找到工作。在學(xué)校和工作場(chǎng)所，監(jiān)測(cè)技術(shù)的使用有所增加，當(dāng)與相應(yīng)的管理和評(píng)估決策相結(jié)合時(shí)，它會(huì)導(dǎo)致心理健康危害，例如使用分析推理的能力下降。61記錄的模式表明，個(gè)人數(shù)據(jù)正在由數(shù)據(jù)代理聚合，以有害的方式分析社區(qū)。62所有這些數(shù)據(jù)收集的影響是腐蝕性的，滋生不信任、焦慮和其他心理健康問題;令人不寒而栗的言論、抗議和工人組織;并威脅到我。越來越多的公司正在認(rèn)真對(duì)待這些問題，并通過設(shè)計(jì)和默認(rèn)將保護(hù)消費(fèi)者隱私的機(jī)制整合到其產(chǎn)品中，包括最大限度地減少他們收集的數(shù)據(jù)，清楚地傳達(dá)收集和使用，以及改進(jìn)安全實(shí)踐。聯(lián)邦政府的監(jiān)視以及數(shù)據(jù)的其他收集和使用受法律保護(hù)的約束，這些法律保護(hù)有助于保護(hù)公民自由，并在某些情況下對(duì)數(shù)據(jù)保留進(jìn)行限制。許多州還頒布了消費(fèi)者數(shù)據(jù)隱私保護(hù)制度，以解決其中一些危害。然而，這些還不是標(biāo)準(zhǔn)做法，美國(guó)缺乏一個(gè)全面的法定或監(jiān)管框架來管理個(gè)人數(shù)據(jù)方面的公眾權(quán)利。雖然存在各種法律來指導(dǎo)在特定情況下收集和使用個(gè)人數(shù)據(jù)，包括健康、就業(yè)、教育和信貸，但尚不清楚這些法律如何適用于其他情況和日益自動(dòng)化的社會(huì)。額外的保護(hù)措施將向美國(guó)公眾保證，他們使用的自動(dòng)化系統(tǒng)不會(huì)監(jiān)控他們的活動(dòng)，收集他們的生活信息，或者在未經(jīng)特定背景同意或數(shù)據(jù)隱私數(shù)據(jù)隱私W為什么這一原則是很重要的65?當(dāng)?shù)毓沧》抗芾砭衷谧≌瑓^(qū)入口處安裝了面部識(shí)別系統(tǒng)，以協(xié)助執(zhí)法部門在提交警方報(bào)告時(shí)識(shí)別通過攝像頭查看的個(gè)人，66數(shù)據(jù)隱私數(shù)據(jù)隱私W帽子應(yīng)該是預(yù)期的自動(dòng)化系統(tǒng)私保護(hù)、數(shù)據(jù)最小化、使用和收集限制以及透明度得到保護(hù)，此外還有權(quán)獲得明確的機(jī)制，以積極主動(dòng)、知情和持續(xù)的方式控制對(duì)其數(shù)據(jù)(包括元數(shù)據(jù))的訪問和使用。任何收集、使用、共享或存儲(chǔ)個(gè)人數(shù)據(jù)的自動(dòng)化系統(tǒng)都應(yīng)滿足這些期望。通過設(shè)計(jì)和默認(rèn)情況下保護(hù)隱私通過設(shè)計(jì)和默認(rèn)隱私。自動(dòng)化系統(tǒng)的設(shè)計(jì)和構(gòu)建應(yīng)默認(rèn)保護(hù)隱私。應(yīng)在整個(gè)開發(fā)生命周期中評(píng)估隱私風(fēng)險(xiǎn)，包括重新識(shí)別的隱私風(fēng)險(xiǎn)，并應(yīng)實(shí)施適當(dāng)?shù)募夹g(shù)和政策緩解措施。這包括對(duì)那些不是自動(dòng)化系統(tǒng)用戶的人的潛在傷害，但他們可能會(huì)受到推斷數(shù)據(jù)、故意侵犯隱私、社區(qū)監(jiān)控或其他社區(qū)傷害的傷害。應(yīng)盡量減少數(shù)據(jù)收集，并清楚地傳達(dá)給收集數(shù)據(jù)的人。僅應(yīng)出于訓(xùn)練或測(cè)試機(jī)器學(xué)習(xí)模型的目的收集或使用數(shù)據(jù)，前提是此類收集和使用是合法的，并且符合收集數(shù)據(jù)的人的期望。應(yīng)進(jìn)行用戶體驗(yàn)研究，以確認(rèn)人們了解正在收集的有關(guān)他們的哪些數(shù)據(jù)以及如何使用這些數(shù)據(jù)，并且該收集符合他們的期望和愿望。數(shù)據(jù)收集和用例范圍限制。數(shù)據(jù)收集的范圍應(yīng)該有限，確定具體的、狹隘的目標(biāo)，以避免“任務(wù)蔓延”。預(yù)期的數(shù)據(jù)收集應(yīng)確定為對(duì)已確定的目標(biāo)絕對(duì)必要，并應(yīng)盡可能減少。根據(jù)這些已確定的目標(biāo)和特定環(huán)境收集的數(shù)據(jù)不應(yīng)在不同的環(huán)境中使用，除非評(píng)估新的隱私風(fēng)險(xiǎn)并實(shí)施適當(dāng)?shù)木徑獯胧?，其中可能包括明確同意。應(yīng)制定明確的數(shù)據(jù)保留時(shí)間表，并根據(jù)法律或基于政策的限制盡快刪除數(shù)據(jù)。確定的數(shù)據(jù)保留時(shí)間表應(yīng)記錄在案并證明其合理性。風(fēng)險(xiǎn)識(shí)別和緩解.收集、使用、共享或存儲(chǔ)敏感數(shù)據(jù)的實(shí)體應(yīng)嘗試主動(dòng)識(shí)別危害并尋求管理它們，以避免、減輕和適當(dāng)?shù)貞?yīng)對(duì)已識(shí)別的風(fēng)險(xiǎn)。適當(dāng)?shù)膽?yīng)對(duì)措施包括決定在隱私風(fēng)險(xiǎn)超過收益時(shí)不處理數(shù)據(jù)，或采取措施減輕可接受的風(fēng)險(xiǎn)。適當(dāng)?shù)捻懼С?，則無法合理地期望用戶了解風(fēng)險(xiǎn)。保護(hù)隱私安全。創(chuàng)建、使用或管理自動(dòng)化系統(tǒng)的實(shí)體應(yīng)遵循隱私和安全最佳實(shí)踐，以確保數(shù)據(jù)和元數(shù)據(jù)不會(huì)泄漏到特定同意的用例之外。最佳實(shí)踐可能包括使用隱私增強(qiáng)加密或其他類型的隱私增強(qiáng)技術(shù)或細(xì)粒度權(quán)限和訪問控制機(jī)制，以及傳統(tǒng)數(shù)據(jù)隱私數(shù)據(jù)隱私W帽子應(yīng)該是預(yù)期的自動(dòng)化系統(tǒng)保護(hù)公眾免受不受監(jiān)督加強(qiáng)監(jiān)督監(jiān)測(cè)。監(jiān)視或監(jiān)測(cè)系統(tǒng)應(yīng)受到加強(qiáng)監(jiān)督，至少包括在設(shè)計(jì)期間(部署前)和持續(xù)評(píng)估潛在危害，以確保美國(guó)公眾的權(quán)利、機(jī)會(huì)和訪問得到保護(hù)。此評(píng)估應(yīng)在部署之前完成，并應(yīng)特別注意確保在特定現(xiàn)實(shí)世界環(huán)境中部署時(shí)不存在算法歧視，尤其是基于社區(qū)成員的歧視。只要該系統(tǒng)還在使用，就應(yīng)不斷重申這種評(píng)估。有限的和適當(dāng)?shù)谋O(jiān)測(cè).應(yīng)避免監(jiān)視，除非為實(shí)現(xiàn)合法目的而絕對(duì)必要，并且與需要相稱。監(jiān)控系統(tǒng)的設(shè)計(jì)者、開發(fā)人員和部署人員應(yīng)使用侵入性最小的監(jiān)測(cè)手段，并將監(jiān)測(cè)限制在盡可能少的受試者數(shù)量。在符合執(zhí)法和國(guó)家安全需要的最大可能范圍內(nèi)，應(yīng)向受監(jiān)測(cè)的個(gè)人提供明確和具體的通知，并告知如何使用通過監(jiān)測(cè)收集的數(shù)據(jù)。范圍限制監(jiān)視以保護(hù)權(quán)利和民主價(jià)值觀。公民自由和公民權(quán)利不得受到自動(dòng)化系統(tǒng)促成或協(xié)助的監(jiān)視或騷擾威脅的限制。監(jiān)控系統(tǒng)不應(yīng)用于以限制行使公民權(quán)利或公民自由的方式監(jiān)控民主權(quán)利的行使，例如投票、隱私、和平集會(huì)、言論或結(jié)社。有關(guān)身份的信息或算法確定的假設(shè)，如果用于針對(duì)或指導(dǎo)監(jiān)視系統(tǒng)，應(yīng)謹(jǐn)慎限制，以避免算法歧視;此類與身份相關(guān)的信息包括群體特征或隸屬關(guān)系、地理名稱、基于位置和關(guān)聯(lián)的推斷、社交網(wǎng)絡(luò)和生物識(shí)別。連續(xù)監(jiān)測(cè)和監(jiān)測(cè)系統(tǒng)不應(yīng)用于物理或數(shù)字工作場(chǎng)所(無論就業(yè)狀況如何)、公共教育機(jī)構(gòu)和公共場(chǎng)所。持續(xù)監(jiān)督和監(jiān)測(cè)系統(tǒng)的使用方式不應(yīng)限制對(duì)關(guān)鍵資源或服務(wù)的獲取或壓制權(quán)利的行使，即使本組織沒有保護(hù)這些權(quán)利的特殊義務(wù)。為公眾提供適當(dāng)和有意義的同意、訪問和控制其數(shù)據(jù)的機(jī)制使用特定的同意。同意做法不應(yīng)允許濫用監(jiān)視做法。如果數(shù)據(jù)收集者或自動(dòng)化系統(tǒng)尋求同意，他們應(yīng)針對(duì)特定的、狹窄的使用環(huán)境、特定的持續(xù)時(shí)間以及特定實(shí)體的使用征求同意。如果這些條件中的任何一個(gè)發(fā)生變化，則不應(yīng)延長(zhǎng)同意;如果用例發(fā)生變化