人工智能和數(shù)據(jù)倫理：從一般性指導(dǎo)原則到指導(dǎo)性原則

從一般性原則到指導(dǎo)性原則》研究報(bào)告。報(bào)告認(rèn)為，人工智能和大告分析了從一般性倫理概念和原則過(guò)渡到有指導(dǎo)性和實(shí)質(zhì)性內(nèi)容原則的重要性及難度，提出了實(shí)現(xiàn)公平公正性的指導(dǎo)性舉措，包括從構(gòu)和治理模式、拓展視野與合作方式、加強(qiáng)培訓(xùn)與教育、注重倫理實(shí)踐、構(gòu)建人工智能和數(shù)據(jù)倫理社區(qū)等。賽迪智庫(kù)世界工業(yè)研一、概述研究人員、企業(yè)、政策制定者和公眾已普遍意識(shí)到，人工智能和大數(shù)據(jù)的運(yùn)用面臨著公平公正、隱私度、自主性、透明度和可說(shuō)明性等方面的挑戰(zhàn)，為此，人們?cè)絹?lái)越多地希望各種組織能夠解決這些問(wèn)題，但是現(xiàn)階段仍缺乏對(duì)實(shí)際行動(dòng)強(qiáng)有力的監(jiān)管指為了應(yīng)對(duì)上述問(wèn)題，私營(yíng)企業(yè)、非政府組織和政府實(shí)體等許多組織已經(jīng)開始制定人工智能或數(shù)據(jù)倫理框架和原則，表明其致力于解決人工智能挑戰(zhàn)的承諾和決心，最重要的是，如何切實(shí)推動(dòng)這些框架和原則落地。確定一套倫理概念并利用它們制定一般原則是闡明人工智能和數(shù)據(jù)倫理的關(guān)鍵組成部分。此外，已經(jīng)制定的許多框架之間存在相當(dāng)大的趨同性，雖然這些框架的重點(diǎn)可能是個(gè)人、社會(huì)或系統(tǒng)（見(jiàn)表1但它們都將圍繞核心概念相互融合。目前基本倫理概念已達(dá)成共識(shí)，這表明我們?cè)诶斫庳?fù)責(zé)任的人工智能和大數(shù)據(jù)開發(fā)和應(yīng)用方面已經(jīng)取得進(jìn)展。人工智能和數(shù)據(jù)倫理規(guī)則圍繞若干倫理概念相聚合，其中一些概念重點(diǎn)關(guān)注個(gè)人利益和權(quán)利，如保護(hù)隱私、促進(jìn)自主和確?？杉靶?；另一些概念則聚焦社會(huì)問(wèn)題，如促進(jìn)公平公正、維護(hù)民主制度和提升社會(huì)福祉；還有一些概念側(cè)重于技術(shù)系統(tǒng)的特性，如系統(tǒng)如何實(shí)現(xiàn)充分的透明度或可解釋性，從而不過(guò)，闡明價(jià)值觀、倫理概念和一般原則只是應(yīng)對(duì)人工智能和數(shù)據(jù)倫理挑戰(zhàn)的第一步，而且在很多方面也是最簡(jiǎn)單的一步。相關(guān)聲明文件雖然看似雄心勃勃，但實(shí)際上采納成本很低，只能算是口頭承諾。更艱巨的工作包括：具體說(shuō)明概念、原則和承諾的實(shí)質(zhì)性內(nèi)容，即闡明公平公正、隱私度、自主性、透明度和可解釋性在特定環(huán)境中的實(shí)際內(nèi)容和要求；培養(yǎng)專有能力，在實(shí)踐中實(shí)現(xiàn)這些概念、原則和承諾（各項(xiàng)任務(wù)的內(nèi)容及其相互關(guān)聯(lián)性見(jiàn)表2）。完成這些任務(wù)不僅需要縱向的努力和資源，還需要多學(xué)科專業(yè)知識(shí)的相互配合。在此過(guò)程中，各個(gè)組織需要確定行動(dòng)的優(yōu)先次序，修改現(xiàn)有的組織流程和結(jié)構(gòu)，這也是落實(shí)指導(dǎo)原則的關(guān)鍵步驟。如果做不到這點(diǎn)，任何承諾或原則都只能是“倫理洗白”。人工智能和大數(shù)據(jù)的開發(fā)和應(yīng)用將不可避免地存在倫理問(wèn)題，面對(duì)這種困境，政策制定者、員工、消費(fèi)者、客戶和公眾將認(rèn)為相關(guān)行業(yè)未能充分履行自己的承諾。將基本價(jià)值觀和核心概念轉(zhuǎn)化為指導(dǎo)行動(dòng)的具體規(guī)范和承諾的實(shí)定義指出需要促進(jìn)和保護(hù)的體現(xiàn)或代表基本組織價(jià)說(shuō)明尊重概念和實(shí)現(xiàn)價(jià)值觀的一般規(guī)范或指導(dǎo)描述遵守將要采用或?qū)崿F(xiàn)的原則的提供衡量承諾實(shí)現(xiàn)水平示例明及可說(shuō)明性不歧視、保是否可以解釋人工智能體實(shí)現(xiàn)客戶服務(wù)需要多久本報(bào)告旨在實(shí)現(xiàn)以下目標(biāo)：說(shuō)明從一般倫理概念和原則到可以指導(dǎo)行動(dòng)的實(shí)質(zhì)性內(nèi)容（以下稱為規(guī)范內(nèi)容）轉(zhuǎn)變的重要性和復(fù)雜性；對(duì)相互關(guān)聯(lián)的兩個(gè)重要核心倫理概念，即公正以及透明度進(jìn)行詳細(xì)討論；指出從一般倫理概念和原則轉(zhuǎn)變?yōu)楦唧w的規(guī)范內(nèi)容并最終實(shí)施這些內(nèi)容的策略?！耙?guī)范內(nèi)容”定義“規(guī)范”一詞共有兩種用法。一種是作為描述性詞語(yǔ)，用于說(shuō)明行為特點(diǎn)；另一種是作為倫理性標(biāo)準(zhǔn)，用于規(guī)定應(yīng)該做什么。通常情況下，應(yīng)該做什么（規(guī)定性內(nèi)容）與當(dāng)前正在做什么（說(shuō)明性內(nèi)容）存在差異。人工智能和大數(shù)據(jù)的倫理規(guī)范及廣泛運(yùn)用需要有效的指導(dǎo)原則，因?yàn)槟壳暗脑S多做法都存在問(wèn)題。例如，在人工智能和大數(shù)據(jù)的開發(fā)和使用中，應(yīng)避免存在長(zhǎng)期歧視性做法和不平等對(duì)待。因此，規(guī)范內(nèi)容指的是關(guān)于應(yīng)該做什么樣的指導(dǎo)。相比于單純描述當(dāng)前正在做什么，規(guī)范內(nèi)容更是針對(duì)個(gè)人、團(tuán)體和組織應(yīng)該做什么所制定的合理標(biāo)準(zhǔn)、原則和實(shí)踐。規(guī)范內(nèi)容（從倫理和規(guī)定的意義上來(lái)看）最終基于社會(huì)和組織價(jià)值。本報(bào)告研究的則是將這些一般價(jià)值轉(zhuǎn)化為具體的可行性指導(dǎo)和承諾的過(guò)程。因?yàn)榫唧w的原則和承諾與情境密切相關(guān)，而且不同的價(jià)值觀有時(shí)會(huì)彼此矛盾，所以這一過(guò)程并非易事。二、案例分析：生物倫理學(xué)中的知情同意對(duì)現(xiàn)有案例的反思有助于說(shuō)明從一般倫理概念向指導(dǎo)行動(dòng)的規(guī)范內(nèi)容轉(zhuǎn)變過(guò)程中所面臨的挑戰(zhàn)。知情同意（informedconsent）被廣泛認(rèn)為是醫(yī)學(xué)倫理臨床實(shí)踐和研究的重要組成部分。但我們將要反思這一原則從何而來(lái)，有何含義以及實(shí)現(xiàn)這一原則需要什么。知情同意可以保護(hù)個(gè)體的自主權(quán)，因此被視為醫(yī)學(xué)和人體研究的倫理實(shí)踐要求。尊重個(gè)體的自主性意味著不操縱、不欺騙。自主權(quán)包括有權(quán)選擇是否參與研究試驗(yàn)或接受醫(yī)學(xué)治療。知情同意是實(shí)際操作中尊重個(gè)人自主權(quán)的主要方式。那么，在實(shí)踐中滿足知情同意標(biāo)準(zhǔn)的要求是什么？當(dāng)明確表示知情同意時(shí)，必須滿足三個(gè)主要條件：披露、理解和自愿（見(jiàn)表3）。披露是指向患者、研究對(duì)象或其代理人說(shuō)明具體情況，為他們將要作出的決定提供清晰、準(zhǔn)確的相關(guān)信息。理解是指以患者、研究對(duì)象或其代理人能夠理解的方式或形式向其呈現(xiàn)信息。自愿是指患者、研究對(duì)象或其代理人在沒(méi)有不當(dāng)影響或脅迫的情況下作出決定。披露、理解和自愿三個(gè)主要條件本身必須具備可操作性，這也是機(jī)構(gòu)審查委員會(huì)、醫(yī)院倫理委員會(huì)、專業(yè)組織和生物倫理學(xué)家的工作。他們負(fù)責(zé)制定能夠滿足知情同意條件的最佳實(shí)踐、標(biāo)準(zhǔn)和流程，例如何種信息需要提供給潛在研究對(duì)象；對(duì)患者來(lái)說(shuō)，什么程度的認(rèn)識(shí)才構(gòu)成理解；以及醫(yī)生如何在提供專業(yè)意見(jiàn)的同時(shí)不對(duì)患者的決定產(chǎn)生不當(dāng)影響。此外，標(biāo)準(zhǔn)和最佳實(shí)踐可以且必須根據(jù)具體情境而定。例如，急診和住院肯定采取不同的標(biāo)準(zhǔn)和最佳實(shí)踐方式。知情同意原則在醫(yī)學(xué)和研究中的應(yīng)用已長(zhǎng)達(dá)幾十年，但為應(yīng)對(duì)新問(wèn)題、符合新重點(diǎn)和適應(yīng)新情境，知情同意原則一直在不斷改進(jìn)，以確保能夠保護(hù)個(gè)人自主權(quán)。知情同意原則旨在保護(hù)自主權(quán)的價(jià)值，表達(dá)對(duì)個(gè)人的尊重，而對(duì)知情同意原則的普遍承諾只是一個(gè)開始。我們必須清晰地闡明和實(shí)施這一原則，以使其在實(shí)踐中發(fā)揮有效作用。人工智能和數(shù)據(jù)倫理原則也是如此。在臨床醫(yī)學(xué)和醫(yī)學(xué)研究中，最基本的價(jià)值觀是尊重個(gè)人，即尊重病人和研究對(duì)象，但若要弄清實(shí)現(xiàn)這一價(jià)值觀的實(shí)際需求，就必須對(duì)其加以明確和落實(shí)。在醫(yī)學(xué)中，尊重個(gè)人被理解為賦予個(gè)人自主選擇權(quán)，這就需要患者或研究對(duì)象具備知情同意權(quán)。生物倫理學(xué)家、臨床醫(yī)生和研究人員已經(jīng)在披露、理解和自愿等某些選擇條件下，通過(guò)一系列具體實(shí)踐，比如用病人的母語(yǔ)向其披露信息，保護(hù)研究對(duì)象的知情權(quán)以及清晰表生命倫理學(xué)中的知情同意案例為理解人工智能和數(shù)據(jù)倫理從一般倫理概念到實(shí)踐指導(dǎo)的挑戰(zhàn)提供了一些經(jīng)驗(yàn)教訓(xùn)：從一般倫理概念（如公平公正、可解釋性、隱私）到實(shí)踐指導(dǎo)，首先需要明確規(guī)范內(nèi)容（如明確一般原則并提供適合具體情境的操作流程）；指定規(guī)范內(nèi)容通常需要確定旨在保護(hù)或促進(jìn)知情同意的基本價(jià)值觀；一般原則在實(shí)踐中的具體要求可隨具體情境不同而存在顯著差別；一般倫理概念或原則的實(shí)施通常需要整合技術(shù)、倫理，及具體情境等各種專業(yè)知識(shí)；由于各種不可預(yù)測(cè)的新因素經(jīng)常出現(xiàn)，我們需要在組織結(jié)構(gòu)和實(shí)踐的支持下，不斷監(jiān)測(cè)、評(píng)估和改進(jìn)原則的執(zhí)行流程和應(yīng)用實(shí)踐。人工智能和數(shù)據(jù)倫理包括明確基本價(jià)值觀和核心倫理概念，明確規(guī)范內(nèi)容（一般原則下文將重點(diǎn)討論相互關(guān)聯(lián)的人工智能和數(shù)據(jù)倫理概念（公平公正和透明性）從核心概念和原則到實(shí)施的復(fù)雜性。三、人工智能和機(jī)器學(xué)習(xí)中的公平公正人工智能與數(shù)據(jù)倫理中的公平公正問(wèn)題公平和公正被廣泛認(rèn)為是人工智能和數(shù)據(jù)倫理的關(guān)鍵組成部分。其中一個(gè)原因是，許多案例已經(jīng)表明，機(jī)器學(xué)習(xí)和自動(dòng)決策系統(tǒng)會(huì)導(dǎo)致偏見(jiàn)、歧視或其他不平等的結(jié)果。比如，人工智能招聘廣告系統(tǒng)會(huì)復(fù)制業(yè)已存在的種族、性別歧視及其他因素；醫(yī)療情景下的人工智能系統(tǒng)為非裔美國(guó)患者分配的風(fēng)險(xiǎn)評(píng)分低于白人患者，導(dǎo)致非裔患者獲得日常護(hù)理或緊急護(hù)理的機(jī)會(huì)更低；面部識(shí)別系統(tǒng)存在種族偏見(jiàn)等。公正在人工智能和數(shù)據(jù)倫理中是一個(gè)至關(guān)重要的倫理因素，這已成為共識(shí)。機(jī)器學(xué)習(xí)、數(shù)據(jù)分析以及人工智能的應(yīng)用至少不應(yīng)加劇現(xiàn)有不公正現(xiàn)象或引發(fā)新的不公正現(xiàn)象。此外，人工智能/機(jī)器學(xué)習(xí)有可能通過(guò)發(fā)現(xiàn)和糾正當(dāng)前決策系統(tǒng)中（通常是無(wú)意的）存在的偏見(jiàn)和歧視來(lái)減少不公平現(xiàn)象。在圍繞人工智能和數(shù)據(jù)倫理的討論中，“公平”和“公正”經(jīng)常互換使用，這是為了囊括其包含的所有因素。當(dāng)然，這些術(shù)語(yǔ)有時(shí)也擁有更具體的含義。如在研究這些問(wèn)題的計(jì)算機(jī)科學(xué)家看來(lái)，“公平”通常指群體之間某種形式的平等。舉例來(lái)說(shuō)，如果一個(gè)算法系統(tǒng)在受保護(hù)群體中具有相同的準(zhǔn)確率或假陽(yáng)性率，那么這個(gè)系統(tǒng)就是“公平的”。一個(gè)常見(jiàn)的問(wèn)題是，這些形式的公平中的哪一種是在該情景下恰當(dāng)?shù)墓讲僮鳎ㄒ驗(yàn)橥ǔ２豢赡芡瑫r(shí)實(shí)現(xiàn)多種形式的公平）。在制度背景中，“公平”通常用于特定情境中的處理過(guò)程，而“公正”是指構(gòu)成該情境的制度特征，如果系統(tǒng)缺乏公正性（以有利于某些團(tuán)體而不利于另一些團(tuán)體的方式組織系統(tǒng)），屬于該系統(tǒng)的流程（如貸款或刑事司法）將是不公平的?？傊?，“公正”的概念存在復(fù)雜性，在不同的情境中可以指代不同的事物。為了確定公正在人工智能和數(shù)據(jù)使用具體情境中的要求，如在決定貸款申請(qǐng)、社會(huì)服務(wù)獲取或醫(yī)療優(yōu)先級(jí)時(shí)，有必要明確規(guī)范內(nèi)容和潛在價(jià)值。只有這樣才有可能說(shuō)明具體情況下的需要，以及如何（或在何種程度上）在技術(shù)和科技社會(huì)系統(tǒng)中實(shí)現(xiàn)公正。（一）公正的價(jià)值和形式公正包含的基本價(jià)值是人的價(jià)值和政治地位的平等。該領(lǐng)域關(guān)注的是如何按照這些價(jià)值觀組織社會(huì)、政治、經(jīng)濟(jì)以及其他體系和結(jié)構(gòu)。若法律、制度、流程或算法未能體現(xiàn)這些價(jià)值，其便失去了公正性。因此，最普遍的公正原則就是所有人都應(yīng)在社會(huì)、經(jīng)濟(jì)和政治制度以及流程中享受平等的尊重和重視。這些核心價(jià)值觀和公正的普遍原則在很多方面與社會(huì)結(jié)構(gòu)和制度相互關(guān)聯(lián)。因此，如表4所示，我們擁有一套更加具體和多樣的公正原則。每一條原則均涉及社會(huì)、政治或經(jīng)濟(jì)體制和結(jié)構(gòu)，其中部分原則涉及體系運(yùn)作流程（程序公正），部分原則關(guān)注結(jié)果（分配公正），還有部分原則關(guān)注個(gè)人感受（認(rèn)知公正）。雖然促進(jìn)公正的方法多種多樣，但不公正現(xiàn)象仍不可避免。公正原則在各種具體情境中都非常重要。如機(jī)會(huì)平等在中小學(xué)教育的討論通常至關(guān)重要；參與平等在政治環(huán)境中意義重大；在某些社會(huì)服務(wù)情境中，優(yōu)先考慮弱勢(shì)群體影響重大；勞有所得在創(chuàng)新環(huán)境中則不可忽略。有關(guān)人工智能或大數(shù)據(jù)的公正原則，最需要考慮的不是原則的正確性或重要性，而是在何種情境或情況下最適用何種原則，及在這些情境或情況中，這些原則的需求或要求是什么。（二）人工智能與數(shù)據(jù)系統(tǒng)中的公正當(dāng)某個(gè)組織承諾在人工智能和數(shù)據(jù)實(shí)踐中維持公正時(shí)，它承諾的到底是什么？在決定何種正義原則有效或優(yōu)先時(shí)，情境至關(guān)重要。因此，要明確承諾意義（即明確規(guī)范內(nèi)容），第一步是確定對(duì)人工智能或數(shù)據(jù)系統(tǒng)的工作內(nèi)容或操作環(huán)境至關(guān)重要的公正原則。在此之后，相關(guān)公正承諾才能有效發(fā)揮作用并付諸實(shí)施。毫無(wú)疑問(wèn)，法律合規(guī)（例如關(guān)于非歧視原則的法規(guī)）與明確最突出的公正因素存在關(guān)聯(lián)，但正如上所述，僅僅遵守法律并不足以落實(shí)公正原則。闡明相關(guān)公正原則還需要考慮組織使命，所涉及的產(chǎn)品和服務(wù)類型，產(chǎn)品和服務(wù)對(duì)群體和個(gè)人產(chǎn)生影響的模式，以及組織對(duì)運(yùn)作范圍內(nèi)出現(xiàn)的不公正現(xiàn)象原因的理解。對(duì)識(shí)別這些問(wèn)題的有益做法往往包括反思類似案例，及仔細(xì)考慮對(duì)人工智能、大數(shù)據(jù)和自動(dòng)決策的各種擔(dān)憂。當(dāng)再次考慮前面討論的一些問(wèn)題案例（參見(jiàn)人工智能和數(shù)據(jù)倫理中的公平和公正問(wèn)題）時(shí)，我們會(huì)發(fā)現(xiàn)其中一些案例，如量刑和就業(yè)案例，提出與機(jī)會(huì)平等和待遇平等有關(guān)的問(wèn)題；其他案例，如面部和語(yǔ)音識(shí)別相關(guān)案例，涉及準(zhǔn)確代表和參與平等原則；還有一些案例，如醫(yī)療保健案例，涉及參與平等、待遇平等以及弱勢(shì)群體優(yōu)先、有補(bǔ)償?shù)墓屠婵紤]。在此，我們假設(shè)兩個(gè)簡(jiǎn)化示例——私人金融服務(wù)公司和公共社會(huì)服務(wù)組織——來(lái)說(shuō)明這一點(diǎn)。私人金融服務(wù)公司和公共社會(huì)服務(wù)組織擁有相同的基本價(jià)值觀（人們擁有平等的價(jià)值觀和政治立場(chǎng)）和核心倫理觀念（公平和公正），但由于算法系統(tǒng)的功能、制度背景和相關(guān)社會(huì)因素，它們?cè)谌绾握f(shuō)明、實(shí)施和執(zhí)行這些基本價(jià)值觀和核心倫理觀念方面存在分歧（見(jiàn)表5場(chǎng)試圖實(shí)現(xiàn)公正和公平的金融服務(wù)公司必須致力于實(shí)現(xiàn)非歧視、平等待遇和平等參與。如果因?yàn)榉?wù)適用性之外的原因而采取差別性考慮、對(duì)待或參與限制，這些就無(wú)法實(shí)現(xiàn)。為防止出現(xiàn)這種情況，金融服務(wù)公司可鼓勵(lì)來(lái)自不同群體的申請(qǐng)，要求向被拒絕服務(wù)的申請(qǐng)人作出解釋，并參與定期審查和報(bào)告過(guò)程。類似這些措施將有助于在實(shí)踐因?yàn)榇嬖谙嗷リP(guān)聯(lián)的多種公正因素，所以經(jīng)常需要對(duì)其進(jìn)行權(quán)衡。例如，優(yōu)先考慮最弱勢(shì)或長(zhǎng)期處于弱勢(shì)的群體有時(shí)可能涉及放棄待遇平等原則；實(shí)現(xiàn)機(jī)會(huì)和參與平等有時(shí)可能需要在勞有所得原則方面做出妥協(xié)。因此，至關(guān)重要的是確定所有與此情況相關(guān)的公正原則；原則識(shí)別的過(guò)程包括最受影響的群體；盡可能全面地考慮所有實(shí)施原則；任何妥協(xié)均能夠基于其他公正因素的相關(guān)情境重要性證明其合理性。再犯預(yù)測(cè)與明確適當(dāng)公正概念的重要性COMPAS再犯預(yù)測(cè)算法被廣泛提及，在預(yù)測(cè)白人和黑人的再犯機(jī)率時(shí)，預(yù)測(cè)系統(tǒng)的準(zhǔn)確性大致相當(dāng)，但是當(dāng)系統(tǒng)出現(xiàn)錯(cuò)誤時(shí)，錯(cuò)誤類型卻有所不同：系統(tǒng)會(huì)高估黑人的再犯率，低估白人的再犯率。這是因?yàn)橄到y(tǒng)使用的培訓(xùn)數(shù)據(jù)反映的是歷來(lái)對(duì)少數(shù)族裔社區(qū)的過(guò)度監(jiān)管。因此，雖然該算法在某種意義上實(shí)現(xiàn)了對(duì)一項(xiàng)參數(shù)的平等對(duì)待（即預(yù)測(cè)中的同等準(zhǔn)確性），但未能考慮到在此情境下更重要的公正相關(guān)原則（即過(guò)高估計(jì)再犯率），也沒(méi)有考慮到補(bǔ)償性和代表性因素等其他相關(guān)公正因素。將公正原則納入機(jī)器學(xué)習(xí)、數(shù)據(jù)分析和自主決策系統(tǒng)的嚴(yán)格算法存在局限性，這主要是因?yàn)楣嚓P(guān)原則多種多樣，需要根據(jù)具體情境確定哪些原則是相關(guān)原則，哪些原則需要優(yōu)先考慮。首先，不存在具備約束性的、優(yōu)化的或?qū)嵱玫膯我恍砸话愎瓌t，也不存在一系列等級(jí)有序的公正原則。相反，特定情境的專業(yè)性和倫理敏感性對(duì)于確定公正原則需求至關(guān)重要。在一種情境中以密切關(guān)注公正原則的方式設(shè)計(jì)和實(shí)現(xiàn)的系統(tǒng)在另一種情境中可能無(wú)法體現(xiàn)公正原則，這是因?yàn)閮煞N情境中公正原則最顯著的方面可能不同。其次，即使已經(jīng)確定相關(guān)公正考慮因素，也會(huì)缺少嚴(yán)格的算法方法將公正原則完全納入決策。如可能存在數(shù)據(jù)約束；缺少可用的必要數(shù)據(jù)；技術(shù)限制，如相關(guān)類型的公正因素在數(shù)學(xué)上或統(tǒng)計(jì)上不可表示；流程限制，如公正因素要求人們對(duì)決定負(fù)責(zé)。因此，我們不得不提出以下問(wèn)題：公正因素如何并在何種程度上可以通過(guò)算法得以實(shí)現(xiàn)？在許多情況下，在人工智能中實(shí)現(xiàn)公正需要開發(fā)基于公正原則的技術(shù)系統(tǒng)。人工智能系統(tǒng)可為大學(xué)錄取決策提供支持，或?yàn)閷I(yè)醫(yī)療人員提供診斷支持。這些系統(tǒng)甚至有助于減少這些過(guò)程中出現(xiàn)的偏見(jiàn)，但不可能復(fù)制或替代該過(guò)程。且出于流程、認(rèn)可或相關(guān)公正原因，或者因?yàn)閲L試使用或收集必要數(shù)據(jù)會(huì)出現(xiàn)問(wèn)題，這些過(guò)程可能完全拒絕使用人工智能或大數(shù)據(jù)方法，即使此類方法更為準(zhǔn)確或高效。如即使有可能建立更準(zhǔn)確的（在有罪/無(wú)罪判定方面）算法系統(tǒng)，為了實(shí)現(xiàn)公正，刑事司法系統(tǒng)仍然需要陪審員。對(duì)公正人工智能的承諾包括接受人工智能方法有時(shí)可能存在不公正。因此，除技術(shù)能力和專業(yè)知識(shí)外，致力于實(shí)現(xiàn)公正的人工智能和數(shù)據(jù)分析的組織需要強(qiáng)大的組織能力和流程來(lái)實(shí)現(xiàn)承諾，不能完全依賴技術(shù)解決方案或在其他情境中制定的標(biāo)準(zhǔn)。人工智能和大數(shù)據(jù)中的公正：關(guān)鍵要點(diǎn)公正基于所有人擁有平等價(jià)值和政治地位的基本價(jià)值觀。人工智能和數(shù)據(jù)分析不應(yīng)引起或延續(xù)不公正現(xiàn)象，而應(yīng)盡一切努力促進(jìn)公正原則的實(shí)現(xiàn)。明確人工智能中公正的明確規(guī)范內(nèi)容，即公正承諾意味著什么，需要清楚地闡明必須告知自動(dòng)決策系統(tǒng)的公正因素或原則。公正原則的需求多種多樣，并且和具體情境密切相關(guān)。最重要的公正原則和因素通常取決于組織的使命、產(chǎn)品/服務(wù)以及該原則適用的情境。確定最為突出的公正原則和因素需要了解與具體情境相關(guān)的專業(yè)知識(shí)，如人工智能/數(shù)據(jù)倫理專業(yè)知識(shí)、組織治理以及技術(shù)和技術(shù)-社會(huì)系統(tǒng)專業(yè)知識(shí)。同樣，遭遇不公正的人員的觀點(diǎn)也至關(guān)重要。人工智能和數(shù)據(jù)分析中通常缺少用于實(shí)現(xiàn)公正原則的嚴(yán)格的技術(shù)或算法方法，因?yàn)檫@需要對(duì)價(jià)值觀敏感的技術(shù)和技術(shù)-社會(huì)（或人機(jī)）系統(tǒng)設(shè)計(jì)、監(jiān)督和審查。在人工智能和數(shù)據(jù)分析中實(shí)現(xiàn)公正原則是一個(gè)協(xié)作和持續(xù)的過(guò)程，需要強(qiáng)化組織能力。四、人工智能和機(jī)器學(xué)習(xí)中的透明度為評(píng)估一個(gè)決策系統(tǒng)是否公正或公平，以及決策者是否要承擔(dān)責(zé)任，通常需要理解該決策系統(tǒng)的工作內(nèi)容及工作模式。因此，遵循透明度的原則應(yīng)首先理解公正和可說(shuō)明性的概念，例如，確保決策主體能夠充分理解算法系統(tǒng)。算法決策令人擔(dān)憂的一點(diǎn)是，許多系統(tǒng)都是“黑箱子”，即這些系統(tǒng)的決策模式有時(shí)完全不透明，甚至對(duì)系統(tǒng)的構(gòu)建者也不透明。如果算法決策系統(tǒng)是一個(gè)黑箱子，那么受系統(tǒng)決策影響的各方將無(wú)法評(píng)估自己是否得到公平對(duì)待，同時(shí)系統(tǒng)用戶也無(wú)法了解該系統(tǒng)是否實(shí)現(xiàn)其有關(guān)公正的承諾。雇傭和解雇決定的當(dāng)事人、假釋決定的當(dāng)事人等通常很樂(lè)于理解如何制定決策或如何設(shè)計(jì)其所使用的產(chǎn)品。由于黑箱算法可能對(duì)實(shí)現(xiàn)公正和其他重要價(jià)值造成障礙，出于對(duì)算法決策不透明的擔(dān)憂，人們呼吁算法決策的透明度。然而透明度也同公正原則一樣有很多含義。把透明度需求轉(zhuǎn)化為對(duì)算法決策系統(tǒng)設(shè)計(jì)和使用的指導(dǎo)，需要明確透明度在具體情境下產(chǎn)生重要影響的原因，需要保持透明的對(duì)象，及為履行這些義務(wù)采取何種形式。（一）透明度背后的價(jià)值觀和概念透明決策對(duì)于實(shí)現(xiàn)各種價(jià)值觀和觀念至關(guān)重要，有時(shí)甚至必不可少。公正原則就是一個(gè)很好的例子。缺乏透明度有時(shí)會(huì)阻礙決策主體，如貸款申請(qǐng)人或假釋申請(qǐng)人，確定自己是否真的受到尊重和公平對(duì)待。在許多情況下，決策者需要考慮決策主體的具體情況。對(duì)決策者而言，傾聽(tīng)別人的意見(jiàn)、嘗試?yán)斫馄溆^點(diǎn)并在做決定時(shí)認(rèn)真考慮這些觀點(diǎn)至關(guān)重要。未考慮他人具體情況就單方面做出對(duì)他人產(chǎn)生重大影響的決定，往往是不尊重或缺乏充分考慮的行為。例如，當(dāng)假釋裁決委員會(huì)決定是否批準(zhǔn)假釋時(shí)，決策對(duì)象有權(quán)了解決策者已經(jīng)做出努力來(lái)了解各種細(xì)節(jié)，并在做決定時(shí)將這些細(xì)節(jié)考慮在內(nèi)。除有助于實(shí)現(xiàn)公正，透明度還可在執(zhí)行其他概念和落實(shí)價(jià)值觀方面發(fā)揮重要作用。合規(guī)性合規(guī)性是與尊重法律這一價(jià)值觀相聯(lián)系的規(guī)范概念。在缺乏透明度的決策系統(tǒng)中，可能會(huì)很難確定某個(gè)系統(tǒng)或模型是否符合適用的法律、法規(guī)、行為準(zhǔn)則或其他道德規(guī)范。如果再犯預(yù)測(cè)系統(tǒng)、定向廣告系統(tǒng)或約會(huì)應(yīng)用程序排名系統(tǒng)完全不透明，那么就無(wú)法判斷該系統(tǒng)是否在決策中存在種族或民族偏見(jiàn)，也就不可能判斷該系統(tǒng)是否符合反歧視法或公正原則要求。因此，透明度通常是合理或重要要求，因?yàn)榭赏ㄟ^(guò)透明度確定系統(tǒng)是否滿足法律和道德義務(wù)。自主是與尊重個(gè)人的價(jià)值觀相聯(lián)系的規(guī)范概念。賦予自主權(quán)意味著允許人們?cè)谥榈那闆r下做出決定，尤其是當(dāng)這些決定對(duì)人們的生活前景可能產(chǎn)生重大影響時(shí)。如果決策系統(tǒng)不夠透明，決策主體將難以采用系統(tǒng)決策來(lái)指導(dǎo)未來(lái)行為或選擇。如果決策主體在貸款、工作、入學(xué)或社會(huì)服務(wù)中遭到拒絕時(shí)，無(wú)法得知原因或者如何獲得更令人滿意的結(jié)果，他們將很難確定未來(lái)將如何重新申請(qǐng)相關(guān)資格。因此，透明度的價(jià)值往往體現(xiàn)在可以告知決策主體如何改變行為并賦予相關(guān)權(quán)利，從而影響他們關(guān)于未來(lái)生活軌跡的決定。認(rèn)知是以理解為基礎(chǔ)的規(guī)范概念，有助于更好地理解這個(gè)世界以及我們?cè)谄渲兴幍奈恢?。算法系統(tǒng)在某些情況下可用于揭示大數(shù)據(jù)集中的隱含模式。即使我們?nèi)匀徊磺宄@些模式，或不了解形成或解釋這些模式的潛在機(jī)制，它們?nèi)钥蓞f(xié)助診斷或制定治療方案。這些領(lǐng)域的相關(guān)認(rèn)知不僅可以幫助從業(yè)者通過(guò)干預(yù)實(shí)現(xiàn)更好的結(jié)果，還可以促成關(guān)于某個(gè)領(lǐng)域的新理解、新見(jiàn)解，及新治療方案。因此，透明度的價(jià)值往往體現(xiàn)在它使新發(fā)現(xiàn)成為可信任信任是與發(fā)展良好關(guān)系等各種基本價(jià)值觀相關(guān)的規(guī)范概念。信任基于透明度原則，因?yàn)橥该鞫扔兄诮⑿湃?。為充分發(fā)揮算法工具的優(yōu)勢(shì)，從醫(yī)學(xué)到路線繪制系統(tǒng)的利益相關(guān)者必須信任這些系統(tǒng)本身，及其對(duì)自己的生活行使權(quán)力的各種方式。如果不理解這些系統(tǒng)決策的方式和原因，利益相關(guān)者不太可能接受并使用這些技術(shù)及決策。因此，透明度的價(jià)值往往體現(xiàn)在有助于促進(jìn)人們對(duì)決策系統(tǒng)的信任。（二）具體說(shuō)明透明度承諾正如透明度原則的基礎(chǔ)是公正等諸多概念，提高決策系統(tǒng)透明度的方法也多種多樣。因此，關(guān)于透明度的承諾也有很多形式，比如對(duì)算法決策系統(tǒng)可解讀性的承諾，對(duì)算法決策可解釋性的承諾，或者對(duì)此類決策可說(shuō)明性的承諾。例如，如果技術(shù)專家或決策主體能夠理解系統(tǒng)的個(gè)體決策或行為，我們就可以認(rèn)為該系統(tǒng)具備透明性，比如一位計(jì)算機(jī)科學(xué)家也許能夠解釋用于設(shè)定保險(xiǎn)費(fèi)率的算法決策系統(tǒng)對(duì)年齡或駕駛經(jīng)驗(yàn)等因素的敏感性。一種更廣泛的透明度形式是，即使某些決策系統(tǒng)本身不夠透明，我們也要確保使用這些決策系統(tǒng)的原因的透明性。可通過(guò)以下方法理解關(guān)于透明度的共同承諾：可解讀性為保證算法決策的透明度，經(jīng)常提到的方法之一是要求算法決策系統(tǒng)具備可解讀性。例如，因?yàn)橐蕾嚮诖笠?guī)模數(shù)據(jù)集的模型或多層模型，一些算法系統(tǒng)非常復(fù)雜，以至于數(shù)據(jù)和計(jì)算機(jī)科學(xué)家自己也無(wú)法以精確的方式確定如何將系統(tǒng)輸入轉(zhuǎn)化為輸出。此外，系統(tǒng)的可解讀性與上述許多價(jià)值觀有關(guān)。例如，如果某系統(tǒng)無(wú)法解讀，系統(tǒng)所依賴的基礎(chǔ)推理模式將面臨嚴(yán)重障礙，且該系統(tǒng)可能無(wú)法保證符合某些規(guī)范。無(wú)論如何，并非所有人工智能和機(jī)器學(xué)習(xí)系統(tǒng)都不可解讀，計(jì)算機(jī)和數(shù)據(jù)科學(xué)家正在全力開發(fā)可用工具，以恢復(fù)黑箱系統(tǒng)的可解讀性。可解釋性關(guān)于透明度的另一種承諾是要求算法決策系統(tǒng)具備可解釋性。當(dāng)一個(gè)決策系統(tǒng)可以向利益相關(guān)者提供決策、行為或結(jié)果合理化的解釋時(shí)，我們認(rèn)為該決策系統(tǒng)具備可解釋性，但一個(gè)可解釋系統(tǒng)并不一定產(chǎn)生該層面上可解釋的輸出；知道支持系統(tǒng)決策的推論也并不總是有助于證明系統(tǒng)決策的合理性?？山忉屝允菍?shí)現(xiàn)上述價(jià)值觀的必要條件。決策主體通常需要知道系統(tǒng)做出與他們有關(guān)的決策的原因或考慮因素，以確定他們是否受到尊重或是否可以信任決策者。此外，可解釋性對(duì)于確保系統(tǒng)能夠遵守法律和倫理規(guī)范往往也至關(guān)重要。合理模糊為確?？山庾x性或可解釋性而保持透明度的行為有時(shí)會(huì)犧牲系統(tǒng)的準(zhǔn)確性，也就是說(shuō)，有時(shí)需要在系統(tǒng)準(zhǔn)確性和可解讀性之間進(jìn)行權(quán)衡，而且這種權(quán)衡并非在所有情況下都具備合理性，如在某些情況下，實(shí)現(xiàn)最大化的準(zhǔn)確性可能比確保算法決策系統(tǒng)的可解讀性或可解釋性更為重要。即便如此，關(guān)于透明度的廣泛承諾仍有助于實(shí)現(xiàn)信任等核心概念。如患者可能更愿意接受更加準(zhǔn)確的工具，即便這種工具不具備可解讀性或可解釋性。在這種情況下，盡管采用的系統(tǒng)不具備透明性，確保采用該系統(tǒng)的原因透明，便可以用來(lái)合理說(shuō)明其他形式的不透明?？蓪彶樾躁P(guān)于透明度的最后一種承諾是可審查性。通過(guò)定期審查部分決策集或基于在決策中觀察到的特定模式來(lái)確定核心價(jià)值是否實(shí)現(xiàn)，我們有可能對(duì)系統(tǒng)進(jìn)行評(píng)估。例如，雖然為自動(dòng)駕駛汽車系統(tǒng)做出的每項(xiàng)決策提供解釋可能并不可行，但審查可以解釋某些特定決策，而這對(duì)增加信任可能至關(guān)重要。審查程序的優(yōu)點(diǎn)之一是，它們不僅能夠確保算法決策的透明度，還能確保融合算法的更廣泛系統(tǒng)的透明度。精心構(gòu)建的審查流程可以在很大程度上保證決策系統(tǒng)值得信賴、可靠并且符合要求。從透明度原則到適當(dāng)承諾，最終到特定環(huán)境下的可衡量規(guī)范，這一過(guò)程包括確定在決策環(huán)境中需要實(shí)現(xiàn)的核心概念和需要遵循的透明度原則，以及最能體現(xiàn)這一原則的具體透明度承諾。提高系統(tǒng)的可解釋性可能有助于最大限度地減少安全問(wèn)題，但對(duì)增加信任或提供關(guān)于尊重個(gè)人的證據(jù)卻收效甚微。在使用模糊算法審查產(chǎn)品組合的低風(fēng)險(xiǎn)健康診斷工具是能夠?yàn)榛颊叩哪承┘膊√峁┛煽吭\斷的一種工具，但是這種工具的診斷失敗成本較低。在這種情況下，透明度原則源于以健康和良好關(guān)系價(jià)值觀為基礎(chǔ)的健康、可靠和安全概念。因?yàn)檫@里的透明度以這些核心概念為基礎(chǔ)，適當(dāng)?shù)耐该鞫仁侵赋兄Z在系統(tǒng)準(zhǔn)確性方面能夠證明使用不透明系統(tǒng)的合理性，并承諾對(duì)診斷結(jié)關(guān)鍵要點(diǎn)不透明妨礙實(shí)現(xiàn)公正等各種價(jià)值觀和核心倫理觀念。為克服這些障礙制定透明度標(biāo)準(zhǔn)，需要認(rèn)識(shí)到透明度在特定環(huán)境中能產(chǎn)生價(jià)值或重要影響。制定透明度標(biāo)準(zhǔn)還需確定在可解讀性、可解釋性、合理模糊或可審查性中，何種承諾是在特定情境中實(shí)現(xiàn)相關(guān)價(jià)值觀和概念的必要和充分條件。滿足透明度標(biāo)準(zhǔn)并不是要求所有人任何時(shí)候都能夠了解如何制定各項(xiàng)決定。在某些情況下，過(guò)高的透明度不僅沒(méi)有必要，而且會(huì)損害系統(tǒng)的效率、準(zhǔn)確性等其他重要價(jià)值。五、結(jié)論在人工智能和大數(shù)據(jù)使用方面，一般性的倫理承諾現(xiàn)在已經(jīng)司空見(jiàn)慣。實(shí)現(xiàn)這些承諾的第一步是采用原則、價(jià)值聲明、框架和準(zhǔn)則，闡明負(fù)責(zé)任的開發(fā)和使用所包含的內(nèi)容。不過(guò)，如果這些概念和原則將要產(chǎn)生實(shí)質(zhì)性影響，即如果它們不再僅僅是理論和愿望，那么相關(guān)組織不應(yīng)只對(duì)價(jià)值觀和承諾泛泛而談，而應(yīng)明確說(shuō)明規(guī)范概念如何體現(xiàn)基本價(jià)值觀，何種原則能夠體現(xiàn)這些概念，這些原則關(guān)于特定用例的具體承諾是什么，以及這些組織最終將如何具體評(píng)估承諾是否履行。我們經(jīng)常聽(tīng)到一些組織聲稱自己支持公正和透明，但真正艱巨的任務(wù)是明確這些承諾對(duì)它們的意義，并且在實(shí)踐中實(shí)現(xiàn)這些承諾。在人工智能和數(shù)據(jù)倫理方面，從一般性承諾轉(zhuǎn)向?qū)嵸|(zhì)性具體承諾，該過(guò)程具有復(fù)雜性。而這種復(fù)雜性主要來(lái)自以下三個(gè)關(guān)鍵因素：公正和透明度等倫理概念往往具有多種意義和含義；何種倫理概念具備可操作性或