可信AI治理框架思考

可信AI治理框架思考

-1-AI，是機(jī)遇還是風(fēng)險(xiǎn)？AI倫理挑戰(zhàn)類型機(jī)器倫理：機(jī)器可能遵循不恰當(dāng)?shù)囊?guī)則或錯誤解讀過程或情況，作出錯誤決策亞馬遜：2014年至2017年使用的招聘軟件歧視女性求職者谷歌：用戶性別設(shè)置為女性，導(dǎo)致收到的高薪職位推薦廣告減少信息倫理：黑客操縱或使用錯誤數(shù)據(jù)；“透明公民”或“透明患者”勞動倫理：用機(jī)器勞動代替人力勞動-3-示例AI倫理原則鑒于這些恐懼和挑戰(zhàn)，我們需要努力建立可信的、符合倫理的AIAI倫理原則示例：OECD人工智能原則（于2019年5月簽署通過）OECD專家組36個OECD成員以及阿根廷、巴西、哥倫比亞、哥斯達(dá)黎加、秘魯和羅馬尼亞AI應(yīng)公平、透明、可追責(zé)公司就系統(tǒng)如何運(yùn)作披露足夠信息指引不具有法律約束力計(jì)劃2019年啟動AI政策觀察站-5-AI倫理原則示例：IEEEIEEE關(guān)于自主智能系統(tǒng)的倫理準(zhǔn)則全球倡議書《人工智能設(shè)計(jì)的倫理準(zhǔn)則》（EthicallyAlignedDesign，2019年發(fā)布）一般原則人權(quán)、福祉、數(shù)據(jù)控制權(quán)、有效性、透明性、可追責(zé)、謹(jǐn)慎使用、勝任能力對不道德系統(tǒng)的道德觀的廣泛倫理和哲學(xué)思考自主智能系統(tǒng)的倫理認(rèn)證計(jì)劃（ECPAIS）-6-AI倫理原則示例：中國的隱私相關(guān)法規(guī)（截至2019年）多層次的數(shù)據(jù)隱私規(guī)則網(wǎng)絡(luò)安全法消費(fèi)者權(quán)益保護(hù)法刑法修正案（九）全國人大的決定-7-AI倫理原則歐洲倡議示例人工智能高級專家組（AIHLEG）由52名專家組成的專家組將發(fā)布其關(guān)于AI倫理使用的廣泛指引的最終版本新興AI技術(shù)倫理路標(biāo)AI4People：

多利益相關(guān)方論壇（學(xué)術(shù)界、行業(yè)和民間團(tuán)體），12名專家組成的科學(xué)委員會“良好AI社會”的基本原則、策略和實(shí)踐——三年路標(biāo)（關(guān)于治理的第二部分定稿）-8-AI倫理原則AI4People的AI使用核心原則：以人為本有利促進(jìn)福祉、維持尊嚴(yán)和維護(hù)地球不傷害確保隱私、安全和“能力謹(jǐn)慎性”（未來AI能力的上限）自主在我們自己保留的決策權(quán)和委托AI的決策權(quán)之間尋求平衡公正創(chuàng)造共享（或可以分享）的利益，維護(hù)團(tuán)結(jié)可解釋性通過可理解性和可追責(zé)實(shí)現(xiàn)其他原則12345-9-AI倫理原則HLEG的AI使用核心原則部分方法倫理和法治設(shè)計(jì)：遵守法律和倫理準(zhǔn)則可信AI架構(gòu)：將“可信”轉(zhuǎn)化為過程（通過規(guī)則或行為邊界控制AI行為）測試和驗(yàn)證：對模型的監(jiān)控（系統(tǒng)的健壯性、穩(wěn)定性和理解以及可預(yù)測的界限）決策必須合理可追溯性和可審計(jì)性：AI應(yīng)記錄決策和過程解釋（可解釋性AI研究）-10-AI倫理原則公共與私有責(zé)任：自動駕駛《德國自動駕駛倫理準(zhǔn)則》確定的對公司最重要的問題：AI系統(tǒng)許可：國家責(zé)任，包括（定期）系統(tǒng)測試責(zé)任問題：將責(zé)任轉(zhuǎn)移給公司的國家責(zé)任，事后公司責(zé)任困境情況：沒有基于個人特征的區(qū)分?jǐn)?shù)據(jù)安全：公司責(zé)任數(shù)據(jù)保護(hù)問題：公司遵從歐洲《一般數(shù)據(jù)保護(hù)條例》（GDPR）的責(zé)任-11-慕尼黑工業(yè)大學(xué)（TUM）人工智能倫理研究所慕尼黑工業(yè)大學(xué)獨(dú)立研究所，成立于2019年學(xué)術(shù)界與行業(yè)新合作形式的平臺跨學(xué)科串聯(lián)項(xiàng)目群工程和信息學(xué)倫理學(xué)、法律、社會科學(xué)Facebook提供750萬美元支持尋找更多的合作伙伴獨(dú)立咨詢委員會正式啟動：10月7日“負(fù)責(zé)任的人工智能”會議：2020年秋-12-公司的AI倫理方法和示例公司面臨AI公平和偏見的挑戰(zhàn)采用各種公平形式，防止此類算法基于受法律保護(hù)的某些屬性進(jìn)行系統(tǒng)地歧視（Gajane&Pechenizkiy，2018年）Zhong總結(jié)的6類AI公平性（2018年）1、不感知（Unawareness）：AI訓(xùn)練或決策過程中未使用任何敏感數(shù)據(jù)2、人口平等（DemographicParity）：沒有基于人口統(tǒng)計(jì)的不利條件3、均衡賠率（EqualizedOdds）：每一組/每個樣本在人工智能處理時應(yīng)顯示同等的結(jié)果4、預(yù)測率校驗(yàn)（PredictiveRateParity）：預(yù)測算法得分應(yīng)保持一致并且反映現(xiàn)實(shí)5、個體公平（IndividualFairness）：相似個體應(yīng)該得到相似待遇6、反事實(shí)的公平性（Counterfactualfairness）：幫助識別和消除算法偏見-14-AI的公平性定義公司面臨AI公平和偏見的挑戰(zhàn)公司往往不能或不想公布他們的算法是如何作出決策的也稱為黑盒問題反事實(shí)解釋通過找到輸入變量的最小可能變化來幫助理解黑盒，這會導(dǎo)致模型預(yù)測不同的結(jié)果使用反事實(shí)可以重現(xiàn)決策的過程，從而揭示算法偏見-15-避免算法偏見的反事實(shí)示例：可解釋AI（XAI）來源：/2018/05/30/opening-up-black-boxes-with-explainable-ai/-16-示例：實(shí)現(xiàn)AI倫理的行動步驟數(shù)據(jù)安全AI需要數(shù)據(jù)，并且通常是相當(dāng)敏感的數(shù)據(jù)。公司必須保護(hù)自身免受數(shù)據(jù)泄露，并使用最先進(jìn)的數(shù)據(jù)安全措施。此外，未經(jīng)消費(fèi)者許可，不得出售數(shù)據(jù)（例如，劍橋分析丑聞）反事實(shí)公司應(yīng)該利用反事實(shí)等方法避免算法偏見（例如，谷歌的What-If工具）數(shù)據(jù)偏見通常，訓(xùn)練集會引入人的偏見。更多的數(shù)據(jù)分析師應(yīng)該探索數(shù)據(jù)集來消除偏見。如IBM的可信AI工具包透明度使用AI的公司應(yīng)公開其努力，以保證倫理行為-17-公司的AI倫理-18-來源：CapgeminiResearchInstituteAI機(jī)會點(diǎn)HR吸引和發(fā)展新技能改善員工體驗(yàn)高效利用HR預(yù)算擺脫決策者的偏見社交機(jī)器人Matilda用于招聘-19-來源：https://persoblogger.de/2017/12/11/wenn-sich-recruitingroboter-bei-unternehmen-bewerben-generation-robo-in-der-personalauswahl/AI機(jī)會點(diǎn)HR示例-20-AI從員工那里獲得信息，幫助進(jìn)行實(shí)時技能推理，以發(fā)現(xiàn)“隱藏的珍寶”高效、有效的招聘：AI可用于確定求職者簡歷與崗位空缺之間的匹配度，以及預(yù)測未來工作表現(xiàn)吸引高質(zhì)量的求職者，例如，基于自然語言處理的聊天機(jī)器人幫助潛在求職者獲得信息AI系統(tǒng)可以通過生成針對職位角色和技能集定制的學(xué)習(xí)建議來支