平衡發(fā)展的人工智能治理白皮書 -商湯人工智能倫理治理年度報告

——商湯人工智能倫理治理年度報告 (2022年)人工智能倫理與治理委員會2 一、人工智能發(fā)展與治理概述 6二、商湯的人工智能治理思考 10三、商湯的人工智能治理理念 13四、商湯的人工智能治理目標(biāo) 16五、商湯的人工智能治理實踐 18六、合乎倫理的產(chǎn)品設(shè)計實踐 263【關(guān)于商湯】斷增強行業(yè)領(lǐng)先的全棧式人工智能能力，涵蓋感知智能、決策智能、4，理原則嵌入到產(chǎn)品設(shè)計、開發(fā)、的人工智能。5【關(guān)于本報告】的6則跳出了當(dāng)前人的認(rèn)知邊界，引發(fā)更多有關(guān)治理的探討”——商湯信任挑戰(zhàn)。7理至今已經(jīng)走過了三個階段：資料來源：商湯智能產(chǎn)業(yè)研究院家紛紛跟進，均在不同程度開展了監(jiān)管人工智能相關(guān)技術(shù)及8據(jù)經(jīng)合組織(OECD)的統(tǒng)計3，全球已有60余個國家提出了工智能治理如何落地實施的倡議日益增多。在政府側(cè)，2022盟委員會發(fā)布了第一個人工智能監(jiān)管沙箱的試點計劃。在市g(shù)ymediaandtelecom9圖2人工智能治理落地應(yīng)重點關(guān)注“三組關(guān)系”資料來源：商湯智能產(chǎn)業(yè)研究院受其調(diào)研的組織發(fā)布了或公開認(rèn)可了人工智能倫理的共同原則，但只有不到四分之一的組織將其付諸實施。人工智能倫理與現(xiàn)有組織結(jié)構(gòu)的融合問題。人工智能治理工作涉及信息安全、數(shù)據(jù)治理等與現(xiàn)有組織結(jié)構(gòu)重疊的領(lǐng)域，職責(zé)交叉、工作范圍難以厘清等問題在組織層面對推動落地實踐形成了角不同、慮以下四方面：一是政策制定應(yīng)考慮產(chǎn)業(yè)、技術(shù)應(yīng)用的動態(tài)httpswwwibmcomdownloadscasVQZGKAE少的誤解，有些用戶會將暫時的技術(shù)問題定義為長期性的治者相信企業(yè)在開發(fā)和部署新技術(shù)時是負(fù)責(zé)任且合乎倫理的，二、商湯的人工智能治理思考httpswwwibmcomdownloadscasVQZGKAE要來自數(shù)據(jù)、算法和應(yīng)用管理三個層面，具體來說：護、數(shù)據(jù)治理與數(shù)據(jù)質(zhì)發(fā)、測試、運行過程中存在的隱私侵犯問題，這一類問題是當(dāng)前人工智能應(yīng)用需要解決的關(guān)鍵問題之一。數(shù)據(jù)質(zhì)量風(fēng)險是指用于人工智能的訓(xùn)練數(shù)據(jù)集以及采集的現(xiàn)場數(shù)據(jù)可能會存在的質(zhì)量問題，以及導(dǎo)致相應(yīng)的不良影響，這也是人工智能特有的一類數(shù)據(jù)風(fēng)險問題。數(shù)據(jù)安全風(fēng)險是指人工智能開代表。算法“黑箱”風(fēng)險主要指因采用復(fù)雜神經(jīng)網(wǎng)絡(luò)的算法算法安全風(fēng)險是指因模型參數(shù)泄露或被惡意修改、容錯率與倫理沖突、勞動競爭等器在自我學(xué)習(xí)過程中輸入了數(shù)據(jù)的多維不同特征，而造成算法將偏見引入決策過程的算法歧視風(fēng)險；因算法設(shè)計者出于自身的利益，對用戶進行不良誘導(dǎo)、過度依賴算法本身、盲能在長期對于就業(yè)的負(fù)面影響，加劇不正當(dāng)競爭與市場支配現(xiàn)由低至高，可分為可用、可靠、可控、可信四個層次。。圖3人工智能治理的“分層目標(biāo)”資料來源：商湯智能產(chǎn)業(yè)研究院三、商湯的人工智能治理理念模倫受人類控制，相應(yīng)地，其人工智能應(yīng)用導(dǎo)致的倫理責(zé)任也應(yīng)由其控制者(人類)承擔(dān)。續(xù)發(fā)展，崇尚開放及包容合作，積極探索創(chuàng)新及可持續(xù)的人客觀中立、具有整體的最小必要原則，特別是對個人敏感信息的處理應(yīng)基于個人信息主體的明示同下可以無故障地實現(xiàn)特的算法模型，應(yīng)向用戶提供清晰、易懂、充分的產(chǎn)品運行機制說明，并明確告知用在同等或近似的條件下的權(quán)利義務(wù)，應(yīng)具備相關(guān)機制實現(xiàn)對輸出結(jié)果背后的模型和治理目標(biāo)“AI倫理風(fēng)險的邊界和核心要求是發(fā)展負(fù)責(zé)任的人工智能。在：分尊重、適應(yīng)不同社會文應(yīng)當(dāng)充分考慮對自然環(huán)境部署前應(yīng)當(dāng)通過充分的倫命周期及相應(yīng)的治理過程命周期中對人工智能治理(一)組織建設(shè)商湯是業(yè)界最先組建人工智能倫理與治理委員會并將倫理治理關(guān)配套管理制度。資料來源:商湯科技工作職責(zé)。(二)機制建設(shè)能數(shù)E產(chǎn)品安全、產(chǎn)品。益、市場公平、公共安全和生態(tài)安全具有間接或潛在重要影資料來源:商湯智能產(chǎn)業(yè)研究院。(三)工具建設(shè)和輸和處置)限于所確定的必須的目的。括：ISO/IEC27001:2013信息安全管理體系國際認(rèn)證、ISO/IEC27701:2019個人隱私信息管理體系(PIMS)標(biāo)準(zhǔn)認(rèn)證、ISO/IEC以達到要求的水平。資料來源:商湯科技(四)文化建設(shè)我們深刻地認(rèn)識到發(fā)展負(fù)責(zé)任且可評估人工智能的關(guān)鍵還在于關(guān)(五)生態(tài)建設(shè)chSDG家庭消費級人工智能產(chǎn)品——“元蘿卜SenseRobot”AI下棋機器器資料來源：商湯科技官網(wǎng)下棋對弈過程中的運行順暢和落