AI安全研究白皮書

?2023云安全聯(lián)盟大中華區(qū)版權(quán)所有?2023云安全聯(lián)盟大中華區(qū)版權(quán)所有 4 6 7 9 10 10 27 37 37 59 94 94 97 99 101 104 107 109 128 128 133 142在確保數(shù)據(jù)可用性的前提下，創(chuàng)造價(jià)值，改變世界。安全白皮書》的學(xué)習(xí)，對(duì)于企業(yè)全面地建立2AI賦能安全2.1AI賦能安全2.1.1AI賦能漏洞挖掘第三階段，結(jié)合動(dòng)態(tài)測(cè)試技術(shù)，90年代開始的黑），放眼國(guó)內(nèi)，近年來(lái)我國(guó)信息安全體系日趨完善，2017年印工智能發(fā)展規(guī)劃》，標(biāo)志著我國(guó)人工智能發(fā)展然語(yǔ)言識(shí)別處理等領(lǐng)域創(chuàng)新”視為新一代人工智者腳本語(yǔ)言，從而識(shí)別出可疑的匯編代碼序列，進(jìn)測(cè)試程序進(jìn)行反饋，迭代模糊測(cè)試的輸入生成策2.1.2AI賦能安全防御2.1.2.1人工智能應(yīng)用于網(wǎng)絡(luò)安全防御的特點(diǎn)2.1.2.2人工智能在網(wǎng)絡(luò)安全防御中的應(yīng)用過(guò)人工智能技術(shù)實(shí)現(xiàn)自動(dòng)化漏洞發(fā)現(xiàn)與修復(fù)，對(duì)歷史數(shù)據(jù)的分析和預(yù)測(cè)，預(yù)警未來(lái)可能出現(xiàn)的2.1.2.3人工智能在網(wǎng)絡(luò)安全防御中的挑戰(zhàn)歸、支持向量機(jī)、貝葉斯等機(jī)器學(xué)習(xí)算法的應(yīng)用，也在現(xiàn)。受限于篇幅，同時(shí)也從時(shí)效性的角度出發(fā)，本節(jié)將對(duì)近些年來(lái)更為流行的簽名和基于規(guī)則的方式外，也都可以采用機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等AI技術(shù)，即基且AI模型可以通過(guò)使用新樣本進(jìn)行迭代訓(xùn)練而實(shí)現(xiàn)自動(dòng)更新優(yōu)化，避免了規(guī)則應(yīng)用廣泛。一方面，可以采用不同的AI技術(shù)構(gòu)建統(tǒng)計(jì)基線以用于異常檢測(cè)，包括面向單數(shù)值特征的數(shù)值分布區(qū)間、正態(tài)分布擬合及3σ準(zhǔn)則等，面向時(shí)間序列類型的惡意流量，如信息熵、可見(jiàn)字符占比、參數(shù)個(gè)數(shù)及意義分值、base64編（3）針對(duì)流量數(shù)據(jù)直接構(gòu)建基于深度學(xué)習(xí)的分類檢測(cè)模型。類似于惡意代成灰度圖像的樣式，然后采取CNN等深度學(xué)習(xí)算法進(jìn)行建模而無(wú)需進(jìn)行單獨(dú)的也無(wú)法使用正則表達(dá)式等規(guī)則匹配的方式進(jìn)行精準(zhǔn)識(shí)別。本小節(jié)對(duì)一些AI賦能對(duì)于DGA算法生成的惡意域名，或者仿冒的釣魚網(wǎng)站域名等場(chǎng)景，由于其域名本身包含較為豐富的特征，所以可基于域名字符串提取一系列特征以構(gòu)建結(jié)果、解析請(qǐng)求的時(shí)間及IP分布等，基于有監(jiān)督機(jī)器學(xué)習(xí)算法可以構(gòu)建更精準(zhǔn)多特征，包括頁(yè)面的文本內(nèi)容及圖片元素、內(nèi)嵌的JS代碼等，然后構(gòu)建相應(yīng)的很多來(lái)源的漏洞描述信息是以非結(jié)構(gòu)化文本形式呈現(xiàn)的，包括CVE、臨多項(xiàng)技術(shù)挑戰(zhàn)1）由于軟件名稱和軟件版本等相關(guān)情報(bào)信息的多樣性，基于字典和正則表達(dá)式的方案難以實(shí)現(xiàn)高精確率和高召回率2）漏洞描述信息理算法難以駕馭3）需要在提取有價(jià)值情報(bào)的同時(shí)排除文本中無(wú)關(guān)的實(shí)體，嵌入向量、文檔嵌入向量等AI技術(shù)將一篇文檔表示為多維向量，然后使用余弦2.2AI伴生安全AI衍生安全影響AI的合規(guī)使用，還涉及人身安全、隱私保護(hù)、人工智能內(nèi)生安全指AI技術(shù)的脆弱性、對(duì)數(shù)據(jù)的依賴性等自身缺陷原因而AI技術(shù)近幾年的快速發(fā)展依賴于深度學(xué)習(xí)算法、算力和數(shù)據(jù)。圖4OWASP機(jī)器學(xué)習(xí)安全風(fēng)險(xiǎn)TOP10框架和三方包中存在漏洞，就會(huì)被引入模型，這幾年，關(guān)于AI框架與組件的漏洞急速提升，各主流平臺(tái)無(wú)一幸免，漏洞類型神經(jīng)網(wǎng)絡(luò)是通過(guò)“輸入-輸出”對(duì)來(lái)學(xué)習(xí)已知的因果關(guān)系，通過(guò)神經(jīng)網(wǎng)絡(luò)的隱含層義?這些問(wèn)題目前都很難回答，神經(jīng)網(wǎng)絡(luò)如同使用TensorFlow機(jī)器學(xué)習(xí)框架時(shí)，攻擊者一個(gè)重要的原因便是近十幾年來(lái)大數(shù)據(jù)的蓬勃發(fā)展為機(jī)器學(xué)習(xí)等人工智能算法相比于數(shù)據(jù)投毒，通過(guò)對(duì)抗樣本實(shí)施攻擊是近年來(lái)新出現(xiàn)的一種攻擊方法。目標(biāo)攻擊和有目標(biāo)攻擊；從對(duì)抗樣本的形式上來(lái)劃分，全檢測(cè)，在整個(gè)運(yùn)行生命周期重從技術(shù)和管理角度及人工智能衍生安全指人工智能系統(tǒng)因其自身脆弱性被利用而引起其他領(lǐng)域型帶來(lái)的安全問(wèn)題和人工智能武器引發(fā)軍備競(jìng)賽等三個(gè)方面簡(jiǎn)要介紹衍生安全器人中有近50個(gè)安全漏洞可能威脅到人身安全，如果人工智能系統(tǒng)經(jīng)常犯錯(cuò)，新聞則可能引發(fā)更加復(fù)雜的社會(huì)問(wèn)題。AIGC用到的語(yǔ)料和生成的內(nèi)容可能涉及更加頻繁的實(shí)質(zhì)性推進(jìn)工作，包括但不限于：使無(wú)人機(jī)3AI安全的生態(tài)3.1AI安全的監(jiān)管生態(tài)美國(guó)白宮2023年10月30日發(fā)布拜登簽署的《關(guān)于安全、可靠和可信的AI行政命令》，以確保美國(guó)在把握AI的前景和管理其風(fēng)險(xiǎn)方面處于領(lǐng)先地位。作為美政府負(fù)責(zé)任創(chuàng)新綜合戰(zhàn)略的一部分，該行政令以美國(guó)總統(tǒng)之前采取的行動(dòng)為基礎(chǔ)，包括促使15家領(lǐng)軍企業(yè)自愿承諾推動(dòng)安全、可靠和可信的AI發(fā)展的工作。該行政令包含8個(gè)目標(biāo)：（1）建立AI安全的新標(biāo)準(zhǔn)；（2）保護(hù)美國(guó)民眾的隱私；（3）促進(jìn)公平和公民權(quán)利；（4）維護(hù)消費(fèi)者、病患和學(xué)生的權(quán)益；（5）支持勞動(dòng)者；（6）促進(jìn)創(chuàng)新和競(jìng)爭(zhēng)；（7）提升美國(guó)在海外的領(lǐng)導(dǎo)力；（8）確保美國(guó)政府負(fù)責(zé)任且有效地使用AI。美國(guó)《2020年國(guó)家人工智能倡議法案》（NationalAIInitiativeActof2020）頒布于2021年1月，旨在強(qiáng)化和協(xié)調(diào)各聯(lián)邦機(jī)構(gòu)之間的人工智能研發(fā)活動(dòng)，確保美國(guó)在全球人工智能技術(shù)領(lǐng)域的領(lǐng)先地位?！?020年國(guó)家AI倡議法案》通過(guò)將美國(guó)AI計(jì)劃編入法典以幫助增加研究投資、改善計(jì)算和數(shù)據(jù)資源的獲取、設(shè)置技術(shù)標(biāo)準(zhǔn)、建立勞動(dòng)力系統(tǒng)并跟盟友展開合作。其中關(guān)鍵措施.設(shè)立國(guó)家人工智能倡議辦公室，屬于白宮科技政策辦公室，承擔(dān)監(jiān)督和實(shí)施美國(guó)國(guó)家人工智能戰(zhàn)略等職責(zé)。.設(shè)立國(guó)家人工智能咨詢委員會(huì)，委員會(huì)應(yīng)由商務(wù)部部長(zhǎng)任命，代表廣泛跨學(xué)科的學(xué)術(shù)機(jī)構(gòu)、私營(yíng)企業(yè)、非盈利機(jī)構(gòu)等，并就人工智能相關(guān)事項(xiàng)向總統(tǒng)和國(guó)家人工智能辦公警示提供建議，幫助美國(guó)保持在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位。.加大人工智能研發(fā)投入，命令聯(lián)邦機(jī)構(gòu)在其研發(fā)任務(wù)中優(yōu)先考慮人工智能投資的方式，保持美國(guó)對(duì)高回報(bào)、基礎(chǔ)性人工智能研發(fā)的長(zhǎng)期且強(qiáng)有力的重視。.開放人工智能資源，要求相關(guān)機(jī)構(gòu)將聯(lián)邦數(shù)據(jù)、模型向美國(guó)人工智能和計(jì)算資源研發(fā)專家、研究人員和產(chǎn)業(yè)開放，增強(qiáng)公眾對(duì)人工智能技術(shù)的信任,提高這些資源對(duì)人工智能研發(fā)專家的價(jià)值,同時(shí)確保數(shù)據(jù)安全、保護(hù)公民自由與隱私權(quán)又不失機(jī)密性。.設(shè)定人工智能治理標(biāo)準(zhǔn)。聯(lián)邦機(jī)構(gòu)將通過(guò)建立適用于不同領(lǐng)域的技術(shù)工業(yè)部門的人工智能發(fā)展指南來(lái)增強(qiáng)公眾對(duì)人工智能系統(tǒng)的信任，幫助聯(lián)邦監(jiān)管機(jī)構(gòu)制定一套人工智能技術(shù)的治理方法。該倡議還要求美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所領(lǐng)導(dǎo)制定人工智能系統(tǒng)的適當(dāng)技術(shù)標(biāo)準(zhǔn)，使其可靠、安全、便捷、可互操作。依據(jù)此法案，美國(guó)白宮科學(xué)技術(shù)政策辦公室（OSTP）宣布成立國(guó)家人工智能倡議辦公室和國(guó)家人工智能咨詢委員會(huì)，并建立或指定一個(gè)機(jī)構(gòu)間委員會(huì)，以更健全完備的組織機(jī)構(gòu)推動(dòng)“國(guó)家人工智能計(jì)劃”實(shí)施。該法案顯示了兩黨對(duì)美國(guó)政府在AI領(lǐng)域長(zhǎng)期努力的大力支持，并將美國(guó)政府現(xiàn)有的許多AI政策和舉措編入法律并加以擴(kuò)展。例如，將美國(guó)AI計(jì)劃確立的5項(xiàng)關(guān)鍵任務(wù)（加大人工智能研發(fā)投入、開放人工智能資源、設(shè)定人工智能治理標(biāo)準(zhǔn)、培養(yǎng)人工智能勞動(dòng)力，以及國(guó)際協(xié)作和保護(hù)美國(guó)人工智能優(yōu)勢(shì)）納入法律，擴(kuò)大2018年成立的人工智能專責(zé)委員會(huì)并使其成為常設(shè)機(jī)構(gòu)，承認(rèn)2020年成立的國(guó)家AI研究所的合法地位，規(guī)定要對(duì)2019年發(fā)布的國(guó)家AI研發(fā)戰(zhàn)略規(guī)劃進(jìn)行定期更新，將白宮2019年指導(dǎo)的關(guān)鍵AI技術(shù)標(biāo)準(zhǔn)活動(dòng)擴(kuò)展至包括美國(guó)《人工智能權(quán)利法案藍(lán)圖》2022年10月美國(guó)白宮科技政策辦公室發(fā)布了《人工智能權(quán)利法案藍(lán)圖：讓自動(dòng)化系統(tǒng)為美國(guó)人民服務(wù)》。該文件目的是支持制定政策，在自動(dòng)化系統(tǒng)的建設(shè)、部署和治理中保護(hù)公民的權(quán)利和促進(jìn)民主價(jià)值。核心內(nèi)容如下：.安全和有效的系統(tǒng)。自動(dòng)化系統(tǒng)應(yīng)該通過(guò)咨詢不同的社區(qū)、利益相關(guān)者和領(lǐng)域?qū)＜?，以確定系統(tǒng)的關(guān)注點(diǎn)、風(fēng)險(xiǎn)和潛在影響。.算法歧視的保護(hù)。系統(tǒng)應(yīng)該以公平的方式使用和設(shè)計(jì)，當(dāng)自動(dòng)化系統(tǒng)導(dǎo)致人們因其種族、膚色、民族、性別（包括懷孕、性別認(rèn)同等）、宗教、年齡、國(guó)籍、殘疾、退伍軍人身份或其他任何法律保護(hù)的分類而受到不合理的待遇或影響時(shí)，就會(huì)發(fā)生算法歧視。.數(shù)據(jù)隱私保護(hù)。系統(tǒng)應(yīng)該通過(guò)內(nèi)置的保護(hù)措施，以免受到濫用數(shù)據(jù)行為的影響，而且應(yīng)該確保用戶應(yīng)該對(duì)關(guān)于自己數(shù)據(jù)的使用方式擁有自主權(quán)。自動(dòng)系統(tǒng)的設(shè)計(jì)者、開發(fā)者和部署者應(yīng)該以適當(dāng)?shù)姆绞讲⒃谧畲蟪潭壬汐@取用戶的同意，并且尊重用戶關(guān)于收集、使用、訪問(wèn)、轉(zhuǎn)移和刪除用戶數(shù)據(jù)的決定。.告知和解釋。自動(dòng)化系統(tǒng)的設(shè)計(jì)者、開發(fā)者和部署者應(yīng)該提供可訪問(wèn)的通俗語(yǔ)言文件，包括對(duì)整個(gè)系統(tǒng)功能和自動(dòng)化所起作用的清晰描述，關(guān)于這些系統(tǒng)使用的告知，負(fù)責(zé)該系統(tǒng)的個(gè)人或組織，應(yīng)當(dāng)對(duì)結(jié)果給出清晰、及時(shí)和可訪問(wèn)的解釋。歐洲歐洲擬議的《人工智能法》主要側(cè)重于加強(qiáng)圍繞數(shù)據(jù)質(zhì)量、透明度、人類監(jiān)督和責(zé)任的規(guī)則。它還旨在解決從醫(yī)療和教育到金融和能源等各個(gè)領(lǐng)域的道德問(wèn)題和實(shí)施挑戰(zhàn)?！度斯ぶ悄芊ā返幕A(chǔ)是一個(gè)分類系統(tǒng)，用來(lái)明確人工智能技術(shù)可能對(duì)個(gè)體的健康和安全或基本權(quán)利構(gòu)成的風(fēng)險(xiǎn)水平。該框架包括四個(gè)風(fēng)險(xiǎn)等級(jí)：不可接受的、高的、有限的和最低的。具有有限和最低風(fēng)險(xiǎn)的人工智能系統(tǒng)，如垃圾郵件過(guò)濾器或視頻游戲等是允許使用的，除了透明度義務(wù)外，沒(méi)有什么要求。而如政府的社會(huì)評(píng)分和公共場(chǎng)所的實(shí)時(shí)生物識(shí)別系統(tǒng)會(huì)被認(rèn)為構(gòu)成不可接受的風(fēng)險(xiǎn)的系統(tǒng)，禁止使用且?guī)缀鯖](méi)有例外。高風(fēng)險(xiǎn)的人工智能系統(tǒng)是被允許的，但開發(fā)者和使用者必須遵守規(guī)定，要進(jìn)行嚴(yán)格的測(cè)試，對(duì)數(shù)據(jù)質(zhì)量進(jìn)行適當(dāng)?shù)挠涗?，并制定詳?xì)的人類監(jiān)督問(wèn)責(zé)框架。被視為高風(fēng)險(xiǎn)的人工智能包括自動(dòng)駕駛汽車、醫(yī)療設(shè)備和關(guān)鍵基礎(chǔ)設(shè)施機(jī)械，以上僅為枚舉。擬議的法案還概述了圍繞所謂的通用人工智能的規(guī)定，這些人工智能系統(tǒng)可用于不同的目的，具有不同程度的風(fēng)險(xiǎn)。此類技術(shù)包括，例如，像ChatGPT這樣的大型語(yǔ)言模型生成型人工智能系統(tǒng)?！度斯ぶ悄芊ā诽岢隽藝?yán)厲的違規(guī)處罰措施。對(duì)于公司來(lái)說(shuō)，罰款可高達(dá)3000萬(wàn)歐元或全球收入的6%。向監(jiān)管機(jī)構(gòu)提交虛假或誤導(dǎo)性文件也會(huì)導(dǎo)致罰款。歐盟通用數(shù)據(jù)保護(hù)監(jiān)管法（GDPR）是為個(gè)人的數(shù)據(jù)在處理和數(shù)據(jù)流動(dòng)方面提供保護(hù)。該監(jiān)管法于2016年5月24日生效，并于2018年5月25日開始在歐盟所有成員國(guó)都具有約束力并直接適用。GDPR要求從事個(gè)人數(shù)據(jù)處理的所有人必須遵守其規(guī)定，并賦予個(gè)人數(shù)據(jù)正在處理的個(gè)人一些重要的權(quán)利。參與個(gè)人數(shù)據(jù)處理的自然人和法人，包括公司和政府機(jī)構(gòu)，都被要求按照GDPR行事。潛在的不合規(guī)行為可能導(dǎo)致高額罰金，并導(dǎo)致法院訴訟和名譽(yù)損害的后果。GDPR適用于在歐盟設(shè)立的參與個(gè)人數(shù)據(jù)處理的自然人和法人。但是，對(duì)于位于歐盟以外國(guó)家的公司、機(jī)構(gòu)和個(gè)人，當(dāng)他們處理歐盟公民或居民的個(gè)人數(shù)據(jù)時(shí)，他們須按照GDPR開展活動(dòng)。該法案重點(diǎn)保護(hù)的是自然人的“個(gè)人數(shù)據(jù)”，號(hào)稱史上最嚴(yán)的數(shù)據(jù)保護(hù)法案。根據(jù)該法案規(guī)定的“市場(chǎng)地原則”，只要數(shù)據(jù)的收集方、數(shù)據(jù)的提供方（被收集數(shù)據(jù)的用戶）和數(shù)據(jù)的處理方（比如第三方數(shù)據(jù)處理機(jī)構(gòu)）這三方之中，有任何一方是歐盟公民或法人，就將受到該法案管轄。這就是說(shuō)，任何企業(yè)只要是在歐盟市場(chǎng)提供商品或服務(wù)，或者收集歐盟公民的個(gè)人數(shù)據(jù)，都將受到這部法律的管轄。對(duì)于違法企業(yè)的罰金，最高可達(dá)2000萬(wàn)歐元（約合1.5億元人民幣）或者其全球營(yíng)業(yè)額的4%，以這二者中高者為準(zhǔn)。中國(guó)中國(guó)在第三屆“一帶一路”國(guó)際合作高峰論壇提出了《全球人工智能治理倡議》互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定近年來(lái)，隨著中國(guó)《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等相關(guān)法律的不斷完善，人民群眾對(duì)于個(gè)人信息、數(shù)據(jù)安全以及網(wǎng)絡(luò)安全不斷重視。黨中央在《法治社會(huì)建設(shè)實(shí)施綱要（2020-2025年）》明確提出制定完善對(duì)算法推薦等新技術(shù)應(yīng)用的規(guī)范管理辦法。2021年九部委出臺(tái)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》，為《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱“《規(guī)定》”）的制定奠定了良好的法制基礎(chǔ)。中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)是指利用生成合成類、個(gè)性化推送類、排序精選類、檢索過(guò)濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息?！兑?guī)定》明確了算法推薦服務(wù)提供者的信息服務(wù)規(guī)范，要求算法推薦服務(wù)提供者應(yīng)當(dāng)建立健全用戶注冊(cè)、信息發(fā)布審核、數(shù)據(jù)安全和個(gè)人信息保護(hù)、安全事件應(yīng)急處置等管理制度和技術(shù)措施，定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等；建立健全用于識(shí)別違法和不良信息的特征庫(kù)，發(fā)現(xiàn)違法和不良信息的，應(yīng)當(dāng)采取相應(yīng)的處置措施；加強(qiáng)用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點(diǎn)規(guī)則和用戶標(biāo)簽管理規(guī)則；加強(qiáng)算法推薦服務(wù)版面頁(yè)面生態(tài)管理，建立完善人工干預(yù)和用戶自主選擇機(jī)制，在重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息；規(guī)范開展互聯(lián)網(wǎng)新聞信息服務(wù)，不得生成合成虛假新聞信息或者傳播非國(guó)家規(guī)定范圍內(nèi)的單位發(fā)布的新聞信息；不得利用算法實(shí)施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當(dāng)競(jìng)爭(zhēng)行為?！兑?guī)定》要求，具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過(guò)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)備案信息，履行備案手續(xù)；備案信息發(fā)生變更的，應(yīng)當(dāng)在規(guī)定時(shí)間內(nèi)辦理變更手續(xù)。算法推薦服務(wù)提供者應(yīng)當(dāng)依法留存網(wǎng)絡(luò)日志，配合有關(guān)部門開展安全評(píng)估和監(jiān)督檢查工作，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助?；ヂ?lián)網(wǎng)彈窗信息服務(wù)管理規(guī)定中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室于2022年9月9日，《互聯(lián)網(wǎng)彈窗信息推送服務(wù)管理規(guī)定》（以下簡(jiǎn)稱“規(guī)定”）正式發(fā)布，已于2022年9月30日正式施行。《規(guī)定》總共十條，條文簡(jiǎn)短，影響重大?！兑?guī)定》明確了提供信息彈窗的介質(zhì)包括操作系統(tǒng)、應(yīng)用軟件和網(wǎng)站，這也糾正了部分人的認(rèn)知誤區(qū)，《規(guī)定》的主要適用主體和監(jiān)管對(duì)象不僅是PC端桌面和網(wǎng)站彈窗，還包括移動(dòng)APP、小程序、電腦軟件等各種應(yīng)用軟件。這對(duì)企業(yè)來(lái)說(shuō)，尤其要注意，以各種操作系統(tǒng)或硬件類型（例如智能穿戴設(shè)備、智慧電視等）為載體的應(yīng)用軟件，通過(guò)所有對(duì)外接口進(jìn)行的彈窗信息，均應(yīng)當(dāng)符合《規(guī)定》的要求。其中，《規(guī)定》第三條明確互聯(lián)網(wǎng)彈窗信息推送服務(wù)應(yīng)當(dāng)遵守的法律法規(guī)明確為“憲法、法律和行政法規(guī)”。事實(shí)上，隨著近兩年互聯(lián)網(wǎng)行業(yè)法律法規(guī)的不斷出臺(tái)，與互聯(lián)網(wǎng)彈窗廣告、信息內(nèi)容安全和用戶權(quán)益保護(hù)相關(guān)的上位法體系已比較完善，此類調(diào)整給監(jiān)管實(shí)務(wù)與企業(yè)合規(guī)治理過(guò)程中，提供了更加清晰的合規(guī)指向?！兑?guī)定》第五條第五款：提供互聯(lián)網(wǎng)彈窗信息推送服務(wù)的，應(yīng)當(dāng)健全彈窗信息推送內(nèi)容管理規(guī)范，完善信息篩選、編輯、推送等工作流程，配備與服務(wù)規(guī)模相適應(yīng)的審核力量，加強(qiáng)彈窗信息內(nèi)容審核。美國(guó)人工智能監(jiān)管側(cè)重于人工智能反對(duì)歧視欺詐濫用，立法關(guān)注應(yīng)對(duì)人工智能帶來(lái)的危害，敦促企業(yè)遵守相關(guān)法律法規(guī)。歐洲人工智能監(jiān)管側(cè)重于可審計(jì)可理解，要求于人類交互的人工智能系統(tǒng)需要符合透明度規(guī)則，對(duì)于情感識(shí)別系統(tǒng)或者生物分類系統(tǒng)，系統(tǒng)提供者應(yīng)將系統(tǒng)的運(yùn)營(yíng)情況和結(jié)果告知使用者，高風(fēng)險(xiǎn)類型的人工智能在上市前，需要進(jìn)行風(fēng)險(xiǎn)評(píng)估。中國(guó)人工智能監(jiān)管側(cè)重于明確標(biāo)準(zhǔn)具體指導(dǎo)，明確人工智能算法推薦服務(wù)者的主體責(zé)任，定期對(duì)算法進(jìn)行審核、評(píng)估和驗(yàn)證，并要求算法推薦服務(wù)i提供者加強(qiáng)算法規(guī)則的透明度和解釋性。隨著人工智能AI技術(shù)的快速發(fā)展，各行業(yè)專家希個(gè)國(guó)際標(biāo)準(zhǔn)，自動(dòng)駕駛領(lǐng)域核心的AI安全中汽中心、一汽、華為、商湯、地平線組成的中國(guó)專家代表團(tuán)作為該標(biāo)準(zhǔn)第9SubteamNameSubteam01ConceptsandDefinitionsSubteam02ScopingSubteam03FunctionalSafetyandSOTIFSubteam04SafetyLifecycleSubteam05Definitionofsafety-relatedpropertiesofAIfunctionsSubteam06SelectionofAItechniquesanddesignrelatedconsiderationsSubteam07Data-relatedpropertiesSubteam08Evaluatingtheperformance/V&VSubteam09Measuresduringoperationandcontinuousassurance該標(biāo)準(zhǔn)定義了影響道路車輛環(huán)境中人工智能(一)YD/T4044-2022基于人工智能的知識(shí)圖譜構(gòu)建技術(shù)要求非功能要求，用于規(guī)范基于人工智能的知識(shí)圖譜的框架構(gòu)建流程。在該標(biāo)準(zhǔn)的8.6章節(jié)安全性要求部分對(duì)基于人工智能的知識(shí)圖譜系統(tǒng)的安35273—2020），敏感數(shù)據(jù)傳輸相關(guān)的訪問(wèn)控制要求，(一)YD/T4043-2022基于人工智能的多中心醫(yī)療數(shù)據(jù)協(xié)同分析平臺(tái)參考架構(gòu)主要為多中心醫(yī)療數(shù)據(jù)協(xié)同分析平臺(tái)的軟件(一)JR/T0221-2021人工智能算法金融應(yīng)用評(píng)價(jià)規(guī)范該標(biāo)準(zhǔn)的發(fā)布旨在引導(dǎo)金融機(jī)構(gòu)加強(qiáng)對(duì)人工智能算法金融應(yīng)用的規(guī)范管理該標(biāo)準(zhǔn)的第6章節(jié)安全性評(píng)價(jià)部分針對(duì)目標(biāo)函數(shù)、常見(jiàn)攻擊范圍、算法依工智能計(jì)算平臺(tái)設(shè)計(jì)與實(shí)現(xiàn)?！缎畔踩夹g(shù)生成3)中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)（CESA）《信息技術(shù)人工智能風(fēng)險(xiǎn)管4)中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）《可信人工智能組織治理能力成熟度模負(fù)責(zé)/歸口標(biāo)準(zhǔn)類型標(biāo)準(zhǔn)編號(hào)標(biāo)準(zhǔn)名稱階段全國(guó)信安標(biāo)委國(guó)家標(biāo)準(zhǔn)20211000-T-469信息安全技術(shù)機(jī)器學(xué)習(xí)算法安全評(píng)估規(guī)范報(bào)批稿全國(guó)信安標(biāo)委國(guó)家標(biāo)準(zhǔn)20230249-T-469信息安全技術(shù)人工智能計(jì)算平臺(tái)安全框架征求意見(jiàn)稿全國(guó)信安標(biāo)委國(guó)家標(biāo)準(zhǔn)--信息安全技術(shù)生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)在研練數(shù)據(jù)安全規(guī)范全國(guó)信標(biāo)委人工智能分委會(huì)（TC28/SC42）國(guó)家標(biāo)準(zhǔn)20221791-T-469人工智能管理體系在研全國(guó)信標(biāo)委人工智能分委會(huì)（TC28/SC42）國(guó)家標(biāo)準(zhǔn)20221795-T-469人工智能深度學(xué)習(xí)框架多硬件平臺(tái)適配技術(shù)規(guī)范在研中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)（CESA）團(tuán)體標(biāo)準(zhǔn)T/CESA1193-2022信息技術(shù)人工智能風(fēng)險(xiǎn)管理能力評(píng)估中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）--可信人工智能組織治理能力成熟度模型在研中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）--大規(guī)模預(yù)訓(xùn)練模型技術(shù)和應(yīng)用評(píng)估方法第5部分：安全可信在研息安全技術(shù)生物特征識(shí)別信息保護(hù)基本要求》，《信息安全技術(shù)汽車數(shù)據(jù)處理安全要求》，有效展《人工智能終端產(chǎn)品個(gè)人信息保護(hù)要求和評(píng)估5)中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)（CESA6)新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AIT負(fù)責(zé)/歸口標(biāo)準(zhǔn)類型標(biāo)準(zhǔn)編號(hào)標(biāo)準(zhǔn)名稱階段全國(guó)信安標(biāo)委國(guó)家標(biāo)準(zhǔn)GB/T38542-2020信息安全技術(shù)基于生物特征識(shí)別的移動(dòng)智能終端身份鑒別技術(shù)框架發(fā)布全國(guó)信安標(biāo)委國(guó)家標(biāo)準(zhǔn)GB/T38671-2020信息安全技術(shù)遠(yuǎn)程人臉識(shí)別系統(tǒng)技術(shù)要求發(fā)布全國(guó)信安標(biāo)委國(guó)家標(biāo)準(zhǔn)GB/T40660-2021信息安全技術(shù)生物特征識(shí)別信息保護(hù)基本要求發(fā)布全國(guó)信安標(biāo)委國(guó)家標(biāo)準(zhǔn)GB/T41819-2022信息安全技術(shù)人臉識(shí)別數(shù)據(jù)安全要求發(fā)布全國(guó)信安標(biāo)委國(guó)家標(biāo)準(zhǔn)GB/T41807-2022信息安全技術(shù)聲紋識(shí)別數(shù)據(jù)安全要求發(fā)布全國(guó)信安標(biāo)委國(guó)家標(biāo)準(zhǔn)GB/T41806-2022信息安全技術(shù)基因識(shí)別數(shù)據(jù)安全要求發(fā)布全國(guó)信安標(biāo)委國(guó)家標(biāo)準(zhǔn)GB/T41773-2022信息安全技術(shù)步態(tài)識(shí)別數(shù)據(jù)安全要求發(fā)布全國(guó)信安標(biāo)委國(guó)家標(biāo)準(zhǔn)GB/T41871-2022信息安全技術(shù)汽車數(shù)據(jù)處理安全要求發(fā)布全國(guó)信安標(biāo)委國(guó)家標(biāo)準(zhǔn)20230253-T-469信息安全技術(shù)基于個(gè)人信息的自動(dòng)化決策安全要求在研全國(guó)信標(biāo)委生物特征識(shí)別分委會(huì)(TC28/SC37)國(guó)家標(biāo)準(zhǔn)GB/T41815.1-2022信息技術(shù)生物特征識(shí)別呈現(xiàn)攻擊檢測(cè)第1部分：框架發(fā)布全國(guó)信標(biāo)委生物特征識(shí)別分委會(huì)(TC28/SC37)國(guó)家標(biāo)準(zhǔn)GB/T41815.2-202信息技術(shù)生物特征識(shí)別呈現(xiàn)攻擊檢測(cè)第2部分：數(shù)據(jù)格式發(fā)布全國(guó)信標(biāo)委生物特征識(shí)別分委會(huì)(TC28/SC37)國(guó)家標(biāo)準(zhǔn)GB/T41815.3-2023信息技術(shù)生物特征識(shí)別呈現(xiàn)攻擊檢測(cè)第3部分：測(cè)試與報(bào)告發(fā)布全國(guó)信標(biāo)委生物特征識(shí)別分委會(huì)國(guó)家標(biāo)準(zhǔn)GB/T37036.3-2019信息技術(shù)移動(dòng)設(shè)備生物特征識(shí)別第3部分：人臉發(fā)布（TC28/SC37）全國(guó)信標(biāo)委生物特征識(shí)別分委會(huì)(TC28/SC37)國(guó)家標(biāo)準(zhǔn)GB/T37036.8-2022信息技術(shù)移動(dòng)設(shè)備生物特征識(shí)別第8部分：呈現(xiàn)攻擊檢測(cè)發(fā)布全國(guó)信標(biāo)委生物特征識(shí)別分委會(huì)(TC28/SC37)國(guó)家標(biāo)準(zhǔn)GB/T5271.37-2021信息技術(shù)詞匯第37部分：生物特征識(shí)別發(fā)布全國(guó)信標(biāo)委生物特征識(shí)別分委會(huì)(TC28/SC37）國(guó)家標(biāo)準(zhǔn)20221220-T-469信息技術(shù)生物特征識(shí)別人臉識(shí)別系統(tǒng)應(yīng)用要求在研中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)（CCSA）行業(yè)標(biāo)準(zhǔn)YD/T4087-2022移動(dòng)智能終端人臉識(shí)別安全技術(shù)要求及測(cè)試評(píng)估方法發(fā)布中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)（CCSA）行業(yè)標(biāo)準(zhǔn)2023-0041TYD人工智能開發(fā)平臺(tái)通用能力要求第2部分：安全要求在研中國(guó)通信標(biāo)準(zhǔn)行業(yè)標(biāo)準(zhǔn)2023-0039TYD面向人臉識(shí)別系統(tǒng)的人臉在研化協(xié)會(huì)（CCSA）信息保護(hù)基礎(chǔ)能力要求中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)（CCSA）行業(yè)標(biāo)準(zhǔn)--人臉識(shí)別線下支付安全要求草案中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)（CCSA）行業(yè)標(biāo)準(zhǔn)2021-0630TYD電信網(wǎng)和互聯(lián)網(wǎng)人臉識(shí)別數(shù)據(jù)安全檢測(cè)要求在研上海市市監(jiān)局地方標(biāo)準(zhǔn)--人工智能數(shù)據(jù)通用安全要求征求意見(jiàn)稿上海市市監(jiān)局地方標(biāo)準(zhǔn)--人臉識(shí)別分級(jí)分類應(yīng)用標(biāo)準(zhǔn)草案中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)（CESA）團(tuán)體標(biāo)準(zhǔn)T/CESA1124-2020信息安全技術(shù)人臉比對(duì)模型安全技術(shù)規(guī)范發(fā)布新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AITISA）團(tuán)體標(biāo)準(zhǔn)T/AI110.1-2020人工智能視覺(jué)隱私保護(hù)第1部分：通用技術(shù)要求發(fā)布新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟團(tuán)體標(biāo)準(zhǔn)T/AI110.2-2022人工智能視覺(jué)隱私保護(hù)第2部分：技術(shù)應(yīng)用指南發(fā)布（AITISA）新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AITISA）團(tuán)體標(biāo)準(zhǔn)T/AI113-2021生物特征識(shí)別服務(wù)中的隱私保護(hù)技術(shù)指南發(fā)布新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AITISA）團(tuán)體標(biāo)準(zhǔn)T/AI111-2020生物特征模板的安全使用要求發(fā)布新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AITISA）團(tuán)體標(biāo)準(zhǔn)2023011205信息技術(shù)數(shù)字視網(wǎng)膜系統(tǒng)第11部分：安全與隱私保護(hù)草案1）在人工智能管理方面，國(guó)際標(biāo)準(zhǔn)主要研究人工智能數(shù)2）在可信性方面，國(guó)際標(biāo)準(zhǔn)主要關(guān)注人工智能的透明度、可3）在安全與隱私保護(hù)方面，國(guó)際標(biāo)準(zhǔn)主要聚焦于人工智能的系統(tǒng)安全、功歐洲電信標(biāo)準(zhǔn)化協(xié)會(huì)（ETSI）近期關(guān)注的重點(diǎn)議題包括人工智能數(shù)據(jù)安全、ETSIGRSAI005《人工智能安全：緩解策略3.2AI安全的技術(shù)生態(tài)數(shù)據(jù)安全是確保AI系統(tǒng)所使用的數(shù)據(jù)的保密性、完整性和可用性。這包括算法安全關(guān)注的是AI系統(tǒng)所使用的算法的安全性。這包括對(duì)算法進(jìn)行安全模型安全是確保AI系統(tǒng)所使用的模型的安全性和可信度。這包括對(duì)模型進(jìn)服務(wù)器、存儲(chǔ)和通信等基礎(chǔ)設(shè)施進(jìn)行安全配置、漏洞管理和監(jiān)控，以保護(hù)AI系以上這些安全技術(shù)共同構(gòu)成了保障AI環(huán)境安全的重要組成部分，通過(guò)綜合應(yīng)用這些技術(shù)，可以提高AI系統(tǒng)的安全性、可靠性和可信度，減少潛在的風(fēng)險(xiǎn)3.2.1.2.1云服務(wù)提供商的安全生態(tài)回避的關(guān)鍵議題。云服務(wù)提供商在推動(dòng)AI技術(shù)的創(chuàng)新與應(yīng)用的同時(shí)，必須提供一套多維度的安全防護(hù)體系，包括數(shù)據(jù)安全、網(wǎng)絡(luò)安全、計(jì)算安全等，保障AI對(duì)不同行業(yè)的特定需求，為AI客戶提供定制化的安全解決方案，以滿足各行業(yè)區(qū)，加強(qiáng)與全球安全研究者、機(jī)構(gòu)的交流與合作，共同推動(dòng)云計(jì)算與AI安全領(lǐng)3.2.1.2.2硬件供應(yīng)商的安全生態(tài)在構(gòu)建AI安全環(huán)境中，硬件供應(yīng)商的角色不僅限于提供傳統(tǒng)的基于硬件的計(jì)算安全：對(duì)于AI的安全性，硬件供應(yīng)商所提供的安全計(jì)算和模型保護(hù)能3.2.1.2.3軟件供應(yīng)商的安全生態(tài)在AI安全的生態(tài)中，軟件供應(yīng)商扮演著至關(guān)重要的角色。除了基本的安全安全開發(fā)生命周期：“安全左移”的理念已經(jīng)成為業(yè)界共識(shí)。對(duì)于AI產(chǎn)品而安全賦能：為了構(gòu)建一個(gè)更加安全的AI生態(tài)環(huán)境，軟件供應(yīng)商需要將其在安全方面的專業(yè)知識(shí)和能力拓展到AI應(yīng)用開發(fā)者社群中，從而強(qiáng)化整個(gè)生態(tài)的持等。如此，軟件供應(yīng)商不僅保證了自身產(chǎn)品的安全，還促進(jìn)了整個(gè)AI生態(tài)的3.2.1.2.4開源社區(qū)的安全生態(tài)因此在開源社區(qū)實(shí)踐安全，為AI的安全發(fā)展具有重要意義。首先，應(yīng)遵循3.2.1.2.5研究機(jī)構(gòu)的安全生態(tài)3.2.1.2.6最終用戶的安全生態(tài)最終用戶是AI生態(tài)中的關(guān)鍵參與者，他們的安全直接關(guān)系到整個(gè)生態(tài)的穩(wěn)信息數(shù)據(jù)被收集，會(huì)造成用戶隱私泄露；此外，通過(guò)AI分析關(guān)聯(lián)大規(guī)模收集到機(jī)器學(xué)習(xí)階段可能面臨的攻擊/安全風(fēng)險(xiǎn)數(shù)據(jù)收集/預(yù)處理階段數(shù)據(jù)投毒攻擊、個(gè)人敏感信息泄露訓(xùn)練階段模型逆向攻擊、模型提取攻擊預(yù)測(cè)階段模型逆向攻擊、模型提取攻擊、成員推斷攻擊數(shù)據(jù)投毒、對(duì)抗樣本等）的防護(hù)技術(shù)將在其聯(lián)邦學(xué)習(xí)是一種特殊的分布式機(jī)器學(xué)習(xí)框架，它僅通過(guò)交互模型中間參數(shù)應(yīng)用包括面向手機(jī)/物聯(lián)網(wǎng)設(shè)備的下一單詞預(yù)測(cè)、人臉識(shí)別等，面向組織的多家機(jī)器學(xué)習(xí)算法，覆蓋常規(guī)商業(yè)應(yīng)用建模場(chǎng)景需求。此外，F(xiàn)ATE提供一站式聯(lián)邦計(jì)算范式方面，TFF支持單機(jī)模擬和移動(dòng)設(shè)的是飛槳訓(xùn)練框架，結(jié)合飛槳的參數(shù)服務(wù)器功能，其可以實(shí)現(xiàn)在Kubernetes集國(guó)牛津大學(xué)研發(fā)Flower，字節(jié)跳動(dòng)研發(fā)的Fedlearner，阿里巴巴達(dá)摩院研發(fā)的業(yè)數(shù)據(jù)高度聚合的企業(yè)。從2018年起，騰訊上，是一種“無(wú)可信第三方”的聯(lián)邦學(xué)習(xí)框架。整個(gè)系統(tǒng)以AnFedlearn平臺(tái)創(chuàng)新性地提出了并行加密算法、異步計(jì)算框架、創(chuàng)新聯(lián)邦學(xué)習(xí)等SM4以及混淆電路、差分隱私和同態(tài)加密務(wù)場(chǎng)景的不同需求，此外，采用GPU等異構(gòu)計(jì)算芯片來(lái)加速聯(lián)邦學(xué)習(xí)的加密和每一方僅獲取自己的計(jì)算結(jié)果，對(duì)其他參與方的結(jié)果/輸入一無(wú)中。一方面，在學(xué)習(xí)過(guò)程中保障了（多方）訓(xùn)練數(shù)據(jù)的安全性/隱私性；另一方工具綜合應(yīng)用而來(lái)。基于多方安全計(jì)算對(duì)AI數(shù)據(jù)進(jìn)行保護(hù)，按照技術(shù)路線的不測(cè)。典型協(xié)議有結(jié)合秘密共享和混淆電路的ABY3、XONN等框架，結(jié)合同態(tài)加用的安全多方計(jì)算技術(shù)，底層協(xié)議為SecureNN和自研的Helix協(xié)議，可支持聯(lián)國(guó)內(nèi)諸多廠商利用多方安全計(jì)算來(lái)增強(qiáng)AI數(shù)據(jù)的安全性和隱私性的，包括螞蟻集團(tuán)、阿里巴巴、百度、華控清交、原語(yǔ)科2.類同態(tài)加密：是只支持有限次加法和乘法運(yùn)和精度有限，多次計(jì)算會(huì)累積誤差。這將嚴(yán)重拖慢訓(xùn)練過(guò)程,使之難以滿足實(shí)際機(jī)器學(xué)習(xí)過(guò)程中使用的非線性運(yùn)算，如神經(jīng)網(wǎng)絡(luò)中的sigmoid和ReLU等激活函.TenSEAL是Openmined開源的一個(gè)支持同態(tài)加密隱私保護(hù)機(jī)器學(xué)習(xí)的隱私保護(hù)框架，支持BFV、CKKS等多種同態(tài)加密方案，實(shí)現(xiàn)多種機(jī)器學(xué)習(xí)模型上的開源隱私保護(hù)機(jī)器學(xué)習(xí)工具集,旨在簡(jiǎn)化同態(tài)加密在機(jī)器學(xué)習(xí)隱私保護(hù)方面差分隱私是由Dwork等人提出的一種建立在嚴(yán)格數(shù)學(xué)理論基礎(chǔ)之上的隱私差分隱私機(jī)制是目前AI數(shù)據(jù)保護(hù)的最常采用的技術(shù)之一，主要通過(guò)添加一測(cè)結(jié)果添加噪聲，可以防止敵手對(duì)模型進(jìn)行成員加噪聲。這種方式可以提高效率和可用，但是只差分隱私技術(shù)已被谷歌、蘋果、微軟、字節(jié)跳動(dòng)、阿里巴巴等一些IT公司），操作系統(tǒng)（OPTEE_OS普通世界客戶端（OPTEE_Client測(cè)試套件lARM、Intel和AMD公司分別提出各自的可信執(zhí)行環(huán)境技術(shù)TrustZone、標(biāo)識(shí)、數(shù)字指紋、數(shù)字隱寫等技術(shù)實(shí)現(xiàn)，適用lgo-mask包，通過(guò)結(jié)構(gòu)體的tag功能可以脫敏結(jié)構(gòu)體中的任何字段，實(shí)現(xiàn)對(duì)行推導(dǎo)預(yù)測(cè)；而目前以AIGC為代表的深度學(xué)習(xí)則是模擬人腦神經(jīng)排序精選類：例如搜索引擎廣告排序算法、3.2.3.2算法黑盒問(wèn)題算法的黑盒問(wèn)題制約AI應(yīng)用場(chǎng)景的廣泛落地，特別是對(duì)于一些安全性要求析、定位根因，因此也無(wú)法有效避免類似事件的再次發(fā)生。要加速AI在此類場(chǎng)法模型的可解釋性增強(qiáng)，按模型訓(xùn)練前后階段可通過(guò)算法優(yōu)化與模塊化提高可解釋性:在訓(xùn)練數(shù)據(jù)較少時(shí)，選擇人類較易理解的算法來(lái)訓(xùn)練模型，如決策樹算法模型;對(duì)于復(fù)雜模型，可設(shè)計(jì)成相互獨(dú)立的里的Attention技術(shù)、模塊化網(wǎng)絡(luò)結(jié)構(gòu)、概率模型（ProbabilisticModel）均可以3.2.3.3算法脆弱性問(wèn)題種異常情況，從而提高模型面對(duì)異常情況的判斷能力。如在AI圖像識(shí)別模型訓(xùn)3.2.3.4算法監(jiān)管與知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)撐行業(yè)監(jiān)管，都對(duì)算法機(jī)制機(jī)理的審核對(duì)象、程序都提模型訓(xùn)練數(shù)據(jù)的采集以及算法模型的設(shè)計(jì)開發(fā)已經(jīng)逐漸變成了企業(yè)的重資3.2.3.5針對(duì)算法模型的攻擊“大規(guī)模鑒偽數(shù)據(jù)的構(gòu)建”和“深度合成內(nèi)容檢測(cè)算法”2個(gè)部分。除此之外，為了數(shù)字水印可以認(rèn)為是AIGC平臺(tái)在防止自身提供在國(guó)家法規(guī)政策和標(biāo)準(zhǔn)規(guī)范的指導(dǎo)下，出臺(tái)企業(yè)組織AI人工智能安全產(chǎn)品和工具，能準(zhǔn)確判定企業(yè)所需4AI安全的熱門問(wèn)題4.1大模型安全對(duì)不同類別的和主題的輸入內(nèi)容進(jìn)行檢測(cè)并對(duì)不恰當(dāng)內(nèi)容已經(jīng)通過(guò)安全審核的、符合安全標(biāo)準(zhǔn)的指令數(shù)據(jù)對(duì)大模型進(jìn)此外，大模型在交互場(chǎng)景中的業(yè)務(wù)運(yùn)營(yíng)中，面方面也應(yīng)采取多種技術(shù)手段保障業(yè)務(wù)運(yùn)營(yíng)安全。綜大模型交互場(chǎng)景中的各種安全風(fēng)險(xiǎn)，保護(hù)用戶隱私定運(yùn)行，同時(shí)，持續(xù)的監(jiān)控、分析和改進(jìn)也是確保4.2對(duì)抗樣本攻擊4.3數(shù)據(jù)投毒攻擊到錯(cuò)誤的標(biāo)簽-特征關(guān)聯(lián)，從而產(chǎn)生誤導(dǎo)性的輸出。三、標(biāo)簽矛盾，在訓(xùn)練數(shù)據(jù)任度產(chǎn)生負(fù)面影響；二、信息泄露，數(shù)據(jù)投毒可能導(dǎo)致模型敏感信息被泄露。安全；三、安全風(fēng)險(xiǎn)，數(shù)據(jù)投毒可能對(duì)個(gè)人隱私和公共安全構(gòu)成威脅。例如攻可能導(dǎo)致AI系統(tǒng)違反法律法規(guī)或合規(guī)要求。例如在金融領(lǐng)域，攻擊者可能通過(guò)數(shù)據(jù)投毒攻擊主要有以下集中檢測(cè)和防御方式。一、檢查數(shù)據(jù)集中的標(biāo)簽、4.4供應(yīng)鏈攻擊過(guò)滲透和利用目標(biāo)組織或產(chǎn)品的供應(yīng)鏈環(huán)節(jié)來(lái)滲透或破壞目標(biāo)系統(tǒng)或數(shù)據(jù)的安供應(yīng)鏈攻擊具有多方面的關(guān)鍵要點(diǎn)。首先，攻擊目標(biāo)的多樣性是顯著特征，還有可能通過(guò)在供應(yīng)鏈組件中插入后門或木馬程序來(lái)建立持久性的未經(jīng)授權(quán)訪在模型訓(xùn)練過(guò)程中注入惡意代碼。此類惡意代碼注入可能會(huì)在AI模型運(yùn)行時(shí)觸發(fā)，導(dǎo)致安全問(wèn)題。另外，攻擊者也可能針對(duì)AI開發(fā)中常用的數(shù)據(jù)集，通過(guò)數(shù)據(jù)篡改來(lái)誤導(dǎo)模型學(xué)習(xí)，影響模型的預(yù)測(cè)結(jié)果。這些攻擊形式對(duì)于AI系統(tǒng)的安重要的是加強(qiáng)對(duì)AI開發(fā)過(guò)程中涉及的具體軟件、組件和服務(wù)的安全防護(hù)，以確能導(dǎo)致模型偏差，降低模型預(yù)測(cè)的準(zhǔn)確性和可靠性，對(duì)AI系統(tǒng)的性能造成負(fù)面此外，供應(yīng)鏈攻擊可能導(dǎo)致AI系統(tǒng)的不穩(wěn)定性，增加系統(tǒng)崩潰或服務(wù)中斷的風(fēng)供應(yīng)鏈攻擊的檢測(cè)是確保組織能夠及時(shí)發(fā)現(xiàn)潛在威脅并采取行動(dòng)的至關(guān)重4.5數(shù)據(jù)泄露攻擊脅到使用者，還可能對(duì)模型的擁有者產(chǎn)生深遠(yuǎn)的影響。首先，這種風(fēng)險(xiǎn)源于AI技術(shù)所依賴的算法模型和運(yùn)行參數(shù)的潛在漏洞。其次，由于AI技術(shù)在處理和分某一具體數(shù)據(jù)是否被用于訓(xùn)練集，這進(jìn)一步方式獲得模型使用訓(xùn)練數(shù)據(jù)和運(yùn)行數(shù)據(jù)的某子模型”來(lái)模擬其運(yùn)作方式。接著，攻擊者利用類得不認(rèn)真思考針對(duì)數(shù)據(jù)泄露攻擊的防御技術(shù)過(guò)修改模型的損失函數(shù)，使目標(biāo)模型給出的輸出數(shù)信息混淆：對(duì)模型的輸入數(shù)據(jù)或預(yù)測(cè)結(jié)果做模糊操作，在保證AI露的風(fēng)險(xiǎn)。信息混淆技術(shù)主要包含兩類：1）截?cái)嘧鋈≌僮?，抹除小?shù)點(diǎn)某位之后的信息；2）噪4.6模型竊取攻擊進(jìn)行保護(hù)，防止以防止攻擊者通過(guò)觀察模型輸出或分析模重的是，人工智能技術(shù)已經(jīng)開始被犯罪分子用來(lái)傷害他人或社會(huì)，如利根據(jù)ChangwuHuang教授的觀點(diǎn)，人工智能系統(tǒng)主要服務(wù)于個(gè)人或社會(huì)公層次，即個(gè)人、社會(huì)和環(huán)境層面的倫理問(wèn)題。個(gè)人層面的倫理問(wèn)題主要包括AI來(lái)了負(fù)擔(dān)。人工智能的廣泛應(yīng)用往往需要部署大量的通過(guò)新技術(shù)尤其是機(jī)器學(xué)習(xí)技術(shù)，以消除或減輕當(dāng)前AI的缺點(diǎn)，規(guī)避相應(yīng)原則包含領(lǐng)域TransparencyExplainableAIorinterpretableAIFairness&JusticeNon-maleficenceSafeAISecureRobustAIAIResponsibility&AccountabilityResponsibleAIPrivacyDifferentialPrivacyFederatedorDistributedLearningHomomorphicEncryption4.8AI輔助安全在內(nèi)的個(gè)人病歷數(shù)據(jù)被泄露了。福勒指出，不少被泄露感染新冠病毒進(jìn)行判斷，而不是根據(jù)真正的醫(yī)學(xué)病理法規(guī)和合規(guī)性（Regulationsand執(zhí)業(yè)許可等）甚至可能承擔(dān)刑事責(zé)任（醫(yī)療事年美國(guó)一家知名在線零售商發(fā)生了一起嚴(yán)重的如果數(shù)據(jù)存儲(chǔ)和傳輸過(guò)程中出現(xiàn)安全漏洞，可能導(dǎo)致數(shù)對(duì)待。例如，2016年美國(guó)總統(tǒng)選舉期間，谷歌的面部識(shí)別系統(tǒng)因例如，2017年一家歐洲銀行因遭受勒索軟件攻擊而導(dǎo)致系統(tǒng)癱可能導(dǎo)致消費(fèi)者對(duì)金融機(jī)構(gòu)的信任度下降，從而影響業(yè)務(wù)發(fā)展。例如，2018年一家美國(guó)信用卡公司因拒絕為一位患有肺癌2009年，美國(guó)證券交易委員會(huì)（SEC）公布的數(shù)據(jù)顯），(無(wú)線接入點(diǎn)、工業(yè)交換機(jī)、路由器、網(wǎng)管服務(wù)