《人工智能安全》教學(xué)大綱

《人工智能安全》課程教學(xué)大綱一、課程基本信息課程名稱中文：人工智能安全課程編號(hào)英文：MachineIntelligenceandInformationCountermeasure學(xué)分/學(xué)時(shí)2學(xué)分/48學(xué)時(shí)必修（）/選修（√）開(kāi)課學(xué)期6課程類別學(xué)院特色創(chuàng)新創(chuàng)業(yè)課程適用專業(yè)網(wǎng)絡(luò)空間安全專業(yè)，信息安全專業(yè)，密碼學(xué)專業(yè)，人工智能專業(yè)先修課程授課教師二、課程教學(xué)目標(biāo)通過(guò)學(xué)習(xí)本課程，使學(xué)生深刻理解人工智能安全的基本概念，系統(tǒng)地掌握機(jī)器學(xué)習(xí)的原理和信息對(duì)抗技術(shù)，培養(yǎng)機(jī)器學(xué)習(xí)和信息對(duì)抗領(lǐng)域復(fù)雜工程解決能力、創(chuàng)新能力和實(shí)踐能力。通過(guò)課上互動(dòng)、Python語(yǔ)言編寫程序，培養(yǎng)學(xué)生刻苦努力、積極進(jìn)取精神，以及認(rèn)真的工作學(xué)習(xí)態(tài)度。具體目標(biāo)為：課程目標(biāo)1.掌握人工智能安全中的發(fā)展和相關(guān)研究，包括人工智能安全綜述（包括定義、歷史、特征、發(fā)展現(xiàn)狀與趨勢(shì)、分類、人工智能的安全、倫理和隱私問(wèn)題等）、人工智能安全的戰(zhàn)略規(guī)劃（外國(guó)、中國(guó)、中國(guó)地方省市的戰(zhàn)略規(guī)劃及策略，國(guó)內(nèi)外人工智能安全的研究機(jī)構(gòu)）；課程目標(biāo)2.學(xué)習(xí)關(guān)于人工智能安全的相關(guān)基礎(chǔ)知識(shí)，包括：人工智能安全的概念和模型；生成對(duì)抗網(wǎng)絡(luò)GANs；深度神經(jīng)網(wǎng)絡(luò)；卷積神經(jīng)網(wǎng)絡(luò)；對(duì)抗樣本生成算法；隨機(jī)森林算法；貝葉斯分類算法；SVM分類算法；長(zhǎng)短期記憶網(wǎng)絡(luò)；梯度下降算法；深度偽造技術(shù)；影子模型攻擊技術(shù)；神經(jīng)網(wǎng)絡(luò)；算法歧視；Tacotron模型；梅爾譜圖；長(zhǎng)短記憶網(wǎng)絡(luò)；混合注意力機(jī)制；深度學(xué)習(xí)；遷移學(xué)習(xí)；小樣本學(xué)習(xí)；圖神經(jīng)網(wǎng)絡(luò)；代碼漏洞分析等）。課程目標(biāo)3.了解產(chǎn)業(yè)現(xiàn)狀，包括人工智能安全應(yīng)用、產(chǎn)業(yè)現(xiàn)狀及趨勢(shì)（包括人工智能安全技術(shù)的商業(yè)應(yīng)用、人工智能安全行業(yè)綜述、中國(guó)人工智能安全產(chǎn)業(yè)現(xiàn)狀和發(fā)展趨勢(shì)）、人工智能安全標(biāo)準(zhǔn)化體系和標(biāo)準(zhǔn)化（如國(guó)內(nèi)外研究現(xiàn)狀、人工智能安全標(biāo)準(zhǔn)體系結(jié)構(gòu)、人工智能安全標(biāo)準(zhǔn)化需求分析等）、人工智能安全內(nèi)涵與體系架構(gòu)（包括人工智能安全內(nèi)涵與體系架構(gòu)、人工智能安全風(fēng)險(xiǎn)分析、人工智能安全管理現(xiàn)狀和人工智能安全發(fā)展建議等）；課程目標(biāo)4.深刻理解人工智能在安全領(lǐng)域的應(yīng)用和研究現(xiàn)狀，包括人工智能在安全領(lǐng)域的應(yīng)用、人工智能的安全威脅及防御（包括人工智能安全風(fēng)險(xiǎn)分析）、智能安全應(yīng)用情況（包括智能安全事例）、智能安全管理現(xiàn)狀、智能安全相關(guān)技術(shù)等。課程目標(biāo)5.學(xué)習(xí)、實(shí)踐、體會(huì)人工智能安全方向的科研創(chuàng)新過(guò)程。主要包括：生成對(duì)抗網(wǎng)絡(luò)模擬Sin曲線；模型竊??；數(shù)據(jù)投毒；人臉活體檢測(cè)；驗(yàn)證碼識(shí)別；圖像對(duì)抗；圖像去噪；垃圾郵件過(guò)濾；網(wǎng)絡(luò)攻擊檢測(cè)；模型逆向攻擊；人臉偽造；成員推理攻擊；屬性推理攻擊；模型公平性檢測(cè)與提升；圖像水印去除；語(yǔ)音合成；視頻檢測(cè)；代碼漏洞挖掘等。三、課程目標(biāo)與支撐的畢業(yè)要求指標(biāo)點(diǎn)本課程的知識(shí)點(diǎn)支撐網(wǎng)絡(luò)空間安全專業(yè)畢業(yè)要求中的5個(gè)指標(biāo)點(diǎn)：1.4、2.2、3.2、4.3和12.1。如下表所示，本課程的5個(gè)課程教學(xué)目標(biāo)，分別對(duì)應(yīng)工程教育專業(yè)認(rèn)證標(biāo)準(zhǔn)規(guī)定的畢業(yè)要求中的5個(gè)指標(biāo)點(diǎn)。表1所示為課程目標(biāo)與支撐畢業(yè)要求的指標(biāo)點(diǎn)。表1課程目標(biāo)與支撐畢業(yè)要求的指標(biāo)點(diǎn)畢業(yè)要求指標(biāo)點(diǎn)課程目標(biāo)達(dá)成途徑評(píng)價(jià)依據(jù)1.4掌握網(wǎng)絡(luò)空間安全專業(yè)知識(shí)及技術(shù)，能夠?qū)⑦@些專業(yè)知識(shí)和關(guān)鍵技術(shù)用于解決網(wǎng)絡(luò)空間安全領(lǐng)域的復(fù)雜工程問(wèn)題。課程目標(biāo)1.掌握人工智能安全中的發(fā)展和相關(guān)研究，包括人工智能安全綜述（包括定義、歷史、特征、發(fā)展現(xiàn)狀與趨勢(shì)、分類、人工智能的安全、倫理和隱私問(wèn)題等）、人工智能安全的戰(zhàn)略規(guī)劃（外國(guó)、中國(guó)、中國(guó)地方省市的戰(zhàn)略規(guī)劃及策略，國(guó)內(nèi)外人工智能安全的研究機(jī)構(gòu)）；通過(guò)課堂講授等方式使學(xué)生掌握人工智能安全中的基本概念、理論基礎(chǔ)和人工智能發(fā)展歷史，通過(guò)課后作業(yè)鞏固課堂知識(shí)；在平時(shí)作業(yè)和期末考試中考察對(duì)于基本概念和基本原理的理解掌握?？己藘?nèi)容約占總成績(jī)的20%，包括平時(shí)作業(yè)和期末考試。2.2能夠根據(jù)網(wǎng)絡(luò)空間安全領(lǐng)域中復(fù)雜工程問(wèn)題的需求描述，運(yùn)用數(shù)學(xué)、物理等自然科學(xué)和工程科學(xué)原理及方法進(jìn)行分析表達(dá)，建立解決網(wǎng)絡(luò)空間安全領(lǐng)域中的復(fù)雜實(shí)際工程問(wèn)題的抽象模型。課程目標(biāo)2.學(xué)習(xí)關(guān)于機(jī)器學(xué)習(xí)和信息對(duì)抗的相關(guān)基礎(chǔ)知識(shí)，包括：人工智能安全的概念和模型；生成對(duì)抗網(wǎng)絡(luò)GANs；深度神經(jīng)網(wǎng)絡(luò)；卷積神經(jīng)網(wǎng)絡(luò)；對(duì)抗樣本生成算法；隨機(jī)森林算法；貝葉斯分類算法；SVM分類算法；長(zhǎng)短期記憶網(wǎng)絡(luò)；梯度下降算法；深度偽造技術(shù)；影子模型攻擊技術(shù)；神經(jīng)網(wǎng)絡(luò)；算法歧視；Tacotron模型；梅爾譜圖；長(zhǎng)短記憶網(wǎng)絡(luò)；混合注意力機(jī)制；深度學(xué)習(xí)；遷移學(xué)習(xí)；小樣本學(xué)習(xí)；圖神經(jīng)網(wǎng)絡(luò)；代碼漏洞分析等）通過(guò)課堂講授和學(xué)生使用Python語(yǔ)言編程等方式使學(xué)生掌握人工智能安全中的基本概念、理論基礎(chǔ)和人工智能發(fā)展歷史，通過(guò)平時(shí)作業(yè)鞏固課堂知識(shí)；在平時(shí)作業(yè)和期末考試中考察對(duì)于基本概念和基本原理的理解掌握。考核內(nèi)容約占總成績(jī)的20%，包括作業(yè)、實(shí)驗(yàn)完成情況和實(shí)驗(yàn)報(bào)告、期末考試。3.2能夠針對(duì)網(wǎng)絡(luò)空間安全領(lǐng)域各種應(yīng)用場(chǎng)景的特定需求，確定設(shè)計(jì)目標(biāo)，對(duì)網(wǎng)絡(luò)空間安全領(lǐng)域中的復(fù)雜工程問(wèn)題進(jìn)行分解和細(xì)化，完成功能模塊的設(shè)計(jì)與開(kāi)發(fā)，并對(duì)設(shè)計(jì)方案進(jìn)行優(yōu)化。課程目標(biāo)3.了解產(chǎn)業(yè)現(xiàn)狀，包括人工智能安全應(yīng)用、產(chǎn)業(yè)現(xiàn)狀及趨勢(shì)（包括人工智能安全技術(shù)的商業(yè)應(yīng)用、人工智能安全行業(yè)綜述、中國(guó)人工智能安全產(chǎn)業(yè)現(xiàn)狀和發(fā)展趨勢(shì)）、人工智能安全標(biāo)準(zhǔn)化體系和標(biāo)準(zhǔn)化（如國(guó)內(nèi)外研究現(xiàn)狀、人工智能安全標(biāo)準(zhǔn)體系結(jié)構(gòu)、人工智能安全標(biāo)準(zhǔn)化需求分析等）、人工智能安全內(nèi)涵與體系架構(gòu)（包括人工智能安全內(nèi)涵與體系架構(gòu)、人工智能安全風(fēng)險(xiǎn)分析、人工智能安全管理現(xiàn)狀和人工智能安全發(fā)展建議等）；針對(duì)人工智能安全中產(chǎn)業(yè)現(xiàn)狀以及發(fā)展趨勢(shì)等，通過(guò)課堂講授、小組討論等方式讓學(xué)生了解人工智能安全研究現(xiàn)狀；通過(guò)作業(yè)加深理解，通過(guò)期末考試考察學(xué)生分析問(wèn)題和解決問(wèn)題的能力。考核內(nèi)容約占總成績(jī)的20%，包括平時(shí)作業(yè)、期末考試。4.3針對(duì)所設(shè)計(jì)的面向網(wǎng)絡(luò)空間安全領(lǐng)域中復(fù)雜工程問(wèn)題的實(shí)驗(yàn)方案所獲得的實(shí)驗(yàn)數(shù)據(jù)和實(shí)驗(yàn)結(jié)果，能夠?qū)ζ溥M(jìn)行正確的分析和合理的解釋，并且能夠通過(guò)信息綜合得到合理有效的結(jié)論。課程目標(biāo)4.深刻理解智能在安全領(lǐng)域的應(yīng)用和研究現(xiàn)狀，包括人工智能在安全領(lǐng)域的應(yīng)用、人工智能的安全威脅及防御（包括人工智能安全風(fēng)險(xiǎn)分析）、智能安全應(yīng)用情況（包括智能安全事例）、智能安全管理現(xiàn)狀、智能安全相關(guān)技術(shù)等。通過(guò)平時(shí)討論、作業(yè)報(bào)告等方式使學(xué)生掌握人工智能安全中的智能在安全領(lǐng)域的應(yīng)用現(xiàn)狀，以及當(dāng)前人工智能的安全威脅和防御，通過(guò)期末考試考察學(xué)生對(duì)于人工智能在安全領(lǐng)域應(yīng)用現(xiàn)狀的理解?？己藘?nèi)容約占總成績(jī)的20%，包括平時(shí)作業(yè)、期末考試。12.1能夠認(rèn)識(shí)不斷探索和學(xué)習(xí)創(chuàng)造的必要性，掌握自主學(xué)習(xí)和終身學(xué)習(xí)創(chuàng)造的方法，具有拓展與更新知識(shí)的能力。課程目標(biāo)5.學(xué)習(xí)、實(shí)踐、體會(huì)人工智能安全方向的科研創(chuàng)新過(guò)程。主要包括：生成對(duì)抗網(wǎng)絡(luò)模擬Sin曲線；模型竊?。粩?shù)據(jù)投毒；人臉活體檢測(cè)；驗(yàn)證碼識(shí)別；圖像對(duì)抗；圖像去噪；垃圾郵件過(guò)濾；網(wǎng)絡(luò)攻擊檢測(cè)；模型逆向攻擊；人臉偽造；成員推理攻擊；屬性推理攻擊；模型公平性檢測(cè)與提升；圖像水印去除；語(yǔ)音合成；視頻檢測(cè)；代碼漏洞挖掘等。通過(guò)平時(shí)Python語(yǔ)言編程作業(yè)和期末考試等方式使學(xué)生掌握人工智能安全方向的科技創(chuàng)新以及拓展與更新知識(shí)的能力，通過(guò)編程實(shí)踐，了解掌握目前最流行的人工智能安全方向以及培養(yǎng)學(xué)生不斷探索和學(xué)習(xí)創(chuàng)造的精神?？己藘?nèi)容約占總成績(jī)的20%，包括平時(shí)作業(yè)、期末考試。四、課程落實(shí)立德樹人的舉措以《高等學(xué)校課程思政建設(shè)指導(dǎo)綱要》（教高〔2020〕3號(hào)）為依據(jù)，科學(xué)設(shè)計(jì)課程思政教學(xué)體系，將思政教育融入課程中的適當(dāng)章節(jié)，主要包括：感受技術(shù)發(fā)展，激發(fā)使命擔(dān)當(dāng)通過(guò)介紹當(dāng)前科技的發(fā)展引用習(xí)總書記語(yǔ)錄來(lái)樹立學(xué)生在創(chuàng)新能力、自主可控、國(guó)家安全戰(zhàn)略等方面的家國(guó)情懷和愛(ài)國(guó)主義意識(shí)，同時(shí)培養(yǎng)學(xué)生探索未知、追求真理、勇攀科學(xué)高峰的責(zé)任感和使命感。學(xué)習(xí)主席思想，腳踏實(shí)地，用于創(chuàng)新通過(guò)人工智能安全技術(shù)章節(jié)講授著名安全公司成功案例，引導(dǎo)學(xué)生學(xué)習(xí)實(shí)事求是、客觀求真、努力鉆研的優(yōu)秀科研工作者的優(yōu)良品德。尊重客觀規(guī)律，樹立正確三觀通過(guò)在講授算法潛藏偏見(jiàn)的過(guò)程中，引導(dǎo)學(xué)生樹立自身正確的三觀，樹立獨(dú)立自主的判斷能力，尊重客觀規(guī)律，培養(yǎng)學(xué)生在法制法規(guī)合規(guī)的框架下合理開(kāi)展技術(shù)應(yīng)用的思維。五、教學(xué)內(nèi)容及學(xué)時(shí)安排參見(jiàn)附表4。六、教學(xué)方法利用授課教師自制的PowerPoint多媒體電子教學(xué)課件演示主要教學(xué)內(nèi)容，使學(xué)生加深印象，更便于理解，同時(shí)也便于加大課堂信息量；以學(xué)生使用Python編程實(shí)踐為主，課堂講授為輔助手段，適當(dāng)穿插提問(wèn)、思考等互動(dòng)教學(xué)方式；對(duì)于教學(xué)難點(diǎn)的解決，主要通過(guò)舉典型的例題，并從中加以說(shuō)明，以教會(huì)學(xué)生。在實(shí)踐內(nèi)容里，主要通過(guò)讓學(xué)生使用Python編程語(yǔ)言來(lái)實(shí)現(xiàn)人工智能安全的相關(guān)應(yīng)用。七、考核方式本課程為選修課，考查方式為平時(shí)作業(yè)和學(xué)生期末考試時(shí)候提交的實(shí)踐報(bào)告。其中成績(jī)構(gòu)成為：期末提交所撰寫的實(shí)踐報(bào)告成績(jī)占60%，平時(shí)作業(yè)報(bào)告成績(jī)占40%。各個(gè)考核環(huán)節(jié)對(duì)于課程目標(biāo)和畢業(yè)要求的指標(biāo)點(diǎn)的貢獻(xiàn)度如表2所示：表2考核環(huán)節(jié)對(duì)課程目標(biāo)和畢業(yè)要求指標(biāo)點(diǎn)的貢獻(xiàn)度指標(biāo)點(diǎn)編號(hào)課程目標(biāo)編號(hào)考核方式總貢獻(xiàn)度平時(shí)（貢獻(xiàn)度40%）期末(貢獻(xiàn)度60%）3.1目標(biāo)1812206.3目標(biāo)2812207.2目標(biāo)38122010.3目標(biāo)48122012.2目標(biāo)581220合計(jì)4060100考核標(biāo)準(zhǔn)參見(jiàn)表3。表3考核標(biāo)準(zhǔn)考核環(huán)節(jié)所占分值考核內(nèi)容對(duì)應(yīng)課程目標(biāo)評(píng)價(jià)細(xì)則課后作業(yè)40%10%為基本概念和理論基礎(chǔ)，考核學(xué)生對(duì)人工智能安全的基本概念及理論基礎(chǔ)的理解和掌握。課程目標(biāo)1平時(shí)作業(yè)一般為14次左右，涵蓋課程所有內(nèi)容，按照是否按時(shí)提交、完成情況等進(jìn)行綜合評(píng)定。每次作業(yè)評(píng)分參考標(biāo)準(zhǔn)為（按照100分計(jì)算）：按時(shí)完成作業(yè)并提交，且合格率達(dá)到60%，計(jì)60分；在此基礎(chǔ)上，作業(yè)合格率滿足70%、80%、90%和100%分別為70分、80分、90分、100分，有創(chuàng)新解題思路或解決方案的可另加10-20分，但每次作業(yè)得分不超過(guò)100分。作業(yè)得分60分及以上達(dá)成作業(yè)所支撐的課程目標(biāo)1、2、3、4和5，說(shuō)明學(xué)生具有理解人工智能安全的基本概念和基本原理、能夠運(yùn)用所學(xué)知識(shí)研究、分析和解決人工智能安全實(shí)際問(wèn)題的能力。20%為分析類題目，考核學(xué)生對(duì)人工智能面臨的安全威脅與安全需求及安全目標(biāo)進(jìn)行分析的能力。課程目標(biāo)220%為設(shè)計(jì)類題，考核學(xué)生基于基本原理完成人工智能安全網(wǎng)絡(luò)的設(shè)計(jì)與應(yīng)用能力。課程目標(biāo)320%為分析類題目，分析當(dāng)前人工智能安全研究現(xiàn)狀，對(duì)安全智能發(fā)展方向提出自己的理解和見(jiàn)識(shí)。課程目標(biāo)430%為綜合類題目，考核學(xué)生對(duì)各類人工智能安全技術(shù)方法進(jìn)行綜合分析、比較，以及利用學(xué)習(xí)的知識(shí)，進(jìn)行Python編程實(shí)踐，撰寫報(bào)告的能力。課程目標(biāo)5期末報(bào)告60%綜合整個(gè)課程所學(xué)，根據(jù)老師組定的人工智能安全題目，進(jìn)行Python編程綜合實(shí)踐，采用開(kāi)卷的方式撰寫實(shí)踐報(bào)告。提交實(shí)踐報(bào)告給老師作為考試成績(jī)的依據(jù)。課程目標(biāo)1、2、3、4和5Python編程綜合實(shí)踐，題目可以涉及課程人工智能安全方向教學(xué)內(nèi)容，考察學(xué)生分析解決復(fù)雜人工智能安全問(wèn)題的能力。期末Python編程綜合實(shí)踐得分60分及以上達(dá)成期末考試所支撐的課程目標(biāo)1、2、3、4和5，說(shuō)明學(xué)生理解和基本掌握了人工智能的基礎(chǔ)知識(shí)，能夠?qū)θ斯ぶ悄茴I(lǐng)域的安全問(wèn)題進(jìn)行分析，并具有分析和解決復(fù)雜人工智能安全問(wèn)題的基本能力。加分項(xiàng)包括：(1)如果學(xué)生對(duì)考試內(nèi)容有深入理解；(2)解決問(wèn)題思路清晰；(3)對(duì)于編程代碼有詳細(xì)的解釋；(4)對(duì)實(shí)踐內(nèi)容有擴(kuò)展；(5)有創(chuàng)新性的想法。八、課程資源課程教材：（1）《人工智能安全：原理與實(shí)踐》，李劍主編，機(jī)械工業(yè)出版社，2024年12月。（2）教師自編講義。參考書目：（1）《機(jī)器學(xué)習(xí)》，趙衛(wèi)東，董亮，人民郵電出版社，2018年7月。（2）《機(jī)器學(xué)習(xí)與應(yīng)用》，雷明，清華大學(xué)出版社，2018年12月。（3）《機(jī)器學(xué)習(xí)與安全》，ClarenceChio，DavidFreeman，中國(guó)電力出版社，2019年8月。（4）《機(jī)器學(xué)習(xí)基礎(chǔ)--原理、方法與實(shí)踐》，袁梅宇，清華大學(xué)出版社，2018年8月。（5）《基于復(fù)雜網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)方法》，迪亞戈·克里斯蒂亞諾·席爾瓦，機(jī)械工業(yè)出版社，2018年11月。（6）《多智能體機(jī)器學(xué)習(xí)：強(qiáng)化學(xué)習(xí)方法》，霍華德M施瓦茲，機(jī)械工業(yè)出版社，2017年7月。（7）《對(duì)抗機(jī)器學(xué)習(xí)：機(jī)器學(xué)習(xí)系統(tǒng)中的攻擊和防御》，葉夫提尼·沃羅見(jiàn)琴科，穆拉特，機(jī)械工業(yè)出版社，2019年12月。（8）《數(shù)據(jù)挖掘：使用機(jī)器學(xué)習(xí)工具與技術(shù)》，IanH.Witten，機(jī)械工業(yè)出版社，2014年5月。（9）《機(jī)器學(xué)習(xí)入門到實(shí)戰(zhàn)--Matlab實(shí)踐應(yīng)用》，冷雨泉，張會(huì)文，張偉，清華大學(xué)出版社，2019年3月。參考課程：（1）課程名：網(wǎng)絡(luò)安全中的人工智能開(kāi)課學(xué)校：TheCompleteArtificialIntelligenceforCyberSecurity2021課程鏈接：/course/the-complete-artificial-intelligence-for-cyber-security-2021/（2）課程名：人工智能與網(wǎng)絡(luò)安全開(kāi)課學(xué)校：CybersecurityforArtificialIntelligence課程鏈接：/course/cybersecurity-for-artificial-intelligence-ai/執(zhí)筆人: 李劍審核人： 時(shí)間：2024年9月25日表4人工智能安全課程教學(xué)內(nèi)容、學(xué)時(shí)分配及對(duì)畢業(yè)要求的支撐序號(hào)知識(shí)模塊教學(xué)內(nèi)容學(xué)時(shí)分配教學(xué)要求支撐課程目標(biāo)學(xué)生任務(wù)作業(yè)要求自學(xué)要求討論1人工智能安全概述從經(jīng)典的兩個(gè)人工智能安全案例事件說(shuō)起，引入人工智能安全的概念及框架，說(shuō)明了人工智能安全現(xiàn)狀，最后給出了本課程的組織、學(xué)習(xí)和講授方法。2了解人工智能安全的重要性；認(rèn)知人工智能安全的概念；掌握人工智能安全的模型；了解這門課的知識(shí)體系；讓學(xué)生了解如何學(xué)習(xí)這門課程；熟悉這門課的講授方法。課程目標(biāo)1查找人工智能和人工智能安全方面的相關(guān)文獻(xiàn)資料，以供學(xué)習(xí)和參考。人工智能存在哪些安全威脅？2生成對(duì)抗網(wǎng)絡(luò)的安全應(yīng)用主要講述生成對(duì)抗網(wǎng)絡(luò)的相關(guān)知識(shí)以及它的實(shí)踐應(yīng)用。在實(shí)踐中講述了兩個(gè)實(shí)踐案例，一個(gè)是基于生成對(duì)抗網(wǎng)絡(luò)的sin曲線樣本模擬，另一個(gè)是基于對(duì)抗性攻擊無(wú)數(shù)據(jù)替代訓(xùn)練的模型竊取。2了解生成對(duì)抗網(wǎng)絡(luò)GANs的原理；掌握生成對(duì)抗網(wǎng)絡(luò)GANs的訓(xùn)練步驟；了解如何學(xué)習(xí)這門課程；熟悉利用生成對(duì)抗網(wǎng)絡(luò)模擬sin曲線樣本的方法；認(rèn)知深度神經(jīng)網(wǎng)絡(luò)；熟悉基于對(duì)抗性攻擊無(wú)數(shù)據(jù)替代訓(xùn)練的模型竊取方法。課程目標(biāo)2用Python語(yǔ)言完成實(shí)踐內(nèi)容“基于生成對(duì)抗網(wǎng)絡(luò)的sin曲線樣本模擬”，并提交實(shí)踐報(bào)告。生成對(duì)抗網(wǎng)絡(luò)方法有哪些應(yīng)用。自行實(shí)現(xiàn)一個(gè)“基于對(duì)抗性攻擊無(wú)數(shù)據(jù)替代訓(xùn)練的模型竊取”。生成器和判別器在生成對(duì)抗網(wǎng)絡(luò)中的作用。3卷積神經(jīng)網(wǎng)絡(luò)的安全應(yīng)用講述卷積神經(jīng)網(wǎng)絡(luò)CNN的原理和它的實(shí)踐應(yīng)用。在實(shí)踐案例中主要講述了三個(gè)經(jīng)典案例：第一個(gè)是基于卷積神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)投毒攻擊；第二個(gè)是基于卷積神經(jīng)網(wǎng)絡(luò)的人臉活體檢測(cè)；最后一個(gè)是基于卷積神經(jīng)網(wǎng)絡(luò)的驗(yàn)證碼識(shí)別。2了解卷積神經(jīng)網(wǎng)絡(luò)的概念和結(jié)構(gòu)；熟悉數(shù)據(jù)投毒攻擊；熟練使用卷積神經(jīng)網(wǎng)絡(luò)模型AlexNet；熟練使用卷積神經(jīng)網(wǎng)絡(luò)模型VGG；熟悉卷積神經(jīng)網(wǎng)絡(luò)在數(shù)據(jù)投毒攻擊中的應(yīng)用；熟悉卷積神經(jīng)網(wǎng)絡(luò)在人臉活體檢測(cè)中的應(yīng)用；熟悉卷積神經(jīng)網(wǎng)絡(luò)在驗(yàn)證碼識(shí)別過(guò)程中的應(yīng)用。課程目標(biāo)2用Python語(yǔ)言完成實(shí)踐內(nèi)容“基于卷積神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)投毒攻擊”，并提交實(shí)踐報(bào)告。用Python語(yǔ)言完成另外兩個(gè)實(shí)踐內(nèi)容：“基于卷積神經(jīng)網(wǎng)絡(luò)的人臉活體檢測(cè)”和“基于卷積神經(jīng)網(wǎng)絡(luò)的驗(yàn)證碼識(shí)別”。投毒攻擊會(huì)帶來(lái)哪些危害？人臉活體檢測(cè)可以應(yīng)用到哪些方面？4對(duì)抗樣本生成算法的安全應(yīng)用介紹如何使用對(duì)抗樣本生成算法高效生成對(duì)抗樣本，并將其應(yīng)用于圖形對(duì)抗當(dāng)中，欺騙所使用的神經(jīng)網(wǎng)絡(luò)，使其做出與正確答案完全不同的判定。本章將編程實(shí)踐兩個(gè)經(jīng)典的對(duì)抗樣本生成算法FastGradientSignMethod(FGSM)算法和ProjectedGradientDescent(PGD)算法。2熟練使用對(duì)抗樣本生成算法；熟悉卷積神經(jīng)網(wǎng)絡(luò)模型的應(yīng)用；了解圖像對(duì)抗知識(shí)；掌握Fast算法；掌握PGD算法。課程目標(biāo)2用Python語(yǔ)言完成實(shí)踐內(nèi)容“對(duì)抗樣本生成算法的圖像對(duì)抗”，并提交實(shí)踐報(bào)告。對(duì)抗生成樣本攻擊與生成對(duì)抗網(wǎng)絡(luò)攻擊有何不同？FGSM算法與PGD算法有什么相同和不同之處？5隨機(jī)森林算法的安全應(yīng)用主要學(xué)習(xí)的基礎(chǔ)知識(shí)是隨機(jī)森林（RandomForest）算法，也是一種主要的機(jī)器學(xué)習(xí)算法之一。在此基礎(chǔ)上實(shí)踐一個(gè)基于隨機(jī)森林算法的圖像去噪安全應(yīng)用系統(tǒng)。2了解決策樹；認(rèn)知圖像噪聲；掌握隨機(jī)森林算法模型；熟悉隨機(jī)森林算法在圖像去噪中的安全應(yīng)用。課程目標(biāo)2用Python語(yǔ)言完成實(shí)踐內(nèi)容“基于隨機(jī)森林算法的圖像去噪”，并提交實(shí)踐報(bào)告。圖像去噪的作用是什么？隨機(jī)森林算法還有哪些應(yīng)用。6貝葉斯和SVM分類算法的安全應(yīng)用主要講述機(jī)器學(xué)習(xí)里兩個(gè)經(jīng)典的分類算法：貝葉斯分類算法和SVM分類算法，以及他們?cè)诰W(wǎng)絡(luò)空間安全領(lǐng)域的應(yīng)用。在實(shí)踐部分，主要講述基于貝葉斯和SVM分類算法的垃圾郵件過(guò)濾系統(tǒng)。2了解垃圾郵件；認(rèn)知垃圾郵件的過(guò)濾方法；掌握貝葉斯分類算法；掌握SVM分類算法；熟悉基于貝葉斯分類算法的垃圾郵件過(guò)濾方法；熟悉基于SVM分類算法的垃圾郵件過(guò)濾方法。課程目標(biāo)3用Python語(yǔ)言完成實(shí)踐內(nèi)容“基于貝葉斯和SVM分類算法的垃圾郵件過(guò)濾”，并提交實(shí)踐報(bào)告。樸素貝葉斯分類算法的原理。SVM分類算法的原理。7長(zhǎng)短期記憶網(wǎng)絡(luò)的安全應(yīng)用主要講述利用雙向長(zhǎng)短期記憶網(wǎng)絡(luò)(LongShort-TermMemory，LSTM)模型對(duì)網(wǎng)絡(luò)流量進(jìn)行攻擊檢測(cè)。通過(guò)預(yù)處理包含攻擊和正常流量的數(shù)據(jù)集，提取特征并標(biāo)準(zhǔn)化后，將數(shù)據(jù)轉(zhuǎn)換為L(zhǎng)STM輸入格式。模型經(jīng)過(guò)訓(xùn)練和驗(yàn)證，達(dá)到較高的準(zhǔn)確率和召回率。最終，模型識(shí)別并分類網(wǎng)絡(luò)流量中的攻擊行為，驗(yàn)證人工智能中的機(jī)器學(xué)習(xí)方法在網(wǎng)絡(luò)安全中的有效性。2了解雙向長(zhǎng)短期記憶網(wǎng)絡(luò)；認(rèn)知網(wǎng)絡(luò)攻擊的概念；了解網(wǎng)絡(luò)攻擊檢測(cè)的分類；了解網(wǎng)絡(luò)攻擊檢測(cè)的過(guò)程；掌握雙向LSTM模型對(duì)網(wǎng)絡(luò)攻擊進(jìn)行檢測(cè)方法。課程目標(biāo)3用Python語(yǔ)言完成實(shí)踐內(nèi)容“基于雙向LSTM模型的網(wǎng)絡(luò)攻擊檢測(cè)”，并提交實(shí)踐報(bào)告。網(wǎng)絡(luò)攻擊檢測(cè)系統(tǒng)通常包括哪些組件？雙向LSTM模型的作用與特點(diǎn)。8梯度下降算法的安全應(yīng)用介紹了梯度下降算法的原理、優(yōu)化方法、常見(jiàn)問(wèn)題以及實(shí)際應(yīng)用。在編程實(shí)踐部分介紹了一個(gè)基于梯度下降的模型逆向（ModelInversion）攻擊。2了解梯度下降算法的原理；認(rèn)知梯度下降算法的優(yōu)化方法；掌握基于梯度下降的模型逆向攻擊方法。課程目標(biāo)3用Python語(yǔ)言完成實(shí)踐內(nèi)容“基于梯度下降的模型逆向攻擊”，并提交實(shí)踐報(bào)告。梯度下降算法的作用是什么？常見(jiàn)的模型逆向攻擊方法有哪些？9深度偽造原理與安全應(yīng)用主要介紹人工智能安全領(lǐng)域的深度偽造技術(shù)原理，并且詳細(xì)介紹如何通過(guò)編程實(shí)踐實(shí)現(xiàn)一個(gè)典型的深度偽造應(yīng)用：人臉偽造。2了解深度偽造技術(shù)；認(rèn)知人臉圖像偽造方法；了解深度偽造有哪些危害；掌握基于深度偽造技術(shù)的人臉偽造方法。課程目標(biāo)3用Python語(yǔ)言完成實(shí)踐內(nèi)容“基于深度偽造技術(shù)的人臉偽造”，并提交實(shí)踐報(bào)告。深度偽造有哪些危害？根據(jù)人臉篡改區(qū)域和篡改目的，可將深度人臉偽造技術(shù)分為哪些類？10成員推理攻擊原理與實(shí)踐主要講述成員推理攻擊的原理與應(yīng)用。在實(shí)踐部分，主要講述基于影子模型的成員推理攻擊。2了解成員推理攻擊的重要性；認(rèn)知成員推理攻擊的方法；認(rèn)知影子模型攻擊；掌握基于影子模型的成員推理攻擊方法。課程目標(biāo)3用Python語(yǔ)言完成實(shí)踐內(nèi)容“基于影子模型的成員推理攻擊”，并提交實(shí)踐報(bào)告。什么是影子模型攻擊？常見(jiàn)的成員推理攻擊方法有哪些？11屬性推理攻擊原理與實(shí)踐講述屬性推理攻擊（AttributeInferenceAttack）的概念、原理、攻擊場(chǎng)景和常用方法。在編程實(shí)踐部分講述了一個(gè)基于神經(jīng)網(wǎng)絡(luò)的屬性推理攻擊。2了解屬性推理攻擊的概念；認(rèn)知屬性推理攻擊的攻擊場(chǎng)景；認(rèn)知屬性推理攻擊的常用方法；掌握基于神經(jīng)網(wǎng)絡(luò)的屬性推理攻擊方法。課程目標(biāo)4用Python語(yǔ)言完成實(shí)踐內(nèi)容“基于神經(jīng)網(wǎng)絡(luò)的屬性推理攻擊”，并提交實(shí)踐報(bào)告。屬性推理攻擊都有哪些危害？屬性推理攻擊都有哪些常用方法？12模型公平性檢測(cè)與提升講述如何對(duì)人工智能算法進(jìn)行公平性檢測(cè)，從而消除歧視，進(jìn)而提升算法的公平性。2了解算法歧視的重要性；認(rèn)知模型的公平性；掌握模型公平性檢測(cè)與提升的方法。課程目標(biāo)4用Python語(yǔ)言完成實(shí)踐內(nèi)容“模型公平性檢測(cè)與提升”，并提交實(shí)踐報(bào)告。什么是算法歧視？如何使得算法模型更加公平一些？13水印去除原理與實(shí)踐對(duì)水印知識(shí)進(jìn)行介紹。實(shí)踐內(nèi)容是一個(gè)基于深度學(xué)習(xí)的圖像去水印應(yīng)用，采用SkipEncoder-Decoder模型。它的核心功能是通過(guò)對(duì)圖像及其相應(yīng)水印蒙版的深度分析和處理，有效去除圖像中的水印。在實(shí)踐中通過(guò)自動(dòng)化學(xué)習(xí)和調(diào)整圖像數(shù)據(jù)，以確保去水印后的輸出圖片質(zhì)量