機(jī)器學(xué)習(xí)教學(xué)大綱

《機(jī)器學(xué)習(xí)》課程教學(xué)大綱課程代碼：課程英文名稱(chēng)：MachineLearning課程總課時(shí)：40講課：32試驗(yàn)：8上機(jī)：0合用專(zhuān)業(yè)：信息與計(jì)算科學(xué)大綱編寫(xiě)（修訂）時(shí)間：.11 一、大綱使用闡明（一）課程的地位及教學(xué)目的機(jī)器學(xué)習(xí)是信息與計(jì)算科學(xué)專(zhuān)業(yè)的一門(mén)專(zhuān)業(yè)選修課。建設(shè)信息安全保障體系是信息安全保障工作的重要任務(wù)，信息安全保密是信息安全保障中的關(guān)鍵問(wèn)題之一。伴隨互聯(lián)網(wǎng)和電子商務(wù)等技術(shù)的不停發(fā)展和應(yīng)用，信息安全與保密成了影響計(jì)算機(jī)應(yīng)用的重要問(wèn)題。本課程教學(xué)目的就是讓信息與計(jì)算科學(xué)專(zhuān)業(yè)的學(xué)生掌握常見(jiàn)的機(jī)器學(xué)習(xí)算法，包括算法的重要思想和基本環(huán)節(jié)，并通過(guò)編程練習(xí)和經(jīng)典應(yīng)用實(shí)例加深理解；同步對(duì)機(jī)器學(xué)習(xí)的一般理論，如假設(shè)空間、采樣理論、計(jì)算學(xué)習(xí)理論，以及無(wú)監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)有所理解。（二）知識(shí)、能力及技能方面的基本規(guī)定1.基本知識(shí)：機(jī)器學(xué)習(xí)總論，監(jiān)督學(xué)習(xí)，非監(jiān)督學(xué)習(xí)，記錄學(xué)習(xí)，計(jì)算學(xué)習(xí)，貝葉斯學(xué)習(xí)，數(shù)據(jù)壓縮學(xué)習(xí)。2.基本能力和措施：通過(guò)本科程的學(xué)習(xí)，培養(yǎng)學(xué)生的學(xué)習(xí)能力，創(chuàng)新能力，把知識(shí)與實(shí)際應(yīng)用相結(jié)合的能力。3.基本技能:能根據(jù)實(shí)際問(wèn)題的需要選擇并實(shí)現(xiàn)對(duì)應(yīng)的算法。（三）實(shí)行闡明1．教學(xué)措施：課堂講授中要重點(diǎn)對(duì)基本概念、基本措施和解題思緒的講解；采用啟發(fā)式教學(xué)，培養(yǎng)學(xué)生思索問(wèn)題、分析問(wèn)題和處理問(wèn)題的能力；引導(dǎo)和鼓勵(lì)學(xué)生通過(guò)實(shí)踐和自學(xué)獲取知識(shí)，培養(yǎng)學(xué)生的自學(xué)能力；增長(zhǎng)討論課，調(diào)動(dòng)學(xué)生學(xué)習(xí)的主觀能動(dòng)性。講課要聯(lián)絡(luò)實(shí)際并重視培養(yǎng)學(xué)生的動(dòng)手能力和創(chuàng)新思維。2．教學(xué)手段：本課程提議采用課堂講授、討論、多媒體教學(xué)相結(jié)合的教學(xué)形式，以保證在有限的課時(shí)內(nèi)，全面、高質(zhì)量地完畢課程教學(xué)任務(wù)。3．教師在講課過(guò)程中可以根據(jù)實(shí)際狀況酌情安排各部分的課時(shí)，課時(shí)分派表僅供參照。（四）對(duì)先修課的規(guī)定本課程的教學(xué)必須在完畢先修課程之后進(jìn)行。本課程重要的先修課程有計(jì)算機(jī)程序設(shè)計(jì)、概率論與數(shù)理記錄等。（五）對(duì)習(xí)題課、實(shí)踐環(huán)節(jié)的規(guī)定1．本課程規(guī)定學(xué)生能學(xué)會(huì)多種技術(shù)的原理，對(duì)多種機(jī)器學(xué)習(xí)問(wèn)題進(jìn)行分析和提出對(duì)應(yīng)處理方案。因此作業(yè)以小論文方式最佳，也可以預(yù)留針某種機(jī)器學(xué)習(xí)問(wèn)題的題目，讓學(xué)生查閱資料在課堂上討論、發(fā)言。2．課后作業(yè)要少而精，內(nèi)容要多樣化，作業(yè)題內(nèi)容必須包括基本概念、基本理論及設(shè)計(jì)計(jì)算方面的內(nèi)容，作業(yè)要能起到鞏固理論，掌握計(jì)算措施和技巧，提高分析問(wèn)題、處理問(wèn)題能力，熟悉原則、規(guī)范等的作用，對(duì)作業(yè)中的重點(diǎn)、難點(diǎn)，課上應(yīng)做必要的提醒，并合適安排課內(nèi)講評(píng)作業(yè)。學(xué)生必須獨(dú)立、準(zhǔn)時(shí)完畢課外習(xí)題和作業(yè)，作業(yè)的完畢狀況應(yīng)作為評(píng)估課程成績(jī)的一部分。3．每個(gè)學(xué)生要完畢大綱中規(guī)定的上機(jī)試驗(yàn)，通過(guò)上機(jī)環(huán)節(jié)，學(xué)生應(yīng)掌握經(jīng)典機(jī)器學(xué)習(xí)措施的計(jì)算機(jī)實(shí)現(xiàn)措施，獲得試驗(yàn)操作的基本訓(xùn)練。4．安排大作業(yè)，大作業(yè)成績(jī)作為平時(shí)成績(jī)的一部分。（六）課程考核方式1．考核方式：考察。2．考核目的：在考核學(xué)生對(duì)機(jī)器學(xué)習(xí)基本知識(shí)、基本原理和措施的基礎(chǔ)上，重點(diǎn)考核學(xué)生的分析能力和設(shè)計(jì)能力。3．成績(jī)構(gòu)成：本課程的總成績(jī)重要由三部分構(gòu)成：平時(shí)成績(jī)（包括作業(yè)狀況、出勤狀況等）占20%，試驗(yàn)成績(jī)占20%，期末考試成績(jī)占60%。平時(shí)成績(jī)由任課教師視詳細(xì)狀況按百分制給出；試驗(yàn)成績(jī)由試驗(yàn)老師參照有關(guān)規(guī)定按百分制給出，試驗(yàn)無(wú)成績(jī)或試驗(yàn)不及格，取消期末考試資格，總成績(jī)直接以不及格計(jì)。（七）參照書(shū)目 《機(jī)器學(xué)習(xí)》，周志華編，清華大學(xué)出版社，《PatternRecognitionandMachineLearning》Bishop,C.M.,SpringScienceBusinessMedia,LLC，《人工智能》，陸汝鈴編，科學(xué)出版社，1996《記錄學(xué)習(xí)發(fā)法》，李航編，清華大學(xué)出版社，二、中文摘要本課程是信息與計(jì)算科學(xué)專(zhuān)業(yè)學(xué)生選修的一門(mén)實(shí)踐性較強(qiáng)的技術(shù)專(zhuān)業(yè)課程。課程通過(guò)對(duì)機(jī)器學(xué)習(xí)理論內(nèi)容的講授，使學(xué)生掌握機(jī)器學(xué)習(xí)的基本知識(shí)、原理和措施。課程重要內(nèi)容包括信息安全的基本概念和基本技術(shù)、常見(jiàn)的古典密碼體制、對(duì)稱(chēng)密碼體制、公鑰密碼體制及其他多種應(yīng)用安全的基本原理。本課程將為有關(guān)畢業(yè)設(shè)計(jì)奠定重要的基礎(chǔ)。三、課程課時(shí)分派表序號(hào)教學(xué)內(nèi)容課時(shí)講課試驗(yàn)上機(jī)1緒論441.1機(jī)器學(xué)習(xí)的一般原理與有關(guān)概念21.2學(xué)習(xí)問(wèn)題的原則描述與選擇目的函數(shù)22概念學(xué)習(xí)和一般到特殊序442.1概念學(xué)習(xí)的定義和基本措施22.2假設(shè)的一般到特殊序23決策樹(shù)學(xué)習(xí)8623.1決策樹(shù)學(xué)習(xí)的基本原理23.2決策樹(shù)學(xué)習(xí)的基本算法23.3決策樹(shù)學(xué)習(xí)的表達(dá)法2試驗(yàn)24人工神經(jīng)網(wǎng)絡(luò)8624.1神經(jīng)網(wǎng)絡(luò)的基本原理和表達(dá)措施24.2感知器的基本原理和訓(xùn)練法則24.3反向傳播算法（BP）和訓(xùn)練法則2試驗(yàn)25貝葉斯學(xué)習(xí)8625.1貝葉斯公式的基本原理、先驗(yàn)概率，后驗(yàn)概率的概念25.2MAP假設(shè)和一致學(xué)習(xí)器25.3應(yīng)用

貝葉斯最優(yōu)分類(lèi)器原理和算法2試驗(yàn)26基于實(shí)例的學(xué)習(xí)6426.1k-近鄰法算法及實(shí)現(xiàn)

26.2距離加權(quán)近來(lái)鄰算法

2試驗(yàn)27深度學(xué)習(xí)簡(jiǎn)介22合計(jì)40328四、教學(xué)內(nèi)容及基本規(guī)定第1部分緒論總課時(shí)(單位：課時(shí)):4講課:4試驗(yàn):0上機(jī):0第1.1部分機(jī)器學(xué)習(xí)的一般原理與有關(guān)概念（講課2課時(shí)）詳細(xì)內(nèi)容:1) 理解機(jī)器學(xué)習(xí)的發(fā)展歷程。2) 理解機(jī)器學(xué)習(xí)的一般原理。3) 掌握機(jī)器學(xué)習(xí)的有關(guān)概念。第1.2部分學(xué)習(xí)問(wèn)題的原則描述與選擇目的函數(shù)（講課2課時(shí)）詳細(xì)內(nèi)容:1) 學(xué)習(xí)問(wèn)題的原則描述。2) 掌握選擇目的函數(shù)的表達(dá)

選擇函數(shù)迫近算法

。重點(diǎn):機(jī)器學(xué)習(xí)的基本概念與基本原理，目的函數(shù)的選擇。難點(diǎn):機(jī)器學(xué)習(xí)的基本概念與基本原理。習(xí)題:可以上網(wǎng)查閱有關(guān)知識(shí)，寫(xiě)一篇有關(guān)機(jī)器學(xué)習(xí)的小論文。第2部分概念學(xué)習(xí)和一般到特殊序總課時(shí)(單位：課時(shí)):4講課:4試驗(yàn):0上機(jī):0第2.1部分概念學(xué)習(xí)的定義和基本措施（講課2課時(shí)）詳細(xì)內(nèi)容:掌握

概念學(xué)習(xí)的任務(wù)和基本術(shù)語(yǔ)（實(shí)例，目的概念，訓(xùn)練樣例，正例，反例，假設(shè)）理解

歸納學(xué)習(xí)的措施。第2.2部分假設(shè)的一般到特殊序（講課2課時(shí)）詳細(xì)內(nèi)容:1) 理解

Find-S算法：尋找極大特殊假設(shè)。

2) 掌握變型空間和候選消除算法

學(xué)習(xí)成果的評(píng)價(jià)。重點(diǎn):概念學(xué)習(xí)的任務(wù)和基本術(shù)語(yǔ)（實(shí)例，目的概念，訓(xùn)練樣例，正例，反例，假設(shè)）、變型空間和候選消除算法

學(xué)習(xí)成果的評(píng)價(jià)。難點(diǎn):變型空間和候選消除算法

學(xué)習(xí)成果的評(píng)價(jià)。習(xí)題:變型空間和候選消除算法

學(xué)習(xí)成果的評(píng)價(jià)。第3部分決策樹(shù)學(xué)習(xí)總課時(shí)(單位：課時(shí)):8講課:6試驗(yàn):2上機(jī):0第3.1部分決策樹(shù)學(xué)習(xí)的基本原理（講課2課時(shí)）詳細(xì)內(nèi)容：掌握選擇度量原則的基本原理。第3.2部分決策樹(shù)學(xué)習(xí)的基本算法課2時(shí)）詳細(xì)內(nèi)容:掌握

基本的決策樹(shù)學(xué)習(xí)算法第3.3部分決策樹(shù)學(xué)習(xí)的表達(dá)法（課2時(shí)）詳細(xì)內(nèi)容:學(xué)習(xí)中的假設(shè)空間搜索

決策樹(shù)學(xué)習(xí)的歸納偏置

與決策樹(shù)學(xué)習(xí)的常見(jiàn)問(wèn)題(過(guò)度擬合,

持續(xù)值屬性等)和常用的處理措施（修剪，定義新的離散值屬性等）重點(diǎn):決策樹(shù)學(xué)習(xí)的基本原理、算法與表達(dá)法及上機(jī)實(shí)現(xiàn)。難點(diǎn):決策樹(shù)學(xué)習(xí)的基本原理、算法與表達(dá)法及上機(jī)實(shí)現(xiàn)。習(xí)題:決策樹(shù)的基本流程、劃分選擇、剪枝處理。實(shí)驗(yàn):編程實(shí)現(xiàn)決策樹(shù)的剪枝問(wèn)題。（2課時(shí)）第4部分人工神經(jīng)網(wǎng)絡(luò)總課時(shí)(單位：課時(shí)):8講課:6試驗(yàn):2上機(jī):0第4.1部分神經(jīng)網(wǎng)絡(luò)的基本原理和表達(dá)措施（講課2課時(shí)）詳細(xì)內(nèi)容：1) 理解神經(jīng)網(wǎng)絡(luò)基本概念。2) 掌握神經(jīng)網(wǎng)絡(luò)的基本原理和表達(dá)措施。第4.2部分感知器的基本原理和訓(xùn)練法則（講課2課時(shí)）詳細(xì)內(nèi)容：理解感知器的基本原理和訓(xùn)練法則。第4.3部分反向傳播算法（BP）和訓(xùn)練法則（講課2課時(shí)）詳細(xì)內(nèi)容：掌握反向傳播算法（BP）和訓(xùn)練法則，并理解局部最小與全局最小。重點(diǎn):感知器的基本原理和訓(xùn)練法則，反向傳播算法（BP）和訓(xùn)練法則并上機(jī)實(shí)現(xiàn)。難點(diǎn):反向傳播算法（BP）和訓(xùn)練法則并上機(jī)實(shí)現(xiàn)。習(xí)題:查閱有關(guān)資料，撰寫(xiě)小論文。實(shí)驗(yàn):編程實(shí)現(xiàn)反向傳播算法（BP）和訓(xùn)練法則（2課時(shí)）第5部分貝葉斯學(xué)習(xí)總課時(shí)(單位：課時(shí)):8講課:6試驗(yàn):2上機(jī):0第5.1部分貝葉斯公式的基本原理、先驗(yàn)概率，后驗(yàn)概率的概念（講課2課時(shí)）詳細(xì)內(nèi)容:

貝葉斯公式的基本原理、先驗(yàn)概率，后驗(yàn)概率的概念。

Brute-Force貝葉斯概念學(xué)習(xí)的基本原理和貝葉斯法則的應(yīng)用第5.2部分MAP假設(shè)和一致學(xué)習(xí)器（講課2課時(shí)）詳細(xì)內(nèi)容:掌握MAP假設(shè)和一致學(xué)習(xí)器的使用方法。第5.3部分應(yīng)用

貝葉斯最優(yōu)分類(lèi)器原理和算法（講課2課時(shí)）詳細(xì)內(nèi)容:掌握樸素貝葉斯分類(lèi)器與半樸素貝葉斯分類(lèi)器，理解貝葉斯網(wǎng)絡(luò)的優(yōu)缺陷。重點(diǎn):Brute-Force貝葉斯概念學(xué)習(xí)的基本原理和貝葉斯法則的應(yīng)用；貝葉斯最優(yōu)分類(lèi)器原理和算法。難點(diǎn):貝葉斯最優(yōu)分類(lèi)器原理和算法及其實(shí)現(xiàn)。習(xí)題:樸素貝葉斯分類(lèi)器與半樸素貝葉斯分類(lèi)器。實(shí)驗(yàn):可以對(duì)貝葉斯分類(lèi)器進(jìn)行編程實(shí)現(xiàn)。（2課時(shí)）第6部分基于實(shí)例的學(xué)習(xí)總課時(shí)(單位：課時(shí)):6講課:4試驗(yàn):2上機(jī):0第6.1部分k-近鄰法算法及實(shí)現(xiàn)（講課2課時(shí)）詳細(xì)內(nèi)容:掌握k-近鄰法算法的基本原理與詳細(xì)實(shí)現(xiàn)。第6.2部分距離加權(quán)近來(lái)鄰算法（講課2課時(shí)）詳細(xì)內(nèi)容:掌握距離加權(quán)近來(lái)鄰算法的基本原理與詳細(xì)實(shí)現(xiàn)。重點(diǎn):k-近鄰法算法的基本原理與詳細(xì)實(shí)現(xiàn)，距離加權(quán)近來(lái)鄰算法的基本原理與詳細(xì)實(shí)現(xiàn)。難點(diǎn):k-近鄰法算法的基本原理與詳細(xì)實(shí)現(xiàn)，距離加權(quán)近來(lái)鄰算法的基本原理