模式識別與機器學習-教學大綱

《模式識別與機器學習》教學大綱課程信息課程名稱：模式識別與機器學習課程類別：素質(zhì)選修課/專業(yè)基礎(chǔ)課課程性質(zhì)：選修/必修計劃學時：64計劃學分：4先修課程：無選用教材：《模式識別與機器學習》李映主編，電子工業(yè)出版社，2023.6。適用專業(yè)：本課程可作為計算機科學領(lǐng)域機器學習和模式識別專業(yè)方向高年級本科生和研究生的教材，也可供相關(guān)技術(shù)人員參考。課程負責人：二、課程簡介本課程介紹模式識別和機器學習技術(shù)的主要方面，包括貝葉斯統(tǒng)計決策、概率密度函數(shù)的估計、線性分類與回歸模型、其他分類方法、無監(jiān)督學習和聚類、核方法和支持向量機、神經(jīng)網(wǎng)絡和深度學習、特征選擇與提取等。三、課程教學要求序號專業(yè)畢業(yè)要求課程教學要求關(guān)聯(lián)程度1工程知識第1章緒論介紹模式識別的基本概念和模式識別系統(tǒng)、機器學習的主要方法以及隨機變量及分布，使讀者全面了解模式識別與機器學習的相關(guān)知識。第2章貝葉斯統(tǒng)計決策分析最小錯誤率判別規(guī)則、最小風險判別規(guī)則、最大似然比判別規(guī)則、Neyman-Pearson判別規(guī)則、最小最大判別規(guī)則等經(jīng)典統(tǒng)計決策理論，以及分類器設(shè)計、正態(tài)分布時的貝葉斯分類方法。第3章概率密度函數(shù)的估計介紹最大似然估計、貝葉斯估計、EM估計等參數(shù)估計方法，以及Parzen窗和k近鄰估計等非參數(shù)估計方法。第4章線性分類與回歸模型介紹線性判別函數(shù)和決策面、廣義線性判別函數(shù)、最小均方誤差判別等經(jīng)典線性分類方法，以及線性回歸模型和正則化方法。第5章其他分類方法講述近鄰法、邏輯斯蒂歸、決策樹與隨機森林。第6章無監(jiān)督學習和聚類介紹無監(jiān)督混合模型估計，以及動態(tài)聚類、層次聚類、譜聚類、模糊聚類、相似性傳播聚類等無監(jiān)督聚類方法。第7章核方法和支持向量機介紹核學習機的基本思想，以及線性和非線性支持向量分類機與回歸機。第8章神經(jīng)網(wǎng)絡和深度學習討論感知器、多層神經(jīng)網(wǎng)絡、自組織映射神經(jīng)網(wǎng)絡等經(jīng)典神經(jīng)網(wǎng)絡模型，簡要介紹包括堆棧式自編碼網(wǎng)絡、深度置信網(wǎng)絡、卷積神經(jīng)網(wǎng)絡、循環(huán)神經(jīng)網(wǎng)絡、生成對抗網(wǎng)絡、擴散模型和Transformer模型等深度學習模型。第9章特征選擇與提取介紹特征選擇的一般流程和過濾式、封裝式、入式、集成式等典型特征選擇方法，線性判別分析、主成分分析等線性特征提取方法，以及核的線性判別分析、核的主成分分析、流行學習等非線性特征提取方法。H2問題分析模式識別是從工程角度發(fā)展起來的，機器學習是從計算機科學的角度發(fā)展起來的。近年來，作為人工智能領(lǐng)域的核心技術(shù)和理論，它們之間的滲透越來越明顯。前些年，模式識別和機器學習基本上是作為兩門獨立的課程為高年級本科生和研究生開設(shè)的，所用的教材也是獨立的。近年來，隨著教學課程體系改革，有些高校整合了這兩門課程，新設(shè)了“模式識別和機器學習”課程，但國內(nèi)將這兩門課程合并的配套教材相對較少。H3設(shè)計/開發(fā)解決方案本課程從2014年開始講授本科生的“模式識別與機器學習”，將這兩門課程合并。既重視基礎(chǔ)理論和經(jīng)典方法的介紹，又兼顧前沿知識和最新模型的融入，力圖反映該領(lǐng)域的核心知識體系和新發(fā)展趨勢；每章的內(nèi)容盡可能做到豐富完整，并附有習題或上機實踐題。M4研究L5使用現(xiàn)代工具L6工程與社會學會將相應技術(shù)應用于實際生產(chǎn)和社會服務中，為社會做出貢獻。M7環(huán)境和可持續(xù)發(fā)展L8職業(yè)規(guī)范L9個人和團隊學會個人發(fā)展和團隊合作，提高個人和團隊的綜合素質(zhì)。H10溝通學會進行有效的溝通和表達，與客戶、同事和上級保持良好的溝通和協(xié)作。H11項目管理L12終身學習1.學會進行自我學習和自我提升，不斷提高自身的專業(yè)水平和創(chuàng)新能力。2.學會進行終身學習和職業(yè)發(fā)展規(guī)劃，不斷拓展職業(yè)領(lǐng)域和發(fā)展空間。H注：“課程教學要求”欄中內(nèi)容為針對該課程適用專業(yè)的專業(yè)畢業(yè)要求與相關(guān)教學要求的具體描述。“關(guān)聯(lián)程度”欄中字母表示二者關(guān)聯(lián)程度。關(guān)聯(lián)程度按高關(guān)聯(lián)、中關(guān)聯(lián)、低關(guān)聯(lián)三檔分別表示為“H”“M”或“L”?！罢n程教學要求”及“關(guān)聯(lián)程度”中的空白欄表示該課程與所對應的專業(yè)畢業(yè)要求條目不相關(guān)。四、課程教學內(nèi)容章節(jié)名稱主要內(nèi)容重難點關(guān)鍵詞學時類型1緒論引言模式識別的基本概念模式識別系統(tǒng)機器學習的主要方法概逐分布習題1.了解模式空間、特征空間和類空間；2.掌握識別系統(tǒng)的功能包括模式采集、特征提取/選擇、分類等；3.了解機器學習的主要方法；4.掌握概率分布的相關(guān)內(nèi)容。4理論2貝葉斯統(tǒng)計決策引言最小錯誤率判別規(guī)則最小風險判別規(guī)則最大似然比判別規(guī)則Neyman-Pearson判別規(guī)則最小最大判別規(guī)則分類器設(shè)計正態(tài)分布中的貝葉斯分類方法小結(jié)1.了解紹貝葉斯分類方法中的一般性判別規(guī)則；2.抽象出隨機模式的判別函數(shù)和決策面方程，給出兩種分類器結(jié)構(gòu)；3.了解并學會使用統(tǒng)計決策規(guī)則；4.了解正態(tài)分布中的貝葉斯分類方法。12理論3概率密度函數(shù)的估計引言最大似然估計貝葉斯估計與貝葉斯學文EM估計方法非參數(shù)估計方法小結(jié)掌握Parzen窗法和近鄰法。器的能力。4理論4線性分類與回歸模型引言線性判別函數(shù)和決策面廣義線性判別函數(shù)最小均方誤差判別線性回歸模型正則化線性回歸小結(jié)了解并掌握線性判別函數(shù)和決策面、廣義線性判別函數(shù)最小均方誤差判別、線性回歸模型以及正則化線性回歸的相關(guān)知識。6理論5其他分類方法引言近鄰法邏輯斯蒂回歸決策樹與隨機森林小結(jié)掌握近鄰法、邏輯斯蒂回歸、決策樹與隨機森林相關(guān)內(nèi)容。4理論6無監(jiān)督學習和聚類引言混合模型的估計動態(tài)聚類管法層次聚類算法譜聚米模糊聚類方法相似性傳播聚類小結(jié)1.了解混合模型的估計相關(guān)內(nèi)容；2.掌握動態(tài)聚類管法、層次聚類算法；3.了解譜聚米、模糊聚類方法和相似性傳播聚類相關(guān)內(nèi)容。8理論7核方法和支持向量機引言核學習機支持向量機支持向量回歸機小結(jié)1.了解支持向量機的分類及相關(guān)函數(shù)；2.了解支持向量回歸機的相關(guān)函數(shù)。6理論8神經(jīng)網(wǎng)絡和深度學習引言感知器多層前向神經(jīng)網(wǎng)絡自組織特征映射神經(jīng)網(wǎng)絡深度學習小結(jié)1.了解感知器的概念、訓練算法及收斂性；2.掌握感知器準則函數(shù)及梯度法；3.了解多層多層前向神經(jīng)網(wǎng)絡組成等內(nèi)容；4.了解自組織特征映射神經(jīng)網(wǎng)絡的相關(guān)內(nèi)容；5.了解深度學習組成、結(jié)構(gòu)、相關(guān)編碼等內(nèi)容。12理論9特征選擇與提取引言特征選擇的一般流程特征選怪方?jīng)Q線性特征提取方法非線性特征提取方法小結(jié)1.了解特征選擇的一般流程；2.掌握特征選擇的各種方法；3.掌握線性的判別分析、主成分分析；4.掌握線性特征和非線性特征的提取方法。8理論五、考核要求及成績評定序號成績類別考核方式考核要求權(quán)重（%）備注1期末成績期末考試考試50百分制，60分為及格2平時成績課后作業(yè)9次40優(yōu)、良、中、及格、不及格3平時表現(xiàn)出勤情況10兩次未參加課程則無法獲得學分注：此表中內(nèi)容為該課程的全部考核方式及其相關(guān)信息。六、學生學習建議學習方法建議1.通過開展課堂討論、實踐活動，增強的團隊交流能力，學會如何與他人合作、溝通、協(xié)調(diào)等等。2.了解行業(yè)企業(yè)技術(shù)標準，注重學習新技術(shù)、新工藝和新方法，根據(jù)教材中穿插設(shè)置的相關(guān)實例，對已有技術(shù)持續(xù)進行更新。3.閱讀推薦的書籍、文獻和資料，擴展自己的知識面和視野，提高自己的綜合素質(zhì)和能力。學生課外閱讀參考資料《模式識別與機器學習》李映主編，電子工業(yè)出版社，2023.6。七、課程改革與建設(shè)本課程既重視基礎(chǔ)理論和經(jīng)典方法的介紹，又兼顧前沿知識和