Python工程應用-數(shù)據(jù)分析基礎與實踐課件-第1章

第一章概論西華大學機器學習第一章機器學習概述XXX學校XXX2022目錄Contents什么是機器學習機器學習的應用機器學習研究內容問題的常規(guī)處理方法各概念間關系

本章知識圖譜3什么是機器學習一1.1什么是機器學習5故事一：瑞雪兆豐年第一年冬天：下大雪第二年收獲季節(jié)：大豐收冬天：沒怎么下雪第三年收獲季節(jié)：顆粒無收冬天：下大雪第四年收獲季節(jié)：大豐收冬天：下大雪現(xiàn)象1：頭一年瑞雪現(xiàn)象2：來年豐收現(xiàn)象間的規(guī)律1.1什么是機器學習6故事二：挑芒果顏色大小產地形狀物理屬性：品質：甜多汁1.1什么是機器學習7故事二：挑芒果if(顏色是嫩黃and尺寸是大的and購自最喜歡的小販):芒果是甜的if(軟的):芒果是多汁的……計算機程序：1.1什么是機器學習8機器學習過程人類的歸納過程機器學習的應用二2.1圖像和計算機視覺101、ImageNet競賽和WebVision競賽2、物體識別與目標跟蹤3、輔助成像和藝術創(chuàng)作2.2日常生活及消費112.3金融領域12分析股票信用評價保險行業(yè)欺詐檢測房地產行業(yè)2.4醫(yī)療領域13輔助診斷臨床實驗新藥研發(fā)個性化用藥2.5自然語言處理14自然語言處理的研究內容非常廣泛，主要包括以下幾個方面：句法語義分析信息提取文本挖掘機器翻譯信息檢索問答系統(tǒng)對話系統(tǒng)文本自動摘要

自然語言生成2.6安全和異常行為檢測152.7工業(yè)和商業(yè)領域162.8娛樂領域17智能音響視頻網(wǎng)站動畫游戲機器學習主要研究內容三3.1機器學習的主要研究內容

機器學習研究的是從已有數(shù)據(jù)中通過選取合適的算法進行學習，自動歸納邏輯或規(guī)則，并根據(jù)這個歸納的結果對新數(shù)據(jù)進行預測。機器學習包含了三個基本的要素，即數(shù)據(jù)、算法和模型。

機器學習包含了監(jiān)督學習、非監(jiān)督學習和強化學習幾種類別。3.1機器學習的主要研究內容監(jiān)督學習(SupervisedLearning)，又稱為有監(jiān)督學習，它是從有標記的數(shù)據(jù)中進行模型學習，然后根據(jù)這個模型對未知樣本進行預測。算法模型輸入輸出數(shù)據(jù)中提取的樣本特征樣本對應標簽3.1機器學習的主要研究內容非監(jiān)督學習(UnsupervisedLearning)，又稱為無監(jiān)督學習，它和有監(jiān)督學習的最大區(qū)別在于輸入樣本沒有經過標記，需要自動從樣本中進行學習。非監(jiān)督學習不局限于解決有正確答案的問題，所以目標可以不必十分明確。它常常被用于視頻或者音頻內容分析、社交網(wǎng)絡分析等場合。3.1機器學習的主要研究內容半監(jiān)督學習(Semi-SupervisedLearning)，是一種介于監(jiān)督學習和非監(jiān)督學習當中的機器學習方法。半監(jiān)督學習使用大量的未標記數(shù)據(jù)，同時使用一部分標記數(shù)據(jù)來進行學習。標記數(shù)據(jù)監(jiān)督學習方法未標記的數(shù)據(jù)3.1機器學習的主要研究內容強化學習(ReinforcementLearning)，又稱再勵學習、評價學習，是一種重要的機器學習方法，在智能控制機器人及分析預測等領域有許多應用。強化學習也是使用未標記的數(shù)據(jù)，但是可以通過某種方法(通常是獎懲函數(shù))知道結果離正確答案越來越近還是越來越遠。機器學習問題的常規(guī)處理方法四4.1開發(fā)機器學習應用的一般步驟254.2如何選擇合適的算法264.3使用Python開發(fā)機器學習應用27

Python有2.X和3.X兩個大的版本，其代碼不完全兼容，因此在選擇開發(fā)環(huán)境和版本的時候，會對初學者造成一定的困擾。本書中的案例代碼都是在3.X下實現(xiàn)并調試通過的，本書將在附錄中詳細介紹環(huán)境的搭建問題。建議：按附錄A第2種方法安裝4.4機器學習模型的評價281.分類任務

分類是最常見的機器學習任務，針對分類任務的常見的評價指標包括準確率(Accuracy)、精確率(Precision)、召回率(Recall)、F1分數(shù)(F1-score)、ROC曲線和AUC曲線等。

首先介紹混淆矩陣的概念。如果用的是二分類的模型，那么把預測情況與實際情況的所有結果兩兩混合，結果就會出現(xiàn)以下4種情況，就組成了混淆矩陣。4.4機器學習模型的評價291.分類任務

實際結果陽性（1）陰性（0）預測結果陽性（1）TP(真陽性)FP(假陽性）陰性（0）FN(假陰性)TN(真陰性)4.4機器學習模型的評價301.分類任務

記N為總體，即N=TP+FP+FN+TN(1)準確率

準確率的定義為預測正確的結果占總樣本數(shù)的百分比，用上述概念來表示則有：4.4機器學習模型的評價311.分類任務

記N為總體，即N=TP+FP+FN+TN(2)精確率

精確率，又叫精準率或者查準率，它是針對預測結果而言的，其含義是在所有被預測為正的樣本中實際為正的樣本的概率，意思就是在預測為正樣本的結果中，我們有多少把握可以預測正確，其計算公式為：4.4機器學習模型的評價321.分類任務

記N為總體，即N=TP+FP+FN+TN(3)召回率

召回率，又叫查全率，它是針對原樣本而言的，它的含義是在實際為正的樣本中被預測為正樣本的概率，其計算公式為：4.4機器學習模型的評價331.分類任務

記N為總體，即N=TP+FP+FN+TN(4)F1分數(shù)F1分數(shù)是精確率和召回率之間的調和平均值，其范圍是[0,1]，具體的計算公式如下：4.4機器學習模型的評價342.回歸任務

在回歸問題中，預測值通常為連續(xù)值，其性能不能用分類問題的評價指標來評價，通常用均方誤差(MSE)、均方根誤差(RMSE)和平均絕對誤差(MAE)等來評價回歸模型的性能。其中均方誤差表示所有樣本的樣本誤差的平方的均值，均方根誤差即對于均方誤差開方，平均絕對誤差表示所有樣本的樣本誤差的絕對值的均值。MSE、RMSE和MAE越接近0，模型越準確。假定有m和樣本，h(xi)表示第i個樣本的預測值，yi表示第i個樣本的實際值，那么上述三個指標的計算公式如下：4.4機器學習模型的評價352.回歸任務

(1)均方誤差（MSE）

(2)均方根誤差（RMSE）

4.4機器學習模型的評價362.回歸任務

(3)平均絕對誤差（MAE）

4.4機器學習模型的評價373.聚類任務

聚類模型的評價方式大體上可分為外部指標和內部指標。(1)外部指標

1）杰卡德相似系數(shù)（JaccardSimilarityCoefficient）

Jaccard系數(shù)為集合之間的交集與它們的并集的比值，取值在[0,1]之間，值越大相似度越高。Jaccard距離用于描述集合之間的不相似度，距離越大相似度越低。計算公式如下：4.4機器學習模型的評價383.聚類任務

聚類模型的評價方式大體上可分為外部指標和內部指標。(1)外部指標2）皮爾遜相關系數(shù)（PearsonCorrelationCoefficient）

衡量兩個正態(tài)連續(xù)變量之間線性關聯(lián)性的程度，取值在[-1,1]之間，越接近1或-1，相關度越強，計算公式如下，其中Cov(X,Y)表示X和Y的協(xié)方差，D(X)表示X的方差。4.4機器學習模型的評價393.聚類任務

聚類模型的評價方式大體上可分為外部指標和內部指標。(1)內部指標

內部指標是無監(jiān)督的，不需要基準數(shù)據(jù)集，也不需要借助于外部參考模型，僅利用樣本數(shù)據(jù)集中樣本點與聚類中心之間的距離來衡量聚類結果的優(yōu)劣。內部指標主要有：緊密度（Compactness）分割度（Seperation）戴維森堡丁指數(shù)（Davies-bouldinIndex,DBI)鄧恩指數(shù)（DunnV