人工智能之傳統(tǒng)機器學習

第第頁人工智能之傳統(tǒng)機器學習（人工智能）之傳統(tǒng)（機器學習）

?線性回歸（LinerRegression）

o線性回歸就是找到一條直線，使用數(shù)據(jù)點來尋找最佳擬合線。它試圖通過將直線方程與該數(shù)據(jù)擬合來表示自變量（x值）和數(shù)值結(jié)果（y值）。如公式，y=kx+b,y是因變量，x是自變量，利用給定的數(shù)據(jù)集求k和c的值。

?邏輯回歸（Logist（ic）Regression）

o邏輯回歸與線性回歸類似，但它用于輸出二元分類情況（即，輸出結(jié)果只有兩個可能值），對最終輸出的預測是一個非線性的S型函數(shù)。

這個邏輯函數(shù)將中間結(jié)果映射到結(jié)果變量y，其值范圍在0和1之間。這些值是y出現(xiàn)的概率。S型邏輯函數(shù)的性質(zhì)讓邏輯回歸更適合用于分類問題。

?決策樹（DecisionTree）

o決策樹用于回歸和分類問題。訓練模型通過學習樹表示的決策規(guī)則來學習預測目標變量的值。樹是具有相應屬性的節(jié)點組成的。在每個節(jié)點上，根據(jù)可用的特征詢問有關數(shù)據(jù)問題，左右分支表示可能的答案，最終節(jié)點（葉節(jié)點）對應一個預測值。每個特征的重要性是通過自頂而下方法確定的，節(jié)點越高，其屬性越重要。如下圖人群中誰喜歡使用信用卡例子中，如果一個人結(jié)婚了，他超過30歲，他們更有可能擁有信用卡（100%偏好）。測試數(shù)據(jù)用于生成決策樹。

?樸素貝葉斯（Na?veBayes）

o樸素貝葉斯基于貝葉斯定理。它測量每個類的概率，每個類的條件概率給出x值。這個（算法）用于分類問題，得到一個二進制”是/非”的結(jié)果。

?支持向量機（SupportVectorMachine/SVM）

o支持向量機是一種用來解決二分類問題的機器學習算法，它通過在樣本空間中找到一個劃分超平面，將不同類別的樣本分開，同時使得兩個點集到此平面的最小距離最大，兩個點集中的邊緣點到此平面的距離最大。如下圖所示，圖中有黑點和白點兩類樣本，支持向量機的目標就是找到一條直線（H3），將黑點和白點分開，同時所有黑點和白點到這條直線（H3）的距離加起來的值最大。

?K-最近鄰算法（K-NearestNeighbo（rs）/KNN）

oKNN算法是一種基于實例的學習，或者是局部近似和將所有計算推遲到分類之后的惰性學習。用最近的鄰居（k）來預測未知數(shù)據(jù)點。k值是預測精度的一個關鍵因素，無論是分類還是回歸，衡量鄰居的權(quán)重都非常有用，較近鄰居的權(quán)重比較遠鄰居的權(quán)重大。KNN算法的缺點是對數(shù)據(jù)的局部結(jié)構(gòu)非常敏感。計算量大，需要對數(shù)據(jù)進行規(guī)范化處理，使每個數(shù)據(jù)點都在相同的范圍。

?K均值（K-Means）

ok-平均算法（K-Means）是一種無監(jiān)督學習算法，為聚類問題提供了一種解決方案。K-Means算法把n個點（可以是樣本的一次觀察或一個實例）劃分到k個集群（cluster），使得每個點都屬于離他最近的均值（即聚類中心，centroid）對應的集群。重復上述過程一直持續(xù)到重心不改變。

?隨機森林（RandomF（or）est）

o隨機森林（RandomForest）是一種非常流行的集成機器學習算法。這個算法的基本思想是，許多人的意見要比個人的意見更準確。在隨機森林中，我們使用決策樹集成（參見決策樹）。為了對新對象進行分類，我們從每個決策樹中進行投票，并結(jié)合結(jié)果，然后根據(jù)多數(shù)投票做出最終決定。

?降維（DimensionalReduc（ti）on）

o