最新含答案機器學習第一階段練習題

1、精品文檔機器學習第一階段練習題一、選擇題1. 以下三階泰勒展開式錯誤的一項是（B）精品文檔A. ex =1 x2 x32!3!C. sin x=xx33!1 213B. In(1 x) = x x x2 3123D.1 x x x1-x1 21 3分析：In(1 x)二 x- x x2 32. 以下不屬于凸函數(shù)一項的是（ D）A. y=-log x B. y=x log xaxC. y=|x| p D. y=e分析：a應該限定取值范圍：a> 1或aw 03. 以下說法錯誤的一項是（C）A. 負梯度方向是使函數(shù)值下降最快的方向B. 當目標函數(shù)是凸函數(shù)時，梯度下降法的解是全局最優(yōu)解C. 梯度

2、下降法比牛頓法收斂速度快D. 擬牛頓法不需要計算 Hesse矩陣分析：牛頓法需要二階求導，梯度下降法只需一階，因此牛頓法比梯度下降法更快收斂4. 一般，k-NN最近鄰方法在（B）的情況下效果較好A.樣本較多但典型性不好B.樣本較少但典型性好C.樣本呈團狀分布D. 樣本呈鏈狀分布分析：k近鄰算法對較多且典型不好的，團狀，鏈狀的樣本不具有太大的優(yōu)勢5. 機器學習中L1正則化和L2正則化的區(qū)別是？ ( A)A.使用L1可以得到稀疏的權值，使用L2可以得到平滑的權值B.使用L1可以得到平滑的權值，使用L2可以得到平滑的權值C使用L1可以得到平滑的權值，使用L2可以得到稀疏的權值D使用L1可以得到稀疏的

3、權值，使用L2可以得到稀疏的權值分析：L1正則化偏向于稀疏，它會自動進行特征選擇，去掉一些沒用的特征，也就是將這些特征對應的權重置為 0。L2主要功能是為了防止過擬合，當要求參數(shù)越小時，說明模型越簡單，而模型越簡單則，越趨向于平滑，從而防止過擬合。二、公式推理題1. 請寫出通過條件概率公式和全概率公式推出貝葉斯公式的過程分析：條件概率：P( AB )P( AB )P(A|B)=P(B),P(B|A)(a)全概率：P( A)八 P(A| Bi )P( Bi )i貝葉斯公式：j2. 請寫出正態(tài)分布的概率密度函數(shù)、期望、以及方差1_一小2分析：概率密度函數(shù)：f(x)=e 2ff2 , e 0;期望：

4、E(x)= 口；方差：D(x)= < v' 2 n(T四、簡答題1.2. 求函數(shù)f（x）=xx,xR的最小值11分析：令t =xx,兩邊取對數(shù)：Int =xlnx,兩邊對t求導：-* t =1 n x x* , tx1令 t' =0 ： Inx 1 = 0,那么：x = e，則 t = e e 即為 f（x）最小值。3. 欠擬合和過擬合的原因分別有哪些？如何避免？分析：欠擬合的原因：模型復雜度過低，不能很好的擬合所有的數(shù)據(jù)，訓練誤差大；避免欠擬合：增加模型復雜度，如采用高階模型（預測）或者引入更多特征（分類）等。過擬合的原因：模型復雜度過高，訓練數(shù)據(jù)過少，訓練誤差小，測試

5、誤差大；避免過擬合：降低模型復雜度，如加上正則懲罰項，如L1, L2，增加訓練數(shù)據(jù)等。4. 列舉聚類算法有哪些相似性度量準則及公式（至少四個）n分析：曼哈頓距離:d(x,y)=(送 |x _y |P)Pd(x,y )| Xi - yi | ;歐氏距離:i#Jaccard 系數(shù)：J( A,B ) = 一B1 ;余弦相似度:aTbcos 0|a| |b| Au B|皮爾森系數(shù)：Pxy -；相對熵(K-L 距離)：D( p | q) 一 E p( X)logox 5q(x)5. 若要對以下圖案進行聚類分析需要采用哪種聚類方法，簡述理由和該方法步驟分析：該圖案為非凸狀的，因此不能使用基于距離的聚類算法

6、（k-means、k-medoids等），可選擇密度聚類（DBSCA等）、網(wǎng)格聚類（STING等非距離的方法。6.7.簡述UserCF和ItemCF算法的相同點與不同點分析:項目UserCFItemCF性能適用于用戶較少的場合，如果用戶 過多，計算用戶相似度矩陣的代價 交大適用于物品數(shù)明顯小于用戶數(shù)的場合，如果物品 很多，計算物品相似度矩陣的代價交大領域實效性要求高，用戶個性化興趣要 求不咼長尾物品豐富，用戶個性化需求強烈實時性用戶有新行為，不一定需要推薦結用戶有新行為，一定會導致推薦結果的實時變化果立即變化冷啟動在新用戶對少的物品產(chǎn)生行為后， 不能立即對他進行個性化推薦，因 為用戶相似度是離線計算的 新物品上線后一段時間，一旦有用 戶對物品產(chǎn)生行為