2024聚類算法講義

K-MEANS聚類算法講義K-MEANS算法K-MEANS算法K-MEANS算法K-MEANS算法聚類概念：無(wú)監(jiān)督問(wèn)題：我們手里沒(méi)有標(biāo)簽了聚類：相似的東西分到一組難點(diǎn)：如何評(píng)估，如何調(diào)參基本概念：要得到簇的個(gè)數(shù)，需要指定K值質(zhì)心：均值，即向量各維取平均即可距離的度量：常用歐幾里得距離和余弦相似度（先標(biāo)準(zhǔn)化）優(yōu)化目標(biāo)：工作流程：K-MEANS算法K-MEANS算法DBSCAN算法DBSCAN算法復(fù)雜度與樣本呈線性關(guān)系很難發(fā)現(xiàn)任意形狀的簇復(fù)雜度與樣本呈線性關(guān)系很難發(fā)現(xiàn)任意形狀的簇密度可達(dá)：若有一個(gè)點(diǎn)的序列q0、q1、…qk，對(duì)任意qi-qi-1是直接密度可達(dá)的，則稱從q0到qk密度可達(dá)，這實(shí)際上是直接密度可達(dá)的“傳播”。密度可達(dá)：若有一個(gè)點(diǎn)的序列q0、q1、…qk，對(duì)任意qi-qi-1是直接密度可達(dá)的，則稱從q0到qk密度可達(dá)，這實(shí)際上是直接密度可達(dá)的“傳播”。優(yōu)勢(shì)：簡(jiǎn)單，快速，適合常規(guī)數(shù)據(jù)集劣勢(shì)：K值難確定基本概念：（Density-BasedSpatialClusteringofApplicationswithNoise）核心對(duì)象：若某個(gè)點(diǎn)的密度達(dá)到算法設(shè)定的閾值則其為核心點(diǎn)。（即r鄰域內(nèi)點(diǎn)的數(shù)量不小于minPts）?-鄰域的距離閾值：設(shè)定的半徑r直接密度可達(dá)：若某點(diǎn)p在點(diǎn)q的r鄰域內(nèi)，且q是核心點(diǎn)則p-q直接密度可達(dá)。DBSCANDBSCAN算法基本概念：密度相連：若從某核心點(diǎn)p出發(fā)，點(diǎn)q和點(diǎn)k都是密度可達(dá)的,則稱點(diǎn)q和點(diǎn)k是密度相連的。邊界點(diǎn):屬于某一個(gè)類的非核心點(diǎn),不能發(fā)展下線了直接密度可達(dá)：若某點(diǎn)p在點(diǎn)q的r鄰域內(nèi)，且q是核心點(diǎn)則p-q直接密度可達(dá)。噪聲點(diǎn)：不屬于任何一個(gè)類簇的點(diǎn)，從任何一個(gè)核心點(diǎn)出發(fā)都是密度不可達(dá)的DBSCAN算法DBSCAN算法基本概念：A：核心對(duì)象B,C：邊界點(diǎn)N：離群點(diǎn)DBSCAN算法工作流程：參數(shù)D：輸入數(shù)據(jù)集參數(shù)?：指定半徑MinPts：密度閾值DBSCAN算法DBSCAN算法參數(shù)選擇：半徑?，可以根據(jù)K距離來(lái)設(shè)定：找突變點(diǎn)K距離：給定數(shù)據(jù)集P={p(i);i=0,1,…n}，計(jì)算點(diǎn)P(i)到集合D的子集S中所有點(diǎn)之間的距離，距離按照從小到大的順序排序，d(k)就被稱為k-距離。MinPts：k-距離中k的值，一般取的小一些，多次嘗試DBSCAN算法優(yōu)勢(shì)：不需要指定簇個(gè)數(shù)可以發(fā)現(xiàn)任意形狀的簇擅長(zhǎng)找到離群點(diǎn)（檢測(cè)任務(wù)）劣勢(shì)： clustering/高