數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav課件

1、數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘在優(yōu)化中的應(yīng)用 -決策樹 -神經(jīng)網(wǎng)絡(luò) 1 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘解釋 數(shù)據(jù)挖掘，又稱為數(shù)據(jù)庫(kù)中知識(shí)發(fā)現(xiàn)（Knowledge discovery from database，簡(jiǎn)稱KDD），它是一個(gè)從大量數(shù)據(jù)中抽取挖掘 出未知的、有價(jià)值的模式或規(guī)律等知識(shí)的復(fù)雜過程。數(shù)據(jù)挖掘 的全過程定義描述如下: 2數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 常用模型 決策樹：該模型常?？梢杂脕頇z驗(yàn)、預(yù) 測(cè)離散型的數(shù)據(jù)。如客戶的信用等級(jí)， 貸款的優(yōu)良與否等等。 人工神經(jīng)網(wǎng)絡(luò)：這是對(duì)人體大腦

2、的模擬. 該方法利用隱藏的一到兩層，對(duì)數(shù)據(jù)進(jìn) 行分類或預(yù)測(cè)。但是速度比較慢。 多元回歸：主要用于處理連續(xù)型的自變量和 應(yīng)變量，并可用于預(yù)測(cè)和其他分析。 Logistic 回歸：與線性回歸類似，但處理離 散型的應(yīng)變量比較合適 K-means和聚類分析：主要用于分類 Kohonen self-organizing maps:是一種類似 神經(jīng)網(wǎng)絡(luò)，但主要用于聚類的分析工具。 關(guān)聯(lián)準(zhǔn)則：主要用于尋找在數(shù)據(jù)中頻繁發(fā)生 的記錄間的關(guān)系，并可用于預(yù)測(cè)。 分類 (classification)； 估計(jì)(estimation)； 預(yù)測(cè)(prediction)； 關(guān)聯(lián)分組(affinity grouping)；

3、聚類(clustering)。 數(shù)據(jù)挖掘功能與模型數(shù)據(jù)挖掘功能與模型 3數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 決策樹的應(yīng)用決策樹的應(yīng)用Link AdaptionLink Adaption優(yōu)化優(yōu)化 神經(jīng)網(wǎng)絡(luò)的應(yīng)用TDMR的定位 數(shù)據(jù)挖掘的應(yīng)用 4數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 決策樹的概念 所謂決策樹就是一個(gè)類似流程圖的樹型結(jié)構(gòu)，其中樹 的每個(gè)內(nèi)部結(jié)點(diǎn)代表對(duì)一個(gè)屬性（取值）的測(cè)試，其分支就代 表測(cè)試的每個(gè)結(jié)果；而樹的每個(gè)葉結(jié)點(diǎn)就代表一個(gè)類別。樹的 最高層結(jié)點(diǎn)就是根結(jié)點(diǎn). 5數(shù)據(jù)挖掘的應(yīng)用決策

4、樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 類別型 6數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)值型 7數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 應(yīng)用場(chǎng)景 兩者關(guān)系很難通過其它函數(shù)關(guān)系不明確,難以建立映射. 一條直線或者簡(jiǎn)單的曲線很難將內(nèi)容分割 8數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 決策樹生成方法 找出找出起起始的分隔始的分隔 : : 用來評(píng)估一個(gè)分隔數(shù)的衡量標(biāo)準(zhǔn)是分散度（diversity）。 分散度指標(biāo)（index of

5、 diversity）很高，表示這個(gè)組合中包含平 均分配到多個(gè)類別，而分散度指標(biāo)很低則表示一個(gè)單一類別的成員 居優(yōu)勢(shì)。 最好的分隔變數(shù)是能夠降低一個(gè)組的分散度，而且降得最 多。即下面式子最大化： 分散度（分隔前）分散度（分隔前）分散度（分隔分散度（分隔后后左左邊邊子集子集 合）分散度（分隔合）分散度（分隔后后右右邊邊子集合）子集合） 9數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)業(yè)務(wù)對(duì)語(yǔ)音的影響 數(shù)據(jù)對(duì)業(yè)務(wù)信道的擠占,造成語(yǔ)音半速率比例增加, MOS值的下降,影響用戶的感受; 數(shù)據(jù)對(duì)業(yè)務(wù)信道擠占的同時(shí),與語(yǔ)音共享頻率資源, 對(duì)語(yǔ)音質(zhì)量的影響; 數(shù)

6、據(jù)對(duì)公共信道的擠占,造成尋呼的負(fù)荷增加,影響 語(yǔ)音業(yè)務(wù)的被叫; 提高單時(shí)隙的傳輸數(shù)據(jù)效率提高單時(shí)隙的傳輸數(shù)據(jù)效率, ,減小數(shù)據(jù)占用信道的減小數(shù)據(jù)占用信道的 時(shí)間時(shí)間, ,改善對(duì)語(yǔ)音的影響改善對(duì)語(yǔ)音的影響! ! 減少數(shù)據(jù)對(duì)公共信道資源的擠占，增加公減少數(shù)據(jù)對(duì)公共信道資源的擠占，增加公 共信道資源的容量共信道資源的容量! ! 合理分配數(shù)據(jù)和語(yǔ)音對(duì)頻率資源的占用合理分配數(shù)據(jù)和語(yǔ)音對(duì)頻率資源的占用, ,讓語(yǔ)音占讓語(yǔ)音占 用更好的頻率資源用更好的頻率資源! ! 10數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 如何提高單時(shí)隙的傳輸數(shù) 據(jù)效率 信道分配和釋放機(jī)制的

7、優(yōu)化: 信道分配: 優(yōu)先保證語(yǔ)音信道的分配; 合理壓縮數(shù)據(jù)信道的資源,提升數(shù)據(jù)信道效率,減少語(yǔ)音半速率的觸發(fā); 信道釋放: 加快數(shù)據(jù)下行信道的釋放,提升信道效率; 增加EDGE資源的投入, 使更多的用戶使用EDGE, 提高整體的單時(shí)隙的吞吐率; 自適應(yīng)鏈路的優(yōu)化研究 分析高編碼比例和重傳率對(duì)單時(shí)隙吞吐率的影響; 研究在不同無線環(huán)境下, 編碼方式的調(diào)度修正值對(duì)高編碼比例和重傳率的影響; 建立在不同無線環(huán)境下,自適應(yīng)鏈路的參數(shù)與單時(shí)隙吞吐率的模型關(guān)系; 找到最匹配的參數(shù)設(shè)置,來提高單時(shí)隙的傳輸效率; 11數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 鏈路自

8、適應(yīng)工作機(jī)制1/2 數(shù)據(jù)傳輸剛啟動(dòng)所應(yīng)用的編碼方 式，是通過參數(shù)預(yù)先設(shè)定的。以 下是諾基亞系統(tǒng)內(nèi)的相應(yīng)參數(shù)， 為BTS級(jí)參數(shù)： InitMCSAckMode 1至9 (默認(rèn) 值為9 = MCS9) InitMCSUnackMode 1至9 (默 認(rèn)值為6 = MCS6) 由于MCS14為GMSK調(diào)制方式，而MCS59為 8PSK調(diào)制。所以，應(yīng)對(duì)無線環(huán)境的變化，首 先要確定采用哪種調(diào)制方式。 諾基亞系統(tǒng)在進(jìn)行上述判斷時(shí)，首先根據(jù)以 下兩個(gè)測(cè)量值： 8PSK MEAN_BEP 8PSK CV_BEP 來對(duì)照下表，獲取BEP查表值： 然后，把這個(gè)BEP查表值與GMSK MEAN_BEP測(cè)量值比較，如

9、果： BEP查表值 GMSK MEAN_BEP測(cè)量值， 則采用8PSK調(diào)制方式 啟動(dòng)信道編碼的設(shè)置啟動(dòng)信道編碼的設(shè)置 調(diào)制方式的動(dòng)態(tài)選擇調(diào)制方式的動(dòng)態(tài)選擇 12數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 鏈路自適應(yīng)工作機(jī)制2/2 在在ACK ACK 模式的模式的MCSMCS編碼選擇方式編碼選擇方式 重傳的重傳的MCSMCS編碼選擇方式編碼選擇方式 針對(duì)每個(gè)RLC數(shù)據(jù)塊，PCU都能拿 到測(cè)量報(bào)告，上行鏈路系統(tǒng)測(cè)量、 下行鏈路手機(jī)上報(bào)，這樣，PCU通 過查找內(nèi)置表格，如下圖所示， 來確定下一個(gè)RLC傳送的編碼。 在EGPRS系統(tǒng)，重傳數(shù)據(jù)的編碼方式是可以

10、 改變，這與GPRS技術(shù)有所不同。系統(tǒng)通過 降低編碼速率，提高數(shù)據(jù)的強(qiáng)壯性，來對(duì) 抗惡化的無線環(huán)境，最終達(dá)到提高成功率 的目的。而編碼方式的改變，將涉及到數(shù) 據(jù)塊的重新組裝，只有屬于相同Coding Family的編碼方式才可以達(dá)到這種兼容性 。在EGPRS系統(tǒng)中，9種編碼分別屬于三個(gè) FAMILY，如下圖所示： 13數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 優(yōu)化思路 通過LA提高數(shù)據(jù)傳送效率，一方面可以減少數(shù)據(jù)業(yè)務(wù)PDCH的資 源占用，另一方面占用時(shí)間減少后，能夠降低對(duì)語(yǔ)音業(yè)務(wù)的干 擾。 優(yōu)化目標(biāo)的選擇：(主要優(yōu)化參數(shù)MBP) 每時(shí)隙吞吐率 =總

11、流量/平均占用PDCH數(shù) 該指標(biāo)受平均占用PDCH數(shù)影 響很大，如果小區(qū)的CDED配 置較小，那么每時(shí)隙吞吐率 必定會(huì)較大，無法反映傳送 效率。 數(shù)據(jù)業(yè)務(wù)等效話務(wù)量 =傳送的總塊數(shù)/每時(shí)隙 每小時(shí)能夠傳送的塊數(shù) 該指標(biāo)只能反映數(shù)據(jù)業(yè) 務(wù)的流量大小。 每塊傳送字節(jié)數(shù) =總字節(jié)/總塊數(shù)（包括 重傳的塊數(shù)） 該指標(biāo)的分子部分隱含 意義是是否高編碼占比 高，分母部分將重傳率 也納入考慮，該指標(biāo)最 能體現(xiàn)數(shù)據(jù)傳送效率。 14數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 相關(guān)性分析 -尋找影響每塊傳送效率 的主要因素 每塊傳送效率和重傳率以及高編碼占比，每塊傳送效

12、率和重傳率以及高編碼占比， 而重傳率和高編碼占比需要而重傳率和高編碼占比需要LALA和和IRIR參數(shù)優(yōu)參數(shù)優(yōu) 化來解決化來解決 通過相關(guān)性分析降緯通過相關(guān)性分析降緯 每塊重傳效率和下行平均質(zhì)量相關(guān)度最大每塊重傳效率和下行平均質(zhì)量相關(guān)度最大 ，其次是下行，其次是下行1-51-5級(jí)質(zhì)量占比，下行級(jí)質(zhì)量占比，下行Path Path lossloss和下行接收電平相關(guān)性很小。和下行接收電平相關(guān)性很小。 下行平均質(zhì)量和下行平均質(zhì)量和1-51-5級(jí)質(zhì)量占比自相關(guān)度比級(jí)質(zhì)量占比自相關(guān)度比 較大，因此將下行平均質(zhì)量作為決策樹的較大，因此將下行平均質(zhì)量作為決策樹的 因子。因子。 15數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)

13、Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 決策樹尋找最優(yōu)MBP 當(dāng)平均接收接收質(zhì)量當(dāng)平均接收接收質(zhì)量 小于小于0.190.19時(shí)（也就是時(shí)（也就是 無線質(zhì)量非常良好時(shí)無線質(zhì)量非常良好時(shí) ，MBPMBP取取6 6能夠得到最能夠得到最 大的塊傳送效率大的塊傳送效率 0.12kyte/block. 0.12kyte/block. (960bit(960bit每塊）每塊） 當(dāng)平均接收接收質(zhì)量大當(dāng)平均接收接收質(zhì)量大 于于0.190.19且小于且小于0.550.55時(shí)，時(shí)， MBPMBP取取5 5能夠得到最大的能夠得到最大的 塊傳送效率塊傳送效率 0.11kyte/block. 0.11

14、kyte/block. (880bit(880bit每塊）每塊） MBP是離散的, Quality是連續(xù)的,其它的函數(shù) 較難映射 16數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 決策樹結(jié)果理解 將選擇質(zhì)量較差至少9個(gè)小區(qū)，分別設(shè)置- 6,-5,-4,-3,-2,-1,0,1,2來觀察每塊傳送效 率， 17數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav LA參數(shù)調(diào)整后效果評(píng)估 參考尋優(yōu)結(jié)果后參考尋優(yōu)結(jié)果后, ,調(diào)整調(diào)整MBPMBP設(shè)置后設(shè)置后, , 每塊傳送字節(jié)數(shù)從每塊傳送字節(jié)數(shù)從112112字節(jié)上升到字節(jié)上升到

15、118118字節(jié)字節(jié). . 18數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用 決策樹的應(yīng)用決策樹的應(yīng)用Link AdaptionLink Adaption優(yōu)化優(yōu)化 神經(jīng)網(wǎng)絡(luò)的應(yīng)用神經(jīng)網(wǎng)絡(luò)的應(yīng)用TDMRTDMR的定位的定位 19數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 生物神經(jīng)元 人工神經(jīng)網(wǎng)絡(luò)的研究出發(fā)點(diǎn)是以生物神經(jīng)元學(xué)說為基礎(chǔ)的 20數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 神經(jīng)網(wǎng)絡(luò)處理信息的特點(diǎn) 在在微觀內(nèi)部結(jié)構(gòu)微觀內(nèi)部結(jié)構(gòu)上模仿人腦的神經(jīng)上模

16、仿人腦的神經(jīng),并行分布系統(tǒng)處理的工作并行分布系統(tǒng)處理的工作 模式模式: 實(shí)際上大腦中單個(gè)神經(jīng)元的信息處理速度是很慢的，每次約1毫秒(ms)，比 通常的電子門電路要慢幾個(gè)數(shù)量級(jí)。每個(gè)神經(jīng)元的處理功能也很有限，估計(jì)不會(huì) 比計(jì)算機(jī)的一條指令更復(fù)雜。 但是人腦對(duì)某一復(fù)雜過程的處理和反應(yīng)卻很快，一般只需幾百毫秒。 例如要判定人眼看到的兩個(gè)圖形是否一樣，實(shí)際上約需400 ms，而在這個(gè)處理過 程中，與腦神經(jīng)系統(tǒng)的一些主要功能，如視覺、記億、推理等有關(guān)。按照上述神 經(jīng)元的處理速度，如果采用串行工作模式，就必須在幾百個(gè)串行步內(nèi)完成，這實(shí) 際上是不可能辦到的。因此只能把它看成是一個(gè)由眾多神經(jīng)元所組成的超高密度

17、的并行處理系統(tǒng)。例如在一張照片尋找一個(gè)熟人的面孔，對(duì)人腦而言，幾秒鐘便 可完成，但如用計(jì)算機(jī)來處理，以現(xiàn)有的技術(shù)，是不可能在短時(shí)間內(nèi)完成的。由 此可見，大腦信息處理的并行速度已達(dá)到了極高的程度。 21數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 神經(jīng)網(wǎng)絡(luò)模型 x2 w2 xn wn x1 w1 Fy 特性函數(shù)F )xwF(F(x)y xwx n 1iii n 1iii 22數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav F特性函數(shù) x0 x1 y y x 0 x e1 1 y 非線性 階躍 23數(shù)據(jù)挖掘的應(yīng)用決策

18、樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 人工神經(jīng)網(wǎng)絡(luò)的自我學(xué)習(xí) (訓(xùn)練) 這種學(xué)習(xí)歸結(jié)為神經(jīng)元連接權(quán)的變化。調(diào)整Wij的原則為：若第i和第 j個(gè)神經(jīng)元同時(shí)處于興奮狀態(tài)，則它們之間的連接應(yīng)當(dāng)加強(qiáng)，這一 規(guī)則與“條件反射”學(xué)說一致，并已得到神經(jīng)細(xì)胞學(xué)說的證實(shí)。 24數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav TDMR的定位應(yīng)用 TDMR的定位數(shù)據(jù): MR數(shù)據(jù)(OSS): 頻點(diǎn) 擾碼 電平 網(wǎng)絡(luò)基礎(chǔ)數(shù)據(jù) 小區(qū)信息 經(jīng)/緯度 小區(qū)方向 頻率 擾碼 天線參數(shù) 包括主服務(wù)小區(qū)和相鄰小區(qū)的 訓(xùn)練樣本數(shù)據(jù)(DT): 頻點(diǎn) 擾碼 電平 樣

19、本經(jīng)緯度 原理 利用訓(xùn)練樣本數(shù)據(jù),結(jié)合網(wǎng)絡(luò)基 礎(chǔ)數(shù)據(jù),訓(xùn)練模型 將MR數(shù)據(jù)代入, 得到待定位MR 數(shù)據(jù)的經(jīng)緯度. 25數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav MRMR數(shù)據(jù)數(shù)據(jù)(OSS):(OSS):即，實(shí)際測(cè)量中待定位樣本測(cè)得的臨近小區(qū)的場(chǎng)強(qiáng)分貝數(shù)，其 中每行表示一個(gè)樣本，前14列表示每個(gè)樣本測(cè)得的臨近7個(gè)小區(qū)的小區(qū)號(hào)和相應(yīng) 場(chǎng)強(qiáng)值。 訓(xùn)練樣本數(shù)據(jù)訓(xùn)練樣本數(shù)據(jù)(DT):(DT): 用于提供訓(xùn)練樣本，構(gòu)建訓(xùn)練樣本庫(kù)，訓(xùn)練模型。其 中每行表示一個(gè)樣本，前14列表示每個(gè)樣本測(cè)得的臨近7個(gè)小區(qū)的小區(qū)號(hào) 和相應(yīng)場(chǎng)強(qiáng)值；第15-16列為該樣本的經(jīng)度和緯度。 26數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 數(shù)據(jù)挖掘的應(yīng)用決策樹神經(jīng)網(wǎng)絡(luò)Autosav 小區(qū)信息小區(qū)信息: : 提供所有小區(qū)的信息， 其中每行提供一個(gè)小區(qū)的信息，第1 列為小區(qū)號(hào)，第2-3列為小區(qū)的經(jīng)緯 度、第4列為該小區(qū)的方向角（單位： 度），第5列為該小區(qū)的類型（1表示 室外小區(qū)，0表示室內(nèi)或全