基于支持向量機(jī)的網(wǎng)絡(luò)流量預(yù)測(cè)及對(duì)網(wǎng)絡(luò)業(yè)務(wù)流的準(zhǔn)入控制.ppt

1、基于支持向量機(jī)的網(wǎng)絡(luò)流量預(yù)測(cè)及對(duì)網(wǎng)絡(luò)業(yè)務(wù)流的準(zhǔn)入控制,研究生 姜晗音(2005216287) 導(dǎo)師 金志剛,選題,基于支持向量機(jī)的網(wǎng)絡(luò)流量預(yù)測(cè)準(zhǔn)入控制分為兩部分: 網(wǎng)絡(luò)流量流量預(yù)測(cè) 網(wǎng)絡(luò)業(yè)務(wù)流的準(zhǔn)入控制,網(wǎng)絡(luò)業(yè)務(wù)流量預(yù)測(cè)的意義,網(wǎng)絡(luò)業(yè)務(wù)預(yù)報(bào)在準(zhǔn)入控制、擁塞控制和動(dòng)態(tài)帶寬分配等許多方面都有非常重要的意義。根據(jù)測(cè)量的歷史數(shù)據(jù)，盡可能精確的預(yù)報(bào)未來(lái)時(shí)刻的網(wǎng)絡(luò)流量,從而作出決策,對(duì)網(wǎng)絡(luò)業(yè)務(wù)流進(jìn)行控制.,網(wǎng)絡(luò)業(yè)務(wù)流量預(yù)測(cè)已有方法,目前廣泛采用基于時(shí)間序列的預(yù)測(cè)方法,其基本思想是：將在連續(xù)時(shí)間上的觀(guān)察值排列成一組隨機(jī)序列，除去個(gè)別的因偶然原因引起的異常觀(guān)測(cè)值外，時(shí)間序列是一組依賴(lài)于時(shí)間t的隨機(jī)變量。該預(yù)報(bào)

2、方法把預(yù)報(bào)問(wèn)題分為三個(gè)階段：(1) 模型識(shí)別；(2) 模型參數(shù)估計(jì)和模型的檢驗(yàn)；(3) 預(yù)報(bào)應(yīng)用。在網(wǎng)絡(luò)業(yè)務(wù)預(yù)報(bào)中用的較多預(yù)報(bào)模型有AR、ARMA、ARIMA、FARIMA以及神經(jīng)網(wǎng)絡(luò)等。,網(wǎng)絡(luò)業(yè)務(wù)流量預(yù)測(cè)已有方法的不足,各種時(shí)間序列預(yù)測(cè)方法的不足: (1)AR、ARMA、ARIMA等模型只能處理短相關(guān)業(yè)務(wù)，這些研究沒(méi)有考慮業(yè)務(wù)的長(zhǎng)相關(guān)性質(zhì)，故采用傳統(tǒng)的短相關(guān)模型作為預(yù)報(bào)或訓(xùn)練的基礎(chǔ)，沒(méi)有全面反映業(yè)務(wù)的真實(shí)統(tǒng)計(jì)特性。 (2) FARIMA用于實(shí)際網(wǎng)絡(luò)業(yè)務(wù)預(yù)報(bào)中，該模型可以同時(shí)描述網(wǎng)絡(luò)業(yè)務(wù)的長(zhǎng)相關(guān)和短相關(guān)特性，但是，這個(gè)算法本身的復(fù)雜度很高，所以應(yīng)用受到一定的限制。 (3)神經(jīng)網(wǎng)絡(luò)存在收斂速度慢

3、和局部極小點(diǎn)問(wèn)題.,基于支持向量機(jī)預(yù)測(cè)的優(yōu)點(diǎn),(1) 可以解決小樣本情況下的機(jī)器學(xué)習(xí)問(wèn)題，結(jié)構(gòu)簡(jiǎn)單，便于應(yīng)用； (2) 性能優(yōu)良，從理論上保證了模型較強(qiáng)的泛化能力(用結(jié)構(gòu)風(fēng)險(xiǎn)最小替代經(jīng)驗(yàn)風(fēng)險(xiǎn)最小)； (3) 二次優(yōu)化問(wèn)題從理論上存在唯一解，從而避免了陷入局部極?。?(4) 模型在輸入數(shù)據(jù)中選擇有限的支持向量，速度快。 (5) 具有較強(qiáng)的處理非線(xiàn)性數(shù)據(jù)的能力。,目前的應(yīng)用情況,基于支持向量機(jī)的預(yù)測(cè)技術(shù)已經(jīng)應(yīng)用到的領(lǐng)域: 生物醫(yī)學(xué)領(lǐng)域,電力系統(tǒng),交通流量預(yù)測(cè)，在計(jì)算機(jī)網(wǎng)絡(luò)中也得到了很好的應(yīng)用。 支持向量機(jī)已經(jīng)被證實(shí)可以用于網(wǎng)絡(luò)流量的預(yù) 測(cè)，但對(duì)于各種參數(shù)的選擇沒(méi)有明確的方案,并且均采用枚舉和手動(dòng)選

4、參的方式,效率很低. 目前尚沒(méi)有使用該方法進(jìn)行網(wǎng)絡(luò)流量預(yù)測(cè)并據(jù)此應(yīng)用于實(shí)際的網(wǎng)絡(luò)業(yè)務(wù)流控制中。,SVM實(shí)現(xiàn)機(jī)制,首先通過(guò)核函數(shù)做非線(xiàn)性變換，將輸入空間變換到一個(gè)高維空間，然后在這個(gè)新空間中求取最優(yōu)線(xiàn)性分類(lèi)面，構(gòu)建數(shù)據(jù)特征模型，通過(guò)該模型及新的輸入數(shù)據(jù)預(yù)測(cè)輸出結(jié)果。,預(yù)報(bào)評(píng)價(jià)指標(biāo),絕對(duì)誤差A(yù)E 平均絕對(duì)誤差MAE 均方誤差MSE,SVM預(yù)報(bào)方式,單步預(yù)測(cè)： 對(duì)一個(gè)時(shí)間序列，假設(shè)當(dāng)前時(shí)刻為t，已知在t時(shí)刻之前的n個(gè)數(shù)據(jù)，預(yù)報(bào)t+1時(shí)刻的值（即第n1個(gè)值），其方法就是找出歷史值與未來(lái)值之間的某種函數(shù)關(guān)系，表示為： xt+1=g(xt,xt-1,xt-(n-1),SVM多步預(yù)測(cè),(1)迭代預(yù)報(bào)法是建立

5、在一步預(yù)報(bào)基礎(chǔ)上的， 將上一步預(yù)報(bào)值作為下一步預(yù)報(bào)的輸入值進(jìn)行預(yù)報(bào)，迭代K次,具體過(guò)程如下：,SVM多步預(yù)報(bào),（2）直接預(yù)報(bào)法就是根據(jù)已知序列建立的模 型直接預(yù)報(bào)第t+k個(gè)值，即 目前已經(jīng)證實(shí)了多步預(yù)報(bào)中的直接預(yù) 報(bào)效果好于迭代預(yù)報(bào).所以在我的實(shí)驗(yàn) 中采用直接預(yù)報(bào)方法.,SVM核函數(shù)的選擇,核函數(shù)：用不同核函數(shù)可以構(gòu)造實(shí)現(xiàn)輸入空間中不同類(lèi)型的非線(xiàn)性決策學(xué)習(xí)機(jī)，從而導(dǎo)致不同的支持向量算法。 四種常用核函數(shù)： 1.線(xiàn)性核函數(shù)（Linear Kernel） 2.多項(xiàng)式核函數(shù)（Polynomial Kernel） 3.徑向基核函數(shù)RBF（Radial Basis Function） 4.二層神經(jīng)網(wǎng)絡(luò)內(nèi)

6、積Sigmoid核函數(shù) 線(xiàn)性核函數(shù)是多項(xiàng)式核函數(shù)的一種特例.,SVM參數(shù)的選擇,主要參數(shù)： .懲罰系數(shù)C 決定了超出對(duì)不敏感系數(shù)的樣本的懲罰程度如果C值取得過(guò)大，則問(wèn)題更傾向于經(jīng)驗(yàn)最小，而忽略對(duì)結(jié)構(gòu)復(fù)雜程度的考慮，反之則更多考慮了問(wèn)題的復(fù)雜程度，而忽略經(jīng)驗(yàn)數(shù)據(jù)的作用，因此，C值過(guò)大或者過(guò)小，都會(huì)使系統(tǒng)泛化能力變差。,SVM參數(shù)的選擇,.不敏感系數(shù) 不敏感系數(shù)是控制函數(shù)擬合誤差的大小，從而控制支持向量的個(gè)數(shù)和泛化能力，它反映模型對(duì)輸入變量所含噪聲的敏感程度。,真實(shí)數(shù)據(jù)選取,Sigcomm01無(wú)線(xiàn)網(wǎng)絡(luò)數(shù)據(jù) 天津大學(xué)網(wǎng)絡(luò)實(shí)驗(yàn)床截取的數(shù)據(jù) 使用winpcap截取數(shù)據(jù)信息,初步實(shí)驗(yàn)結(jié)果,聚集的時(shí)間粒度選

7、擇 不同時(shí)間粒度聚集的網(wǎng)絡(luò)流量數(shù)據(jù)預(yù)測(cè)得出不同的精確度目前在秒級(jí)和毫秒級(jí)的預(yù)測(cè)結(jié)果顯示秒級(jí)比毫秒級(jí)具有明顯更好的的預(yù)測(cè)準(zhǔn)確率 SVM嵌入維數(shù)選取 （1）嵌入維數(shù)的大小決定了所需時(shí)間序列長(zhǎng)度的大小。 （2）以不同嵌入維數(shù)的數(shù)據(jù)作為輸入，在預(yù)測(cè)時(shí)間和準(zhǔn)確率方面差別較大，需要在準(zhǔn)確性與時(shí)間耗費(fèi)方面找到權(quán)衡的值,初步實(shí)驗(yàn)結(jié)果,參數(shù)選擇 C與的取值要折中 目前C和的選參機(jī)制是采用網(wǎng)格搜索法。網(wǎng)格搜索法就是首先確定每個(gè)參數(shù)的取值范圍，對(duì)每個(gè)參數(shù)取值范圍按照按照一定步長(zhǎng)插值，得出N組參數(shù)組合。對(duì)每組參數(shù)分別代入三種核函數(shù),找出預(yù)測(cè)準(zhǔn)確率最高的組合. 目前得出的參數(shù)選取范圍很大，還需要進(jìn)一步縮小范圍,初步實(shí)驗(yàn)

8、結(jié)果,核函數(shù) 四種核函數(shù)對(duì)應(yīng)四種不同的將數(shù)據(jù)轉(zhuǎn)化為高維空間數(shù)據(jù)的方法. 目前發(fā)現(xiàn)多項(xiàng)式核函數(shù)和徑向基核函數(shù)的效果明顯好于二層神經(jīng)網(wǎng)絡(luò)內(nèi)積核函數(shù)，在實(shí)驗(yàn)中使用一定權(quán)值來(lái)綜合運(yùn)用這兩種核函數(shù)進(jìn)行預(yù)測(cè)，從而達(dá)到比單個(gè)核函數(shù)更好的效果 .,初步試驗(yàn)結(jié)果,核函數(shù)參數(shù)的選擇 關(guān)于參數(shù)選擇問(wèn)題的思路主要有兩種： 交叉驗(yàn)證 核校準(zhǔn) 最終目標(biāo):建立自動(dòng)選參模型.,準(zhǔn)入控制,準(zhǔn)入控制通過(guò)限制網(wǎng)絡(luò)中的流量達(dá)到對(duì)網(wǎng)絡(luò)服務(wù)質(zhì)量進(jìn)行控制的目的目前出現(xiàn)的準(zhǔn)入控制根據(jù)其研究策略的不同分為：基于模型的準(zhǔn)入控制和基于測(cè)量的準(zhǔn)入控制二類(lèi)。 基于模型的準(zhǔn)入控制是應(yīng)用預(yù)先給出業(yè)務(wù)流特性參數(shù)的描述，網(wǎng)絡(luò)根據(jù)其可用資源的情況進(jìn)行準(zhǔn)入控制；

9、基于測(cè)量的準(zhǔn)入控制則是通過(guò)測(cè)量網(wǎng)絡(luò)的實(shí)際負(fù)載，結(jié)合請(qǐng)求中較為簡(jiǎn)單的流說(shuō)明（如峰值速率）進(jìn)行準(zhǔn)入控制。,準(zhǔn)入控制,利用SVM的預(yù)測(cè)結(jié)果對(duì)網(wǎng)絡(luò)業(yè)務(wù)流進(jìn)行準(zhǔn)入控制是一種基于模型的準(zhǔn)入控制. 仿真時(shí)采用將準(zhǔn)入控制和資源預(yù)留相結(jié)合的方式提高網(wǎng)絡(luò)業(yè)務(wù)流的Qos.使用單步預(yù)測(cè)值和多步預(yù)測(cè)值來(lái)考慮請(qǐng)求分配帶寬和請(qǐng)求預(yù)留帶寬的要求是否能得到滿(mǎn)足,從而進(jìn)行準(zhǔn)入控制.,進(jìn)度安排,2006-05至2006-07 學(xué)習(xí)文獻(xiàn)資料,了解svm原理和準(zhǔn)入控制方法。 2006-08至2006-10 使用大量數(shù)據(jù)樣本做實(shí)驗(yàn),尋找核函數(shù)、參數(shù)以及預(yù)測(cè)方式的選擇規(guī)律。 2006-10至2006-12總結(jié)實(shí)驗(yàn)結(jié)果，確定預(yù)測(cè)模型。 20

10、06-12至2007-03 利用預(yù)測(cè)結(jié)果進(jìn)行準(zhǔn)入控制，建立仿真模型。,參考文獻(xiàn),1.張浩然，支持向量機(jī)的學(xué)習(xí)方法綜述，浙江師范大學(xué)學(xué)報(bào)，2005 2.齊志泉，支持向量機(jī)中的核參數(shù)選擇問(wèn)題，控制工程，2005 3. V. Cherkassky and Y. Ma, Practical Selection of SVM parameters and Noise Estimation for SVM regression, Neural Networks, 2004, 17(1): 113126 4. X. P. Gao and F. Xiao, Short-Term Prediction of Chaotic Time Series by