抗差估計(jì),有偏估計(jì)

1、 但簡單易行。很小時(shí)此法很不可靠，故觀測(cè)數(shù)常未知，和中識(shí)別粗差時(shí)，實(shí)際問題用魯棒估計(jì)估計(jì)抗差估計(jì)穩(wěn)健估計(jì)nRobusti3 分布的觀測(cè)數(shù)據(jù)。用于定義完全服從正態(tài)經(jīng)典平差模型）高斯馬爾柯夫模型（120,:PDLDEBXLEBXL 在觀測(cè)數(shù)據(jù)中出現(xiàn)在觀測(cè)數(shù)據(jù)中出現(xiàn)0.2%的粗差時(shí)，最小二的粗差時(shí)，最小二乘估值便失去了其最優(yōu)性，但乘估值便失去了其最優(yōu)性，但0.2%的粗差概率的粗差概率完全正常，特別是在現(xiàn)代的大數(shù)據(jù)量自動(dòng)測(cè)量中。完全正常，特別是在現(xiàn)代的大數(shù)據(jù)量自動(dòng)測(cè)量中。所以經(jīng)典平差適用的范圍狹窄所以經(jīng)典平差適用的范圍狹窄。抗差估計(jì)指導(dǎo)思想：抗差估計(jì)指導(dǎo)思想：在抗差能力和效率（指估值最優(yōu)性）在抗差能力

2、和效率（指估值最優(yōu)性）中求得最佳平衡。一般要求其效率達(dá)到經(jīng)典平差效率的中求得最佳平衡。一般要求其效率達(dá)到經(jīng)典平差效率的90%90%以上。是以上。是在抗差的前提下談效率。在抗差的前提下談效率?？共罟烙?jì)實(shí)質(zhì)：抗差估計(jì)實(shí)質(zhì)：犧牲最小二乘估計(jì)的最優(yōu)性，達(dá)到抵抗粗犧牲最小二乘估計(jì)的最優(yōu)性，達(dá)到抵抗粗差污染的目的。差污染的目的。抗差估計(jì)的特點(diǎn)：抗差估計(jì)的特點(diǎn)：當(dāng)觀測(cè)數(shù)據(jù)的實(shí)際分布偏離假定模型時(shí)當(dāng)觀測(cè)數(shù)據(jù)的實(shí)際分布偏離假定模型時(shí)的的不敏感性不敏感性。其對(duì)子樣分布要求不十分嚴(yán)格，只要子樣。其對(duì)子樣分布要求不十分嚴(yán)格，只要子樣近似服從某一模型。近似服從某一模型。若母體確實(shí)為正態(tài)時(shí)，若母體確實(shí)為正態(tài)時(shí)，抗差估計(jì)值

3、無最小二乘估計(jì)值優(yōu)良?？共罟烙?jì)值無最小二乘估計(jì)值優(yōu)良。最小二乘估計(jì)的優(yōu)點(diǎn)：最小二乘估計(jì)的優(yōu)點(diǎn)：能夠抵御大量隨機(jī)小誤差能夠抵御大量隨機(jī)小誤差對(duì)參數(shù)估值的影響；估值無偏，方差最小。對(duì)參數(shù)估值的影響；估值無偏，方差最小。估值的效率問題：估值的效率問題：可削弱大量小誤差對(duì)參數(shù)估值可削弱大量小誤差對(duì)參數(shù)估值的影響。的影響?？共钅芰Φ臉?biāo)志：抗差能力的標(biāo)志：估值能容忍的粗差個(gè)數(shù)估值能容忍的粗差個(gè)數(shù)?？共罟烙?jì)的適用范圍：抗差估計(jì)的適用范圍：在確定性模型中有大量正在確定性模型中有大量正確的觀測(cè)值存在，僅有少數(shù)幾個(gè)是不正確的；確的觀測(cè)值存在，僅有少數(shù)幾個(gè)是不正確的；統(tǒng)計(jì)模型就不一定了，如果軌跡模型是你自己統(tǒng)計(jì)模型

4、就不一定了，如果軌跡模型是你自己定的，出界的點(diǎn)被認(rèn)為是粗差而剔除，這是不定的，出界的點(diǎn)被認(rèn)為是粗差而剔除，這是不正確的。正確的。所以抗差估計(jì)適合確定性模型而不適所以抗差估計(jì)適合確定性模型而不適合擬合模型。合擬合模型。數(shù)據(jù)偏離正態(tài)分布的原因：數(shù)據(jù)偏離正態(tài)分布的原因：（1 1）有粗差（觀測(cè)、記錄、數(shù)據(jù)輸入等）有粗差（觀測(cè)、記錄、數(shù)據(jù)輸入等）（2 2）數(shù)據(jù)組合與舍入誤差）數(shù)據(jù)組合與舍入誤差（3 3）就算數(shù)據(jù)中無粗差存在，但其分布仍有微小明顯的偏離正態(tài)）就算數(shù)據(jù)中無粗差存在，但其分布仍有微小明顯的偏離正態(tài)趨勢(shì)趨勢(shì)（4 4）觀測(cè)值之間并非完全獨(dú)立）觀測(cè)值之間并非完全獨(dú)立 F、t、u、 2 四種檢驗(yàn)方法由

5、于都取決于正態(tài)分布的母四種檢驗(yàn)方法由于都取決于正態(tài)分布的母體，故對(duì)于偏離正態(tài)分布的數(shù)據(jù)檢驗(yàn)是不可靠的。體，故對(duì)于偏離正態(tài)分布的數(shù)據(jù)檢驗(yàn)是不可靠的。舉例舉例：0625. 5997. 4500. 5008. 5001. 5993. 4998. 4002. 5001. 5x術(shù)平均值為：其最小二乘估值，即算，觀測(cè)值為高斯斷言：高斯斷言：如果最小二乘估計(jì)量不是最優(yōu)估值的話，那如果最小二乘估計(jì)量不是最優(yōu)估值的話，那么，觀測(cè)列中必存在一種來自外界的、未知的干擾因么，觀測(cè)列中必存在一種來自外界的、未知的干擾因素所致?，F(xiàn)已知，這種未知的干擾因素就是粗差。素所致?，F(xiàn)已知，這種未知的干擾因素就是粗差。穩(wěn)健估計(jì)的目標(biāo)

6、：穩(wěn)健估計(jì)的目標(biāo)：1 1、在采用的假定模型下，所估計(jì)的參數(shù)應(yīng)具有最優(yōu)或接、在采用的假定模型下，所估計(jì)的參數(shù)應(yīng)具有最優(yōu)或接近最優(yōu)；近最優(yōu)；2 2、如果實(shí)際模型與假定模型存在較小的偏差，則對(duì)應(yīng)的、如果實(shí)際模型與假定模型存在較小的偏差，則對(duì)應(yīng)的估計(jì)參數(shù)所受影響也較??；估計(jì)參數(shù)所受影響也較小；3 3、即使實(shí)際模型與假定模型有較大偏差，其參數(shù)估值的、即使實(shí)際模型與假定模型有較大偏差，其參數(shù)估值的性能也不應(yīng)太差，不至于對(duì)估值產(chǎn)生災(zāi)難性后果。性能也不應(yīng)太差，不至于對(duì)估值產(chǎn)生災(zāi)難性后果。模型誤差的產(chǎn)生和分類模型誤差的產(chǎn)生和分類模型誤差：模型誤差：模型與客觀實(shí)際的誤差，也分為粗差、系模型與客觀實(shí)際的誤差，也分為

7、粗差、系統(tǒng)誤差和偶然誤差。統(tǒng)誤差和偶然誤差。有粗差時(shí)用經(jīng)典平差模型或無粗差時(shí)用抗差模型，都有粗差時(shí)用經(jīng)典平差模型或無粗差時(shí)用抗差模型，都會(huì)產(chǎn)生模型誤差。會(huì)產(chǎn)生模型誤差。比例。的的數(shù)據(jù)在整個(gè)數(shù)據(jù)組中受污染（有粗差）部分污染率，干擾分布，主體分布，污染分布：xxFFF 1一、一、影響函數(shù)影響函數(shù) 影響函數(shù)是用來判斷估計(jì)量對(duì)異常值敏感影響函數(shù)是用來判斷估計(jì)量對(duì)異常值敏感程度的指標(biāo)，即一個(gè)附加的觀測(cè)值對(duì)估值的影響的程度的指標(biāo)，即一個(gè)附加的觀測(cè)值對(duì)估值的影響的大小。大小。影響函數(shù)定義式：影響函數(shù)定義式： 在其它處處在：分布，其概率密度函數(shù)的（粗差）質(zhì)量為粗差分布。在污染率。無粗差的主體分布。受污染的分布

8、。其中：0111,00 xxxfxFFFFlinFFlinFlIFxx 污染率。觀測(cè)值個(gè)數(shù)。粗差個(gè)數(shù)，估值。個(gè)粗差后的數(shù)據(jù)算得的用剔除個(gè)觀測(cè)值算得的估值用全部的實(shí)用中，影響函數(shù)為：nsnssFnFnsFFFlIF,影響函數(shù)的重要用途：影響函數(shù)的重要用途：（1）若影響函數(shù)無界，則一個(gè)粗差可徹底破壞估計(jì)量，此時(shí)該）若影響函數(shù)無界，則一個(gè)粗差可徹底破壞估計(jì)量，此時(shí)該種方法就不具有抗差性；種方法就不具有抗差性；（2）大于某個(gè)限差的粗差應(yīng)對(duì)平差結(jié)果不產(chǎn)生影響，即應(yīng)設(shè)一）大于某個(gè)限差的粗差應(yīng)對(duì)平差結(jié)果不產(chǎn)生影響，即應(yīng)設(shè)一個(gè)影響函數(shù)個(gè)影響函數(shù)IF=0的誤差界；的誤差界；（3）影響函數(shù)可用圖形表示，直觀，重要

9、。）影響函數(shù)可用圖形表示，直觀，重要。廣義極大似然估計(jì)廣義極大似然估計(jì)M M估計(jì)估計(jì)M M估計(jì)經(jīng)典極大似然估計(jì)的推廣，最接近傳估計(jì)經(jīng)典極大似然估計(jì)的推廣，最接近傳統(tǒng)的最小二乘估計(jì)。統(tǒng)的最小二乘估計(jì)。概率密度最大，即的組獨(dú)立小誤差聯(lián)合出現(xiàn)以極大似然法思想，一參數(shù)估值，誤差的密度函數(shù)為，設(shè)其對(duì)應(yīng)的，設(shè)有一組獨(dú)立觀測(cè)值XLXfLLLin21 211121minlnminlnmaxlnmaxiiiiiniiniiniinvPvvvvfLXfLXfLXfLXfLXfG最小二乘法中，的函數(shù)為殘差數(shù)或估值函數(shù)，其稱為目標(biāo)函數(shù)、極值函，使其定義式廣義化：上式中的差函數(shù)）代替（增長較慢的極小化殘選用函數(shù)或：或：

10、 0minmin1111niiniiiniiniivvvvvM的定義也可引申到其導(dǎo)數(shù)而由一類估計(jì)。式定義的估計(jì)由所以，也可以定義 iv iv由于由于 或或 選擇的不同，會(huì)得到不選擇的不同，會(huì)得到不同的同的M估計(jì)法，其穩(wěn)健性也不同。估計(jì)法，其穩(wěn)健性也不同?；舅枷耄夯舅枷耄海? 1）平差仍采用經(jīng)典的最小二乘平差形式；）平差仍采用經(jīng)典的最小二乘平差形式； （2 2）每次平差后根據(jù)殘差和有關(guān)參數(shù)構(gòu)成下一步）每次平差后根據(jù)殘差和有關(guān)參數(shù)構(gòu)成下一步的權(quán)函數(shù)；的權(quán)函數(shù)；（3 3）迭代中止時(shí)相應(yīng)的殘差將直接指出粗差所在）迭代中止時(shí)相應(yīng)的殘差將直接指出粗差所在的位置。平差后有：的位置。平差后有： 保權(quán)區(qū)正常

11、觀測(cè)值保權(quán)區(qū)正常觀測(cè)值 降權(quán)區(qū)非正常但可用的觀測(cè)值降權(quán)區(qū)非正常但可用的觀測(cè)值 除權(quán)區(qū)含粗差的觀測(cè)值除權(quán)區(qū)含粗差的觀測(cè)值 計(jì)估計(jì)就成為最小二乘估是常數(shù)陣，若權(quán)陣估計(jì)準(zhǔn)則：其中每次平差的權(quán)陣為陣形式：選權(quán)迭代法法方程的矩個(gè)觀測(cè)值的殘差次平差后第第個(gè)觀測(cè)值的權(quán)函數(shù)第式中下標(biāo)表示：令權(quán)函數(shù)為：MVPVVPVvPvPvPdiagVPlVPBxBVPBjiijjvvvvvPTiniiTTiiiiijmin021 代入。的初值用單位陣當(dāng)觀測(cè)值等權(quán)時(shí)，值符合限差要求為止。迭代到前后兩次解的差選權(quán)迭代法的迭代公式IVPlxBVlVPBBVPBxvvvPkkkTkTkkikiikj111 v隨著估計(jì)函數(shù)隨著估計(jì)函

12、數(shù) 選取的不同，構(gòu)成了不同選取的不同，構(gòu)成了不同的權(quán)函數(shù)形式，形成了不同的選權(quán)迭代法。的權(quán)函數(shù)形式，形成了不同的選權(quán)迭代法。權(quán)函數(shù)權(quán)函數(shù) 選取的要求選取的要求：（1 1）平差后粗差觀測(cè)值的權(quán)應(yīng)趨近于）平差后粗差觀測(cè)值的權(quán)應(yīng)趨近于0 0，其，其余多余觀測(cè)值的權(quán)趨近于余多余觀測(cè)值的權(quán)趨近于1 1；（2 2）迭代中止時(shí)，不含粗差的觀測(cè)值的權(quán)應(yīng)）迭代中止時(shí)，不含粗差的觀測(cè)值的權(quán)應(yīng)等于驗(yàn)前給定或驗(yàn)后方差估求的，平差應(yīng)等于驗(yàn)前給定或驗(yàn)后方差估求的，平差應(yīng)回到通常的最小二乘法平差；回到通常的最小二乘法平差；（3 3）權(quán)函數(shù)的選擇應(yīng)保證迭代盡快收斂。）權(quán)函數(shù)的選擇應(yīng)保證迭代盡快收斂。 VP 由于粗差的分布不同

13、，不能象偶然誤差一樣由于粗差的分布不同，不能象偶然誤差一樣有一個(gè)統(tǒng)一的正態(tài)分布，有統(tǒng)一的處理方法。所有一個(gè)統(tǒng)一的正態(tài)分布，有統(tǒng)一的處理方法。所以不同的粗差分布對(duì)應(yīng)了不同的處理方法。以不同的粗差分布對(duì)應(yīng)了不同的處理方法。1、HuberHuber法法2 2、一次范數(shù)最小法、一次范數(shù)最小法3 3、p p范最小法范最小法4 4、丹麥法、丹麥法5 5、HampelHampel法法1、Huber法2、一次范數(shù)最小法（L1估計(jì)）（中位數(shù)法） 212124222442222vvvvpvvsignvvvvvvvvv， kvvpvv13、P范最小法（LP法）4、IGG法（周江文法）5、經(jīng)典最小二乘法（不具有抗差性

14、） kvvpvvpp21 5 . 205 . 25 . 115 . 115 . 25 . 25 . 15 . 122vvvvvpvdvvvvv cvppvvpvv22 v1 v1 v2 v2 v3 v3 v4 v4 v5 v5 v6 v6 v7 v7 給定誤差 0.640.73-0.84-0.260.01-10.481.86 L2-2.290.53-0.812.572.906.00-3.42 L12-1.4100.07-0.031.499.42-1.42 L1-1.4500.0301.539.41-1.39Huber法-0.95-0.200.53-0.231.239.68-1.42 丹麥法-0

15、.58-0.100.980.390.4810.75-1.101546372ABH3H1H2 如圖，為模擬水準(zhǔn)網(wǎng)，7個(gè)觀測(cè)值配賦了隨機(jī)誤差，在第六條路線的觀測(cè)高差中附加了10mm的粗差。用各種算法結(jié)果列于下表。從表中看各種選權(quán)迭代法均有抗差性，而最小二乘法不具有抗差性。選權(quán)迭代法的缺陷：選權(quán)迭代法的缺陷：1 1、由于粗差的大小及位置未知，只能以殘差來、由于粗差的大小及位置未知，只能以殘差來研究，且目標(biāo)函數(shù)研究，且目標(biāo)函數(shù) 選擇成為殘差選擇成為殘差v v的函數(shù)，這的函數(shù)，這并不一定符合實(shí)際。并不一定符合實(shí)際。2 2、選權(quán)迭代法中，第一次按最小二乘平差求得、選權(quán)迭代法中，第一次按最小二乘平差求得的殘

16、差受粗差的影響很大，由此將影響迭代的的殘差受粗差的影響很大，由此將影響迭代的權(quán)函數(shù)權(quán)函數(shù)P(v)的選擇，可能導(dǎo)致錯(cuò)誤的收斂。的選擇，可能導(dǎo)致錯(cuò)誤的收斂。3 3、為避免選權(quán)迭代法的初值受、為避免選權(quán)迭代法的初值受LSLS平差法的影響，平差法的影響，可以采用線性規(guī)劃中的可以采用線性規(guī)劃中的單純形法單純形法進(jìn)行初值確定。進(jìn)行初值確定。 離原點(diǎn)最遠(yuǎn)的點(diǎn)上。內(nèi)并且使最優(yōu)解是在可行解區(qū)域約束條件：目標(biāo)函數(shù)：解：間獲得最大利潤？何安排生產(chǎn)可在計(jì)劃期可供資源如表，問：如元，元，乙產(chǎn)品得利潤個(gè)甲產(chǎn)品得利潤工，用料均為鋼材，每和二車間的機(jī)械上加產(chǎn)品，均需要在一車間例：某廠生產(chǎn)甲乙兩種約束函數(shù)：目標(biāo)函數(shù)：數(shù)學(xué)模型：

17、2121221212140300,2005 . 07505 . 1600max403040300,minxxzxxxxxxxxxzXbAXXCxfT圖解法的重要結(jié)論：圖解法的重要結(jié)論：可行解可行解的區(qū)域?yàn)橥苟噙呅?，其最?yōu)解若存在，的區(qū)域?yàn)橥苟噙呅?，其最?yōu)解若存在，一定在某個(gè)極點(diǎn)（頂點(diǎn)）上。一定在某個(gè)極點(diǎn)（頂點(diǎn)）上。最優(yōu)解：最優(yōu)解：能使線性規(guī)劃目標(biāo)達(dá)到極值的可行解。能使線性規(guī)劃目標(biāo)達(dá)到極值的可行解。 TTixxsssxsssxxsxsxxsxxsssxxzis002007506000,2005 . 07505 . 1600max00040303 , 2 , 1213210321213222112

18、132121方程的初始解為：約束條件：目標(biāo)函數(shù)：準(zhǔn)化：，使線性規(guī)劃的模型標(biāo)在上例中加入松弛變量單純形凸類中的一種，在其內(nèi)部任意兩點(diǎn)間的連線仍處于圖形的內(nèi)部。單純形法極點(diǎn)迭代法。沿著凸多面體的棱向另一個(gè)極點(diǎn)迭代，使目標(biāo)函數(shù)的值逐次下降。)3(, 2 , 1, 0)2() 1 (max)min(221122222121112121112211nixbxaxaxabxaxaxabxaxaxaxcxcxcimnmnmmnnnnnn未知量并且要求滿足：約束條件或目標(biāo)函數(shù)：標(biāo)準(zhǔn)形式：從數(shù)學(xué)意義上講，若有一組解1）滿足（2）、（3）兩式，稱為基本可行解；2）同時(shí)滿足（1）、（2）和（3）三式，稱為最優(yōu)解。

19、個(gè)線性無關(guān)的列組成。中基底矩陣。由標(biāo)準(zhǔn)形式還可以化為標(biāo)準(zhǔn)形式的矩陣形式：mABXXbNXBXZXCXCXCXfXbAXXCXfNBNBNNBBTT0, 0min0min 行解，可停止迭代。，則已經(jīng)取得了最優(yōu)可若去尋找最優(yōu)解；中進(jìn)行換元，再迭代下、過對(duì)組更優(yōu)的可行解，可通，一定存在一組比前一若判斷：設(shè)解得目標(biāo)函數(shù)：00,111rXXrNBCCrXNBCCbBCxfNBBNNBNBlbBBAVVXXXCVVXXlVVBXBXVVZVVXXVVXXVVVXXXxlxBVVTi1111000,minmin即，得數(shù)學(xué)模型為在非零解?；ゲ华?dú)立，不能同時(shí)存與、與，即：可正可負(fù)，故設(shè)、數(shù)均為非負(fù)值，但由于線性

20、規(guī)劃中要求參約束條件：目標(biāo)函數(shù)：當(dāng)觀測(cè)值是等權(quán)時(shí)，選權(quán)迭代法用當(dāng)觀測(cè)值是等權(quán)時(shí)，選權(quán)迭代法用權(quán)函數(shù)權(quán)函數(shù)進(jìn)進(jìn)行平差；行平差；當(dāng)觀測(cè)值不等權(quán)時(shí)，選權(quán)迭代法用當(dāng)觀測(cè)值不等權(quán)時(shí)，選權(quán)迭代法用等價(jià)權(quán)等價(jià)權(quán)進(jìn)進(jìn)行平差。行平差。 式相同。權(quán)函數(shù)平差時(shí)的迭代公平差的時(shí)迭代公式與用權(quán)函數(shù)等價(jià)權(quán)定義：，或估計(jì)準(zhǔn)則為：觀測(cè)值，其權(quán)為對(duì)于獨(dú)立不等權(quán)ijijjiijjiiiinvPvPpvvpPvpvpMppp0min,21xxxxTlTTxxiTQDBPBBPQPBBPBQPntnVPV 20 11 200參數(shù)方差近似公式：參數(shù)權(quán)逆陣近似公式：下的觀測(cè)值個(gè)數(shù)。（含粗差觀測(cè)值）后剩去除似公式：單位權(quán)中誤差估計(jì)的近之所

21、以稱以上三式為近似公式，是因?yàn)榻频匾暤葍r(jià)權(quán)為常數(shù)之所以稱以上三式為近似公式，是因?yàn)榻频匾暤葍r(jià)權(quán)為常數(shù)矩陣（其實(shí)等價(jià)權(quán)是隨機(jī)量，是殘差的函數(shù)）。矩陣（其實(shí)等價(jià)權(quán)是隨機(jī)量，是殘差的函數(shù)）。粗差作為一種模型誤差，可以從兩種角度去描述粗差作為一種模型誤差，可以從兩種角度去描述它：它：1 1）將粗差歸入函數(shù)模型）將粗差歸入函數(shù)模型數(shù)據(jù)探測(cè)法數(shù)據(jù)探測(cè)法（也稱均（也稱均值漂移模型）值漂移模型）2 2）將粗差歸入隨機(jī)模型）將粗差歸入隨機(jī)模型穩(wěn)健估計(jì)法穩(wěn)健估計(jì)法（也稱方（也稱方差膨脹模型）差膨脹模型）的作用程度。反映了觀測(cè)誤差對(duì)殘差稱為平差的幾何條件。常數(shù)陣的影響：對(duì)殘差觀測(cè)誤差RPBBNIRRPBBNIV

22、VTT11 測(cè)，未參與平差。個(gè)觀測(cè)值為完全多余觀，則第若；量，說明其無抗差能力個(gè)觀測(cè)值無多余觀測(cè)分，則第若好的控制網(wǎng)，有的分布范圍：，且多余觀測(cè)數(shù)量個(gè)觀測(cè)值的多余觀測(cè)分個(gè)主元為第陣中的第）稱能發(fā)現(xiàn)粗差；時(shí)，即無需平差，也不，可見無多余觀測(cè)，則）若無多余觀測(cè)，即跡”特性，即秩陣是冪等陣，所以有“）產(chǎn)生影響；，將對(duì)所有的殘差）某一觀測(cè)誤差相關(guān)的；是的影響，所以殘差之間，它受到所有觀測(cè)誤差）對(duì)任意一個(gè)殘差的描述：對(duì)irirrrrrrPQrriiRVlBxtnrrRtrRrkRVvPQRRViiiiiniiVViiiiVV105 . 02 . 0.10:5004;32111假設(shè)觀測(cè)值中僅有一個(gè)有粗差，

23、用該法檢測(cè)并剔除后，假設(shè)觀測(cè)值中僅有一個(gè)有粗差，用該法檢測(cè)并剔除后，再建立新的平差系統(tǒng)重新平差后，再找出下一個(gè)粗差剔再建立新的平差系統(tǒng)重新平差后，再找出下一個(gè)粗差剔除，直到不含粗差。除，直到不含粗差。 1) 10:20200uuPrrvQvvuuvEHiilivviviiiiiii接受域：很小時(shí)會(huì)影響判斷統(tǒng)計(jì)量：檢驗(yàn)法：已知，用若母體方差數(shù)據(jù)探測(cè)法的原假設(shè)：粗差的觀測(cè)值。初剔除的有時(shí)并非是含）因各殘差相關(guān)，故最差。）一次只能發(fā)現(xiàn)一個(gè)粗?jǐn)?shù)據(jù)探測(cè)法缺點(diǎn)：檢驗(yàn)粗差。個(gè)觀測(cè)值重新平差，再的剔除粗差后，再將剩余參數(shù)個(gè)數(shù)。其中統(tǒng)計(jì)量：檢驗(yàn)：）母體方差未知時(shí)，用21111122200ntrvpPVVtntn

24、tQvttiiiTvviiii34 為什么要研究病態(tài)方程為什么要研究病態(tài)方程： 當(dāng)誤差方程為病態(tài)時(shí)，即使觀測(cè)數(shù)據(jù)服從正態(tài)分布，其最當(dāng)誤差方程為病態(tài)時(shí)，即使觀測(cè)數(shù)據(jù)服從正態(tài)分布，其最小二乘估值也不理想，甚至很差，平差結(jié)果中方差雖然最小，小二乘估值也不理想，甚至很差，平差結(jié)果中方差雖然最小，但方差的值卻很大，即平差精度很差，而且解也相當(dāng)?shù)牟环€(wěn)定。但方差的值卻很大，即平差精度很差，而且解也相當(dāng)?shù)牟环€(wěn)定。1 1、矩陣的條件數(shù)、矩陣的條件數(shù)TxxybyybxxxbAx110001. 00,0001. 220001. 111102220001. 11112121方程組的解變?yōu)椋浩渲杏形⑿∽兓瘯r(shí)，有當(dāng)常數(shù)項(xiàng)

25、其精確解為，即例：有方程組一、病態(tài)問題與條件數(shù)若系數(shù)陣若系數(shù)陣A A或常數(shù)項(xiàng)或常數(shù)項(xiàng)b b的微小變化，會(huì)引起方程組的解的微小變化，會(huì)引起方程組的解x x有巨大變化，有巨大變化，則這種方程組稱為則這種方程組稱為“病態(tài)方程組病態(tài)方程組”。A A稱為病態(tài)矩陣。稱為病態(tài)矩陣。AAbbAAAAAAxxbbxxAAxbAbbAAxxbAxxAbbAxbAxbbxxAxbbAbAx11111211得解的相對(duì)誤差為：即有多大誤差？均有誤差時(shí)，解、）設(shè)所以：（范數(shù)特性）即有多大誤差？，導(dǎo)致解有誤差非奇異，設(shè)正常，）中，討論：在方程組定義定義 。中最大和最小的特征值分別是正定對(duì)稱矩陣和其中，數(shù)為陣的條件陣），（如

26、法方程的為正定實(shí)對(duì)稱矩陣時(shí)，當(dāng)感程度。組的解對(duì)原始數(shù)據(jù)的敏條件數(shù)。它刻畫了方程的為矩陣，稱乘積異陣矩陣的條件數(shù)：對(duì)非奇AAAAcondANAAAAAminmaxminmax121不穩(wěn)定模型：觀測(cè)數(shù)據(jù)很小的誤差會(huì)引起待估參數(shù)很大的誤差。不穩(wěn)定模型：觀測(cè)數(shù)據(jù)很小的誤差會(huì)引起待估參數(shù)很大的誤差。所以病態(tài)方程也是不穩(wěn)定模型。所以病態(tài)方程也是不穩(wěn)定模型。2 2、病態(tài)性程度的衡量方法、病態(tài)性程度的衡量方法。時(shí)，有嚴(yán)重的復(fù)共線性中等強(qiáng)度復(fù)共線性；時(shí)，有時(shí)，有弱復(fù)共線性；在復(fù)共線性；時(shí)，可以認(rèn)為不存中，的特征值通常的判斷標(biāo)準(zhǔn)，模糊的說法。很接近于零”是一個(gè)很個(gè)復(fù)共線性關(guān)系。但“中就有多少于零，設(shè)計(jì)矩陣有多少個(gè)

27、特征值很接近法矩陣、特征分析法01. 005. 001. 01 . 005. 01 . 0iiiiiNBNa解釋：復(fù)共線性解釋：復(fù)共線性 復(fù)共線性，指的是平差參數(shù)之間具有近似相關(guān)關(guān)系，反映在誤差方程的設(shè)計(jì)矩陣上，就是列向量間的某些數(shù)據(jù)列可以由其余的數(shù)據(jù)列近似（非精確）地線性表示。 在最小二乘平差中，在最小二乘平差中，“復(fù)共線性復(fù)共線性”就是指就是指“病態(tài)性病態(tài)性”。 方差分解比方法。條件指標(biāo)法、。中有幾個(gè)復(fù)共線性關(guān)系判定設(shè)計(jì)矩陣條件數(shù)法的缺點(diǎn)是不能正取舍。準(zhǔn)則應(yīng)根據(jù)實(shí)際情況修左右。所以對(duì)上述致在快速定位中，條件數(shù)大處理實(shí)際應(yīng)用中，如數(shù)據(jù)提下得到的。但在測(cè)量對(duì)數(shù)據(jù)中心標(biāo)準(zhǔn)化的前呈病態(tài)。這個(gè)指標(biāo)是

28、在，系統(tǒng)時(shí)存在嚴(yán)重的復(fù)共線性時(shí)沒有復(fù)共線性；一般認(rèn)為、條件數(shù)法CTVDPcBKKNNNcondKb13minmax110GPS10001003 3、病態(tài)方程產(chǎn)生原因、病態(tài)方程產(chǎn)生原因1、參數(shù)選取原因。（參數(shù)近似相關(guān)或過度參數(shù)化）、參數(shù)選取原因。（參數(shù)近似相關(guān)或過度參數(shù)化）2、觀測(cè)原因。（樣本為局部采樣或接近重復(fù)采樣）、觀測(cè)原因。（樣本為局部采樣或接近重復(fù)采樣）3、模型選擇原因。（模型建立的方法不同，其病態(tài)程度不同）、模型選擇原因。（模型建立的方法不同，其病態(tài)程度不同）4、計(jì)算方面原因。（計(jì)算方法要穩(wěn)定，計(jì)算機(jī)字節(jié)長度應(yīng)長一些）、計(jì)算方面原因。（計(jì)算方法要穩(wěn)定，計(jì)算機(jī)字節(jié)長度應(yīng)長一些）4 4、病

29、態(tài)方程最小二乘估值的性質(zhì)、病態(tài)方程最小二乘估值的性質(zhì) 病態(tài)方程處理的觀測(cè)值可以是正態(tài)分布，但其LS估值并不理想，甚至很差。 雖然LS估計(jì)的方差在線性無偏類中是最小，但數(shù)值卻很大，并表現(xiàn)得相當(dāng)不穩(wěn)定。 常用均方誤差常用均方誤差MSE來評(píng)價(jià)病態(tài)情形下參數(shù)的估值質(zhì)量。來評(píng)價(jià)病態(tài)情形下參數(shù)的估值質(zhì)量。 的減小。部分，換取方差部分大偏差有偏估計(jì)實(shí)質(zhì)：適當(dāng)增。估值，即參數(shù)估值將不再是無偏用解病態(tài)方程法得到的的一個(gè)良好估值了。不再是估值很大，此時(shí)值較小，會(huì)導(dǎo)致的最小特征。而若法矩陣的無偏估值，即是真值上式的條件為由均方誤差公式：122120120212 2001xxExxLSxMSENxxBBtrxxEQt

30、rxxxxExMSEitiiTxxT問題的適定性：問題的適定性：人們根據(jù)已獲取的觀測(cè)數(shù)據(jù)和物理規(guī)律，列出的數(shù)學(xué)模型，當(dāng)這些模型具有下述性質(zhì)： 1、解存在；、解唯一；、解穩(wěn)定。則這個(gè)問題稱為適定性問題。不適定性：不適定性： 不滿足上面三個(gè)條件中的任意一個(gè)或多個(gè)。不適定問題通常是病態(tài)的，但病態(tài)問題不一定就是不適定問題。不不適定問題通常是病態(tài)的，但病態(tài)問題不一定就是不適定問題。不適定問題通常是求方程的穩(wěn)定近似解。適定問題通常是求方程的穩(wěn)定近似解。5 5、什么樣的方程可能是病態(tài)的？、什么樣的方程可能是病態(tài)的？1）行列式的值很大或很小（如某些行、列近代相關(guān)）；2）元素間相差大數(shù)量級(jí)，且無規(guī)則；3）主元消

31、去過程中出現(xiàn)小主元；4）特征值相差大數(shù)量級(jí)。1 1、病態(tài)方程的截?cái)嗥娈愔到夥ā⒉B(tài)方程的截?cái)嗥娈愔到夥ㄆ娈愔捣纸饧夹g(shù)奇異值分解技術(shù)(Singular Value Decomposintion Technique，簡記為，簡記為SVD法法)均為正交矩陣。、為半正定的對(duì)角陣；式中陣可分解為時(shí)，對(duì)）當(dāng)（進(jìn)行奇異值分解：下面對(duì)的廣義逆。是為的最小二乘最小范數(shù)解是誤差向量。得是設(shè)計(jì)矩陣，已經(jīng)單位化）：的權(quán)陣測(cè)值向量設(shè)有觀測(cè)方程（式中觀VUVUAAtnppArankAAALAxxeAeLxAPLttTtnnntnLS,min)(11n1n1ttn minmax221212121,:. 0),min(,00

32、0AcondAVUvvvVuuuUVUAAAAtnARpdiagDDtniiiTiipptn數(shù)與奇異值的關(guān)系為：為長方陣時(shí)，得其條件：奇異值與條件數(shù)的關(guān)系見后面算例。陣的計(jì)算和陣按列劃分，為和將。的關(guān)系為：的特征值或與矩陣奇異值陣全部的非零奇異值。是且其中：陣的分塊形式為TTTTTTiTTTTTTvvvdduuVUAAuuDAVUUAArankvVVVvvvVvvvAAddAAAAAA32121212111112132132121321000031313102121626161010003212121212121212110031062216121611101012)(,313131,0212

33、1,6261611,3,0,1,3211110101110101的奇異值分解為從而可得），則的個(gè)數(shù)所占的，（令別為的正交單位特征向量分且。的奇異值為故的特征值為，得解：因?yàn)榈钠娈愔捣纸?。例：求矩?。近似秩虧的線性方程組法可解算滿秩、秩虧和看出，由，而的通解為：線性方程組組的數(shù)值穩(wěn)定的方法。、特別是線性病態(tài)方程分解法是求線性方程組，可見奇異值超過時(shí)，奇異值的變化不會(huì)有擾動(dòng)此特性說明當(dāng)矩陣，有，則對(duì)均屬于與若、奇異值分解的擾動(dòng)。SVDVUAtnpdiagDDUVVUALAxLAxEEAEAEAtptnREAATpntTTpptn11121111122,min,000, 2 , 13件數(shù)，提高了穩(wěn)

34、定性。很強(qiáng)的約束，降低了條這相當(dāng)于舍去了相關(guān)性及其相關(guān)的特征向量，的奇異值，舍去小于值截?cái)嘣瓌t：選擇一個(gè)閾程的截?cái)嗥娈愔捣ń猓翰綄?duì)其截?cái)?，得病態(tài)方在第得解為：的奇異值分解式可寫為相應(yīng)地，陣的奇異值為：則，且有的特征值為設(shè)inTinTitiitTnpinTitiitLSpiTiiiTpppiLuvxTLuvLAxuvUVAAApiA11111111111111221121,0, 2 , 1通過截?cái)?，適當(dāng)去除（通過截?cái)?，適當(dāng)去除（t-T）個(gè)大誤差項(xiàng)，恢復(fù)了一些解的主要特）個(gè)大誤差項(xiàng)，恢復(fù)了一些解的主要特性，但也喪失了一些解的精確性。性，但也喪失了一些解的精確性。47 均為單位陣）內(nèi)容嶺估計(jì)。（以下

35、時(shí)，正則化估計(jì)也稱為正則化矩陣。當(dāng)滿足正則化參數(shù)光滑函數(shù)。RIRRTikhononvxxRxPVVxTT02min2 2、病態(tài)方程的正則化解法、病態(tài)方程的正則化解法）式：的正則化準(zhǔn)則作用于（，此時(shí)可取的特征值單調(diào)地趨向于若上式病態(tài)，則法矩陣）（有誤差方程：101TikhonovNlxBVPlBIPBBxTtT1得正則化參數(shù)解為： 可見 ，正則化方法的核心是通過附加“全部或部分參數(shù)（或其改正數(shù)）加權(quán)平方和極小”的條件，增加約束，補(bǔ)充（先驗(yàn)）信息，來克服不適定性，使解唯一且穩(wěn)定。48 QIIINQNQQxxQNQQxMSEMxQxxExBiasxBiasxxBlElIPBBQlxBVPlBQxINQtttTnTTt其中考慮了：陣為評(píng)定精度的均方誤差矩為的偏差值有參數(shù)的期望值與其真考慮為參數(shù)估值及殘差可表示設(shè),2201 正則化解的殘差及自由度與最小二乘解不同，因此其單位權(quán)方差估計(jì)式也不同。 2022201222:QtrtnPDtrBNQBQ