參數(shù)的最小二乘法估計(jì).ppt

1、第五章 參數(shù)的最小二乘法估計(jì),主要內(nèi)容,1 最小二乘法原理 2 線性測(cè)量方程組中參數(shù)的最小二乘法 3 非線性測(cè)量方程組中參數(shù)的最小二乘法 4 組合測(cè)量,數(shù)學(xué)工具,關(guān)于最小二乘法,算術(shù)平均值，依據(jù)使殘差的平方和為最小的原則 組合測(cè)量的問(wèn)題 擬合經(jīng)驗(yàn)公式等,最小二乘法典型應(yīng)用,最小二乘法發(fā)展,200多年的歷史； 天文和大地測(cè)量； 近代矩陣?yán)碚撆c電子計(jì)算機(jī) 經(jīng)典的最小二乘法及其在組合測(cè)量的應(yīng)用 深入的內(nèi)容可參閱專門(mén)的書(shū)籍和文獻(xiàn),第一節(jié)最小二乘法原理,從一組測(cè)量值中尋找最可信賴值,測(cè)得值 同時(shí)出現(xiàn)的概率為,最可信賴值滿足,最可信賴值；P為最大；式中負(fù)指數(shù)中因子達(dá)最小,微分法得最可信賴值,（1）最小絕對(duì)

2、殘差和法：,小結(jié),從一組測(cè)量數(shù)據(jù)中求得最佳結(jié)果，還可使用其它原理。例如,最可信賴值是在殘差平方和或加權(quán)殘差平方和為最小的意義下求得的，稱之為最小二乘法原理。,（3）最小廣義極差法：,（2）最小最大殘差法：,主要內(nèi)容,最小二乘法原理 線性測(cè)量方程組中參數(shù)的最小二乘法 非線性測(cè)量方程組中參數(shù)的最小二乘法 組合測(cè)量,第二節(jié)線性參數(shù)的最小二乘法,先舉一個(gè)實(shí)際遇到的測(cè)量問(wèn)題，為精密測(cè)定三個(gè)電容值: 采用的測(cè)量方案是，分別等權(quán)、獨(dú)立測(cè)得 , 列出待解的數(shù)學(xué)模型。這是一個(gè)組合測(cè)量的問(wèn)題。,第二節(jié)線性參數(shù)的最小二乘法,如為精密測(cè)定1號(hào)、2號(hào)和3號(hào)電容器的電容量,測(cè)得值,待解的數(shù)學(xué)模型,待求量,為了獲得更可靠的

3、結(jié)果，測(cè)量次數(shù)總要多于未知參數(shù)的數(shù)目,組合測(cè)量，指直接測(cè)量一組被測(cè)量的不同組合值，從它們相互所依賴的若干函數(shù)關(guān)系中，確定出各被測(cè)量的最佳估計(jì)值。,第二節(jié)線性參數(shù)的最小二乘法,這是一個(gè)超定方程組，即方程個(gè)數(shù)多于待求量個(gè)數(shù)，不存在唯一的確定解，事實(shí)上，考慮到測(cè)量有誤差，記它們的測(cè)量誤差分別為 ，按最小二乘法原理,第二節(jié)線性參數(shù)的最小二乘法,分別對(duì) 求偏導(dǎo)數(shù)，令它們等于零，得如下的確定性方程組。,(x1-0.3)+(x1+x3-0.5)=0 (x2+0.4)+(x2+x3+0.3)=0 (x1+x3-0.5)+(x2+x3+0.3)=0,x1=0.325, x2=-0.425, x3=0.150,可

4、求出唯一解,第二節(jié)線性參數(shù)的最小二乘法,以下，一般地討論線性參數(shù)測(cè)量方程組 的最小二乘解及其精度估計(jì)。,第二節(jié)線性參數(shù)的最小二乘法,第二節(jié)線性參數(shù)的最小二乘法,一、正規(guī)方程組,設(shè)線性測(cè)量方程組的一般形式為：,第二節(jié)線性參數(shù)的最小二乘法,即,式中，有n個(gè)直接測(cè)得值，t個(gè)待求量。 nt,各等權(quán)，無(wú)系統(tǒng)誤差和粗大誤差。,第二節(jié)線性參數(shù)的最小二乘法,第二節(jié)線性參數(shù)的最小二乘法,上式分別對(duì) 求偏導(dǎo)數(shù)，且令其等于零， 經(jīng)推導(dǎo)得,應(yīng)當(dāng)滿足,式中， ， 分別為如下列向量,第二節(jié)線性參數(shù)的最小二乘法,第二節(jié)線性參數(shù)的最小二乘法,和 分別為如下兩列向量的內(nèi)積：,=,=,正規(guī)方程組有如下特點(diǎn)：,第二節(jié)線性參數(shù)的最小

5、二乘法,測(cè)量方程組系數(shù)與正規(guī)方程組系數(shù),第二節(jié)線性參數(shù)的最小二乘法,（1）主對(duì)角線系數(shù)是測(cè)量方程組各列系數(shù)的平方和，全為正數(shù)。 （2）其它系數(shù)關(guān)于主對(duì)角線對(duì)稱 （3）方程個(gè)數(shù)等于待求量個(gè)數(shù)，有唯一解。 由此可見(jiàn)，線性測(cè)量方程組的最小二乘解 歸結(jié)為對(duì)線性正規(guī)方程組的求解。,第二節(jié)線性參數(shù)的最小二乘法,二、正規(guī)方程組 的矩陣形式,第二節(jié)線性參數(shù)的最小二乘法,為了便于進(jìn)一步討論問(wèn)題，下面借助矩陣 工具給出正規(guī)方程組的矩陣形式。記列向量,和nt階矩陣,第二節(jié)線性參數(shù)的最小二乘法,第二節(jié)線性參數(shù)的最小二乘法,則測(cè)量方程組可記為：,測(cè)量殘差方程組記為,V=L-AX,最小二乘原理記為,第二節(jié)線性參數(shù)的最小二

6、乘法,利用矩陣的導(dǎo)數(shù)及其性質(zhì)有,第二節(jié)線性參數(shù)的最小二乘法,令,，得正規(guī)方程組的矩陣形式。,展開(kāi)系數(shù)矩陣和列向量，可得代數(shù)形式的 正規(guī)方程組。當(dāng) 滿秩的情形，可求出,第二節(jié)線性參數(shù)的最小二乘法,小結(jié),第二節(jié)線性參數(shù)的最小二乘法,線性測(cè)量方程組的一般形式為,測(cè)量殘差方程組,含有隨機(jī)誤差,矩陣形式,第二節(jié)線性參數(shù)的最小二乘法,最小二乘法原理式,求導(dǎo),正規(guī)方程組,正規(guī)方程組解,不等權(quán),第二節(jié)線性參數(shù)的最小二乘法,三、精度估計(jì),第二節(jié)線性參數(shù)的最小二乘法,對(duì)測(cè)量數(shù)據(jù)的最小二乘法處理，其最終結(jié)果不僅要給出待求量的最可信賴值，還要確定其可信賴程度，即估計(jì)其精度。具體內(nèi)容包含有兩方面：一是估計(jì)直接測(cè)量結(jié)果

7、的精度；二是估計(jì)待求量 的精度。,第二節(jié)線性參數(shù)的最小二乘法,1直接測(cè)量結(jié)果的精度估計(jì),對(duì)t個(gè)未知量的線性測(cè)量方程組 進(jìn) 行n次獨(dú)立的等精度測(cè)量，得 其殘余誤差為；標(biāo)準(zhǔn)偏差。 如果服從正態(tài)分布，那么服從 分布，其自由度n-t，有變量的數(shù) 學(xué)期望。,即有,第二節(jié)線性參數(shù)的最小二乘法,令t=1，由上式又導(dǎo)出了Bessel公式。,第二節(jié)線性參數(shù)的最小二乘法,2待求量的精度估計(jì),按照誤差傳播的觀點(diǎn)，估計(jì)量 的精度取決于直接測(cè)量數(shù)據(jù) 的精度以及建立它們之間聯(lián)系的測(cè)量方程組。,第二節(jié)線性參數(shù)的最小二乘法,可求待求量的協(xié)方差,矩陣,各元素可由矩陣求逆得，也可由下 列各方程組分別解得,第二節(jié)線性參數(shù)的最小二乘

8、法,d11,第二節(jié)線性參數(shù)的最小二乘法,d21,第二節(jié)線性參數(shù)的最小二乘法,dt1,第二節(jié)線性參數(shù)的最小二乘法,是直接測(cè)量數(shù)據(jù)的標(biāo)準(zhǔn)差，可按,估計(jì),待求量,的方差,矩陣,中對(duì)角元素,就是誤差傳播系數(shù),第二節(jié)線性參數(shù)的最小二乘法,待求量 與 的相關(guān)系數(shù),第二節(jié)線性參數(shù)的最小二乘法,小結(jié),第二節(jié)線性參數(shù)的最小二乘法,1、直接測(cè)量結(jié)果的標(biāo)準(zhǔn)差估計(jì),（加權(quán)）,未知量個(gè)數(shù),方程個(gè)數(shù),殘差,2、待求量的標(biāo)準(zhǔn)差估計(jì),直接測(cè)量量的標(biāo)準(zhǔn)差,對(duì)角元素,誤差傳播系數(shù),3、待求量與的相關(guān)系數(shù),元素,第二節(jié)線性參數(shù)的最小二乘法,例 2為精密測(cè)定1號(hào)、2號(hào)和3號(hào)電容器的電容量，進(jìn)行了等權(quán)、獨(dú)立、無(wú)系統(tǒng)誤差的測(cè)量。測(cè)得1號(hào)

9、電容值 ，2號(hào)電容值，1號(hào)和3號(hào)并聯(lián)電容值，2號(hào)和3號(hào)并聯(lián)電容值。試用最小二乘法求及其標(biāo)準(zhǔn)偏差。,【解】,列出測(cè)量殘差方程組,代數(shù)求解過(guò)程,第二節(jié)線性參數(shù)的最小二乘法,代數(shù)法求解例.doc,第二節(jié)線性參數(shù)的最小二乘法,第二節(jié)線性參數(shù)的最小二乘法,即,第二節(jié)線性參數(shù)的最小二乘法,代入殘差方程組，計(jì)算,第二節(jié)線性參數(shù)的最小二乘法,主要內(nèi)容,最小二乘法原理 線性測(cè)量方程組中參數(shù)的最小二乘法 非線性測(cè)量方程組中參數(shù)的最小二乘法 組合測(cè)量,第三節(jié)非線性參數(shù)的最小二乘法,第三節(jié)非線性參數(shù)的最小二乘法,例 3,在例2的基礎(chǔ)上，再增加一次測(cè)量串聯(lián)電容 ，測(cè)得。試用最小二乘法求及其標(biāo)準(zhǔn)偏差。,【解】,列出非線性測(cè)量方程組,第三節(jié)非線性參數(shù)的最小二乘法,6次迭代結(jié)果,第三節(jié)非線性參數(shù)的最小二乘法,主要內(nèi)容,最小二乘法原理 線性測(cè)量方程組中參數(shù)的最小二乘法 非線性測(cè)量方程