地球物理反演方法作業(yè)及答案

Homework1:basedonAppendixA1.Normofthevector（矢量的范數(shù)）在歐式空間下，矢量可以表示為：a與三維空間中矢量長(zhǎng)度的定義類(lèi)似，我們引入了n維歐式空間中矢量的范數(shù)，表示為：a當(dāng)矢量a是由實(shí)數(shù)組成時(shí)，a的范數(shù)a始終是一個(gè)非負(fù)的值。顯然，a的范數(shù)即為a與其自身的內(nèi)積的平方根。2.Operator;Linearoperator（算子；線(xiàn)性算子）在歐式空間中，對(duì)任意一個(gè)矢量a，我們通過(guò)某種規(guī)律的作用使其對(duì)應(yīng)到同在歐式空間中的某個(gè)矢量a’，即：a我們就將這種規(guī)律稱(chēng)之為算子A。對(duì)歐式空間中的任意兩個(gè)矢量a1和a2，以及任意兩個(gè)標(biāo)量α1A成立，那么我們就稱(chēng)算子A是一個(gè)線(xiàn)性算子。3.Giveanexampleofoperatorbehavioringeophysics（舉出一個(gè)地球物理中的算子例子）地震走時(shí)層析是一種常用的地震反演手段，其基本原理就是利用地震射線(xiàn)的路徑與走時(shí)來(lái)建立觀(guān)測(cè)時(shí)間與地下速度參數(shù)模型的關(guān)系。假設(shè)地下模型由矩形網(wǎng)格組成，每個(gè)網(wǎng)格內(nèi)的慢度Si為一個(gè)定值。那么，當(dāng)震源設(shè)定好之后（假設(shè)震源和檢波器都設(shè)置在模型邊界），單個(gè)檢波器接收到的走時(shí)TT其中，Li那么，對(duì)所有檢波器接收到的走時(shí)數(shù)據(jù)，我們可以建立如下方程：T=LS其中TS是m*n行的列向量，代表模型依次每個(gè)網(wǎng)格的慢度。L是一個(gè)k行m*n列的矩陣，k是檢波點(diǎn)的個(gè)數(shù)（即射線(xiàn)數(shù)量）。因此，在求取地下模型速度信息的反演過(guò)程中，確定和構(gòu)建矩陣L就成為了關(guān)鍵的因素。在這一地球物理反演問(wèn)題中的算子A，就是矩陣L與慢度向量S的線(xiàn)性相乘。同時(shí)，在這里算子A還是一個(gè)線(xiàn)性算子。4.Normofoperator（算子的范數(shù)）某個(gè)算子的范數(shù)定義為滿(mǎn)足下式：a'中的所有M中最小的那個(gè)值，即：A5.Normoffunctional（泛函的范數(shù)）泛函是算子的一種特殊形式，因此泛函的范數(shù)的定義與算子的定義類(lèi)似。某個(gè)泛函的范數(shù)定義為滿(mǎn)足下式：f(中的所有M中最小的那個(gè)值，即：f6.Innerproduct（內(nèi)積）在有限維下，內(nèi)積定義為兩個(gè)矢量的一種運(yùn)算：A推廣到一般的線(xiàn)性空間中，內(nèi)積是指在復(fù)數(shù)域上的一個(gè)線(xiàn)性空間V備有一個(gè)正定、對(duì)稱(chēng)以及共軛雙線(xiàn)性形式。內(nèi)積運(yùn)算滿(mǎn)足以下性質(zhì)：對(duì)稱(chēng)性：線(xiàn)性：線(xiàn)性：正定性：7.Hilbertspace（希爾伯特空間）在一個(gè)復(fù)矢量空間H上給定內(nèi)積定義后，可以導(dǎo)出任意一個(gè)矢量的范數(shù)：x如果空間H對(duì)于這個(gè)范數(shù)來(lái)說(shuō)是完備的，則此空間稱(chēng)為希爾伯特空間。希爾伯特空間擁有最豐富的幾何性質(zhì)。它是歐式空間的一個(gè)推廣。在地球物理學(xué)中，我們可以把地球物理數(shù)據(jù)或模型看作是希爾伯特空間中的元素。比如說(shuō)，我們可以利用相應(yīng)數(shù)據(jù)之間的距離來(lái)計(jì)算觀(guān)測(cè)數(shù)據(jù)和模擬數(shù)據(jù)之間的精度。換句話(huà)說(shuō)，我們可以利用希爾伯特空間幾何性質(zhì)中所有的方法和捷徑來(lái)幫助我們解決地球物理反演問(wèn)題。8.L1norm;L2norm;L2Cnorm;Lpnorm;L∞norm（L1范數(shù)；L2范數(shù)；L1范數(shù)：L2范數(shù)：L2C范數(shù)LP范數(shù)：L∞范數(shù)：Homework2:basedonAppendixB&C&D1.Inverseoperator（逆算子）對(duì)方程A來(lái)說(shuō)，如果其解是唯一的，那么對(duì)解空間也即數(shù)據(jù)空間中的任意一個(gè)y’，在模型空間中都存在一個(gè)模型x’與之對(duì)應(yīng)，這種y’與x’的對(duì)應(yīng)關(guān)系就稱(chēng)為算子A的逆算子Ax=2.ExplaintheprocedureofGram-Schmidtorthogonalizationprocessandtheroleitplays.（闡述Gram-Schmidt正交化方法的流程以及它的作用）在某些情況下，求解方程組i=1是很困難的。顯然，如果n個(gè)數(shù)據(jù){d1,d2首先，令e下一步，構(gòu)建與e1正交的向量d2e類(lèi)似的，繼續(xù)構(gòu)建與e1和e2都正交的向量de以此類(lèi)推。這一過(guò)程稱(chēng)為Gram-Schmidt正交化方法。它在反演問(wèn)題的求解中扮演著非常重要的角色。3.What’sRieszrepresentationtheorem（什么是Riesz表示定理）Riesz表示定理：在希爾伯特空間中，所有有界的線(xiàn)性泛函f(x)都可以表示為形如(l,x)內(nèi)積的形式，其中l(wèi)是希爾伯特空間中的一個(gè)由f唯一確定的元素。4.Adjointoperator;self-adjointoperators（伴隨算子；自伴算子）假設(shè)X和Y是希爾伯特空間，A是從X到Y(jié)的一個(gè)線(xiàn)性算子，即y定理：對(duì)任意作用在X上的線(xiàn)性算子A以及任意的y∈Y，存在唯一的x*∈X使得對(duì)所有(A基于這一定理，我們可以引入伴隨算子A*作用于任意的y∈Y使其對(duì)應(yīng)于xx其中A*A當(dāng)一個(gè)希爾伯特空間H中的線(xiàn)性算子A滿(mǎn)足A=時(shí)，稱(chēng)A為自伴算子，顯然自伴算子A有如下性質(zhì)：A5.Positivelydetermined(PD)andabsolutelypositivelydetermined(APD)operator（正定和完全正定算子）在實(shí)希爾伯特空間H中，給出其某個(gè)子集S，如果其中一個(gè)線(xiàn)性算子A滿(mǎn)足對(duì)所有的x∈S，我們都能夠找到一個(gè)常數(shù)γ>0A那么我們就稱(chēng)算子A是正定的。正定的定義可以推廣到復(fù)數(shù)域。與實(shí)數(shù)域類(lèi)似，在復(fù)希爾伯特空間H中，給出其某個(gè)子集S，如果其中一個(gè)線(xiàn)性算子A滿(mǎn)足對(duì)所有的x∈S，我們都能夠找到一個(gè)常數(shù)γ>0A那么我們就稱(chēng)算子A是完全正定的。6.Fréchetderivativeordifferential（Fréchet導(dǎo)數(shù)或微分）假設(shè)X和Y是兩個(gè)巴拿赫空間（完全線(xiàn)性賦范空間），A是一個(gè)從X到Y(jié)的算子。在x∈X處如果存在一個(gè)從X到Y(jié)的線(xiàn)性有界算子FA其中，當(dāng)δx→o(我們稱(chēng)算子A是可微的，算子Fx就稱(chēng)為A在x處的Fréchet導(dǎo)數(shù)F式Fxδx稱(chēng)為Ax在x處的FFréchet導(dǎo)數(shù)和微分的定義可以從算子推廣到泛函，其定義方法完全一致。7.Variationalcalculus:computingtheminimumoffollowingproblems:1)g2)Φk（變分法：計(jì)算下列問(wèn)題的最小值）1)由g(x)的定義易知，δgx,δxδg由于Fréchet導(dǎo)數(shù)Fx是一個(gè)線(xiàn)性有界算子，因此我們可以引入線(xiàn)性有界自伴算子FA當(dāng)且僅當(dāng)Fx*Ax-F現(xiàn)在假設(shè)算子A是線(xiàn)性的，那么它的Fréchet導(dǎo)數(shù)FxF將此關(guān)系代入關(guān)于x0A值得一提的是算子A*A是一個(gè)正的自伴算子，通過(guò)對(duì)x2)顯而易見(jiàn)，Φk的最小值與它的平方Φ考慮到復(fù)希爾伯特空間中內(nèi)積的性質(zhì)：x,y=δΦ=-=-δk函數(shù)Φ2k的最小值的必要條件為對(duì)任意δΦ在這里，我們可以選取如下形式的δkδk=代入必要條件中，同時(shí)利用復(fù)希爾伯特空間中內(nèi)積的另一條性質(zhì)：x,kyy,xy因此我們得到了關(guān)于最小點(diǎn)k0k將其代入Φk，我們便得到了函數(shù)ΦminΦ=Homework3:basedonAppendixE1.singularvalueofamatrix（矩陣的奇異值）2.singularmatrix;ill-conditionalmatrix（奇異矩陣；病態(tài)矩陣）3.Singularvaluedecomposition(SVD)theorem（奇異值分解定理）一個(gè)N*L的矩陣A（N≥L）總可以表示為三個(gè)矩陣的乘積，這三個(gè)矩陣分別是：N*L的列正交矩陣U，L*L的非負(fù)對(duì)角陣Q以及L階的正交方陣V，即A其中Q=diag(Qi在奇異值分解定理中，對(duì)于矩陣A，如果其奇異值中至少有一個(gè)值為零，那么就稱(chēng)矩陣A是奇異的。類(lèi)似的，如果奇異值中有一個(gè)值非常小，那么就稱(chēng)矩陣A是病態(tài)的。因此，奇異值分解為我們所要處理矩陣的形式提供了一種明確的診斷方法。4.ExplaintheprocedureofthespectralLanczosdecompositionmethodandtheroleitplays（解釋Lanczos譜分解法的流程以及它的作用）解一個(gè)大型對(duì)稱(chēng)特征值問(wèn)題Av=λv最合適的方法是通過(guò)Lanczos法實(shí)現(xiàn)的，這種方法包含了對(duì)給出矩陣的三對(duì)角化。Lanczos法的優(yōu)點(diǎn)之一是在三對(duì)角化完成之前，我們就可以估計(jì)出特征值的極值，這使得我們將歐式空間EN中的一個(gè)由矢量c,Ac,……,KLanczos法是基于利用Gram-Schmidt正交化方法來(lái)生成克雷洛夫空間KL中的正交基來(lái)實(shí)現(xiàn)的。在矩陣運(yùn)算中，這種方法是與將對(duì)稱(chēng)陣A簡(jiǎn)化為一個(gè)三對(duì)角陣TL以及TLT其中QL是克雷洛夫空間中的正交基，其中的矢量qj就稱(chēng)為L(zhǎng)anczos矢量。所有的Lanczos矢量都是N維矢量，由假設(shè)βj我們首先考慮使用N維克雷洛夫空間下的三對(duì)角化過(guò)程，KN=spanc,Ac,……,A令上式中等式左右兩端的第j列相等，我們得到了一個(gè)循環(huán)公式：β該式在定義β0q0=βQN的正交性可以寫(xiě)作：qiTqj=δij，其中δα其中I是N階單位陣。同理，利用βj>0,j=1,2,?,N-1以及β從（2）式我們還能得到q因此，我們就將Lanczos算法歸納為在滿(mǎn)足假設(shè)β時(shí)，已知qj-1，qj和βj-1來(lái)確定αjLanczos算法可以被總結(jié)如下：β通過(guò)Lanczos算法我們得到了矩陣QN和TN。值得一提的是，在通常情況下，我們可以調(diào)用Lanczos算法到j(luò)=L-1（L<N），在這種情況下我們得到的是L*L的矩陣QN和THomework4:basedonChapter21.Sensitivity;Resolution（靈敏度；分辨率）某種地球物理方法（正算子為A）的靈敏度定義為數(shù)據(jù)擾動(dòng)范數(shù)與模型擾動(dòng)范數(shù)的比。最大靈敏度定義為：S其中符號(hào)sup?(φ)代表變量φ如果我們知道了Smomax，我們就可以確定能夠產(chǎn)生比觀(guān)測(cè)誤差m因此，某種地球物理方法僅僅對(duì)那些超過(guò)δ/S我們假設(shè)在點(diǎn)m0附近，對(duì)任意?m正常數(shù)A根據(jù)附錄B中的定理64，存在一個(gè)線(xiàn)性有界的逆算子Amo-1，這就意味著反問(wèn)題在m=同樣的關(guān)系可以對(duì)dδ成立，其中m由上面兩式我們得到m現(xiàn)在我們可以定義在給定觀(guān)測(cè)數(shù)據(jù)誤差δ=δ?由定理64A基于上式，我們可以定義某種地球物理方法的分辨率。如果下面的關(guān)系成立，那么在m0附近的兩個(gè)模型m1和m其中R就是給定地球物理問(wèn)題的分辨率值。顯然R逆算子的范數(shù)越小，分辨率Rm2.ill-posedproblem;conditionallywell-posedproblem（不適定問(wèn)題；條件適定問(wèn)題）對(duì)反問(wèn)題d如果如下條件都滿(mǎn)足：（1）解m存在（2）解m唯一（3）解m由d連續(xù)地確定換句話(huà)說(shuō)，逆算子A-1在數(shù)據(jù)空間D中原問(wèn)題中，假設(shè)我們知道一條先驗(yàn)信息：該問(wèn)題的精確解屬于一個(gè)集合C，集合C是由所有滿(mǎn)足定義在像AC下的逆算子A-1類(lèi)似地，如果如下條件都滿(mǎn)足：（1）我們有先驗(yàn)信息：原問(wèn)題存在一個(gè)屬于特定集合C?M(模型空間（2）算子A是由C到AC?D（3）在AC?D上逆算子A那么我們稱(chēng)該問(wèn)題是條件適定的。我們稱(chēng)集合C為正確性集合，集合C的引入使得不適定問(wèn)題轉(zhuǎn)變成了條件適定問(wèn)題。3.Quasisolutionoftheill-posedproblem（不適定問(wèn)題的擬解）假設(shè)問(wèn)題d是條件適定的。我們繼續(xù)假設(shè)等式右端存在一定誤差：d其中μ問(wèn)題（1）在正確性集合C中的擬解是使得距離μDAmδ,dμ其中infφ指變量φ的最大下界。顯然，如果C是一個(gè)緊集，我們就可以在C中達(dá)到μDAm4.Regularizingoperator（正則化算子）在通常情況下，問(wèn)題d是不適定的。正則化算法的中心思想就是設(shè)法將一個(gè)不適定問(wèn)題轉(zhuǎn)化為一系列適定問(wèn)題的疊加d這一問(wèn)題在某種尺度下與原問(wèn)題是近似的。標(biāo)量參數(shù)α稱(chēng)為正則化參數(shù)。我們同樣需要當(dāng)α趨向于零時(shí)，mα趨向于mt，其中mt和mα=A換句話(huà)說(shuō)，任何一種正則化算法都是基于用一系列與正則化參數(shù)α有關(guān)的連續(xù)逆算子Aα-1近似一個(gè)不連續(xù)逆算子如果存在一個(gè)函數(shù)α(δ)，滿(mǎn)足對(duì)任意?>0，都可以找到一個(gè)正數(shù)δ(?)使得μμ其中m那么我們就稱(chēng)算子R(d,α換句話(huà)說(shuō)，mα是數(shù)據(jù)的一個(gè)連續(xù)函數(shù)并且當(dāng)αm如果算子R(d,α)是數(shù)據(jù)域D的一個(gè)子集D1中任意數(shù)據(jù)d鄰域內(nèi)的正則化算子，那么我們稱(chēng)R(5.Stabilizingfunctionalandtheroleitplays（穩(wěn)定泛函以及它的作用）對(duì)于某個(gè)度量空間M中的一個(gè)非負(fù)函數(shù)s(m)，取該函數(shù)值域中的任意一個(gè)正實(shí)數(shù)c，如果由滿(mǎn)足s(m)≤c的M中的元素m構(gòu)成的子集MC是一個(gè)緊集，那么我們就稱(chēng)s(穩(wěn)定泛函的作用是從所有可能模型構(gòu)成的空間M中選取正確性子集MC。換句話(huà)說(shuō)，穩(wěn)定器的主要應(yīng)用就是從所有可能解組成的空間Qδs通過(guò)選取不同形式的穩(wěn)定泛函，我們可以挑選出反問(wèn)題解中的不同組合。換句話(huà)說(shuō)，穩(wěn)定泛函有助于我們應(yīng)用關(guān)于反問(wèn)題解的某些性質(zhì)的先驗(yàn)信息。6.Tikhonovparametricfunctional（吉洪諾夫參數(shù)化泛函）吉洪諾夫和Arsenin已經(jīng)證明，對(duì)于很多類(lèi)穩(wěn)定泛函，它們的最小值在mδ處達(dá)到，m因此，我們就可以用該條件來(lái)解決最小化問(wèn)題

s解決這一問(wèn)題的常用方法是引入一個(gè)無(wú)約束的參數(shù)化泛函PαP并通過(guò)求解該函數(shù)的最小化問(wèn)題來(lái)解決原問(wèn)題P函數(shù)μD2A因此，參數(shù)化泛函Pαm,dμ其中mα是使得Pαm7.List10kindsofstabilizingfunctionals（列出10種穩(wěn)定泛函）(1(2)s(3)s(4)s(5)s(6)sminentrom(7)s(8)sβTVm=(9)(10)s8.Unifiedexpressionforpseudo-quadraticparametricfunctional（偽二次參數(shù)化泛函的統(tǒng)一表達(dá)）前面列舉的所有穩(wěn)定泛函都可以表示為模型參數(shù)的偽二次函數(shù)：s其中We是一個(gè)線(xiàn)性算子，表示由m確定的函數(shù)we與模型參數(shù)泛函如果算子We與mr無(wú)關(guān)，我們就得到了一個(gè)二次函數(shù)，比如最小范數(shù)或者最大光滑穩(wěn)定泛函。通常情況下，函數(shù)we可能是m9.Regularizationparameterandtheroleitplays（正則化參數(shù)以及它的作用）正則化參數(shù)α是最佳數(shù)據(jù)擬合和最優(yōu)模型約束之間的一個(gè)權(quán)衡。如果α取得過(guò)小，參數(shù)化泛函Pαm的最小化就與目標(biāo)函數(shù)的最小化等價(jià)，因此我們就沒(méi)有正則化過(guò)程，得出的結(jié)果是不穩(wěn)定不準(zhǔn)確的。如果α取得過(guò)大，參數(shù)化泛函Pαm的最小化就與穩(wěn)定泛函s10.Howtoselecttheoptimalregularizationparameter?（如何選取最佳的正則化參數(shù)？）我們假設(shè)觀(guān)測(cè)數(shù)據(jù)dδ帶有噪音，dδ=dtμ那么正則化參數(shù)就可以通過(guò)目標(biāo)關(guān)系來(lái)決定μ為了證明這種方法我們要更細(xì)致地研究正則化過(guò)程中的三個(gè)泛函：吉洪諾夫參數(shù)化泛函、穩(wěn)定泛函和目標(biāo)函數(shù)：psi性質(zhì)一：pα，sα和iα是單調(diào)函數(shù)。其中pα和性質(zhì)二：如果元素mα是唯一的，那么pα，sα下圖表現(xiàn)了三個(gè)函數(shù)的上述性質(zhì)：由于iα的單調(diào)性，只有一個(gè)αi我們考慮一種簡(jiǎn)單的非數(shù)值方法來(lái)選取參數(shù)α。比如，考慮一系列α：α對(duì)任意一個(gè)αk我們可以找到一個(gè)元素mαk使得Pαk參數(shù)α的最優(yōu)值是α0μ該式被稱(chēng)為目標(biāo)關(guān)系。目前最常用的選取參數(shù)α的具體方法是L曲線(xiàn)法。L曲線(xiàn)分析為定性選取近似最優(yōu)正則化參數(shù)提供了簡(jiǎn)單的圖形工具。該方法基于對(duì)所有可能的α繪出目標(biāo)函數(shù)iα和穩(wěn)定函數(shù)sα的曲線(xiàn)，由于在對(duì)數(shù)坐標(biāo)下，該曲線(xiàn)大致呈L形，故稱(chēng)之為L(zhǎng)曲線(xiàn)。L曲線(xiàn)說(shuō)明了最佳數(shù)據(jù)擬合和最優(yōu)模型約束之間的一種權(quán)衡。在Homework5:basedonChapter31.Data&modelresolutionmatrices（數(shù)據(jù)和模型的分辨率矩陣）由于偽逆矩陣A+解決了反問(wèn)題Am=d，它也因此常常被稱(chēng)為廣義逆矩陣：根據(jù)關(guān)系m0A反問(wèn)題的擬解可以表示為m我們回頭考慮這個(gè)估計(jì)的模型m0與觀(guān)測(cè)數(shù)據(jù)dd其中N階方陣N稱(chēng)作數(shù)據(jù)分辨率矩陣。如果N是一個(gè)單位陣，那么dp=d，并且預(yù)測(cè)誤差為零。矩陣N…0000.10.90.1000…那么數(shù)據(jù)的第i行為：d從該式我們可以看出預(yù)測(cè)值dip是觀(guān)測(cè)數(shù)據(jù)di-1，di和di+1的加權(quán)平均。因此，分辨率矩陣N的每一行揭示了相鄰數(shù)據(jù)可以被獨(dú)立地預(yù)測(cè)或解決的程度。數(shù)據(jù)分辨率矩陣的對(duì)角元素則揭示了某個(gè)數(shù)據(jù)被預(yù)測(cè)時(shí)的權(quán)重大小。這也就是為什么這些對(duì)角元素被稱(chēng)為數(shù)據(jù)的重要性模型分辨率矩陣揭示了模型參數(shù)是否可以被很好地預(yù)測(cè)或是求得。假設(shè)mtured=A我們將上式代入mestm其中，L階方陣R=稱(chēng)作模型分辨率矩陣。由上述關(guān)系我們有m估計(jì)的模型參數(shù)是真實(shí)模型參數(shù)的加權(quán)平均，其中的權(quán)系數(shù)是由模型分辨率矩陣的行決定的。當(dāng)R是單位陣時(shí)，得到模型參數(shù)是準(zhǔn)確的。與數(shù)據(jù)分辨率矩陣類(lèi)似，模型分辨率矩陣完全由正問(wèn)題的算子矩陣決定。2.Solutionsofpurelyunderdeterminedproblemandweightedleast-squares（完全欠定問(wèn)題的解和加權(quán)最小二乘）假設(shè)問(wèn)題d=Am是完全欠定的，因此就存在著不止一組精確符合觀(guān)測(cè)數(shù)據(jù)的模型參數(shù)。我們嘗試從所有可能的解中選取在某種情況下最簡(jiǎn)單的一個(gè)，比如說(shuō)，最小歐式范數(shù)解：l其中m2=m,m=mTm?其中，λ是拉格朗日乘子對(duì)角陣。我們計(jì)算函數(shù)?mδ最小必要條件要求對(duì)任意δmTδ因此我們得到問(wèn)題的解mestm另一方面，這個(gè)解必須滿(mǎn)足d=矩陣AAT是一個(gè)λ=將上式代入mestm這就是欠定問(wèn)題的最小范數(shù)解。我們引入權(quán)重系數(shù)wi2來(lái)估計(jì)殘差rif我們?cè)僖胱饔迷跀?shù)據(jù)域D上的線(xiàn)性加權(quán)算子W：W因此fwf加權(quán)目標(biāo)函數(shù)的最小問(wèn)題可以通過(guò)計(jì)算該函數(shù)的一階變分并令它為零來(lái)解決。δ因此我們得到A假設(shè)矩陣ATWm矩陣A被稱(chēng)為加權(quán)廣義逆矩陣。3.Variance,standarddeviation,covariance,chi-square（方差，標(biāo)準(zhǔn)差，協(xié)方差，卡方）離散隨機(jī)變量d的方差σ2描述了dσσ被稱(chēng)為數(shù)據(jù)d的標(biāo)準(zhǔn)差。對(duì)一組數(shù)據(jù)d=cov某個(gè)數(shù)據(jù)自身的協(xié)方差就是方差cov因此對(duì)于觀(guān)測(cè)數(shù)據(jù)d=σ該矩陣是對(duì)稱(chēng)的。如果數(shù)據(jù)是不相關(guān)的，那么協(xié)方差矩陣就變成了對(duì)角陣σ=其主對(duì)角線(xiàn)上的元素為該數(shù)據(jù)的方差，在這種情況下，加權(quán)最小二乘中的權(quán)系數(shù)就由下式給出：W函數(shù)f稱(chēng)為卡方。當(dāng)觀(guān)測(cè)數(shù)據(jù)呈正態(tài)分布時(shí)，量χ2代表了N個(gè)正態(tài)分布變量平方的和。因此，通過(guò)應(yīng)用加權(quán)最小二乘方法我們可以為有較大卡方差的數(shù)據(jù)（低精度數(shù)據(jù)）選取較小的權(quán)系數(shù)而為有較小標(biāo)準(zhǔn)差的數(shù)據(jù)（更準(zhǔn)確的數(shù)據(jù)）選取較大的權(quán)系數(shù)。如果數(shù)據(jù)擁有相同的方差σW并且卡方函數(shù)這時(shí)就與普通的目標(biāo)函數(shù)相等了。4.Regularizedsolutionforlinearinverseproblem,thesolutionanditsadvantagesaftertheapplicationofSLDM（線(xiàn)性反問(wèn)題的正則化解，應(yīng)用Lanczos譜分解方法后其解及其具有的優(yōu)點(diǎn)）線(xiàn)性反問(wèn)題的最小二乘解的各種不同修正是由直接令相應(yīng)的目標(biāo)函數(shù)最小化來(lái)得到的。這些解都存在很多限制，并且對(duì)于觀(guān)測(cè)數(shù)據(jù)的微小變化非常敏感。比如說(shuō)當(dāng)逆矩陣(ATA我們引入相應(yīng)的如下形式的參數(shù)化泛函：P其中Wd和Wm是數(shù)據(jù)和模型的加權(quán)矩陣，根據(jù)正則化方法的基本原理，我們需要找到一個(gè)反問(wèn)題的擬解mα使得參數(shù)化泛函P正則化參數(shù)α是由目標(biāo)狀態(tài)決定的：W其中δ是數(shù)據(jù)加權(quán)噪聲尺度的先驗(yàn)估計(jì)W為了解決這一問(wèn)題我們求Pαδ從該式我們可以得出反問(wèn)題d=Am的標(biāo)準(zhǔn)正則化方程：A以及它的正則化解：m通常加權(quán)矩陣Wd和Wm該式給出了廣義最小二乘問(wèn)題的正則化解。在正則化解m中，我們做變量代換cB同時(shí)為了簡(jiǎn)便假設(shè)maprm引入函數(shù)ff我們最終得到m至此，我們面對(duì)的問(wèn)題是計(jì)算關(guān)于B的函數(shù)。這個(gè)問(wèn)題可以很有效率地通過(guò)應(yīng)用Lanczos譜分解方法來(lái)解決。根據(jù)Homework3中關(guān)于Lanczos譜分解法的討論，我們找到了一個(gè)由Lanczos矢量構(gòu)成的正交矩陣QN，以及一個(gè)由系數(shù)αj和βj構(gòu)成的三對(duì)角對(duì)稱(chēng)矩陣TN。附錄E中介紹，我們可以將計(jì)算關(guān)于B的函數(shù)fαm其中el(N)是一個(gè)N維矢量，它的第一個(gè)元素是1，其他元素均為考慮到fαB的表達(dá)式，我們得到應(yīng)用了m這種表達(dá)相比于一般的正則化解，其優(yōu)點(diǎn)在于對(duì)所有不同的正則化參數(shù)α我們只需要調(diào)用一次Lanczos算法，之后我們只需要對(duì)不同的α求一次三對(duì)角陣TN+α5.Definitionsoftheweightingmatricesforthemodelparametersanddata（模型參數(shù)和數(shù)據(jù)的加權(quán)矩陣的定義）我們研究數(shù)據(jù)對(duì)某個(gè)特定模型參數(shù)mkd兩邊求微分，有δ上式中，Aik是正演算子矩陣A中δ我們定義數(shù)據(jù)對(duì)模型參數(shù)mkS可以看到，綜合靈敏度的值取決于參數(shù)k。換句話(huà)說(shuō)，數(shù)據(jù)對(duì)不同模型參數(shù)的靈敏度是不同的，因?yàn)椴煌瑓?shù)對(duì)觀(guān)測(cè)數(shù)據(jù)的貢獻(xiàn)是不同的。我們?cè)俣x由SkS也即它是由矩陣A列的范數(shù)組成的。我們將S作為模型參數(shù)的加權(quán)矩陣W因此權(quán)系數(shù)就與靈敏度相等W我們進(jìn)而引入加權(quán)模型參數(shù)m通過(guò)這些關(guān)系，我們可以將反問(wèn)題d=Am寫(xiě)為d=其中Aw是一個(gè)加權(quán)正算子，A下面我們對(duì)一個(gè)特定的加權(quán)模型參數(shù)mkδ并且對(duì)參數(shù)mkS即新的綜合靈敏度矩陣Sw相應(yīng)的加權(quán)穩(wěn)定泛函形式為：s它為那些為數(shù)據(jù)提供較大貢獻(xiàn)的模型參數(shù)偏離先驗(yàn)?zāi)Ｐ图由狭艘粋€(gè)較強(qiáng)的約束。因此，模型加權(quán)在不同的模型參數(shù)下得到了幾乎相同的反演結(jié)果。類(lèi)似地，我們可以定義由矩陣A行的范數(shù)構(gòu)成的對(duì)角數(shù)據(jù)加權(quán)矩陣：W數(shù)據(jù)加權(quán)矩陣使得標(biāo)準(zhǔn)數(shù)據(jù)較小地依賴(lài)于特定的觀(guān)測(cè)數(shù)據(jù)，提升了反演方法的分辨率。6.Approximateregularizedsolutionoflinearinverseproblem,correspondingweightingmatrixforthemodelparameters（線(xiàn)性反問(wèn)題的近似正則化解，相應(yīng)的模型參數(shù)加權(quán)矩陣）在實(shí)際地球物理應(yīng)用中，線(xiàn)性反問(wèn)題d=Am往往會(huì)很龐大，直接求矩陣的逆會(huì)耗費(fèi)大量時(shí)間，這一問(wèn)題在地震和電磁數(shù)據(jù)反演中尤為凸顯。在這種情況下，我們可以使用一種簡(jiǎn)單的方法來(lái)得到反問(wèn)題的近似解。我們將標(biāo)準(zhǔn)正則化方程A改寫(xiě)為A因?yàn)槲覀冊(cè)诮频那闆r下要引入不同的模型參數(shù)加權(quán)，所以我們?cè)赪m我們假設(shè)正則化參數(shù)α非常大，以至于我們可以忽視ATWα進(jìn)而我們得到了近似正則化解m我們可以看出，求解近似解mα并不需要求矩陣A系數(shù)α-1A在求近似解的情形下，模型參數(shù)的加權(quán)矩陣是對(duì)綜合靈敏度矩陣求開(kāi)方得到的。W我們用mαm那么m其中mHomework6:basedonChapter41.Listtheiterativeprocess(programflowchart)ofminimalresidualmethod(MRM)algorithmforthelinearinverseproblemd=Am（列出線(xiàn)性反問(wèn)題d=Am的最小殘差算法的迭代流程（流程圖））計(jì)算殘差rn=Amn-d計(jì)算殘差r計(jì)算方向l計(jì)算步長(zhǎng)k已知觀(guān)測(cè)數(shù)據(jù)已知觀(guān)測(cè)數(shù)據(jù)d和正算子AA給出初始模型給出初始模型m0，令是否達(dá)到預(yù)定收斂條件，如果否是否達(dá)到預(yù)定收斂條件，如果否更新模型更新模型mn+1=是否達(dá)到預(yù)定收斂條件，如果是是否達(dá)到預(yù)定收斂條件，如果是迭代結(jié)束，得到反演結(jié)果迭代結(jié)束，得到反演結(jié)果m2.Listtheiterativeprocess(programflowchart)ofgeneralizedMRM(GMRM)algorithmforthelinearinverseproblemd=Am（列出線(xiàn)性反問(wèn)題d=Am的廣義最小殘差算法的迭代流程（流程圖））已知觀(guān)測(cè)數(shù)據(jù)已知觀(guān)測(cè)數(shù)據(jù)d和正算子AA給出初始模型給出初始模型m0，令計(jì)算殘差計(jì)算殘差r計(jì)算l計(jì)算ln+1,(1)=計(jì)算計(jì)算l計(jì)算計(jì)算l是否達(dá)到預(yù)定收斂條件，如果否是否達(dá)到預(yù)定收斂條件，如果否計(jì)算計(jì)算βpln更新模型更新模型mn+1=是否達(dá)到預(yù)定收斂條件，如果是是否達(dá)到預(yù)定收斂條件，如果是迭代結(jié)束，得到反演結(jié)果迭代結(jié)束，得到反演結(jié)果m3.Listtheiterativeprocess(programflowchart)oftheregularizedMRMalgorithmfortheill-posedlinearinverseproblemd=Am（列出不適定線(xiàn)性反問(wèn)題d=Am的正則化廣義最小殘差算法的迭代流程（流程圖））計(jì)算殘差rn=A計(jì)算殘差r計(jì)算方向l已知觀(guān)測(cè)數(shù)據(jù)已知觀(guān)測(cè)數(shù)據(jù)d和正算子AA給出初始模型給出初始模型m0，令是否達(dá)到預(yù)定收斂條件，如果否是否達(dá)到預(yù)定收斂條件，如果否計(jì)算步長(zhǎng)計(jì)算步長(zhǎng)k更新模型更新模型mn+1=是否達(dá)到預(yù)定收斂條件，如果是是否達(dá)到預(yù)定收斂條件，如果是迭代結(jié)束，得到反演結(jié)果迭代結(jié)束，得到反演結(jié)果m4.Listtheiterativeprocess(programflowchart)oftheregularizedGMRMalgorithmfortheill-posedlinearinverseproblemd=Am（列出不適定線(xiàn)性反問(wèn)題d=Am的正則化最小殘差算法的迭代流程（流程圖））已知觀(guān)測(cè)數(shù)據(jù)已知觀(guān)測(cè)數(shù)據(jù)d和正算子AA給出初始模型給出初始模型m0，令計(jì)算殘差rn計(jì)算殘差r計(jì)算l計(jì)算ln+1,(1)α計(jì)算計(jì)算lnα計(jì)算計(jì)算l是否達(dá)到預(yù)定收斂條件，如果否是否達(dá)到預(yù)定收斂條件，如果否計(jì)算計(jì)算βpln更新模型更新模型mn+1=是否達(dá)到預(yù)定收斂條件，如果是是否達(dá)到預(yù)定收斂條件，如果是迭代結(jié)束，得到反演結(jié)果迭代結(jié)束，得到反演結(jié)果mHomework7:basedonChapter51.Listtwokindsofapproachestodeterminethesteplengthusinglinesearchmethod;listthecorrespondingalgorithm’siterativeprocesses(programflowchart)forthesteepestdecentmethod（列舉兩種使用線(xiàn)型搜索方法確定步長(zhǎng)的方法；并且列出相應(yīng)算法對(duì)最速下降法的迭代流程（流程圖））步長(zhǎng)的基本作用是使得目標(biāo)函數(shù)在當(dāng)前迭代環(huán)境下達(dá)到最小，因此最優(yōu)化的步長(zhǎng)必定使得目標(biāo)函數(shù)的一階導(dǎo)數(shù)為零。經(jīng)引入伴隨算子，我們得到關(guān)系F如果算子A近似于一個(gè)線(xiàn)性算子，那么我們可以作近似：A進(jìn)而得到步長(zhǎng)k當(dāng)A是一個(gè)普通的非線(xiàn)性算子時(shí)，我們就要用到二次近似：A其中Fmn(2)通過(guò)這個(gè)形式的近似，我們最終可以將原最小化問(wèn)題轉(zhuǎn)變成關(guān)于k(k=kn)p其中pg該問(wèn)題的最優(yōu)解即為在這種近似下的最優(yōu)步長(zhǎng)。第一種步長(zhǎng)確定方法下的最速下降迭代流程為計(jì)算殘差rn=A(mn計(jì)算殘差r計(jì)算方向l計(jì)算步長(zhǎng)k已知觀(guān)測(cè)數(shù)據(jù)已知觀(guān)測(cè)數(shù)據(jù)d和正算子AA給出初始模型給出初始模型m0，令是否達(dá)到預(yù)定收斂條件，如果否是否達(dá)到預(yù)定收斂條件，如果否是否達(dá)到預(yù)定收斂條件，如果是更新模型mn+1=m是否達(dá)到預(yù)定收斂條件，如果是更新模型mn+1=迭代結(jié)束，得到反演結(jié)果迭代結(jié)束，得到反演結(jié)果m第二種步長(zhǎng)確定方法下的最速下降迭代流程與第一種類(lèi)似，唯一的區(qū)別在于每次迭代計(jì)算方向時(shí)需要多計(jì)算出rn+11和hn的值，進(jìn)而得到p0，p1，p22.Listthealgorithm’siterativeprocess(programflowchart)ofNewtonmethodwithlinearandquadraticlinesearches（列出線(xiàn)性線(xiàn)型搜索和二次線(xiàn)型搜索牛頓法的算法迭代流程（流程圖））基于線(xiàn)性線(xiàn)型搜索的牛頓法迭代流程為計(jì)算殘差rn=A(計(jì)算殘差r計(jì)算方向l已知觀(guān)測(cè)數(shù)據(jù)已知觀(guān)測(cè)數(shù)據(jù)d和正算子AA給出初始模型給出初始模型m0，令是否達(dá)到預(yù)定收斂條件，如果否是否達(dá)到預(yù)定收斂條件，如果否計(jì)算步長(zhǎng)計(jì)算步長(zhǎng)k更新模型更新模型mn+1=是否達(dá)到預(yù)定收斂條件，如果是是否達(dá)到預(yù)定收斂條件，如果是迭代結(jié)束，得到反演結(jié)果迭代結(jié)束，得到反演結(jié)果m基于二次線(xiàn)型搜索的牛頓法迭代流程為計(jì)算殘差rn計(jì)算殘差r已知觀(guān)測(cè)數(shù)據(jù)已知觀(guān)測(cè)數(shù)據(jù)d和正算子AA給出初始模型給出初始模型m0，令計(jì)算r計(jì)算rn+11=A計(jì)算方向計(jì)算方向l是否達(dá)到預(yù)定收斂條件，如果否是否達(dá)到預(yù)定收斂條件，如果否計(jì)算計(jì)算p0=rn,rn，通過(guò)通過(guò)關(guān)系p0更新模型更新模型mn+1=是否達(dá)到預(yù)定收斂條件，如果是是否達(dá)到預(yù)定收斂條件，如果是迭代結(jié)束，得到反演結(jié)果迭代結(jié)束，得到反演結(jié)果m3.Whatisthepreconditionedsteepestdecentmethod?（什么是預(yù)處理最速下降法？）鑒于求海森矩陣的逆在很多情況下非常困難，我們用另一個(gè)矩陣Gn來(lái)代替它。最簡(jiǎn)單的選取GG那么模型更新的關(guān)系就變?yōu)閙類(lèi)似地，其中kn?例如在線(xiàn)性線(xiàn)型搜索中，上式的最優(yōu)解為k應(yīng)用上述修改后的梯度法，被稱(chēng)作預(yù)處理最速下降法。通過(guò)不同選取Gn4.Listthealgorithm’siterativeprocess(programflowchart)fortheconjugategradient(CG)method（列出共軛梯度法的算法迭代流程（流程圖））計(jì)算殘差rn計(jì)算殘差r已知觀(guān)測(cè)數(shù)據(jù)已知觀(guān)測(cè)數(shù)據(jù)d和正算子AA給出初始模型給出初始模型m0，令計(jì)算計(jì)算ln=Fm是否達(dá)到預(yù)定收斂條件，如果否是否達(dá)到預(yù)定收斂條件，如果否計(jì)算方向計(jì)算方向l計(jì)算步長(zhǎng)計(jì)算步長(zhǎng)k更新模型更新模型mn+1=是否達(dá)到預(yù)定收斂條件，如果是是否達(dá)到預(yù)定收斂條件，如果是迭代結(jié)束，得到反演結(jié)果迭代結(jié)束，得到反演結(jié)果m5.Listthealgorithm’siterativeprocess(programflowchart)fortheregularizedsteepestdecentmethod（列出正則化最速下降法的算法迭代流程（流程圖））計(jì)算殘差rn=A計(jì)算殘差r計(jì)算方向l已知觀(guān)測(cè)數(shù)據(jù)已知觀(guān)測(cè)數(shù)據(jù)d和正算子AA給出初始模型給出初始模型m0，令是否達(dá)到預(yù)定收斂條件，如果否是否達(dá)到預(yù)定收斂條件，如果否計(jì)算步長(zhǎng)計(jì)算步長(zhǎng)k更新模型更新模型mn+1=是否達(dá)到預(yù)定收斂條件，如果是是否達(dá)到預(yù)定收斂條件，如果是迭代結(jié)束，得到反演結(jié)果迭代結(jié)束，得到反演結(jié)果m6.Listthealgorithm’siterativeprocess(programflowchart)fortheregularizedconjugategradient(RCG)method（列出正則化共軛梯度法的算法迭代流程（流程圖））計(jì)算殘差r計(jì)算殘差r已知觀(guān)測(cè)數(shù)據(jù)已知觀(guān)測(cè)