數(shù)理統(tǒng)計(jì)復(fù)習(xí)總結(jié)

1、1統(tǒng)計(jì)量與抽樣分布1.1根本概念：統(tǒng)計(jì)量、樣本矩、經(jīng)驗(yàn)分布函數(shù)總體X的樣本Xi,X2,Xn,那么T(X1,X2,Xn即為統(tǒng)計(jì)量樣本均值樣本方差s2(Xi2X)修正樣本方差n(Xi1X)樣本k階原點(diǎn)矩AkXik,(k1,2,.)樣本k階中央矩Bk(XiX)k,(k1,2,.)經(jīng)驗(yàn)分布函數(shù)Fn(X)v3,(X)其中Vn(x)表示隨機(jī)事件XX出現(xiàn)的次數(shù)n1_顯然Vn(x)B(n,F(x),那么有EFn(x)F(x)DFn(x)-F(x)1F(x)n補(bǔ)充：2n1*2_22ESnDXESnDXEXDX(EX)n21n2-2SnXiXni1二項(xiàng)分布B(n,p):PXkC：pk(1p)nk,(k0,1,.,

2、n)EX=npDX=np(1-p)k泊松分布P()：PXke,(k0,1,.)k!EXDX1,、均勻分布U(a,b):f(x),(axb)baab12EXDX(ba)212指數(shù)分布：f(x)ex,(x0)F(x)1ex,(x0)11EX-DX正態(tài)分布N(2):f(x)/exp(x)22EXDXnSnE(-)nESnD(咯2(n1)DS22(n1)2n當(dāng)0時(shí),EX0EX2EX43EXDX(1-)21.2統(tǒng)計(jì)量：充分統(tǒng)計(jì)量、因子分解定理、完備統(tǒng)計(jì)量、指數(shù)型分布族T是0的充分統(tǒng)計(jì)量f(X1,X2,.,XnTt)與.無(wú)關(guān)T是0的完備統(tǒng)計(jì)量要使Eg(T)=0,必有g(shù)(T)=0L(f(Xi;h(X1,X2

3、,Xn)g(T(x1,X2,Xn)；)且h非負(fù)T是0的充分統(tǒng)計(jì)量f(Xi;C()exob()T(Xi,X2,.,Xn)h(x1,X2,.,Xn)T是.的充分完備統(tǒng)計(jì)量f(Xi;C()eX3n()T1(X1,X2,.,Xn)b2()T2(X1,X2,.,Xn)h(X1,X2,.,Xn)(Ti,T2)是(1,2)的充分完備統(tǒng)計(jì)量1.3抽樣分布:22分布,t分布,F分布,分位數(shù),正態(tài)總體樣本均值和方差的分布,非正態(tài)總體樣本均值的分布2分布：2x；x|X22,、一(n)f(x)/xn11e2x2(x0)2萬(wàn)成)22nT分布:X=t(n)當(dāng).Y/nn2時(shí),ET=0DTF分布:1FF(n2,n)補(bǔ)充:Z=

4、X+Y的概率密度f(wàn)z(z)f(x,zx)dxf(zy,y)dyf(x,y)是X和Y的聯(lián)合概率密度f(wàn)(x,xz)xdxrY-、一、Z的概率留度f(wàn)z(z)Xyg(x)的概率密度f(wàn)y(y)fx(g1(y)g1(y)函數(shù)：()0x1exdx(1)()(n)(n1)!,(1)1一111B函數(shù)：B(,)x1(1x)1dxB(,1.4次序統(tǒng)計(jì)量及其分布：次序統(tǒng)計(jì)量、樣本中位數(shù)X、樣本極差RX(k)的分布密度:fx(k)(x)(T*FF(x)k11F(x)nkf(x),(k1,2,.,n)X(1)的分布密度:fx(i)(x)nf(x)1F(x)n1X(n)的分布密度:fx(x)x(n)nf(x)F(x)n12

5、參數(shù)估計(jì)2.1點(diǎn)估計(jì)與優(yōu)良性：概念、計(jì)無(wú)偏估計(jì)、均方誤差準(zhǔn)那么、相合估計(jì)(一致估計(jì)卜漸近正態(tài)估的均方誤差：MSE(,)E()2(E)2假設(shè)是無(wú)偏估計(jì),那么MSE(,)對(duì)于的任意一個(gè)無(wú)偏估計(jì)量*,那么是的最小方差無(wú)偏估計(jì),記MVUE相合估計(jì)(一致估計(jì)):limEnnlimDn2.2 點(diǎn)估計(jì)量的求法：矩估計(jì)法、最大似然估計(jì)法矩估計(jì)法：求出總體的k階原點(diǎn)矩：akEXkxkdF(x;1,2,.,m)解方程組akX：(k=1,2,.,m),得kk(X1,X2,.,Xn)即為所求最大似然估計(jì)法:寫出似然函數(shù)L()nlnIf(xi;),求出lnL及似然方程上10i=1,2,.,m解似然方程得到1區(qū),.,4)

6、,即最大似然估計(jì)i(X1,X2,.,Xn)i=1,2,.,m補(bǔ)充:似然方程無(wú)解時(shí),求出的定義域中使得似然函數(shù)最大的值,即為最大似然估計(jì)2.3 MVUE和有效估計(jì)：最小方差無(wú)偏估計(jì)、有效估計(jì)T是的充分完備統(tǒng)計(jì)量,是的一個(gè)無(wú)偏估計(jì)E(|T)為的惟一的MVUE最小方差無(wú)偏估計(jì)的求解步驟：求出參數(shù)的充分完備統(tǒng)計(jì)量T求出ETg(),那么g1(T)是的一個(gè)無(wú)偏估計(jì)或求出一個(gè)無(wú)偏估計(jì),然后改寫成用T表示的函數(shù)-.、._1_1綜合,Eg(T)Tg(T)是的MVUE或者:求出的矩估計(jì)或ML估計(jì),再求效率,為1貝U必為MVUET是g()的一個(gè)無(wú)偏估計(jì),那么滿足信息不等式DT(X)g()2甘.,其中nI()I()E

7、lnf(X;)()E21nf(X;)0,f(X;)為樣本的聯(lián)合分布.最小方差無(wú)偏估計(jì)到達(dá)羅-克拉姆下界有效估計(jì)量效率為11無(wú)偏估計(jì)的效率：e()nI()是的最大似然估計(jì),且是的充分統(tǒng)計(jì)量的有效估計(jì))及單側(cè)估計(jì)、非正2.4 區(qū)間估計(jì)：概念、正態(tài)總體區(qū)間估計(jì)(期望、方差、均值差、方差比態(tài)總體參數(shù)和區(qū)間估計(jì)一個(gè)總體的情況：XN(2)2.,求的置信區(qū)間:2-.未知,求的置信區(qū)間:S；/vnt(n1)*Snt(n、n21),求2的置信區(qū)間:n2(Xi)2i1(n)2(Xi)2i1n2(Xi)2i1未知,求2的置信區(qū)間:(XiX)2n(XiX)2：(n)2n(XiX)212-(n)22(n1)2(n1)i

8、12(n1)1-兩個(gè)總體的情況:21,1),Y-N(；)12的區(qū)間估計(jì)N(0,1)2)21n12,.未知時(shí),2的區(qū)間估計(jì):2)(n12未知時(shí),2S2nn2_*2S1nl1扁(n21)除n1n2(ni2)t(n1n22122nin22)F(n21,n1)2Sim_*2S2n2_(n21,n21)21萬(wàn)22Gn一2-F1,n11)S2n2飛非正態(tài)總體的區(qū)間估計(jì):X當(dāng)n時(shí),S-nN(0,1)lim-S-1nS1,故用Sn代替Sn-1Xmn1m/1nn=N(0,1)m3統(tǒng)計(jì)決策與貝葉斯估計(jì)3.1統(tǒng)計(jì)決策的根本概念：三要素、統(tǒng)計(jì)決策函數(shù)及風(fēng)險(xiǎn)函數(shù)三要素：樣本空間和分布族、行動(dòng)空間(判決空間)、損失函數(shù)L

9、(,d)統(tǒng)計(jì)決策函數(shù)d(X):本質(zhì)上是一個(gè)統(tǒng)計(jì)量,可用來(lái)估計(jì)未知參數(shù)風(fēng)險(xiǎn)函數(shù)：R(,d)EL(,d(X)是關(guān)于的函數(shù)3.2貝葉斯估計(jì)：先驗(yàn)分布與后驗(yàn)分布、貝葉斯風(fēng)險(xiǎn)、貝葉斯估計(jì)求樣本X=(X1,X2,.,Xn)的分布：q(x|f(xi|1樣本X與的聯(lián)合概率分布：f(x,)h(|x)m(x)q(x|)()求f(x,)關(guān)于x的邊緣密度m(x)f(x,)d的后驗(yàn)密度為：h(|x)f(x,)m(x)取L(,d)(d)2時(shí)的貝葉斯估計(jì)為：E(|x)h(|x)d2R(,d)E(d)2貝葉斯風(fēng)險(xiǎn)為：2&(d)ER(,d)E(d)2h(|x)d取L(,d)()(d)2時(shí),貝葉斯估計(jì)為:E()|xE()|x補(bǔ)充

10、：C()的貝葉斯估計(jì)：取損失函數(shù)L(,d)(C()d)2,那么貝葉斯估計(jì)為C()EC()|xC()h(|x)df(x,)df(x,)E(|x)h(|x)ddm(x)f(x,)d3.3minimax估計(jì)對(duì)決策空間中的決策函數(shù)di(X),d2(X),.,分別求出在上的最大風(fēng)險(xiǎn)值maxR(,d)在所有的最大風(fēng)險(xiǎn)值中選取相對(duì)最小值,此值對(duì)應(yīng)的決策函數(shù)就是最小最大決策函數(shù).4假設(shè)檢驗(yàn)4.1根本概念：零假設(shè)(Ho)與備選假設(shè)(Hi)、檢驗(yàn)規(guī)那么、兩類錯(cuò)誤、勢(shì)函數(shù)零假設(shè)通常受到保護(hù),而備選假設(shè)是當(dāng)零假設(shè)被拒絕后才能被接受.檢驗(yàn)規(guī)那么：構(gòu)造一個(gè)統(tǒng)計(jì)量T(X1,X2,.,X3),當(dāng)H0服從某一分布,當(dāng)Ho不成立

11、時(shí),T的偏大偏小特征.據(jù)此,構(gòu)造拒絕域W第一類錯(cuò)誤(棄真錯(cuò)誤)：PTW|H0為真第二類錯(cuò)誤(存?zhèn)五e(cuò)誤)：PTW|Ho為假1.XW勢(shì)函數(shù)：()E(X)PXW(X)0,XW.當(dāng)0時(shí),()為犯第一類錯(cuò)誤的概率1時(shí),1()為犯第二類錯(cuò)誤的概率4.2正態(tài)總體均值與方差的假設(shè)檢驗(yàn):t檢驗(yàn)、X2檢驗(yàn)、F檢驗(yàn)、單邊檢驗(yàn)一個(gè)總體的情況：XN(2)2,檢驗(yàn)H0：Hi:0：UN(0,1)H0：Hi：0：TS：；n1),檢驗(yàn)H0：Hi：n(Xii12)22(n)未知,檢驗(yàn)H0：Hi：n2(XiX)i1(n1)兩個(gè)總體的情況:N(12),N(I)2.未知時(shí),檢驗(yàn)H0：1H1：n1n2(必n22).(必1)S1*21(n

12、21)S*n22未知時(shí),檢驗(yàn)H0：2H1：12單邊檢驗(yàn)：舉例說(shuō)明,2,檢驗(yàn)H0：t(n1n22)構(gòu)造U1立時(shí)U1為WUu4.3非參數(shù)假設(shè)檢驗(yàn)方法:22擬合優(yōu)度檢驗(yàn)：H：R*2S1n1HF(nS2n21,n21)H1：N(0,1),給定顯著性水平,有PU1當(dāng)H0成defTU,因此PU.一nuPU1故拒絕域2.擬合優(yōu)度檢驗(yàn)、科爾莫戈羅夫檢驗(yàn)、斯米爾諾夫檢驗(yàn)m(Ninp0)22/Pi0H1:pa.W(mnPi0r1)其中Ni表示樣本中取值為i的個(gè)數(shù),r表示分布中未知參數(shù)的個(gè)數(shù)科爾莫戈羅夫檢驗(yàn)：Ho：F(x)Fo(x)Hi:F(x)Fo(x)實(shí)際檢驗(yàn)的是Fn(x)F0(x)W眄supFn(x)Fo(x

13、)Dn,斯米爾諾夫檢驗(yàn):Ho：F(x)G(x)Hi：F(x)G(x)實(shí)際檢驗(yàn)的是Fn(x)Gn(x)WlimsupFni(x)Gn2(x)Dni,n2,nx4.4似然比檢驗(yàn)明確零假設(shè)和備選假設(shè)：Ho:oH1:|(xx)SUpL(xi,xn；)構(gòu)造似然比:L1(x1,.,xn)Lo(xi,.,xn)SUpL(xi,.,xn；)o拒絕域：W(xi,.,xn)5方差分析5.i單因素方差分析：數(shù)學(xué)模型、離差平方和分解、顯著性檢驗(yàn)、參數(shù)估計(jì)Xijiij數(shù)學(xué)模型jN(o,2),(i=i,2,.,m;j各j相互獨(dú)立mni總離差平方和qt(XjX)2iijimni組內(nèi)離差平方和qe(XjXj2iijim組間離

14、差平方和QAni(XiX)2iiQA構(gòu)造統(tǒng)計(jì)量F(i)QF(rQeQe(nr)ii2(XiXkN(ik,()且-nink,2,.,ni)Ho：i2QtQeQAQ2E(,)2nr當(dāng)Ho成立時(shí),E(2)2rii,nr),當(dāng)Ho不成立時(shí),有偏大特征應(yīng)用:假設(shè)原始數(shù)據(jù)比擬大而且集中,可減去同一數(shù)值XijXijk再解題口1輔助量：P-(niniXij)2,Q112-(Xij)2,Ri1nij1niXij2QaQP,QeQ,Qtrp5.2兩因素方差分析：數(shù)學(xué)模型、離差平方和分解、顯著性檢驗(yàn)數(shù)學(xué)模型X八ij2N(0,),(i=1,2,.,r;j=1,2,.,s)H01:各/目互獨(dú)立總離差平方和QT(Xjj1

15、X)2QTQeQbQa組內(nèi)離差平方和qeni_(XijXi?X?jXi)2j1E(Qe(r1)(s1)因素B引起的離差平方和QbX)2當(dāng)H0成立時(shí),qbE(s1因素A引起的離差平方和Qas(Xi?X)2當(dāng)H0成立時(shí),E(Qa輔助量：p構(gòu)造統(tǒng)計(jì)量:sX八ijj1,QiX八ij,QiiX八ij,RsX2八ijj1QiP,QbQiip,QeQiQiiFbQa(r1)Qe(r1)(s1)Qb(s1)Qe(r1)(s1)6回歸分析6.1一元線性回歸:b2b*2)回歸模型、回歸模型:Xi2N(0,)各/目互獨(dú)立QaQeF(r1,(r1)(s1)QeF(s1,(r1)(s1)未知參數(shù)的估計(jì)(3、(T2)、參數(shù)估計(jì)量的分布(3aY0i=1,2,.,n.(XX)(YY)i1(xi1X)2222的估計(jì)：1n一(Yni1Y)221(一nn(xi1-N(,-),一、2(Xx)、i1)分布：_2N(,1x-2)n(Xx)2i1_cc2cx)SnYSnx*2n6.2多元線性回歸：回歸模型、參數(shù)估計(jì)、分布YXi回歸模型:iN(0,2In)i=1,2,n.各i相互獨(dú)立參數(shù)估計(jì)：XtY(XtX)(XTX)1XTY7多元分析初步7.1 定義及性質(zhì)：定義、性質(zhì)XNp(,)其中為X的均值向量,為X的協(xié)方差矩陣Y