貝葉斯講義引言

1、貝葉斯統(tǒng)計(jì)經(jīng)濟(jì)學(xué)院統(tǒng)計(jì)系：陳耀輝學(xué)習(xí)參考書1.吳喜之，現(xiàn)代貝葉斯統(tǒng)計(jì)學(xué)，中國統(tǒng)計(jì)出版社，2000年10月第一版。2.張堯庭 陳漢峰編著，貝葉斯統(tǒng)計(jì)推斷，科學(xué)出版社，1991年3月。3.Berger，J.O.，Statistical decision theory and Bayesian analysis，Second edition，Springer-Verlag，New York，1985，中譯本：統(tǒng)計(jì)決策理論及貝葉斯分析，賈乃光譯，中國統(tǒng)計(jì)出版社，1998。4.賈乃光編著，數(shù)理統(tǒng)計(jì)貝葉斯統(tǒng)計(jì)學(xué)，中國林業(yè)出版社，5.James等著，貝葉斯統(tǒng)計(jì)學(xué)：原理、模型與應(yīng)用，中國統(tǒng)計(jì)出版社，1992第

2、0章 引言 現(xiàn)代貝葉斯統(tǒng)計(jì)理論的基本觀點(diǎn)與研究現(xiàn)狀本 章 內(nèi) 容一、貝葉斯統(tǒng)計(jì)理論的基本觀點(diǎn)二、貝葉斯統(tǒng)計(jì)學(xué)派與頻率統(tǒng)計(jì)學(xué)派 之間的批評(píng)三、現(xiàn)代貝葉斯統(tǒng)計(jì)理論的研究現(xiàn)狀四、貝葉斯統(tǒng)計(jì)理論的應(yīng)用五、現(xiàn)代貝葉斯統(tǒng)計(jì)學(xué)與計(jì)量經(jīng)濟(jì)學(xué)一、貝葉斯統(tǒng)計(jì)理論的基本觀點(diǎn) 統(tǒng)計(jì)學(xué)中有二個(gè)主要學(xué)派：頻率學(xué)派和貝葉斯學(xué)派。貝葉斯學(xué)派的起點(diǎn)是貝葉斯的兩項(xiàng)工作：貝葉斯定理和貝葉斯假設(shè)，貝葉斯定理（或貝葉斯公式）在通常的概率論教科書中都有敘述，而貝葉斯假設(shè)幾乎都不提及。在統(tǒng)計(jì)推斷的基本理論和方法方面，貝葉斯學(xué)派與頻率學(xué)派之間存在著重大差異。 兩個(gè)學(xué)派的基本觀點(diǎn)在統(tǒng)計(jì)推斷的基本理論和方法之間的差異1.頻率統(tǒng)計(jì)學(xué)派與貝葉斯學(xué)派

3、在進(jìn)行統(tǒng)計(jì)推斷時(shí)的依據(jù)不同；2.對(duì)概率的概念的理解有差別：頻率學(xué)派堅(jiān)持概率的頻率解釋，并在這個(gè)基礎(chǔ)上去理解一切統(tǒng)計(jì)推斷的結(jié)論；與此相反，貝葉斯學(xué)派贊成主觀概率，概率是認(rèn)識(shí)主體對(duì)事件出現(xiàn)可能性大小的相信程度，它不依賴事件能否重復(fù)；（Page4例1.3） 3.兩個(gè)學(xué)派的具體統(tǒng)計(jì)推斷理念之間存在著根本差異 。統(tǒng)計(jì)推斷時(shí)的依據(jù)不同頻率統(tǒng)計(jì)學(xué)派在進(jìn)行統(tǒng)計(jì)推斷時(shí)，依據(jù)兩類信息：總體信息（或模型信息）和樣本信息（數(shù)據(jù)信息），而貝葉斯學(xué)派則除了以上兩種信息外，還利用另外一種信息即先驗(yàn)信息。 在概率論與數(shù)理統(tǒng)計(jì)中討論的點(diǎn)估計(jì)只使用前兩種信息，沒有使用先驗(yàn)信息。假如能把收集到的先驗(yàn)信息也利用起來，那對(duì)我們進(jìn)行統(tǒng)計(jì)

4、推斷是有好處的。只用前兩種信息的統(tǒng)計(jì)學(xué)稱為經(jīng)典統(tǒng)計(jì)學(xué)，三種信息都用的統(tǒng)計(jì)學(xué)稱為貝葉斯統(tǒng)計(jì)學(xué)。 兩個(gè)學(xué)派統(tǒng)計(jì)推斷理念之間存在著根本差異統(tǒng)計(jì)學(xué)奠基人費(fèi)歇爾把統(tǒng)計(jì)學(xué)的任務(wù)概括為三個(gè)問題：選定模型、確定統(tǒng)計(jì)量和決定統(tǒng)計(jì)量的分布。根據(jù)費(fèi)歇爾的觀點(diǎn)，信息量包含在樣本中，但樣本為數(shù)眾多，因此須用少數(shù)幾個(gè)統(tǒng)計(jì)量把信息集中起來，而抽樣分布則決定了統(tǒng)計(jì)量的全部性質(zhì)；目前，頻率統(tǒng)計(jì)學(xué)派基本上是按照這種思路來處理統(tǒng)計(jì)推斷問題的。先驗(yàn)信息樣本信息貝葉斯定理后驗(yàn)分布預(yù)報(bào)密度圖一 貝葉斯統(tǒng)計(jì)推斷的基本模式 貝葉斯學(xué)派認(rèn)為：先驗(yàn)分布反映了試驗(yàn)前對(duì)總體參數(shù)分布的認(rèn)識(shí)，在獲得樣本信息后，對(duì)這個(gè)認(rèn)識(shí)有了改變，其結(jié)果就反映在后驗(yàn)分布

5、中，即后驗(yàn)分布綜合了先驗(yàn)分布和樣本的信息。由此可以看出，頻率學(xué)派統(tǒng)計(jì)推斷是“從無到有”的過程在試驗(yàn)前，關(guān)于位置參數(shù)的情況是一無所知，而試驗(yàn)后則有些了解，但了解多少？并無普遍的表述方法，在實(shí)踐中有賴于所使用的統(tǒng)計(jì)量的針對(duì)性；貝葉斯統(tǒng)計(jì)推斷則不然，它是一個(gè)“從有到有”的過程，且結(jié)果清楚自然，符合人們的思維習(xí)慣根據(jù)所獲得的信息修正以前的看法，不一定從零開始，從本質(zhì)上說，貝葉斯推斷理論概括了多數(shù)成年人的學(xué)習(xí)過程。 但是最主要的差別，也是貝葉斯理論的一個(gè)重要特征，在于只能基于后驗(yàn)分布，也就是說，在獲得后驗(yàn)分布后，如果把樣本、原來的統(tǒng)計(jì)模型都丟掉，一點(diǎn)也不會(huì)影響將來的推斷，凡是符合這個(gè)準(zhǔn)則的推斷就是貝葉斯

6、推斷。據(jù)此，矩估計(jì)、顯著性統(tǒng)計(jì)檢驗(yàn)和置信區(qū)間估計(jì)都不屬于貝葉斯推斷，但最大似然估計(jì)則可視為均勻先驗(yàn)分布之下的貝葉斯推斷，因此，作為頻率學(xué)派中一個(gè)很重要的極大似然估計(jì)，其實(shí)，它只不過是在一種很特殊先驗(yàn)分布下的貝葉斯估計(jì)而已。二、貝葉斯統(tǒng)計(jì)學(xué)派與頻率統(tǒng)計(jì)學(xué)派 之間的批評(píng) 1.對(duì)貝葉斯統(tǒng)計(jì)學(xué)派的批評(píng) （1）參數(shù)看成是隨機(jī)變量是否妥當(dāng)？ （2）先驗(yàn)分布是否存在？如何選?。?.對(duì)頻率統(tǒng)計(jì)學(xué)派的批評(píng) （1）問題的提法不妥 （2）判斷統(tǒng)計(jì)方法好壞的標(biāo)準(zhǔn)不妥三、現(xiàn)代貝葉斯統(tǒng)計(jì)理論的研究現(xiàn)狀 1.先驗(yàn)分布理論的研究 2.后驗(yàn)分布的統(tǒng)計(jì)推斷 四、貝葉斯統(tǒng)計(jì)理論的應(yīng)用 從國內(nèi)外的文獻(xiàn)資料來看，貝葉斯統(tǒng)計(jì)推斷理論幾乎

7、可以作為每一個(gè)學(xué)科的研究工具之一，它既可以用于質(zhì)量控制、軟件質(zhì)量評(píng)估、核電站可靠性評(píng)價(jià)和緩慢周轉(zhuǎn)物品的存儲(chǔ)問題，又可以應(yīng)用于水文事件頻率的估計(jì)、犯罪學(xué)不完全記數(shù)的估計(jì)以及保險(xiǎn)精算；尤其是，近年來貝葉斯統(tǒng)計(jì)理論在宏觀經(jīng)濟(jì)預(yù)測(cè)中取得了巨大的成功，從模型的穩(wěn)定性和預(yù)測(cè)精度兩個(gè)方面來看，貝葉斯預(yù)測(cè)模型優(yōu)于非貝葉斯模型，因此貝葉斯方法獲得越來越多專家學(xué)者的認(rèn)同。 1986年，美國學(xué)者利特曼提出明尼蘇達(dá)先驗(yàn)分布，解決了貝葉斯時(shí)間序列向量自回歸(簡(jiǎn)稱BVAR)模型應(yīng)用中的關(guān)鍵問題，自此以后，BVAR模型在西方國家的經(jīng)濟(jì)預(yù)測(cè)中發(fā)揮了很大的作用；其中，影響比較大的模型主要有：Holden(1990)的用于預(yù)測(cè)英

8、國經(jīng)濟(jì)的BVAR、Joutz(1994)的用于電力消費(fèi)與價(jià)格預(yù)測(cè)的綜合BVAR模型、McCulloch(1996)的用于估計(jì)了美國50個(gè)州及哥倫比亞地區(qū)4類家庭平均收入的BVAR模型、Kenny(1998)用于預(yù)測(cè)愛爾蘭通貨膨脹的BVAR模型、Kasuya(2000)的用于預(yù)測(cè)日本經(jīng)濟(jì)BVAR預(yù)測(cè)模型，該模型包括居民消費(fèi)價(jià)格指數(shù)等8個(gè)經(jīng)濟(jì)指標(biāo)。 與國外相比較，貝葉斯統(tǒng)計(jì)理論在我國的應(yīng)用與發(fā)展尚屬于起步階段，但近年來我國學(xué)者逐步認(rèn)識(shí)到該理論的重要性，并對(duì)此開展了一系列的研究，因此，我們相信貝葉斯統(tǒng)計(jì)理論在我國能得到迅速發(fā)展，跟上世界主流。 美籍波蘭統(tǒng)計(jì)學(xué)家耐曼(E.L.Lehmann189419

9、81)高度概括了在統(tǒng)計(jì)推斷中可用的三種信息： 總體信息：即總體分布或所屬分布族給我們的信息。譬如“總體是指數(shù)分布”或“總體是正態(tài)分布”在統(tǒng)計(jì)推斷中都發(fā)揮重要作用，只要有總體信息，就要想方設(shè)法在統(tǒng)計(jì)推斷中使用。 樣本信息：即從總體抽取的樣本提供給我們的信息，這是最“新鮮”的信息，且越多越好，這是任一種統(tǒng)計(jì)推斷中都必不可少的。 先驗(yàn)信息：即在抽樣之前有關(guān)統(tǒng)計(jì)推斷的一些信息。譬如，在估計(jì)某產(chǎn)品的不合格率時(shí)，假如工廠保存了過去抽檢這種產(chǎn)品質(zhì)量的資料，這些資料（包括歷史數(shù)據(jù)）有時(shí)估計(jì)該產(chǎn)品的不合格率是有好處的。這些資料所提供的信息就是一種先驗(yàn)信息。又如某工程師根據(jù)自己多年積累的經(jīng)驗(yàn)對(duì)正在設(shè)計(jì)的某種彩電的

10、平均壽命所提供的估計(jì)也是一種先驗(yàn)信息。由于這種信息是在“試驗(yàn)之前”就已有的，故稱為先驗(yàn)信息。 閱讀： 3:例1.1和例1.2經(jīng)典統(tǒng)計(jì)學(xué)派的基本觀點(diǎn) 把數(shù)據(jù)（樣本）看成是來自具有一定概率分布的總體，所研究的對(duì)象是這個(gè)總體而不局限于數(shù)據(jù)本身。貝葉斯學(xué)派的基本觀點(diǎn) 任一個(gè)未知量都可看作一個(gè)隨機(jī)變量，應(yīng)用一個(gè)概率分布去描述對(duì)的未知狀況。這個(gè)概率分布是在抽樣前就有的關(guān)于的先驗(yàn)信息的概率陳述。這個(gè)概率分布被稱為先驗(yàn)分布?，F(xiàn)代貝葉斯統(tǒng)計(jì)學(xué)與計(jì)量經(jīng)濟(jì)學(xué)批評(píng)一但對(duì)有些具體的問題要具體的分析，例如，對(duì)某人的打靶技術(shù)批評(píng)二（1）問題的提法不妥 （2）標(biāo)準(zhǔn)不妥1.先驗(yàn)分布理論的研究 先驗(yàn)分布的選擇是貝葉斯統(tǒng)計(jì)推斷的前提，它大體上可以分為無信息先驗(yàn)分布和共軛先驗(yàn)分布兩大類，當(dāng)然，大多數(shù)所謂無信息先驗(yàn)分布實(shí)際上很可能包含一些或很多信息，例如，最常用的無信息先驗(yàn)分布為局部均勻分布，也就是在參數(shù)的值域上的均勻分布，然而均勻分布在參數(shù)變換時(shí)一般不滿足不變性，即變換后的分布不是均勻分布。又如對(duì)標(biāo)準(zhǔn)差的均勻分