概率論與數(shù)理統(tǒng)計(jì)第四版

概率論與數(shù)理統(tǒng)計(jì)第四版匯報(bào)人：AA2024-01-19BIGDATAEMPOWERSTOCREATEANEWERA目錄CONTENTS概率論基本概念隨機(jī)變量及其分布多維隨機(jī)變量及其分布數(shù)字特征與極限定理數(shù)理統(tǒng)計(jì)基本概念與方法方差分析與回歸分析初步BIGDATAEMPOWERSTOCREATEANEWERA01概率論基本概念樣本空間與事件事件必然事件樣本空間的子集，即某些可能結(jié)果的組合。包含樣本空間中所有樣本點(diǎn)的事件。樣本空間基本事件不可能事件所有可能結(jié)果的集合，常用大寫字母S表示。只包含一個(gè)樣本點(diǎn)的事件。不包含任何樣本點(diǎn)的事件。概率定義及性質(zhì)概率定義描述某一事件發(fā)生的可能性大小的數(shù)值，常用P(A)表示事件A發(fā)生的概率。概率性質(zhì)非負(fù)性、規(guī)范性（必然事件的概率為1，不可能事件的概率為0）、可加性（互斥事件的概率和等于它們并的概率）。條件概率在某一事件B已經(jīng)發(fā)生的條件下，另一事件A發(fā)生的概率，記作P(A|B)。獨(dú)立性如果兩個(gè)事件A和B的發(fā)生互不影響，即P(A|B)=P(A)且P(B|A)=P(B)，則稱事件A和B是相互獨(dú)立的。條件概率與獨(dú)立性如果事件B1,B2,...,Bn構(gòu)成一個(gè)完備事件組，且都有正概率，則對(duì)任一事件A，有P(A)=P(A|B1)P(B1)+P(A|B2)P(B2)+...+P(A|Bn)P(Bn)。全概率公式在全概率公式的條件下，可以推導(dǎo)出貝葉斯公式，即P(Bi|A)=P(A|Bi)P(Bi)/[P(A|B1)P(B1)+P(A|B2)P(B2)+...+P(A|Bn)P(Bn)]，用于計(jì)算某一事件已經(jīng)發(fā)生的條件下，另一事件發(fā)生的概率。貝葉斯公式全概率公式與貝葉斯公式BIGDATAEMPOWERSTOCREATEANEWERA02隨機(jī)變量及其分布VS隨機(jī)變量是定義在樣本空間上的實(shí)值函數(shù)，它將樣本空間中的每個(gè)樣本點(diǎn)映射到一個(gè)實(shí)數(shù)。隨機(jī)變量分類根據(jù)取值的不同，隨機(jī)變量可分為離散型隨機(jī)變量和連續(xù)型隨機(jī)變量。離散型隨機(jī)變量取值為有限個(gè)或可列個(gè)，而連續(xù)型隨機(jī)變量取值充滿某個(gè)區(qū)間。隨機(jī)變量定義隨機(jī)變量概念及分類分布律定義離散型隨機(jī)變量的分布律描述了隨機(jī)變量取各個(gè)值的概率。對(duì)于離散型隨機(jī)變量X，其分布律可以用概率函數(shù)P(X=x)來表示，其中x為隨機(jī)變量X的取值。常見離散型分布常見的離散型分布包括二項(xiàng)分布、泊松分布、幾何分布等。這些分布各自具有不同的特點(diǎn)和應(yīng)用場(chǎng)景。離散型隨機(jī)變量分布律連續(xù)型隨機(jī)變量概率密度連續(xù)型隨機(jī)變量的概率密度函數(shù)描述了隨機(jī)變量在某個(gè)區(qū)間內(nèi)取值的概率分布情況。對(duì)于連續(xù)型隨機(jī)變量X，其概率密度函數(shù)f(x)滿足P(a<X≤b)=∫abf(x)dx，其中a和b為任意實(shí)數(shù)。概率密度定義常見的連續(xù)型分布包括正態(tài)分布、均勻分布、指數(shù)分布等。這些分布各自具有不同的特點(diǎn)和應(yīng)用場(chǎng)景。常見連續(xù)型分布隨機(jī)變量函數(shù)的分布描述了由隨機(jī)變量構(gòu)成的函數(shù)的概率分布情況。對(duì)于隨機(jī)變量X和函數(shù)Y=g(X)，Y的分布可以通過X的分布和函數(shù)g的性質(zhì)來確定。求解隨機(jī)變量函數(shù)的分布通常需要先確定函數(shù)g的性質(zhì)，然后根據(jù)X的分布類型和g的性質(zhì)選擇合適的求解方法，如變換法、卷積公式等。函數(shù)分布定義求解方法隨機(jī)變量函數(shù)分布BIGDATAEMPOWERSTOCREATEANEWERA03多維隨機(jī)變量及其分布聯(lián)合分布函數(shù)設(shè)(X,Y)是二維隨機(jī)變量，對(duì)于任意實(shí)數(shù)x,y，二元函數(shù)F(x,y)=P{(X<=x)∩(Y<=y)}稱為二維隨機(jī)變量(X,Y)的聯(lián)合分布函數(shù)。要點(diǎn)一要點(diǎn)二聯(lián)合分布律如果二維隨機(jī)變量(X,Y)所有可能取的值是有限對(duì)或可列無限多對(duì)，則稱(X,Y)是離散型的隨機(jī)變量，稱P{X=xi,Y=yj}為二維隨機(jī)變量(X,Y)的分布律，或稱為X和Y的聯(lián)合分布律。二維隨機(jī)變量聯(lián)合分布邊緣分布邊緣分布函數(shù)定義是：如果二維隨機(jī)變量X,Y的分布函數(shù)F{x,y}為已知，那么隨機(jī)變量x，y的分布函數(shù)Fx{x}和Fy{y}分別可由X,Y的聯(lián)合分布函數(shù)F{x,y}求得。則Fx{x}和Fy{y}為分布函數(shù)F{x,y}的邊緣分布函數(shù)。條件分布條件分布律：對(duì)于二維隨機(jī)變量(X，Y)，可以考慮在其中一個(gè)隨機(jī)變量取得(可能的)固定值的條件下，另一隨機(jī)變量的概率分布，這樣得到的X或Y的概率分布叫做條件概率分布，簡(jiǎn)稱條件分布。邊緣分布與條件分布兩個(gè)隨機(jī)變量的獨(dú)立性只能通過聯(lián)合分布函數(shù)和邊緣分布函數(shù)，或者聯(lián)合概率密度和邊緣概率密度來定義。隨機(jī)變量X和Y獨(dú)立的定義是：F(X,Y)=FX(X)FY(Y)，等價(jià)于，f(x,y)=fx(x)fy(Y)。定義若X與Y獨(dú)立，則X與Y的任一函數(shù)也獨(dú)立。設(shè)X與Y獨(dú)立且X的分布具有無記憶性，則對(duì)任意的u>0，v>0有P{X>u+v}=P{X>u}P{X>v}。性質(zhì)相互獨(dú)立隨機(jī)變量多維隨機(jī)變量函數(shù)分布多維隨機(jī)變量的概念：多維隨機(jī)變量是指隨機(jī)變量的取值是多個(gè)數(shù)值的集合，而不是單一數(shù)值。例如，一個(gè)二維隨機(jī)變量可以表示為(X,Y)，其中X和Y都是隨機(jī)變量。多維隨機(jī)變量的概念可以擴(kuò)展到更高維度的情況。多維隨機(jī)變量的聯(lián)合概率分布：多維隨機(jī)變量的聯(lián)合概率分布描述了多個(gè)隨機(jī)變量同時(shí)取特定值的概率。對(duì)于連續(xù)型多維隨機(jī)變量，聯(lián)合概率分布可以用聯(lián)合概率密度函數(shù)來表示；對(duì)于離散型多維隨機(jī)變量，聯(lián)合概率分布可以用聯(lián)合概率質(zhì)量函數(shù)來表示。多維隨機(jī)變量的邊緣概率分布：多維隨機(jī)變量的邊緣概率分布描述了其中一個(gè)或多個(gè)隨機(jī)變量取特定值的概率，而不考慮其他隨機(jī)變量的取值。邊緣概率分布可以通過對(duì)聯(lián)合概率分布進(jìn)行積分或求和得到。多維隨機(jī)變量的條件概率分布：多維隨機(jī)變量的條件概率分布描述了在一個(gè)或多個(gè)隨機(jī)變量取特定值的條件下，其他隨機(jī)變量的概率分布。條件概率分布可以通過對(duì)聯(lián)合概率分布進(jìn)行條件化得到。BIGDATAEMPOWERSTOCREATEANEWERA04數(shù)字特征與極限定理數(shù)學(xué)期望描述隨機(jī)變量取值的平均水平，是概率加權(quán)下的平均值。方差衡量隨機(jī)變量取值的離散程度，即各數(shù)值與其平均數(shù)差值的平方和的平均數(shù)。性質(zhì)數(shù)學(xué)期望具有線性性質(zhì)，方差具有可加性。數(shù)學(xué)期望與方差協(xié)方差衡量?jī)蓚€(gè)隨機(jī)變量的總體誤差，反映它們之間的線性相關(guān)程度。相關(guān)系數(shù)標(biāo)準(zhǔn)化后的協(xié)方差，用于消除量綱影響，更準(zhǔn)確地反映兩個(gè)隨機(jī)變量之間的線性相關(guān)程度。性質(zhì)協(xié)方差和相關(guān)系數(shù)都具有對(duì)稱性、可加性和標(biāo)準(zhǔn)化性質(zhì)。協(xié)方差與相關(guān)系數(shù)隨著試驗(yàn)次數(shù)的增加，頻率趨于穩(wěn)定，并逐漸接近概率。大數(shù)定律當(dāng)樣本量足夠大時(shí)，樣本均值的分布近似于正態(tài)分布，無論總體分布是什么。中心極限定理大數(shù)定律揭示了頻率與概率的關(guān)系，中心極限定理為參數(shù)估計(jì)和假設(shè)檢驗(yàn)提供了理論依據(jù)。意義大數(shù)定律與中心極限定理BIGDATAEMPOWERSTOCREATEANEWERA05數(shù)理統(tǒng)計(jì)基本概念與方法總體研究對(duì)象的全體個(gè)體組成的集合，具有共同性質(zhì)的個(gè)體構(gòu)成總體。個(gè)體組成總體的單個(gè)元素，每個(gè)個(gè)體都是總體的一個(gè)成員。樣本從總體中隨機(jī)抽取的一部分個(gè)體組成的集合，用于推斷總體的性質(zhì)。樣本容量樣本中包含的個(gè)體數(shù)目，用n表示?？傮w與樣本概念統(tǒng)計(jì)量由樣本觀測(cè)值計(jì)算得到的量，用于描述樣本特征。常見的統(tǒng)計(jì)量有樣本均值、樣本方差、樣本標(biāo)準(zhǔn)差、樣本k階原點(diǎn)矩和k階中心矩等。抽樣分布統(tǒng)計(jì)量的概率分布，描述了統(tǒng)計(jì)量取值的概率規(guī)律。常見的抽樣分布有χ^2分布、t分布和F分布等。漸近分布當(dāng)樣本容量n趨于無窮大時(shí)，統(tǒng)計(jì)量的極限分布。漸近分布可用于大樣本情況下的統(tǒng)計(jì)推斷。統(tǒng)計(jì)量及其分布要點(diǎn)三點(diǎn)估計(jì)用樣本統(tǒng)計(jì)量的某個(gè)取值直接作為總體參數(shù)的估計(jì)值。常見的點(diǎn)估計(jì)方法有矩估計(jì)法和最大似然估計(jì)法。要點(diǎn)一要點(diǎn)二區(qū)間估計(jì)根據(jù)樣本觀測(cè)值構(gòu)造一個(gè)區(qū)間，以較大的概率包含總體參數(shù)的真值。區(qū)間估計(jì)提供了參數(shù)估計(jì)的可靠性和精度信息。評(píng)價(jià)估計(jì)量的標(biāo)準(zhǔn)無偏性、有效性和一致性是評(píng)價(jià)估計(jì)量的三個(gè)重要標(biāo)準(zhǔn)。無偏性要求估計(jì)量的期望值等于總體參數(shù)的真值；有效性要求估計(jì)量的方差盡可能??；一致性要求當(dāng)樣本容量趨于無窮大時(shí)，估計(jì)量依概率收斂于總體參數(shù)的真值。要點(diǎn)三參數(shù)估計(jì)方法假設(shè)檢驗(yàn)的基本思想：先對(duì)總體參數(shù)提出一個(gè)假設(shè)，然后構(gòu)造一個(gè)合適的統(tǒng)計(jì)量，根據(jù)統(tǒng)計(jì)量的觀測(cè)值和抽樣分布確定假設(shè)是否成立。如果拒絕原假設(shè)，則接受備擇假設(shè)。假設(shè)檢驗(yàn)的步驟：建立假設(shè)、構(gòu)造檢驗(yàn)統(tǒng)計(jì)量、確定拒絕域、計(jì)算p值或臨界值、作出決策。兩類錯(cuò)誤：第一類錯(cuò)誤是原假設(shè)為真時(shí)拒絕原假設(shè)的錯(cuò)誤，稱為棄真錯(cuò)誤；第二類錯(cuò)誤是原假設(shè)為假時(shí)接受原假設(shè)的錯(cuò)誤，稱為取偽錯(cuò)誤。在實(shí)際應(yīng)用中需要權(quán)衡兩類錯(cuò)誤的概率以選擇合適的顯著性水平。假設(shè)檢驗(yàn)的應(yīng)用：假設(shè)檢驗(yàn)在各個(gè)領(lǐng)域都有廣泛的應(yīng)用，如醫(yī)學(xué)、經(jīng)濟(jì)學(xué)、社會(huì)學(xué)等。通過假設(shè)檢驗(yàn)可以判斷兩個(gè)或多個(gè)總體是否存在顯著差異，或者判斷某個(gè)總體的參數(shù)是否符合特定要求等。假設(shè)檢驗(yàn)原理及應(yīng)用BIGDATAEMPOWERSTOCREATEANEWERA06方差分析與回歸分析初步單因素方差分析的原理單因素方差分析通過計(jì)算不同組間的離差平方和與組內(nèi)離差平方和，構(gòu)造F統(tǒng)計(jì)量，進(jìn)行假設(shè)檢驗(yàn)。單因素方差分析的應(yīng)用場(chǎng)景適用于一個(gè)控制變量，兩個(gè)或多個(gè)水平下的實(shí)驗(yàn)設(shè)計(jì)，用于比較不同水平下觀測(cè)值的均值是否存在顯著差異。方差分析的基本概念方差分析是一種通過比較不同組別間的均值差異，推斷總體均值是否存在顯著差異的統(tǒng)計(jì)方法。單因素方差分析雙因素方差分析雙因素方差分析是研究?jī)蓚€(gè)控制變量對(duì)觀測(cè)值的影響，以及它們之間的交互作用的統(tǒng)計(jì)方法。雙因素方差分析的原理雙因素方差分析將總變異分解為組間變異和組內(nèi)變異，通過計(jì)算不同來源的離差平方和，構(gòu)造F統(tǒng)計(jì)量進(jìn)行假設(shè)檢驗(yàn)。雙因素方差分析的應(yīng)用場(chǎng)景適用于兩個(gè)控制變量，多個(gè)水平下的實(shí)驗(yàn)設(shè)計(jì)，用于研究?jī)蓚€(gè)因素對(duì)觀測(cè)值的影響及其交互作用。雙因素方差分析的基本概念03一元線性回歸分析的應(yīng)用場(chǎng)景適用于探索一個(gè)自變量和一個(gè)因變量之間的線性關(guān)系，并進(jìn)行預(yù)測(cè)和控制。01一元線性回歸分析的基本概念一元線性回歸分析是研究一個(gè)自變量和一個(gè)因變量之間的線性關(guān)系的統(tǒng)計(jì)方法。02一元線性回歸分析的原理通過最小二乘法估計(jì)回歸系數(shù)，建立回歸方程，并對(duì)回歸方程進(jìn)行顯著性檢驗(yàn)和擬合