概率論與數(shù)理統(tǒng)計慕課版第章多維隨機變量及其分布

xx年xx月xx日多維隨機變量及其分布contents目錄預(yù)備知識多維隨機變量隨機變量的函數(shù)多維隨機變量的數(shù)字特征多維正態(tài)分布馬爾科夫鏈大數(shù)定律與中心極限定理01預(yù)備知識向量與矩陣向量是一組數(shù)的集合，矩陣是一個二維數(shù)組。向量可以看作是矩陣的特例，即行數(shù)和列數(shù)等于1。矩陣的加法、減法、數(shù)乘等運算都有相應(yīng)的規(guī)則。特征值與特征向量矩陣的特征值和特征向量是線性代數(shù)中的重要概念。對于給定的矩陣A，可以找到一個非零向量x，使得Ax=mx成立，其中m就是A的特征值，x就是對應(yīng)的特征向量。行空間與列空間矩陣的行空間和列空間是線性代數(shù)中的重要概念。行空間是指由矩陣的行向量所張成的空間，列空間是指由矩陣的列向量所張成的空間。線性代數(shù)基礎(chǔ)導(dǎo)數(shù)與微分導(dǎo)數(shù)是函數(shù)在某一點的切線斜率，微分是函數(shù)在某一點的局部近似。導(dǎo)數(shù)和微分都是微積分中的基本概念。積分與定積分積分是微分的逆運算，定積分是積分的一種特殊形式。定積分可以用來求解面積、體積、平均值等實際問題。微分方程微分方程是描述動態(tài)系統(tǒng)的一類重要方程。在一元微分方程中，我們通常討論的是一元函數(shù)的導(dǎo)數(shù)與自變量、時間的關(guān)系。多元微分方程則涉及到多個變量的導(dǎo)數(shù)與自變量的關(guān)系。微積分基礎(chǔ)02多維隨機變量VS隨機變量可以看作是定義在樣本空間上的函數(shù)，對于每個樣本點，它取一個實數(shù)值。對于多個隨機變量，我們可以將其看作是定義在樣本空間上的向量，稱為多維隨機變量。多元隨機變量的性質(zhì)多維隨機變量的取值范圍是所有可能取值的集合，通常是一個向量或矩陣。每個分量都是一個隨機變量，它們之間可能相互依賴，也可能相互獨立。多維隨機變量定義與性質(zhì)聯(lián)合概率分布描述多維隨機變量的取值概率分布情況的公式。聯(lián)合概率分布可以看作是多維隨機變量的特征描述。聯(lián)合概率分布聯(lián)合概率分布通常由一個概率密度函數(shù)或一個概率質(zhì)量函數(shù)來表示，其中包含一些參數(shù)。這些參數(shù)通常表示各個隨機變量之間的相互關(guān)系和依賴關(guān)系。聯(lián)合概率分布的參數(shù)在某些情況下，我們只關(guān)心一個或幾個隨機變量的取值情況，而其他隨機變量的取值情況可以忽略不計。邊緣概率分布就是用來描述這種情況的公式。邊緣概率分布當(dāng)我們已知某些隨機變量的取值情況后，其他隨機變量的取值情況如何分布？條件概率分布就是用來描述這種情況的公式。條件概率分布邊緣概率分布與條件概率分布如果兩個隨機變量之間沒有任何相互影響，即它們的取值互不影響，則稱這兩個隨機變量是獨立的。如果兩個隨機變量是獨立的，則它們的聯(lián)合概率分布等于各自概率分布的乘積，即它們的聯(lián)合概率分布中的每個元素等于各自概率分布中對應(yīng)元素的乘積。獨立性定義獨立性的性質(zhì)隨機變量的獨立性03隨機變量的函數(shù)1單變量隨機函數(shù)的性質(zhì)23隨機變量是定義在樣本空間上的函數(shù)，其取值具有不確定性。每個隨機變量都有其對應(yīng)的概率分布，描述了該變量取各個值的概率大小。隨機變量的期望值和方差是描述該變量取值平均情況和分散程度的量。多維隨機函數(shù)是定義在兩個或多個隨機變量上的函數(shù)，描述了多個隨機變量之間相互關(guān)聯(lián)的關(guān)系。多維隨機函數(shù)的概率分布可以是一個聯(lián)合概率分布或者多個邊緣概率分布。多維隨機函數(shù)的期望值和方差是描述該變量取值的平均情況和分散程度的量。多維隨機函數(shù)的性質(zhì)常見的多維隨機函數(shù)多個隨機變量之間相互獨立且具有相同的概率分布。獨立同分布線性組合條件分布最大熵多個隨機變量的線性組合仍然是一個隨機變量，其概率分布可以使用線性組合的性質(zhì)進行計算。給定一個或多個隨機變量的條件下，其他隨機變量的概率分布。在滿足一定約束條件下，使得概率分布熵最大的分布，常常用于描述一個未知概率分布的情況。04多維隨機變量的數(shù)字特征VS多維隨機變量的均值是對其分布的中心位置的一種度量，定義為所有可能取值的加權(quán)平均值。方差方差是度量多維隨機變量取值分散程度的指標(biāo)，它定義為所有可能取值與均值的差的平方的加權(quán)平均值。均值均值與方差相關(guān)系數(shù)與協(xié)方差用于度量兩個多維隨機變量之間的線性相關(guān)程度，定義為兩個隨機變量取值之間的協(xié)方差除以兩個隨機變量標(biāo)準(zhǔn)差的乘積。相關(guān)系數(shù)協(xié)方差是度量兩個多維隨機變量取值同時偏離其均值程度的一種指標(biāo)，定義為兩個隨機變量取值差的加權(quán)平均值。協(xié)方差矩是度量多維隨機變量分布偏斜程度的一種指標(biāo)，定義為所有可能取值的階乘的加權(quán)平均值。高階矩是度量多維隨機變量分布偏斜程度更高階的指標(biāo)，定義為所有可能取值的階乘的加權(quán)平均值，包括偏態(tài)和峰態(tài)等信息。矩高階矩矩與高階矩05多維正態(tài)分布定義二維正態(tài)分布由兩個隨機變量組成，它們的概率密度函數(shù)由均值、方差和協(xié)方差等參數(shù)決定。表達式對于二維正態(tài)分布，其概率密度函數(shù)為：f(x,y)=1/(2πσ^2)*exp(-(x-μ)^2/(2σ^2)-(y-μ)^2/(2σ^2)+ρ*(x-μ)*(y-μ)/σ^2)二維正態(tài)分布定義多維正態(tài)分布由多個隨機變量組成，它們的概率密度函數(shù)由均值向量、協(xié)方差矩陣等參數(shù)決定。表達式對于多維正態(tài)分布，其概率密度函數(shù)為：f(x_1,x_2,...,x_n)=1/(2π|Σ|^0.5)*exp(-(x-μ)'*Σ^(-1)*(x-μ)/2)多維正態(tài)分布正態(tài)分布的性質(zhì)鐘形曲線正態(tài)分布的曲線呈鐘形，中間高、兩邊低，在均值附近達到最大值。均數(shù)、中位數(shù)和眾數(shù)對于正態(tài)分布，均數(shù)、中位數(shù)和眾數(shù)相等，都等于均值μ。穩(wěn)定性正態(tài)分布的邊緣分布仍為正態(tài)分布，即一個隨機變量的正態(tài)分布與另一個隨機變量的正態(tài)分布的線性組合仍為正態(tài)分布。01020306馬爾科夫鏈一維馬爾科夫鏈?zhǔn)且环N具有馬爾科夫性質(zhì)的隨機過程，即下一個狀態(tài)只與當(dāng)前狀態(tài)有關(guān)，與過去狀態(tài)無關(guān)。一維馬爾科夫鏈定義一維馬爾科夫鏈的狀態(tài)是離散的，通常用整數(shù)表示，例如0,1,2等。狀態(tài)每個狀態(tài)轉(zhuǎn)移到另一個狀態(tài)的概率是固定的，即轉(zhuǎn)移概率不隨時間改變。轉(zhuǎn)移概率狀態(tài)多維馬爾科夫鏈的狀態(tài)是多個維度的組合，例如(0,0),(0,1),(1,0),(1,1)等。定義多維馬爾科夫鏈?zhǔn)嵌鄠€一維馬爾科夫鏈的組合，每個馬爾科夫鏈代表一個維度，各維度之間相互獨立。轉(zhuǎn)移概率每個狀態(tài)轉(zhuǎn)移到另一個狀態(tài)的概率也是固定的，但不同維度之間的轉(zhuǎn)移概率相互獨立。多維馬爾科夫鏈馬爾科夫鏈的應(yīng)用利用馬爾科夫鏈可以建立語言模型，預(yù)測下一個單詞或詞組。語言模型利用馬爾科夫鏈可以建立天氣預(yù)報模型，預(yù)測未來一段時間內(nèi)的天氣狀況。天氣預(yù)報利用馬爾科夫鏈可以建立人口預(yù)測模型，預(yù)測未來一段時間內(nèi)的人口數(shù)量。人口預(yù)測利用馬爾科夫鏈可以建立股票市場預(yù)測模型，預(yù)測未來一段時間內(nèi)的股票價格。股票市場預(yù)測07大數(shù)定律與中心極限定理大數(shù)定律定理1切比雪夫大數(shù)定律，當(dāng)n個隨機變量的取值范圍不超過d時，它們的算術(shù)平均數(shù)當(dāng)n→∞時的極限為它們的數(shù)學(xué)期望。定理2伯努利大數(shù)定律，當(dāng)試驗次數(shù)足夠多時，事件發(fā)生的頻率近似于事件發(fā)生的概率。定義大數(shù)定律是描述在重復(fù)試驗中，事件發(fā)生的頻率逐漸穩(wěn)定于事件發(fā)生的概率的規(guī)律。定義中心極限定理是指，當(dāng)n個相互獨立的隨機變量之和滿足方差齊性時，它們的和的分布近似于正態(tài)分布。中心極限定理定理1棣莫弗-拉普拉斯中心極限定理，當(dāng)n個相互獨立的隨機變量之和滿足方差齊性時，它們的和的標(biāo)準(zhǔn)化變量的分布收斂于標(biāo)準(zhǔn)正態(tài)分布。定理2列維-林德伯格中心極限定理，當(dāng)n個相互獨立的隨機變量之和滿足方差齊性時，它們的和的分布收斂于正態(tài)分布。保險精算利用中心極限定理，可以將保險公司的理賠金額近似地看作是正態(tài)分布，從而更準(zhǔn)確地預(yù)測理賠金額的均值和方差。應(yīng)用舉例金融領(lǐng)域中心極限定理被廣泛應(yīng)用于金融領(lǐng)域中的風(fēng)險管理和投資組合優(yōu)化。通過將多個資