第三章數(shù)學期望

第三章數(shù)學期望第1頁，共25頁，2023年，2月20日，星期三數(shù)學期望的定義數(shù)學期望就是一個隨機變量的期望值或簡稱期望。離散隨機變量的期望定義：E(X)=x1P(X=x1)+x2P(X=x2)+…+xnP(X=xn)=xjP(X=xj)=xjf(xj)如果隨機變量取值概率都是相等的，那么我們就可以得到一個特殊的期望，算術平均：E(X)=(x1+x2+…+xn)/n第2頁，共25頁，2023年，2月20日，星期三對于連續(xù)隨機變量的數(shù)學期望：第3頁，共25頁，2023年，2月20日，星期三隨機變量的函數(shù)如果X是具有概率函數(shù)f(x)的離散隨機變量，那么Y=g(X)也是離散隨機變量，且Y的概率函數(shù)為第4頁，共25頁，2023年，2月20日，星期三Y為連續(xù)隨機變量的數(shù)學期望為：第5頁，共25頁，2023年，2月20日，星期三期望的若干定理定理一：若c是任一參數(shù)，則E(cX)=cE(X)定理二：若X和Y是任何隨機變量，則E(X+Y)=E(X)+E(Y)定理三：若X和Y是獨立的隨機變量，則E(XY)=E(X)E(Y)第6頁，共25頁，2023年，2月20日，星期三方差和標準差方差的定義：Var(X)=E((x-)2)，為期望或稱為均值。方差的正的平方根為標準差連續(xù)隨機變量的方差為第7頁，共25頁，2023年，2月20日，星期三方差（或標準差）是隨機變量的值關于均值偏離或散布的測度。若隨機變量的值趨向集中于均值附近，則方差就?。欢暨@些值趨向遠離均值的地方，則方差就大。第8頁，共25頁，2023年，2月20日，星期三方差的若干定理定理一：2＝E((x-)2)=E(X2)-2=E(X2)-[E(X)]2定理二：若c是任一常數(shù)，Var(cX)=c2Var(X)定理三：當a==E(X)時，E((x-a)2)是最小值定理四：若X和Y是獨立隨機變量，則Var(X+Y)=Var(X)+Var(Y)Var(X-Y)=Var(X)+Var(Y)第9頁，共25頁，2023年，2月20日，星期三標準化隨機變量令X是帶均值和標準差的隨機變量，則我們用下式定義標準化的隨機變量X*=(X-)/X*的一個重要性質是均值為0且方差為1，標準化的變量對比較不同分布是有好處的。第10頁，共25頁，2023年，2月20日，星期三矩隨機變量X關于均值的r階中心矩，定義為：r=E((X-)r)這里r=0,1,2,…。由此得到0=11=02=2X關于原點的r階矩也稱為r階原點矩，定義為‘r

=E(Xr)第11頁，共25頁，2023年，2月20日，星期三矩母函數(shù)X的矩母函數(shù)定義為：MX(t)=E(etX)在假設收斂的條件下，它是我們可以將它進行泰勒級數(shù)展開第12頁，共25頁，2023年，2月20日，星期三由于這個表達式種的系數(shù)，可以使我求出矩，因而叫矩母函數(shù)。根據(jù)這個表達式，我們可以得到即’r是MX(t)的r階導數(shù)在t=0處的值第13頁，共25頁，2023年，2月20日，星期三矩母函數(shù)的若干定理定理一：若MX(t)是隨機變量X的矩母函數(shù)，a和b(b0)是常數(shù)，則(X+a)/b的矩母函數(shù)是M(X+a)/b(t)=eat/bMX(t/b)定理二：若X和Y是分別具有矩母函數(shù)MX(t)和MY(t)的獨立隨機變量，則MX+Y(t)=MX(t)MY(t)定理三(唯一性定理)：設X和Y是分別具有矩母函數(shù)MX(t)和MY(t)的隨機變量,則當且僅當MX(t)＝MY(t)恒等時X和Y有相同的概率分布第14頁，共25頁，2023年，2月20日，星期三特征函數(shù)在矩母函數(shù)里，若令t=i，這里i是虛數(shù)單位，我們得到一個重要的函數(shù)，稱它為特征函數(shù)，用下式表示：X()=MX(i)=E(eiX)從而由于|eix|=1,所以該級數(shù)和積分總是絕對收斂。對第15頁，共25頁，2023年，2月20日，星期三應的：這里第16頁，共25頁，2023年，2月20日，星期三特征函數(shù)的若干定理定理一：若X(t)是隨機變量X的特征函數(shù)，a和b(b0)是常數(shù)，則(X+a)/b的特征函數(shù)是

(X+a)/b()=eia/bX(/b)定理二：若X和Y是分別具有特征函數(shù)X(t)和Y(t)的獨立隨機變量，則

X+Y(t)=X(t)Y(t)定理三(唯一性定理)：設X和Y是分別具有特征函數(shù)X(t)和Y(t)的隨機變量,則當且僅當X(t)＝Y(t)恒等時X和Y有相同的概率分布第17頁，共25頁，2023年，2月20日，星期三引進特征函數(shù)的一個重要理由是定義式子代表密度函數(shù)f(x)的傅立葉變換。根據(jù)傅立葉變換理論，我們能容易地從特征函數(shù)確定密度函數(shù)。事實上，常稱它為反演公式，或反傅立葉變換。利用特征函數(shù)地另一個理由是它總是存在的，而矩母函數(shù)則可能不存在。第18頁，共25頁，2023年，2月20日，星期三對聯(lián)合分布的方差和協(xié)方差若X和Y是有聯(lián)合密度函數(shù)f(x,y)的兩個連續(xù)隨機變量，則X和Y的均值或期望是第19頁，共25頁，2023年，2月20日，星期三方差是第20頁，共25頁，2023年，2月20日，星期三X和Y的協(xié)方差為：第21頁，共25頁，2023年，2月20日，星期三定理一：定理二：若X和Y是獨立隨機變量，則XY=Cov(X,Y)=0定理三：Var(XY)=Var(X)+Var(Y)2Cov(X,Y)定理四：|XY|<=XY第22頁，共25頁，2023年，2月20日，星期三相關系數(shù)若X和Y是獨立的，則Cov(X,Y)=0。另一方面，若X和Y是完全相關的。例如，當X=Y，則Cov(X,Y)=XY=XY。由此我們引入變量X和Y相互依賴的測度：＝XY/XY根據(jù)定理四，我們知道－1<=<=1。在＝0時，我們稱X和Y是不相關的。然而在這些情況下，變量可以是獨立的，也可以是不獨立的。我們將在后面的章節(jié)中會進一步討論相關性。第23頁，共25頁，2023年，2月20日，星期三切比雪夫(Chebyshev)不等式設X是有有限的均值和方差2的隨機變量(離散和連續(xù))。則對于任一正數(shù)P(|X-|>=)<=2/2或對＝kP(|X-|>=k)<=1/k2此定理顯示了離散或連續(xù)隨機變量的一個一般性質第24頁，共25頁，2023年，2月20日，星期三大數(shù)定理大數(shù)定理是切比雪夫不等式的一個有趣推論：令X1,X2,…,Xn是相互獨立的隨機