第一講課程概述與隨機(jī)變量基礎(chǔ)

1、第一講課程概述與隨機(jī)變量基礎(chǔ)本次課的教學(xué)內(nèi)容本次課的教學(xué)內(nèi)容u 課程發(fā)展的歷史課程發(fā)展的歷史u 課程學(xué)習(xí)的必要性課程學(xué)習(xí)的必要性u(píng) 課程學(xué)習(xí)的目標(biāo)課程學(xué)習(xí)的目標(biāo)u 課程的教學(xué)內(nèi)容課程的教學(xué)內(nèi)容u 課程的教學(xué)組織和安排課程的教學(xué)組織和安排u 教學(xué)（學(xué)習(xí)）策略教學(xué)（學(xué)習(xí)）策略u(píng) 隨機(jī)變量基礎(chǔ)隨機(jī)變量基礎(chǔ)一、課程發(fā)展的歷史沿革一、課程發(fā)展的歷史沿革無線電無線電系統(tǒng)的系統(tǒng)的噪聲理噪聲理論論統(tǒng)計(jì)無線統(tǒng)計(jì)無線電理論電理論（60）信號(hào)檢測(cè)信號(hào)檢測(cè)與估計(jì)與估計(jì)（60）隨機(jī)信號(hào)隨機(jī)信號(hào)分析（分析（60）信號(hào)檢測(cè)信號(hào)檢測(cè)與估計(jì)與估計(jì)（40）隨機(jī)信號(hào)隨機(jī)信號(hào)分析與處分析與處理（理（8080） (60)(60)（70

2、年代末年代末-90年代初）年代初）（50-70年代）年代）（90年代初年代初-2001年）年）（2002年年-）20092009年被評(píng)為國(guó)家精品課程和軍隊(duì)優(yōu)質(zhì)課程年被評(píng)為國(guó)家精品課程和軍隊(duì)優(yōu)質(zhì)課程二、課程的重要性二、課程的重要性1.1.從課程研究對(duì)象分析從課程研究對(duì)象分析每天我們都要遇到許多各種類型的信號(hào)，許每天我們都要遇到許多各種類型的信號(hào)，許多信號(hào)是不能用解析的表達(dá)式（多信號(hào)是不能用解析的表達(dá)式（Analytical Expression) 或者確定的方式或者確定的方式(Deterministic Manner)來建模。來建模。Such as Such as Speech Waveform

3、sCommunication SignalsBiological SignalsSeismological Signals Passive Sonar RecordsTemperature Histories.How do we model them?Random processes are basic in the field ofElectrical and computer science engineering(Especially in Communication, Radar, Navigation, Computer Vision, Digital Signal Processi

4、ng)Vibrational theorySeismological signal processingEconomic dataBiomedical signal processing and controlSignal in real world can be classified as two typesSignals確定性信號(hào)隨機(jī)信號(hào)Deterministic SignalRandom SignalStochastic SignalA Deterministic Signal is a signal in which each value of the signal is fixed

5、and can be determined by a mathematical expression, rule, or table.cos2( )sinc( )sin/ctAf teu ttttThe future values of the signal can be calculated from past values with complete confidence.A random signal has a lot of uncertainty about its behaviorThe future values of a random signal cannot be accu

6、rately predicted and can usually only be guessed based on the averages of sets of signals.正弦信號(hào)正弦信號(hào)調(diào)制信號(hào)調(diào)制信號(hào)周期性脈沖信號(hào)周期性脈沖信號(hào)雷達(dá)接收機(jī)的噪聲雷達(dá)接收機(jī)的噪聲鳥叫聲鳥叫聲爆破信號(hào)爆破信號(hào)實(shí)際中的信號(hào)實(shí)際中的信號(hào)移動(dòng)通信 衛(wèi)星通信 通信中的隨機(jī)信號(hào)通信中的隨機(jī)信號(hào)信信源源信信宿宿噪聲噪聲信信道道傳傳輸輸發(fā)送發(fā)送設(shè)備設(shè)備接收接收設(shè)備設(shè)備通信系統(tǒng)模型 兩個(gè)基本問題兩個(gè)基本問題:如何可靠地傳輸信息如何可靠地傳輸信息?如何有效地傳輸信息如何有效地傳輸信息?雷達(dá)發(fā)雷達(dá)發(fā)射機(jī)射機(jī)收發(fā)轉(zhuǎn)收發(fā)轉(zhuǎn)換開

7、關(guān)換開關(guān)雷達(dá)接雷達(dá)接收機(jī)收機(jī)接收機(jī)接收機(jī)輸出輸出接收機(jī)輸出噪聲接收機(jī)輸出噪聲兩個(gè)基本問題兩個(gè)基本問題:如何檢測(cè)回波信號(hào)如何檢測(cè)回波信號(hào)如何估計(jì)信號(hào)的參數(shù)如何估計(jì)信號(hào)的參數(shù)統(tǒng)計(jì)思維方法：從不確定中把握確定性統(tǒng)計(jì)思維方法：從不確定中把握確定性大量大量樣本樣本平均平均展示展示出的出的特征：特征：均值均值方差方差PDF隨機(jī)信號(hào)：一類隨時(shí)間變化的、且變換規(guī)律隨機(jī)信號(hào)：一類隨時(shí)間變化的、且變換規(guī)律帶有許多不確定性的信號(hào)。帶有許多不確定性的信號(hào)。隨機(jī)信號(hào)分析隨機(jī)信號(hào)分析分析信號(hào)的統(tǒng)計(jì)規(guī)律分析信號(hào)的統(tǒng)計(jì)規(guī)律分析信號(hào)通過系統(tǒng)后分析信號(hào)通過系統(tǒng)后統(tǒng)計(jì)規(guī)律的變化統(tǒng)計(jì)規(guī)律的變化隨機(jī)信號(hào)的處理隨機(jī)信號(hào)的處理噪聲背景下最

8、佳地噪聲背景下最佳地提取有用信息。提取有用信息。2. 2. 從課程體系分析從課程體系分析電磁場(chǎng)系列電磁場(chǎng)系列電路系列電路系列計(jì)算機(jī)及其應(yīng)用系列計(jì)算機(jī)及其應(yīng)用系列信號(hào)處理系列課信號(hào)處理系列課電電類類本本科科專專業(yè)業(yè)基基礎(chǔ)礎(chǔ)系系列列課課 信號(hào)處理系列信號(hào)處理系列信號(hào)處理與系統(tǒng)（上）（信號(hào)與系統(tǒng)）信號(hào)處理與系統(tǒng)（上）（信號(hào)與系統(tǒng)）信號(hào)處理與系統(tǒng)（下）（數(shù)字信號(hào)處理）信號(hào)處理與系統(tǒng)（下）（數(shù)字信號(hào)處理）隨機(jī)信號(hào)分析與處理隨機(jī)信號(hào)分析與處理 信號(hào)與信號(hào)與系統(tǒng)系統(tǒng)數(shù)字信號(hào)數(shù)字信號(hào)處理處理隨機(jī)信號(hào)分隨機(jī)信號(hào)分析與處理析與處理現(xiàn)代通現(xiàn)代通信原理信原理模式模式識(shí)別識(shí)別雷達(dá)雷達(dá)系統(tǒng)系統(tǒng)圖像圖像處理處理信息論信息論

9、編碼編碼現(xiàn)代數(shù)字現(xiàn)代數(shù)字信號(hào)處理信號(hào)處理自適應(yīng)信自適應(yīng)信號(hào)處理號(hào)處理統(tǒng)計(jì)信號(hào)統(tǒng)計(jì)信號(hào)處理處理時(shí)頻時(shí)頻分析分析小波小波分析分析我院信號(hào)分析與處理課程體系結(jié)構(gòu)專業(yè)基礎(chǔ)課專業(yè)基礎(chǔ)課專業(yè)課程專業(yè)課程研究生研究生課程課程定位于學(xué)科專業(yè)基礎(chǔ)課定位于學(xué)科專業(yè)基礎(chǔ)課軍用電子信息技術(shù)核心理論基礎(chǔ)軍用電子信息技術(shù)核心理論基礎(chǔ)在課程體系中起承上啟下的作用在課程體系中起承上啟下的作用, ,對(duì)學(xué)科支撐作用明顯對(duì)學(xué)科支撐作用明顯三、課程學(xué)習(xí)的目標(biāo)三、課程學(xué)習(xí)的目標(biāo)隨機(jī)信號(hào)分析隨機(jī)信號(hào)分析信號(hào)檢測(cè)與估計(jì)信號(hào)檢測(cè)與估計(jì)通過課程的學(xué)習(xí)平臺(tái)，通過課程的學(xué)習(xí)平臺(tái)，掌握一定基本知識(shí)；掌握一定基本知識(shí)；培養(yǎng)基本能力；培養(yǎng)基本能力；提高

10、綜合素質(zhì)。提高綜合素質(zhì)。知識(shí)知識(shí)能力能力素質(zhì)素質(zhì)掌握知識(shí)：掌握知識(shí)：n隨機(jī)過程的概念隨機(jī)過程的概念,統(tǒng)計(jì)描述統(tǒng)計(jì)描述n隨機(jī)過程通過線性和非線性系統(tǒng)分析的理論和方法隨機(jī)過程通過線性和非線性系統(tǒng)分析的理論和方法n典型隨機(jī)過程的特征典型隨機(jī)過程的特征n信號(hào)檢測(cè)的概念、規(guī)則和性能分析的理論和方法信號(hào)檢測(cè)的概念、規(guī)則和性能分析的理論和方法n最佳檢測(cè)器的結(jié)構(gòu)和特點(diǎn)最佳檢測(cè)器的結(jié)構(gòu)和特點(diǎn)n參數(shù)估計(jì)的概念、規(guī)則和性能分析參數(shù)估計(jì)的概念、規(guī)則和性能分析培養(yǎng)能力：培養(yǎng)能力：n要能正確地理解、闡述、解釋隨機(jī)現(xiàn)象要能正確地理解、闡述、解釋隨機(jī)現(xiàn)象n運(yùn)用概率、統(tǒng)計(jì)的數(shù)學(xué)方法和計(jì)算機(jī)方法分析與處理運(yùn)用概率、統(tǒng)計(jì)的數(shù)學(xué)方法

11、和計(jì)算機(jī)方法分析與處理 隨機(jī)信號(hào)隨機(jī)信號(hào)n初步具備雷達(dá)、通信、導(dǎo)航等技術(shù)領(lǐng)域的信號(hào)處理系初步具備雷達(dá)、通信、導(dǎo)航等技術(shù)領(lǐng)域的信號(hào)處理系 統(tǒng)的分析、設(shè)計(jì)、仿真的科學(xué)研究能力統(tǒng)的分析、設(shè)計(jì)、仿真的科學(xué)研究能力n自主學(xué)習(xí)能力自主學(xué)習(xí)能力n 表達(dá)能力（論文寫作、口頭表達(dá)）表達(dá)能力（論文寫作、口頭表達(dá)）n 協(xié)作學(xué)習(xí)與研究協(xié)作學(xué)習(xí)與研究四、教學(xué)內(nèi)容和教學(xué)安排四、教學(xué)內(nèi)容和教學(xué)安排按模塊組織教學(xué)按模塊組織教學(xué)劃分為劃分為6個(gè)基本教學(xué)單元個(gè)基本教學(xué)單元隨機(jī)變隨機(jī)變量基礎(chǔ)量基礎(chǔ)典型隨典型隨機(jī)過程機(jī)過程隨機(jī)過隨機(jī)過程基礎(chǔ)程基礎(chǔ)隨機(jī)過隨機(jī)過程變換程變換估計(jì)估計(jì)理論理論檢測(cè)檢測(cè)理論理論基本教基本教學(xué)單元學(xué)單元自主學(xué)習(xí)

12、自主學(xué)習(xí)講授講授作業(yè)（含計(jì)算機(jī)作業(yè)）作業(yè)（含計(jì)算機(jī)作業(yè)）研究研究研討課研討課概念測(cè)試概念測(cè)試實(shí)驗(yàn)或課程設(shè)計(jì)實(shí)驗(yàn)或課程設(shè)計(jì)課堂講授課堂講授 5858學(xué)時(shí)學(xué)時(shí)6 6次課堂討論（或測(cè)試次課堂討論（或測(cè)試+ +研討）研討） 1212學(xué)時(shí)學(xué)時(shí)實(shí)驗(yàn)與論文報(bào)告實(shí)驗(yàn)與論文報(bào)告 8 8學(xué)時(shí)學(xué)時(shí)考試考試 2 2學(xué)時(shí)學(xué)時(shí)課時(shí)分配課時(shí)分配實(shí)驗(yàn)內(nèi)容實(shí)驗(yàn)內(nèi)容1 1 隨機(jī)過程的產(chǎn)生與特征估計(jì)隨機(jī)過程的產(chǎn)生與特征估計(jì) 2 2 隨機(jī)過程通過系統(tǒng)分析隨機(jī)過程通過系統(tǒng)分析3 3 檢測(cè)性能的仿真分析檢測(cè)性能的仿真分析五五 課程考評(píng)方式課程考評(píng)方式 課程考評(píng)以綜合能力為目的，考核方式為：課程考評(píng)以綜合能力為目的，考核方式為：期終考試期

13、終考試+ +實(shí)驗(yàn)實(shí)驗(yàn)+ +課程論文課程論文+ +平時(shí)成績(jī)平時(shí)成績(jī)（50% +15% + 15% + 20%50% +15% + 15% + 20%）三個(gè)實(shí)驗(yàn)，每個(gè)實(shí)驗(yàn)三個(gè)實(shí)驗(yàn)，每個(gè)實(shí)驗(yàn)5%5%平時(shí)成績(jī)平時(shí)成績(jī)=概念測(cè)試成績(jī)概念測(cè)試成績(jī)15分分+討論課表現(xiàn)討論課表現(xiàn)5分分六、參考書六、參考書（1）、）、隨機(jī)信號(hào)分析隨機(jī)信號(hào)分析、哈爾濱工業(yè)大學(xué)，趙淑清、哈爾濱工業(yè)大學(xué)，趙淑清（2）、）、隨機(jī)信號(hào)分析隨機(jī)信號(hào)分析、清華大學(xué)，楊福生、清華大學(xué)，楊福生（3）、）、“Probability,Random Variables and Stochastic Processes ”，Papoulis,(有中譯本

14、）有中譯本）（4）An Introduction to Statistical Signal Processing with Applications，Srinath M.D. John Wily & Sons INC,1979.（5）Detection of Signals in Noise，Academic Press。1995（6）Probability and Random Processes with Applications to Signal Processing and Communications(7) 網(wǎng)絡(luò)課程提供的大量參考文獻(xiàn)網(wǎng)絡(luò)課程提供的大量參考文獻(xiàn)七、課程教學(xué)（學(xué)習(xí)）

15、策略七、課程教學(xué)（學(xué)習(xí)）策略How much do learners remember?Teach others/ Immediate UsePractice by DoingDiscussion GroupDemonstrationAudio-VisualReadingLectureTraditionalTeaching5%10%20%30%50%75%90%（1）實(shí)施研究型教學(xué)（）實(shí)施研究型教學(xué)（Research-Based Teaching）研究型教學(xué)的主要特征：研究型教學(xué)的主要特征：教師引導(dǎo)、學(xué)員自主學(xué)習(xí)，學(xué)員是課程學(xué)習(xí)的主體；教師引導(dǎo)、學(xué)員自主學(xué)習(xí)，學(xué)員是課程學(xué)習(xí)的主體；要有批判的眼

16、光，發(fā)現(xiàn)問題、提出問題和解決問題要有批判的眼光，發(fā)現(xiàn)問題、提出問題和解決問題研究、探索與實(shí)踐研究、探索與實(shí)踐課程論文培養(yǎng)科研素養(yǎng)課程論文培養(yǎng)科研素養(yǎng)交流互動(dòng)，協(xié)作學(xué)習(xí)、基于網(wǎng)絡(luò)的學(xué)習(xí)交流互動(dòng)，協(xié)作學(xué)習(xí)、基于網(wǎng)絡(luò)的學(xué)習(xí)考核考核: 綜合評(píng)定綜合評(píng)定（2 2）基于團(tuán)隊(duì)的學(xué)習(xí)）基于團(tuán)隊(duì)的學(xué)習(xí)(TBL,Team-Based Leacturing)目的：培養(yǎng)協(xié)作精神目的：培養(yǎng)協(xié)作精神分組：分組：4人人1組（固定）組（固定）n 以組的形式完成課程論文以組的形式完成課程論文n 以組的形式參與課堂討論以組的形式參與課堂討論n 以組的形式開展自學(xué)（互相講解）以組的形式開展自學(xué)（互相講解）n 按組評(píng)定成績(jī)（期終考試

17、除外）按組評(píng)定成績(jī)（期終考試除外）概念測(cè)試：概念測(cè)試：目的是加強(qiáng)對(duì)課程概念的理解和評(píng)估目的是加強(qiáng)對(duì)課程概念的理解和評(píng)估隨機(jī)過程基礎(chǔ)（基本概念、統(tǒng)計(jì)描述）隨機(jī)過程基礎(chǔ)（基本概念、統(tǒng)計(jì)描述）隨機(jī)信號(hào)的變換、典型隨機(jī)過程隨機(jī)信號(hào)的變換、典型隨機(jī)過程信號(hào)檢測(cè)與估計(jì)信號(hào)檢測(cè)與估計(jì)每次測(cè)試每次測(cè)試=個(gè)人測(cè)試個(gè)人測(cè)試+小組測(cè)試小組測(cè)試（3 3）注意掌握本課程的基礎(chǔ)性（基本概念的）注意掌握本課程的基礎(chǔ)性（基本概念的理解和表達(dá)）、應(yīng)用性（實(shí)際例子、參考文理解和表達(dá)）、應(yīng)用性（實(shí)際例子、參考文獻(xiàn)的閱讀）和綜合能力（仿真作業(yè)、實(shí)驗(yàn)、獻(xiàn)的閱讀）和綜合能力（仿真作業(yè)、實(shí)驗(yàn)、課題研究、學(xué)習(xí)的互動(dòng)交流、協(xié)作）培養(yǎng)。課題研究

18、、學(xué)習(xí)的互動(dòng)交流、協(xié)作）培養(yǎng)。 第一章學(xué)習(xí)內(nèi)容第一章學(xué)習(xí)內(nèi)容n概率的基本術(shù)語概率的基本術(shù)語n隨機(jī)變量的定義及分布隨機(jī)變量的定義及分布n隨機(jī)變量的數(shù)字特征隨機(jī)變量的數(shù)字特征n隨機(jī)變量的函數(shù)隨機(jī)變量的函數(shù)n多維正態(tài)隨機(jī)變量多維正態(tài)隨機(jī)變量nMATLABMATLAB的統(tǒng)計(jì)分析函數(shù)的統(tǒng)計(jì)分析函數(shù)* *本章學(xué)習(xí)的目標(biāo)：本章學(xué)習(xí)的目標(biāo)：復(fù)習(xí)概率與隨機(jī)變量的理論復(fù)習(xí)概率與隨機(jī)變量的理論加深隨機(jī)變量函數(shù)的理論（重點(diǎn)）加深隨機(jī)變量函數(shù)的理論（重點(diǎn)）深化一些重要概念的理解深化一些重要概念的理解加深多維正態(tài)隨機(jī)變量的理論加深多維正態(tài)隨機(jī)變量的理論增加增加MatlabMatlab的統(tǒng)計(jì)分析函數(shù)的統(tǒng)計(jì)分析函數(shù)( (自主

19、學(xué)習(xí)）自主學(xué)習(xí)）第一章討論課選擇主題第一章討論課選擇主題主要參考文獻(xiàn)：主要參考文獻(xiàn)：【1】Kay， Intuitive Probability and Random Process with MATLAB【2】Probability and Random Processes with Applications to Signal Processing and Communications.本章課堂討論的主題：本章課堂討論的主題：（1）已知隨機(jī)變量）已知隨機(jī)變量X的概率密度，且的概率密度，且Y=X, 求求 如果如果Y=g(X)，其中，其中g(shù)()是確定性函數(shù)，求是確定性函數(shù)，求( , )XYfx

20、y（3）用仿真方法驗(yàn)證中心極限定理）用仿真方法驗(yàn)證中心極限定理（4）如何用）如何用MATLAB繪制二維正態(tài)概率密度和條件繪制二維正態(tài)概率密度和條件概率密度。概率密度。( , )XYfx y（2）習(xí)題）習(xí)題（5）MATLAB有哪些統(tǒng)計(jì)函數(shù)，舉例說明其用法有哪些統(tǒng)計(jì)函數(shù)，舉例說明其用法習(xí)題和習(xí)題的求法習(xí)題和習(xí)題的求法（6）如何用）如何用MATLAB求隨機(jī)變量的統(tǒng)計(jì)特性求隨機(jī)變量的統(tǒng)計(jì)特性（參考例（參考例1.11 例例1.12 習(xí)題）習(xí)題） （7）如何用計(jì)算機(jī)模擬一個(gè)隨機(jī)事件，比如投擲硬）如何用計(jì)算機(jī)模擬一個(gè)隨機(jī)事件，比如投擲硬幣的實(shí)驗(yàn)，并估計(jì)隨機(jī)事件發(fā)生的概率。（參考幣的實(shí)驗(yàn)，并估計(jì)隨機(jī)事件發(fā)生的

21、概率。（參考【1】第第17-19）應(yīng)用研究應(yīng)用研究(1) 隨機(jī)變量的數(shù)字特征應(yīng)用實(shí)例：數(shù)據(jù)壓縮隨機(jī)變量的數(shù)字特征應(yīng)用實(shí)例：數(shù)據(jù)壓縮 參考參考【1】pp155-157(2)數(shù)字通信數(shù)字通信 參考參考【1】pp24-pp26(3) 量化噪聲分析量化噪聲分析 參考參考【2】pp126-134 只需將問題進(jìn)行描述，詳細(xì)分析留作課程只需將問題進(jìn)行描述，詳細(xì)分析留作課程論文進(jìn)行研究（同時(shí)完成論文進(jìn)行研究（同時(shí)完成【2】的習(xí)題）。的習(xí)題）。1.1 1.1 概率的基本術(shù)語概率的基本術(shù)語 隨機(jī)試驗(yàn)隨機(jī)試驗(yàn)(Random Experiment):(Random Experiment): 滿足下列三個(gè)條件的試驗(yàn)稱為

22、隨機(jī)試驗(yàn)：滿足下列三個(gè)條件的試驗(yàn)稱為隨機(jī)試驗(yàn)： (1)(1)在相同條件下可重復(fù)進(jìn)行；在相同條件下可重復(fù)進(jìn)行； (2)(2)試驗(yàn)的結(jié)果不止一個(gè)，所有可能的結(jié)果能事先明確；試驗(yàn)的結(jié)果不止一個(gè)，所有可能的結(jié)果能事先明確； (3)(3)每次試驗(yàn)前不能確定會(huì)出現(xiàn)哪一個(gè)結(jié)果。每次試驗(yàn)前不能確定會(huì)出現(xiàn)哪一個(gè)結(jié)果。例：投擲硬幣例：投擲硬幣(Toss a coin)The outcome varies in an unpredictable fashion when the experiment is repeated under the same conditions.隨機(jī)事件隨機(jī)事件(Random Even

23、t):(Random Event):在隨機(jī)試驗(yàn)中，對(duì)試驗(yàn)中可能出現(xiàn)也可能不出在隨機(jī)試驗(yàn)中，對(duì)試驗(yàn)中可能出現(xiàn)也可能不出現(xiàn)、而在大量重復(fù)試驗(yàn)中卻具有某種規(guī)律性的現(xiàn)、而在大量重復(fù)試驗(yàn)中卻具有某種規(guī)律性的事情，稱為隨機(jī)事件，簡(jiǎn)稱為事件。事情，稱為隨機(jī)事件，簡(jiǎn)稱為事件。如投擲硬幣出現(xiàn)正面就是一個(gè)隨機(jī)事件。如投擲硬幣出現(xiàn)正面就是一個(gè)隨機(jī)事件。投擲骰子出現(xiàn)投擲骰子出現(xiàn)1點(diǎn)點(diǎn)11，2 2，3 3，4 4，5 5，66投擲骰子出現(xiàn)偶數(shù)點(diǎn)投擲骰子出現(xiàn)偶數(shù)點(diǎn)樣本空間樣本空間隨機(jī)事件隨機(jī)事件基本事件基本事件基本事件基本事件(Elementary Event):(Elementary Event):隨機(jī)試驗(yàn)中最簡(jiǎn)單的隨

24、機(jī)事件稱為基本事件，隨機(jī)試驗(yàn)中最簡(jiǎn)單的隨機(jī)事件稱為基本事件，如投擲骰子出現(xiàn)如投擲骰子出現(xiàn)1 1、2 2、.、6 6點(diǎn)是基本事件，點(diǎn)是基本事件，出現(xiàn)偶數(shù)點(diǎn)是隨機(jī)事件，但不是基本事件。出現(xiàn)偶數(shù)點(diǎn)是隨機(jī)事件，但不是基本事件。( (簡(jiǎn)單事件簡(jiǎn)單事件Simple Event)Simple Event)樣本空間樣本空間(Sample Space)(Sample Space)隨機(jī)試驗(yàn)的所有基本事件組成的集合稱為樣本空間隨機(jī)試驗(yàn)的所有基本事件組成的集合稱為樣本空間. .Toss a coin：S=Head, Tail=H,TToss a die: S=1,2,3,4,5,6關(guān)于樣本空間的注釋：關(guān)于樣本空間的注

25、釋：離散的樣本空間離散的樣本空間: Toss a die: S=1,2,3,4,5,6連續(xù)的樣本空間連續(xù)的樣本空間:, , SR or Sa b由多次子試驗(yàn)構(gòu)成的樣本空間由多次子試驗(yàn)構(gòu)成的樣本空間:看下例看下例IF we toss a coin three times and let the triplet xyz denote the outcome “x on the first toss, y on the second toss, z on the third toss”, then the sample space of the experiment isS=HHH, HHT, HT

26、H, HTT, THH, THT, TTH, TTTThe event “ one head and two tails” is defined byE=HTT, THT, TTH關(guān)于樣本空間的注釋：關(guān)于樣本空間的注釋：離散的樣本空間離散的樣本空間Toss a die: S=1,2,3,4,5,6連續(xù)的樣本空間連續(xù)的樣本空間, , SR or Sa b由多次子試驗(yàn)構(gòu)成的樣本空間由多次子試驗(yàn)構(gòu)成的樣本空間可數(shù)無窮的樣本空間可數(shù)無窮的樣本空間S=S1 S1 =HH, HT, TH, TT, S1=H,T頻率和概率頻率和概率(Frequency and Probability):(Frequency

27、 and Probability):n n次重復(fù)試驗(yàn)中，事件次重復(fù)試驗(yàn)中，事件A A發(fā)生的次數(shù)發(fā)生的次數(shù)n nA A稱為事件稱為事件A A的頻數(shù)，比值稱為事件的頻數(shù)，比值稱為事件A A發(fā)生的頻率。頻率反映發(fā)生的頻率。頻率反映了事件了事件A A發(fā)生的頻繁程度，若事件發(fā)生的頻繁程度，若事件A A發(fā)生的可能發(fā)生的可能性大，那么相應(yīng)的頻率也大，反之則較小。性大，那么相應(yīng)的頻率也大，反之則較小。 nnAPAn lim)(概率概率1.2 1.2 隨機(jī)變量的定義隨機(jī)變量的定義(Definition of a random variable)(Definition of a random variable)設(shè)

28、隨機(jī)試驗(yàn)設(shè)隨機(jī)試驗(yàn)E E的樣本空間為的樣本空間為S=eS=e，如果對(duì)于每一，如果對(duì)于每一個(gè)個(gè)e e S S，有一個(gè)實(shí)數(shù)，有一個(gè)實(shí)數(shù)X(e)X(e)與之對(duì)應(yīng)，這樣就得到與之對(duì)應(yīng)，這樣就得到一個(gè)定義在一個(gè)定義在S S上的單值函數(shù)上的單值函數(shù)X(e)X(e)，稱，稱X(e)X(e)為隨機(jī)為隨機(jī)變量，簡(jiǎn)記為變量，簡(jiǎn)記為X X。 隨機(jī)變量是定義在樣本空間隨機(jī)變量是定義在樣本空間S S上的單值函數(shù)上的單值函數(shù)1. 1. 定義定義Interpretation of random variable:Se( )X eReal lineRandom variable is a function that assi

29、gns a numerical value to the outcome of the experiment.A coin tossSe11( )X eReal line10e22()X eMapping of the outcome of a coin toss into the set of real number1( )0eHeadX eeTailA discrete random variable is a random variable that can be take on at most a countable number of possible values根據(jù)隨機(jī)變量取值的

30、不同可以分為：根據(jù)隨機(jī)變量取值的不同可以分為： 連續(xù)型隨機(jī)變量連續(xù)型隨機(jī)變量(Continuous random variable)(Continuous random variable) 離散型隨機(jī)變量離散型隨機(jī)變量(Discrete random variable)(Discrete random variable)2. 2. 概率分布列概率分布列),.,2 , 1()(nkpxXPkkXx1x2.xnpkp1p2.pn11nkkpProbability mass function (PMF)()()(1,2,., )XkkkPxP Xxpkn(0,1)(0,1)分布分布 隨機(jī)變量的可能取

31、值為隨機(jī)變量的可能取值為0 0和和1 1兩個(gè)值，其概率分布為兩個(gè)值，其概率分布為) 10(10,1ppXPpXP10( )1XpkPkpkPMF:( )XPkk0 11ppBernoulli random variableLet A be an event of interest in some experiment, e.g., a device is not defective. We say that a “success” occurs if A occurs when we perform the experiment.Bernoulli random variable IA is

32、equal to 1 if A occurs and zero otherwise. 0if not in A( )1if in AAeIee(0)( )01IAPP Iep (1)( )1IAPP Iep例：信息傳輸問題（例：信息傳輸問題（Message Transmissions）Let X be the number of times needs to be transmitted until it arrivers correctly at its destination. Find the probability that X is an a even number.X is a d

33、iscrete random variable taking on values from S=1,2,3,.The event X=k occurs if k-1 consecutive erroneous transmissions (failures) followed by a error-free one (success) ( )(00.01)XPkP XkP11(1)kkppqpX is called the geometric random variable21112 is even (2 )1111kXkkP XPkqppqqExample: Transmission err

34、or in a binary communications channel .Let X be the number of errors in n independent transmissions. Find the PMF of x. Find the probability of one or fewer errors0101 1- 1- The probability of k errors in n bits transmissions is given by the probability of an error pattern that k 1s and n-k 0s( )(1)

35、kn kXnPkP Xkk We call X the binomial random variable001111(1)(1)01(1)(1)nnnnnnP Xn 泊松分布泊松分布(Poisson distribution)(Poisson distribution)( )()!kXePkP Xkk,.1 , 0k0)(PX1.3 1.3 分布函數(shù)和概率密度函數(shù)分布函數(shù)和概率密度函數(shù)Probability Density Function, （PDF） Distribution Function or Cumulative Distribution Function, (CDF)( )()F

36、 xP Xx( )( )dF xf xdx1. 定義定義1)(0 xF)(1)(xFxXP1221()( )( )P xXxF xF x)()()(1221xFxFxXxP右連續(xù))()(xFxF2. 分布函數(shù)的性質(zhì)（分布函數(shù)的性質(zhì)（Properties of the CDF）()( )()P XxF xF x0)()(12xFxF12xx 不減函數(shù)分布函數(shù)是右連續(xù)的不減函數(shù)，在負(fù)無窮處為分布函數(shù)是右連續(xù)的不減函數(shù)，在負(fù)無窮處為零，正無窮處為零，正無窮處為1 1。對(duì)于連續(xù)型隨機(jī)變量，取。對(duì)于連續(xù)型隨機(jī)變量，取某一特定值的概率是為零的。即某一特定值的概率是為零的。即PX=x=0PX=x=0對(duì)于離散

37、型隨機(jī)變量，分布函數(shù)為階梯函數(shù)，階梯的對(duì)于離散型隨機(jī)變量，分布函數(shù)為階梯函數(shù)，階梯的跳變點(diǎn)出現(xiàn)在隨機(jī)變量的取值點(diǎn)上，跳變的高度為隨跳變點(diǎn)出現(xiàn)在隨機(jī)變量的取值點(diǎn)上，跳變的高度為隨機(jī)變量取該值的概率。機(jī)變量取該值的概率。( )()()() ()kkkkXkkkkxxkF xp U xxPxP x U xx對(duì)于離散型隨機(jī)變量，對(duì)于離散型隨機(jī)變量，PMF與與CDF的關(guān)系為的關(guān)系為( )( )( )XkkkkkP xpF xF xP Xxkxkp( )F xx概率密度概率密度dxxdFxf)()( )0f x ( )1f x dx()()( )211221xxP xXxF xF xf x dx隨機(jī)變量落

38、入(x1,x2) 的概率 ( )( ) ()()Xkkkkkf xPkxxpxx對(duì)于離散型隨機(jī)變量，它的概率密度函數(shù)是一串對(duì)于離散型隨機(jī)變量，它的概率密度函數(shù)是一串 函數(shù)函數(shù)之和，之和， 函數(shù)出現(xiàn)在隨機(jī)變量的取值點(diǎn)，強(qiáng)度為取該值函數(shù)出現(xiàn)在隨機(jī)變量的取值點(diǎn)，強(qiáng)度為取該值的概率。的概率。 ( )() ()()XkkkkkkF xPx U xxp U xx1x2xkx1p2pkp( )F xx1x2xkx1p( )f xx2pkp Check YourselfSuppose X=c, Where c is constantWhich of following is correct?A. ( )()X

39、fxxc ( )()Xfxu xc11( )( )()22Xfxxxc( )( )Xfxx B. C. D. E. None of Above Check YourselfSuppose X=c, Where c is constantWhich of following is correct?A. ( )()Xfxxc ( )()Xfxu xc11( )( )()22Xfxxxc( )( )Xfxx B. C. D. E. None of Above3. 3. 常見概率分布常見概率分布 正態(tài)分布（正態(tài)分布（NormalNormal），也稱高斯（），也稱高斯（GaussGauss）分布）分布

40、222)(exp21)(xxf),(2NX-4-3-2-10123400.10.20.30.40.50.60.70.8N(0,1)N(0,1)正態(tài)分布概率密度正態(tài)分布概率密度 221()( )exp22xXxFxdx21( )exp22xxxdx標(biāo)準(zhǔn)正態(tài)分布函數(shù)標(biāo)準(zhǔn)正態(tài)分布函數(shù)瑞利分布（瑞利分布（RayleighRayleigh）瑞利分布概率密度瑞利分布概率密度 2 2 0002exp)(222xxxxxf，02468101200.050.10.150.20.250.30.350.4指數(shù)（指數(shù)（ExponentialExponential）分布）分布指數(shù)分布概率密度指數(shù)分布概率密度 000)(

41、xxexfx，0123456700.511.5( )1xF xe 指數(shù)分布可以用來表示獨(dú)立隨機(jī)事件發(fā)生的時(shí)間指數(shù)分布可以用來表示獨(dú)立隨機(jī)事件發(fā)生的時(shí)間間隔，比如，旅客進(jìn)機(jī)場(chǎng)的時(shí)間間隔，維基間隔，比如，旅客進(jìn)機(jī)場(chǎng)的時(shí)間間隔，維基（wikipedia)新條目出現(xiàn)的時(shí)間間隔，新條目出現(xiàn)的時(shí)間間隔， 呼叫的時(shí)呼叫的時(shí)間間隔等，間間隔等，是一個(gè)率（是一個(gè)率（Rate)參數(shù)。參數(shù)。在可靠性理論里，指數(shù)分布可以描述一個(gè)器件的使用壽命在可靠性理論里，指數(shù)分布可以描述一個(gè)器件的使用壽命重要特性：無記憶性重要特性：無記憶性(|)()0,0P Xst XsP Xtst重要特性：無記憶性重要特性：無記憶性(|)()0

42、,0P Xst XsP Xtst(40|30)(10)P XXP X(40|30)(40)P XXP X 對(duì)數(shù)正態(tài)分布（對(duì)數(shù)正態(tài)分布（LogNormalLogNormal）高分辨率雷達(dá)雜波分布高分辨率雷達(dá)雜波分布01234567891000.10.20.30.40.5對(duì)數(shù)正態(tài)分布概率密度對(duì)數(shù)正態(tài)分布概率密度 為尺度參數(shù)為尺度參數(shù) 為形狀參數(shù)為形狀參數(shù)221()( )exp( )22lnxf xU xx1.4 1.4 多維隨機(jī)變量及其分布多維隨機(jī)變量及其分布 Multiple Random Variables and Distributions Multiple Random Variables

43、 and Distributions 1. 定義定義Se( ),( )X e Y exy2R ( ), ( )(, )SeX e Y eX YX比如：同時(shí)投擲一個(gè)比如：同時(shí)投擲一個(gè)1元硬幣和一個(gè)元硬幣和一個(gè)1角硬幣，樣角硬幣，樣本空間為本空間為S=HH,TH,TT,HT。HHTHTTHTxy0 01 0( )( )0 11 1iiiiiiif eTTif eHTX eY eif eTHif eHH 2. 2. 二維分布函數(shù)和概率密度二維分布函數(shù)和概率密度 Bivariate CDF and PDF Bivariate CDF and PDF 二維分布函數(shù)圖解二維分布函數(shù)圖解 ,),(yYxXPyxF定義：定義：二維分布函數(shù)性質(zhì)：二維分布函數(shù)性質(zhì)： 1),(0yxF0),( yF0),(xF0),(F1),(F)(),(xFxFX)(),(yFyFY邊緣（邊緣（MarginalMarginal）分布）分布由二維分布函數(shù)可以求出一維分布函數(shù)由二維分布函數(shù)可以求出一維分布函數(shù) 二維隨機(jī)變量落在某一區(qū)域的概率二維隨機(jī)變量落在某一區(qū)域的概率 22122111(, )(,)( ,)(,)( ,)PX YGF x yF x yF x yF x y二維概率密度：