通訊原理第五章機率、隨機訊號與雜訊.ppt

通訊原理第五章 機率、隨機訊號與雜訊;大綱;大綱;機率變數;機率變數;以下列出幾條機率特性、公設(Axioms)： 公設3證明： ;條件機率：若事件A、B為樣本空間S之部分集合，且P(B)0， 則在事件A已發生的前提下，事件B發生的機率即為條件機率。 條件機率的定義： 。 若A與B互斥，也就是 ，則 。 若A是B的子集合，則 。 若 則稱A和B互為獨立(統計上的獨立)。;貝氏定理;隨機變數;取樣空間;事件;機率變數;離散隨機變數;對於離散隨機變數X，其機率質量函數為Px(x)以及值域SX： 隨機變數值域中對於某個元素x, 其機率值必為正值：Px(x) ? 0 對於隨機變數值域中所有元素的機率值相加必為1： 對於任何一個事件B?SX, 則事件B 出現的機率P[B]為 ;累積分配函數;累積分配函數; 根據上表，可以定義累積分配函數為： ;離散型累積分配函數圖例：;期望值(平均值)： 若離散型隨機變數X之機率質量函數為PX(x) ，而g(x)為定義在X之值域上的函數，則g(X)之期望值為： 若離散型隨機變數X1, X2,…, Xn,具有結合機率密度函數，而g為定義在X1, X2,…, Xn之值域上的函數，則： ;期望值;變異數(variance) 離散型隨機變數X的變異數的定義為： 標準差(Standard deviation) 離散型隨機變數X的標準差的定義為： 在統計上，比較常使用變異數的平方根，也就是標準差 ，因為標準差和隨機變數X的單位是一樣的。;離散隨機變數;離散隨機變數;統計平均值： 離散型隨機變數X的平均值的定義為： 平均值的意義：某個隨機變數的平均值，是指該隨機試驗進行許多次以後的平均結果。所以，不僅將各個結果xi做算術平均，要再乘上出現機率PX(xi)或PX(xi)dx進行加權！ n次動差(nth moment)：離散型隨機變數X的n次動差之定義為：;動差形成函數(Moment Generating Function, MGF) 定義： 特性： ;隨機向量(Random Vector)：我們可以延伸隨機變數的概念到多維的隨機向量。 對於兩個離散型隨機變數X和Y，它們的結合機率質量函數 (joint PMF)為： 其中 。 我們也可以定義它們的結合累積分配函數(joint CDF)為： ;結合累積分配函數;接下來介紹離散型隨機變數模型 均勻分配 定義：若是隨機變數X的機率分配為 則稱隨機變數X為離散型均勻分配。 意義：若隨機變數具有n個不同結果，且具有相同之機率，稱為均勻分配。 ㄧ般用在對於事情沒有進一步資訊或概念時，假設每一種狀況發生的機率皆相同。 ; ;白努力分配 定義：若是隨機變數X的機率分配為 則稱隨機變數X為白努力分配，記為X~B(1, p)。 白努力試驗的意義： 每次試驗結果只有兩種，成功或失敗。 任何一次試驗彼此互相獨立。 成功或失敗機率在每次試驗中均相同。 日常生活中，很多例子都是白努力試驗的結果。例如擲硬幣、品管檢查等等。;範例 5-1-5 若隨機變數X~B(1, p)，試求：(1)動差母函數 (2)平均值 (3)標準差 解答 白努力的機率分配 由式子(5-1-2)， (2) MX(t)在t=0 之泰勒展開式： ; 所以 可得 (3)由式子(5-1-1);二項分配 定義：若是隨機變數X的機率分配為 則稱隨機變數X為二項分配，記為X~B(n, p)。 意義：就白努力試驗而言，如果每次成功機率為p，則失敗機率為1-p，執行n次試驗之後，成功次數即為隨機變數X，其值介於0~n之間，則X之機率分配即為二項分配。;二項分配;範例 5-1-7 讓隨機變數X表示n個骰子中出現點數為六點的骰子個數，試計算X的變異數。 解答 點數六點表示成功，所以隨機變數X可用~B(n, 1/6)來表示 由式子(5-1-1)，;卜瓦松分配 定義：若隨機變數X之機率分配為 則稱X為卜瓦松分配，符號記為 意義：卜瓦松分配可視為二項試驗之極限，其特色為 試驗次數非常多 事件發生機率非常低;卜瓦松分配;卜瓦松分配;卜瓦松分配;負二項分配 定義：若隨機變數X之機率分配為 則稱X為負二項分配，符號記為 意義：隨機變數X表示執行一連