Transcript 概率论与数理统计 §1.5 全概率公式与贝叶斯公式 §1.5 全概率公式和贝叶斯公式 本节主要内容： 1.5.1 全概率公式 1.5.2 贝叶斯公式 §1.5 全概率公式和贝叶斯公式 1.5.1 全概率公式 处理复杂事件的概率时，常将复杂事件分解为若干个互 不相容的较简单事件之和， 先求这些简单事件的概率 再利用有限可加性得到所求事件的概率 全概率公式是概率论中的一个非常重要又实用的公式 它能使复杂事件的概率计算化繁就简，是计算复杂事件 概率的有效方法 §1.5 全概率公式和贝叶斯公式 1.5.1 全概率公式 【引例1】 有三个罐子,1号装有 2 红 1 黑球 , 2号装有 3 红 1 黑球，3号装有 2 红 2 黑球.

概率论与数理统计
§1.5
全概率公式与贝叶斯公式
§1.5 全概率公式和贝叶斯公式
本节主要内容：
1.5.1
全概率公式
1.5.2
贝叶斯公式
§1.5 全概率公式和贝叶斯公式
1.5.1 全概率公式
处理复杂事件的概率时，常将复杂事件分解为若干个互
不相容的较简单事件之和，
先求这些简单事件的概率
再利用有限可加性得到所求事件的概率
全概率公式是概率论中的一个非常重要又实用的公式
它能使复杂事件的概率计算化繁就简，是计算复杂事件
概率的有效方法
§1.5 全概率公式和贝叶斯公式
1.5.1 全概率公式
【引例1】 有三个罐子,1号装有 2 红 1 黑球 , 2号装有 3
红 1 黑球，3号装有 2 红 2 黑球. 某人从中随机取一罐，
再从中任意取出一球，求取得红球的概率.
1
2
3
如何求取得红球的概率？？？
§1.5 全概率公式和贝叶斯公式
1.5.1 全概率公式
【定义1.5.1】 设试验E的样本空间为 ，A1,A2,…,An为
E的一组事件，若满足：
(1) A1,A2,…,An两两互不相容，P ( Ai )  0, i = 1,2,…,n；
n
(2)  Ai  
i 1
则称A1,A2,…,An为完备事件组或样本空间的一个（有穷）
划分．
A2
A3
A1
 An1
An
§1.5 全概率公式和贝叶斯公式
1.5.1 全概率公式
【定义1.5.1】 设试验E的样本空间为 ，A1,A2,…,An为E
的一组事件，若满足：
(1) A1,A2,…,An两两互不相容，P ( Ai )  0, i = 1,2,…,n；
n
(2)  Ai  
i 1
则称A1,A2,…,An 为完备事件组或样本空间的一个（有穷）
划分．
说明：（1）完备事件组不唯一；
（2）若完备事件组只有两个事件，则一定互为
对立事件，反之亦成立。
§1.5 全概率公式和贝叶斯公式
1.5.1 全概率公式
【引例1】（续）： 有三个罐子,1号装有 2 红 1 黑球 , 2
号装有 3 红 1 黑球，3号装有 2 红 2 黑球. 某人从中随机
取一罐，再从中任意取出一球，求取得红球的概率.
分析：

记 Ai ={ 取到的是 i 号罐 } i=1, 2, 3; B={ 取得红球 }
A1,A2,A3的发生都会导致B发生，
A1,A2,A3构成完备事件组．
§1.5 全概率公式和贝叶斯公式
1.5.1 全概率公式
【定理1.2】 若A1,A2, …,An为完备事件组或样本空间的一
个（有穷）划分，则对任一事件B，有
n
P ( B )   P ( Ai )P ( B Ai )
(1.7)
i 1
(1.7)称为全概率公式．
证明：
因为
n
n
i 1
i 1
B  B  B (  Ai )   ( BAi )
由于A1,A2,
…,An两两互不相容，
由有限可加性 P ( B )
n
n
i 1
i 1
 P (  ( BAi ))   P ( BAi )
§1.5 全概率公式和贝叶斯公式
1.5.1 全概率公式
【定理1.2】 若A1,A2, …,An为完备事件组或样本空间的一
个（有穷）划分，则对任一事件B，有
n
P ( B )   P ( Ai )P ( B Ai )
(1.7)
i 1
(1.7)称为全概率公式．
证明：
由假设及乘法公式得到
n
n
i 1
i 1
P ( B)   P ( BAi )   P ( Ai )P ( B Ai ).
§1.5 全概率公式和贝叶斯公式
1.5.1 全概率公式
利用全概率公式求事件B的概率，关键是寻求完备事件
组 A1,A2,…,An;
寻求完备事件组A1,A2,…,An相当于找导致事件B可能发生
的所有原因（所有互不相容的事件）．
§1.5 全概率公式和贝叶斯公式
1.5.1 全概率公式
【引例1】（续）： 有三个罐子,1号装有 2 红 1 黑球 , 2
号装有 3 红 1 黑球，3号装有 2 红 2 黑球. 某人从中随机
取一罐，再从中任意取出一球，求取得红球的概率.
已分析：Ai ={取到的是i号罐}，i=1, 2, 3；B={取得红球}
A1,A2,A3的发生都会导致B发生, A1,A2,A3为完备事件组．
解：依题意 P(B|A1)=2/3，P(B|A2)=3/4，P(B|A3)=1/2，
P(Ai)=1/3,
i=1, 2, 3，
由全概率公式得
3
P ( B )   P ( Ai )P ( B Ai ).
代入数据计算得：P(B)≈
i 1
0.639 .
§1.5 全概率公式和贝叶斯公式
1.5.1 全概率公式
【例1.15】假设有3箱同种型号零件，里面分别装有50
件、30件、40件，而且一等品分别有20件、12件和24件，
现在任取一箱，从中不放回地先后取出两个零件，试求:
(1)先取出的零件是一等品的概率；
(2)两次取出的零件均为一等品的概率．
解: 设Ai=“任取的一箱为第i箱零件”，i=1,2,3，
Bj=“第j次取到的是一等品”，j=1，2．
由题意知
A1、A2和A3构成完备事件组，且
P( A1 )  P( A2 )  P( A3 )  1 / 3
§1.5 全概率公式和贝叶斯公式
1.5.1 全概率公式
【例1.15】假设有3箱同种型号零件，里面分别装有50
件、30件、40件，而且一等品分别有20件、12件和24件，
现在任取一箱，从中不放回地先后取出两个零件，试求:
(1)先取出的零件是一等品的概率；
解:（1）
12
20
 0 .4
 0.4, P ( B1 | A2 ) 
P ( B1 | A1 ) 
30
50
24
 0 .6
P ( B1 | A3 ) 
40
由全概率公式
3
P ( B1 )   P ( Ai )P ( B1 Ai )  0.467 .
i 1
§1.5 全概率公式和贝叶斯公式
1.5.1 全概率公式
【例1.15】假设有3箱同种型号零件，里面分别装有50
件、30件、40件，而且一等品分别有20件、12件和24件，
现在任取一箱，从中不放回地先后取出两个零件，试求:
(2)两次取出的零件均为一等品的概率．
2
2
解:（2） P ( B1 B2 | A1 )  C20
/ C50
 0.1551,
2
P ( B1 B2 | A2 )  C122 / C30
 0.1517,
2
2
/ C40
 0.3538.
P ( B1 B2 | A3 )  C24
由全概率公式
3
P ( B1 B2 )   P ( Ai )P ( B1 B2 Ai )  0.22
i 1
§1.5 全概率公式和贝叶斯公式
1.5.2 贝叶斯公式
【引例2】 已知条件与引例1相同，某人从任一罐中任
意摸出一球，发现是红球，求该球是取自 1号罐的概率.
1
2
3
这是“已知结果求原因”的问题，求一个条件概率。
与引例1问题相比，虽然已知条件相同，但由于问题不
同，解法不同。
这种“已知结果求原因”的概率通常用Bayes（贝叶斯）
公式。
§1.5 全概率公式和贝叶斯公式
1.5.2 贝叶斯公式
在介绍贝叶斯公式并求解引例2之前，分析引例1和引例2
所求解问题的区别：
引例1，完备事件组是导致事件B发生的所有可能性原
因，称完备事件发生的概率为原因概率，问题就是在已
知原因概率和各原因条件下事件B发生的条件概率来求解
事件B发生的无条件概率，这类概率可用全概率公式计算。
§1.5 全概率公式和贝叶斯公式
1.5.2 贝叶斯公式
引例1，完备事件组是导致事件B发生的所有可能性原
因，称完备事件发生的概率为原因概率，问题就是在已
知原因概率和各原因条件下事件B发生的条件概率来求解
事件B发生的无条件概率，这类概率可用全概率公式计算。
与引例1不同，引例2问题，实际上是在已知原因概率以
及各原因条件下事件B发生的条件概率求解事件B已知发
生（已知结果）的条件下各原因发生的条件概率，这类
概率可以利用贝叶斯公式计算。
§1.5 全概率公式和贝叶斯公式
1.5.2 贝叶斯公式
【定理1.3】 设试验E的样本空间为 ，B为E的事件，
A1，A2，…，An为完备事件组，且P(B) > 0，P(Ai) > 0，
i = 1，2，…，n，则
P ( Ai B ) 
P ( Ai ) P ( B Ai )
n
 P ( A )P ( B A )
j
j 1
, i  1,2, , n
(1.8)
j
(1.8)式称为贝叶斯公式．
证明： 由条件概率公式、乘法公式及全概率公式知：
P ( BAi )

P ( Ai | B ) 
P( B)
P ( Ai ) P ( B Ai )
n
 P( A )P( B A )
j 1
j
j
, i  1,2,, n.
§1.5 全概率公式和贝叶斯公式
1.5.2 贝叶斯公式
【引例2】（续）条件同引例1，某人从任一罐中任意摸
出一球，发现是红球，求该球是取自 1号罐的概率.
1
2
3
解： 记Ａi={取到第i号罐} i=1, 2, 3；Ｂ={取得红球}
Ａ1,Ａ2,Ａ3是完备事件组．
其中P(Ｂ|Ａ1)=2/3,P(Ｂ|Ａ2)=3/4,P(Ｂ|Ａ3)=1/2,
P(Ａi)=1/3,i=1,2,3．
利用贝叶斯公式得：
§1.5 全概率公式和贝叶斯公式
1.5.2 贝叶斯公式
贝叶斯公式是英国哲学家Bayes于1763首先提出的；
它是在观察到事件B已发生的条件下，寻找导致B发生
的每个原因的概率.
经过多年的发展和完善，由这一公式的思想已经发展成
为一整套统计推断方法，即“Bayes方法”，这一方法在
计算机诊断、模式
Thomas Bayes
识别、基因组成、
蛋白质结构等很
多方面都有应用．
Born: 1702 in London,
England
Died: 17 Apr. 1761 in
Tunbridge Wells, Kent,
England
§1.5 全概率公式和贝叶斯公式
1.5.2 贝叶斯公式
【例1.16】玻璃杯成箱出售，每箱20只，假设各箱含0，
1，2只残次品的概率分别是0.8，0.1和0.1，某顾客欲购
一箱玻璃杯，在购买时，售货员随机取出一箱，顾客开
箱随机地查看四只，若无残次品，则买下该箱玻璃杯，
否则退回，试求：
(1) 顾客买下该箱玻璃杯的概率；
(2) 在顾客买下的一箱中，确实没有残次品的概率．
解：设B =“顾客买下该箱玻璃杯”，
Ai =“抽到的一箱中有i件残次品”，i = 0，1，2．
显然A0，A1，A2是完备事件组．
§1.5 全概率公式和贝叶斯公式
1.5.2 贝叶斯公式
【例1.16】玻璃杯成箱出售，每箱20只，假设各箱含0，
1，2只残次品的概率分别是0.8，0.1和0.1，某顾客欲购
一箱玻璃杯，在购买时，售货员随机取出一箱，顾客开
箱随机地查看四只，若无残次品，则买下该箱玻璃杯，
否则退回，试求：
B =“顾客买下该箱玻璃杯”，
(1) 顾客买下该箱的概率
；
Ai =“抽到的一箱中有i件残次品
(2) 在顾客买下的一箱中，确实没有残次品的概率
．
解：已知 P( A0 )  0.8,
P( A1 )  0.1,
P ( A2 )  0.1
C 184 12
C 194 4
P( B A0 )  1, P ( B A1 )  4  , P ( B A2 )  4  ,
C 20 19
C 20 5
§1.5 全概率公式和贝叶斯公式
1.5.2 贝叶斯公式
【例1.16】玻璃杯成箱出售，每箱20只，假设各箱含0，
1，2只残次品的概率分别是0.8，0.1和0.1，某顾客欲购
一箱玻璃杯，在购买时，售货员随机取出一箱，顾客开
箱随机地查看四只，若无残次品，则买下该箱玻璃杯，
否则退回，试求：
(1) 顾客买下该箱的概率；
解：由全概率公式
  P (B)  P( A0 )P( B A0 )  P( A1 )P( B A1 )  P( A2 )P( B A2 )
4
12
 0.8  1  0.1   0.1   0.94
5
19
§1.5 全概率公式和贝叶斯公式
1.5.2 贝叶斯公式
【例1.16】玻璃杯成箱出售，每箱20只，假设各箱含0，
1，2只残次品的概率分别是0.8，0.1和0.1，某顾客欲购
一箱玻璃杯，在购买时，售货员随机取出一箱，顾客开
箱随机地查看四只，若无残次品，则买下该箱玻璃杯，
否则退回，试求：
(2) 在顾客买下的一箱中，确实没有残次品的概率．
解：由贝叶斯公式
  P( A0 B) 
P ( A0 ) P ( B A0 )
P ( B)
0 .8  1
 0.85

0.94
§1.5 全概率公式和贝叶斯公式
1.5.2 贝叶斯公式
P ( Ai B ) 
P ( Ai ) P ( B Ai )
n
 P ( A )P ( B A )
j 1
j
, i  1,2, , n
j
贝叶斯公式的常用简单形式:
设事件A、B为试验E的两事件，由于A和
A 是一个完备
事件组，若P(A) > 0，P( A)  0, P(B) > 0，
P( A B) 
P ( A) P ( B A)
P ( A) P ( B A)  P ( A ) P ( B A )
§1.5 全概率公式和贝叶斯公式
1.5.2 贝叶斯公式
【例1.17】根据以往的记录，某种诊断肝炎的试验有如
下效果：对肝炎病人的试验呈阳性的概率为0.95；非肝
炎病人的试验呈阴性的概率为0.95．对自然人群进行普
查的结果为：有千分之五的人患有肝炎．现有某人做此
试验结果为阳性，问此人确有肝炎的概率为多少？
解：设A =“某人确有肝炎”，
B =“某人做此试验结果为阳性”；
由已知条件有
P( B A)  0.95, P ( B A )  0.95,
从而
P ( A)  0.005
P( A )  0.995, P ( B A )  1  P ( B A )  0.05
§1.5 全概率公式和贝叶斯公式
1.5.2 贝叶斯公式
【例1.17】根据以往的记录，某种诊断肝炎的试验有如
下效果：对肝炎病人的试验呈阳性的概率为0.95；非肝
炎病人的试验呈阴性的概率为0.95．对自然人群进行普
查的结果为：有千分之五的人患有肝炎．现有某人做此
试验结果为阳性，问此人确有肝炎的概率为多少？
解：设A =“某人确有肝炎”，
B =“某人做此试验结果为阳性”；
由贝叶斯公式，有
P( A B) 
P ( A) P ( B A)
P ( A) P ( B A)  P ( A ) P ( B A )
 0.087
§1.5 全概率公式和贝叶斯公式
1.5.2 贝叶斯公式
【例1.17】根据以往的记录，某种诊断肝炎的试验有如
下效果：对肝炎病人的试验呈阳性的概率为0.95；非肝
炎病人的试验呈阴性的概率为0.95．对自然人群进行普
查的结果为：有千分之五的人患有肝炎．现有某人做此
试验结果为阳性，问此人确有肝炎的概率为多少？
P ( B A)  0.95, P ( B A )  0.95 这
两个概率都很高．但是，试验呈阳性的人有肝炎的概率
只有8.7%．
本题的结果表明，虽然
如果不注意这一点，将
P ( B A)和 P ( A B)搞混，将会得出
错误诊断，造成不良的后果．
§1.5 全概率公式和贝叶斯公式
1.5.2 贝叶斯公式
在贝叶斯公式中，概率P(Ai)，i=1，2，…，n，通常是
人们在试验之前对Ai的认知，习惯上称其为先验概率．
若试验后事件B发生了，在这种信息下考察Ai的概率
P ( Ai | B), i  1,2,...,n ，它反映了导致B发生的各种原因的
可能性大小，常称为后验概率．
本节小结
1.全概率公式：
（1）完备事件组；
（2）全概率公式：
n
P ( B )   P ( Ai )P ( B Ai )
i 1
（2）全概率公式适用的概率问题。
2.贝叶斯公式：
(1)贝叶斯公式：
P ( Ai B ) 
P ( Ai ) P ( B Ai )
n
 P ( A )P ( B A )
j 1
j
j
(2) 贝叶斯公式适用的概率问题。
, i  1,2, , n
作业
习题二(A) (P28)：
三、解答题: 14,15.