大数定律

Download Report

Transcript 大数定律

节目录
第六章 大数定律与中心极限定理
6.1 大数定律
6.2 中心极限定理
概率统计(ZYH)
本章理论:
大量客观现象
大数定律
随机事件频率的稳定性
大量测量
值的算术
平均值也
是稳定的
抽象
公理化体系
随机事件的概率
基础
概率论的结论 (前5章)
为数理统计
奠定基础
数理统计
概率统计(ZYH)
中心
极限
定理
大量随机
变量服从
正态分布
6.1 大数定律
定理1 (切比雪夫大数定律) 设X1, X2, … 相互独立且
分别有数学期望EXi 及有公共上界的方差 DX i  K (k  1,2, )
1 n
作算术平均值 Yn   X i , 则 对  0, 有
n i 1
lim P  Yn  EYn     1
n 
或
P
Yn  EYn 

0 (n  ) (称Yn  EYn 依概率收敛于0)
1 n
其中 EYn   EX i
n i 1
切比雪夫大数定律以严格的数学形式表明:随着n的增
大, 大量随机变量的算术平均值Yn稳定于它的期望值EYn
概率统计(ZYH)
为了证明切比雪夫定理,先证明切比雪夫不等式:
引理1(切比雪夫不等式)设随机变量 X 有数学期望EX
及方差DX, 则 对  0, 有
P  X  EX
或
DX

 
(切比雪夫不等式)
2
P X  EX     1 
DX

2
(切比雪夫不等式)
证(只就连续型证明)设密度为 f (x), 则有
P X  EX    
 f( x ) d x  
x  EX 

概率统计(ZYH)
1
2
x  EX  
x  EX

2
2

DX

2

( x  EX )2 f ( x ) d x 
f ( x) d x
 xn  x
 e , x  0,
f
(
x
)

用切比雪夫不等式证明
 n!
例1 设X~
0
, x  0,

n
P{0  X  2( n  1)} 
n1

证 EX  
0
EX 2  

0
x n1  x
xn  x
x e dx  
e
n!
n!

0
 ( n  1)

0
xn  x
e d x  n1
n!
n
n 2
n1
 x

x
x
x 2 e x d x  
e x 0  ( n  2)
e x d x  ( n  1)( n  2)
0
n!
n!
n!
所以 DX  EX 2  ( EX )2  ( n  2)( n  1)  ( n  1)2 n  1
从而 P {0  X  2( n  1)}  P {| X  EX | n  1}
n1
n
 1
(这里  n  1)
2 
( n  1)
n1
概率统计(ZYH)
定理1的证明 这时, 对任意的正整数n, 有
1 n
1
EYn   EX i,DYn  2
n i 1
n
n
 DX i 
i 1
K
n
故由切比雪夫不等式知, 对  0, 有
P  Yn  EYn     1 
DYn
2
 1
K
n 2
P  Yn  EYn     1,这就证明了定理1
令n  , 即知 lim
n 
如果把定理1中的Xi看成 n重伯努利试验中第 i 次试验
时A发生的次数(即Xi 服从0-1分布)并记 P(A)=p, 则
1 n
nA
EX i  p, DX i  p(1  p) , Yn   X k 
, EYn  p
n k 1
n
于是定理1可表现为如下的定理 2的形式
概率统计(ZYH)
定理2(伯努利大数定律) 设nA是n重伯努利试验中A
发生的次数, p=P(A), 则对  0, 有
 nA

limP 
 p  1
n 
 n

或
nA P
n
 p ( n   ) (称频率 A 依概率收敛于p)
n
n
伯努利大数定律以严格的数学形式表明:当试验在不
变的条件下重复进行很多次时, 事件的频率稳定于它的概率.
因此, 在实际应用中可用频率代替概率. 这也为概率的公理
化定义提供了理论支持.
概率统计(ZYH)
由伯努利大数定律可知,如果事件A的概率很小, 则事
件A发生的频率也很小 . 因此, 在实际问题中我们常采用
实际推断原理(小概率事件的实际不可能原理)
概率很小的事件在个别试验中几乎是不会发生的
概率很大的事件在个别试验中几乎一定会发生
如果概率很小的事件在一次试验中竟然发生了,那
我们就有理由怀疑“概率很小”这一假定的正确性.
当然,无论事件概率多么小, 总是可能发生的. 因此,
所谓小概率事件的实际不可能原理仅仅适用于个别的或
次数极少的试验, 当试验次数较多时就不适用了.
概率统计(ZYH)
大数定律 是概率论中用来阐明大量随机现象平均结果
稳定性和事件频率稳定性的一系列定理, 条件较弱的还有
定理3(辛钦大数定律)设随机变量序列{Xn}相互独
立, 服从同一分布, 且 E( Xn )= , 则对任意的ε>0 , 有
1 n

lim P   X i       1
n 
 n i 1

或
n
P
X  1  Xi 

 (n  )
n i 1
辛钦大数定律以严格的数学形式表明:当n无限增大
时, 独立同分布的随机变量的平均值依概率收敛于它的期
望. 这为数理统计的矩估计奠定了理论基础.
概率统计(ZYH)