Transcript 大数定律
节目录
第六章 大数定律与中心极限定理
6.1 大数定律
6.2 中心极限定理
概率统计(ZYH)
本章理论:
大量客观现象
大数定律
随机事件频率的稳定性
大量测量
值的算术
平均值也
是稳定的
抽象
公理化体系
随机事件的概率
基础
概率论的结论 (前5章)
为数理统计
奠定基础
数理统计
概率统计(ZYH)
中心
极限
定理
大量随机
变量服从
正态分布
6.1 大数定律
定理1 (切比雪夫大数定律) 设X1, X2, … 相互独立且
分别有数学期望EXi 及有公共上界的方差 DX i K (k 1,2, )
1 n
作算术平均值 Yn X i , 则 对 0, 有
n i 1
lim P Yn EYn 1
n
或
P
Yn EYn
0 (n ) (称Yn EYn 依概率收敛于0)
1 n
其中 EYn EX i
n i 1
切比雪夫大数定律以严格的数学形式表明:随着n的增
大, 大量随机变量的算术平均值Yn稳定于它的期望值EYn
概率统计(ZYH)
为了证明切比雪夫定理,先证明切比雪夫不等式:
引理1(切比雪夫不等式)设随机变量 X 有数学期望EX
及方差DX, 则 对 0, 有
P X EX
或
DX
(切比雪夫不等式)
2
P X EX 1
DX
2
(切比雪夫不等式)
证(只就连续型证明)设密度为 f (x), 则有
P X EX
f( x ) d x
x EX
概率统计(ZYH)
1
2
x EX
x EX
2
2
DX
2
( x EX )2 f ( x ) d x
f ( x) d x
xn x
e , x 0,
f
(
x
)
用切比雪夫不等式证明
n!
例1 设X~
0
, x 0,
n
P{0 X 2( n 1)}
n1
证 EX
0
EX 2
0
x n1 x
xn x
x e dx
e
n!
n!
0
( n 1)
0
xn x
e d x n1
n!
n
n 2
n1
x
x
x
x 2 e x d x
e x 0 ( n 2)
e x d x ( n 1)( n 2)
0
n!
n!
n!
所以 DX EX 2 ( EX )2 ( n 2)( n 1) ( n 1)2 n 1
从而 P {0 X 2( n 1)} P {| X EX | n 1}
n1
n
1
(这里 n 1)
2
( n 1)
n1
概率统计(ZYH)
定理1的证明 这时, 对任意的正整数n, 有
1 n
1
EYn EX i,DYn 2
n i 1
n
n
DX i
i 1
K
n
故由切比雪夫不等式知, 对 0, 有
P Yn EYn 1
DYn
2
1
K
n 2
P Yn EYn 1,这就证明了定理1
令n , 即知 lim
n
如果把定理1中的Xi看成 n重伯努利试验中第 i 次试验
时A发生的次数(即Xi 服从0-1分布)并记 P(A)=p, 则
1 n
nA
EX i p, DX i p(1 p) , Yn X k
, EYn p
n k 1
n
于是定理1可表现为如下的定理 2的形式
概率统计(ZYH)
定理2(伯努利大数定律) 设nA是n重伯努利试验中A
发生的次数, p=P(A), 则对 0, 有
nA
limP
p 1
n
n
或
nA P
n
p ( n ) (称频率 A 依概率收敛于p)
n
n
伯努利大数定律以严格的数学形式表明:当试验在不
变的条件下重复进行很多次时, 事件的频率稳定于它的概率.
因此, 在实际应用中可用频率代替概率. 这也为概率的公理
化定义提供了理论支持.
概率统计(ZYH)
由伯努利大数定律可知,如果事件A的概率很小, 则事
件A发生的频率也很小 . 因此, 在实际问题中我们常采用
实际推断原理(小概率事件的实际不可能原理)
概率很小的事件在个别试验中几乎是不会发生的
概率很大的事件在个别试验中几乎一定会发生
如果概率很小的事件在一次试验中竟然发生了,那
我们就有理由怀疑“概率很小”这一假定的正确性.
当然,无论事件概率多么小, 总是可能发生的. 因此,
所谓小概率事件的实际不可能原理仅仅适用于个别的或
次数极少的试验, 当试验次数较多时就不适用了.
概率统计(ZYH)
大数定律 是概率论中用来阐明大量随机现象平均结果
稳定性和事件频率稳定性的一系列定理, 条件较弱的还有
定理3(辛钦大数定律)设随机变量序列{Xn}相互独
立, 服从同一分布, 且 E( Xn )= , 则对任意的ε>0 , 有
1 n
lim P X i 1
n
n i 1
或
n
P
X 1 Xi
(n )
n i 1
辛钦大数定律以严格的数学形式表明:当n无限增大
时, 独立同分布的随机变量的平均值依概率收敛于它的期
望. 这为数理统计的矩估计奠定了理论基础.
概率统计(ZYH)