Transcript Document 7833278

Chapter 4:
Special Probability Distributions and Densities
4.1 Discrete Uniform Distribution
• Def 1: ตัวแปรสุ่ ม X จะมีการแจกแจงแบบ discrete uniform
distribution หรื อเป็ น discrete uniform r.v. ก็ต่อเมื่อ pdf of X เป็ น
1
f(x) = k
for x = x1, x2, …, xk;
where xi  xj when i  j
4.2 Bernoulli Distribution
• Def 2: ตัวแปรสุ่ ม X จะมีการแจกแจงแบบ Bernoulli distribution
ก็ต่อเมื่อ pdf of X เป็ น
f ( x; )   x (1   )1 x
for x = 0, 1 และ 0    1
4.3 Binomial Distribution
• Def 3: ตัวแปรสุ่ ม X จะมีการแจกแจงแบบ Binomial Distribution
ก็ต่อเมื่อ pdf of X เป็ น
n x
b( x; n, )     (1   ) n  x
 x
for x = 0, 1,…, n และ
0  1
•NOTE: Binomial Expansion
 n  nr r
( x  y)     x y
สาหรับตัวเลขจานวนนับใดๆ
r 0  r 
 n  n  n  n 1
 n 
 n n
n 1
   x    x y  ...  
 x y   y
0
1
 n  1
 n
n
n
• Th’m 3: Moment-generating function ของ binomial distribution
b( x; n, ) จะมีค่าเป็ น
M x (t )  [1   (et  1)]n
d M X (t )
 E( X )
dt
t 0
d 2 M X (t )
2

E
(
X
)
2
dt
t 0
4.4 Geometric Distribution
• Def 4: ตัวแปรสุ่ ม X จะมี Geometric distribution ก็ต่อเมื่อ pdf of
X เป็ น
g ( x; )    (1   ) x 1
for x = 1, 2, 3, … และ
0  1
4.4 Geometric Distribution
• Def 4: ตัวแปรสุ่ ม X จะมี Geometric distribution ก็ต่อเมื่อ pdf of
X เป็ น
g ( x; )    (1   ) x 1
for x = 1, 2, 3, … และ
• ค่าเฉลี่ย & ความแปรปรวนของ Geometric r.v.
1
1 
และ
X 
var( X )  2


0  1
4.5 Hypergeometric Distribution
• Def 5: ตัวแปรสุ่ ม X จะมี Hypergeometric distribution ก็ต่อเมื่อ
pdf of X เป็ น
 M  N  M 
for x = 0, 1, 2,…, n
 

และ
x  n  x 

h( x; n, N , M ) 
,
N
 
n
xM
nx  N M
4.6 Poisson distribution
• ตัวแปรสุ่ มที่เกิดขึ้นเมื่อเราพิจารณาจานวนครั้งที่เกิดขึ้นของเหตุการณ์
ที่เราสนใจ (ความสาเร็ จ) ภายในช่วงระยะเวลา (หรื อพื้นที่/ความยาว/
ปริ มาตร) ที่ต่อเนื่องกันช่วงหนึ่ง
• Ex: - จานวนอุบตั ิเหตุที่เกิดขึ้นต่อเดือนในเขต กทม.
- จานวนครั้งที่มีผโู ้ ทร 1133 ในแต่ละวัน
- จานวนเด็กที่เกิดในประเทศไทยในหนึ่งวัน
4.6 Poisson distribution
• คุณสมบัติของ Poisson Distribution (ซึ่งมี parameter   0 )
1. เมื่อเราแบ่งช่วงเวลา/พื้นที่ให้เล็กลงมากๆ ความน่าจะเป็ น
ของการเกิดขึ้นของความสาเร็ จในช่วงเวลาสั้นๆ ดังกล่าว จะเป็ น
สัดส่ วนโดยตรงกับขนาดของช่วงเวลานั้นๆ --> ความน่าจะเป็ นที่จะเกิด
ความสาเร็ จในช่วงเวลาสั้นๆ h จะประมาณได้ดว้ ย  h
2. ความน่าจะเป็ นที่จะเกิดความสาเร็ จมากกว่าหนึ่งครั้งใน
ช่วงเวลาสั้นๆมีค่าน้อยมาก (ประมาณศูนย์)
3. จานวนครั้งของความสาเร็ จที่เกิดขึ้นในสองช่วงเวลาซึ่งไม่
ทับซ้อนกัน (non-overlapping) จะเป็ นอิสระต่อกัน
4.6 Poisson distribution
Def 6: ตัวแปรสุ่ ม X จะมี Poisson distribution ก็ต่อเมื่อ pdf of X เป็ น
p  x;   
 x e 
for x = 0,1,2,…
x!
• ค่าเฉลี่ย & ความแปรปรวนของ poisson distribution
   และ  2  
• Th’m 4: Moment-generating function ของ poisson distribution
จะมีค่าเป็ น
  e 1
M x t   e
t
คุณสมบัติของค่า e
1
Z
1.lim(1  Z )  e
Z 0

x
x 0
x!
2.
 e
4.7 Multinomial distribution
•Binomial: พิจารณาการทดลองซ้ า n ครั้ง โดยการทดลองแต่ละครั้งมี
ผลการทดลองอยู่ 2 แบบ (สาเร็ จ/ล้มเหลว)
•Multinomial: พิจารณาการทดลองซ้ า n ครั้ง โดยแต่ละครั้งมีผลการ
ทดลองอยู่ k แบบ
- Prob ของการเกิดผลการทดลองแต่ละแบบมีค่าคงที่ (เท่ากันทุก
การทดลอง)
- ผลการทดลองแต่ละครั้งเป็ นอิสระต่อกัน
•ตัวแปรสุ่ ม Xi = จานวนครั้งของการเกิดผลการทดลองแบบ i (i = 1, 2, …,
k) จะมีการกระจายตัวแบบ Multinomial
4.7 Multinomial distribution
•Def 7: ตัวแปรสุ่ ม X1, X 2,..., X k
distribution ก็ต่อเมื่อ joint pdf เป็ น
จะมี Multinomial
n
 x1 x2
xk
f ( x , x ,...x ; n, , ,..., )  





...


k
1 2
k
1 2
k  x1 , x2 ,..., xk  1 2
for x = 0,1,2,…,n where  x
k
i
i 1
i
k
n
and i  1
i 1
4.8 Multivariate Hypergeometric distribution
•Def 8: ตัวแปรสุ่ ม X , X ,...X
จะมี Multivariate
Hypergeometric distribution ก็ต่อเมื่อ joint pdf เป็ น
1
2
k
 Mk 
 M1   M 2 



  ...  
x
x
x
 k 
f ( x1 , x2 ,..., xk ; n, M 1 , M 2 ,..., M k )   1   2 
N
 
n 
k
where  xi  n
xi  0,1,..., n and
xi  M i
for
k
and  M i  N
i 1
i 1
4.9 Continuous Uniform Distribution
• Def 9: ตัวแปรสุ่ ม Xจะมี continuous uniform distribution ก็
ต่อเมื่อ pdf of X เป็ น
 1
for

 x
u ( x;  ,  )     
0
elsewhere

• ค่าเฉลี่ย & ความแปรปรวนของ continuous uniform
1
2
2








 และ 
distribution
  คือ
12
2
4.10 Gamma, Exponential and Chi-Square
Distributions
•Def 10: ตัวแปรสุ่ ม X จะมี Gamma distribution ก็ต่อเมื่อ pdf of X
เป็ น
x
1

 1

x
e
 
g ( x;  ,  )      
0

  0,   0
where
( ) 


0
y 1e y dy
and
for
for x > 0
elsewhere
 0
•Def 11: ตัวแปรสุ่ ม X จะมี Exponential distribution ก็ต่อเมื่อ pdf of
X เป็ น
1 
for x > 0
 e
g ( x; )  
elsewhere

0
where   0
x
• NOTE: Exponential Dist = Gamma Dist with
 1 &  
•Def 12: ตัวแปรสุ่ ม X จะมี Chi-square distribution ก็ต่อเมื่อ pdf of X
เป็ น


1
x e
 
for x > 0
f ( x)   2   / 2 

elsewhere
0
2
2
x
2
2
***

คือ degrees of freedom
• NOTE: Chi-Sq Dist = Gamma Dist with


2
&  2
• Th’m 5: The rth about the origin of the gamma distribution คือ
 r    r 
r 
  
• ค่าเฉลี่ย & ค่าความแปรปรวน ของ gamma distribution คือ
  
และ   
2
2
• ค่าเฉลี่ย & ค่าความแปรปรวน ของ exponential distribution คือ
และ   
 
2
2
• ค่าเฉลี่ย & ค่าความแปรปรวน ของ chi-square distribution คือ
 
และ  2  2
• Th’m 6: The moment generating fn of the gamma
distribution คือ
M x  t   1   t 

4.11 Beta distribution
• Def 13 : ตัวแปรสุ่ ม X จะมี beta distribution ก็ต่อเมื่อ pdf of X เป็ น
for 0 < x < 1
     

f  x          
0

where
 0
and
x 1 1  x 
 0
 1
elsewhere
• ค่าเฉลี่ย & ค่าความแปรปรวน ของ beta distribution คือ


 
และ
2 

2




     1
4.12 Normal Distribution
• Def 14: ตัวแปรสุ่ ม X จะมี normal distribution ก็ต่อเมื่อ pdf of
X เป็ น
N  x;  ,   
1
e
 2
1 x   


2  
2
for
  x  
where
X  
SDX  
 0
Symmetry
• Th’m 7: The moment generating fn of the normal distribution คือ
M x t   e
1
2
 t   2t 2
• Def 15: Standard normal distribution คือ normal distribution ที่มี
ค่าเฉลี่ย   0 และส่ วนเบี่ยงเบนมาตรฐาน   1
--> pdf of Standard Normal r.v.
1 21 x2
N  x;   0,   1 
e
2
• Th’m 8: ถ้า X มี normal distribution โดยที่ mean   และ sd 
จะได้วา่ ตัวแปรสุ่ ม
Z
X 

จะเป็ น standard normal distribution
การประมาณค่า Binomial ด้วย Normal Distribution
“De Moivre - Laplace Limit Theorem”
• Th’m 9: ถ้าตัวแปรสุ่ ม X มี binomial distribution โดยมี parameter n และ 
(  X  n ;  X2  n (1   ) )
จะได้วา่ สาหรับ ค่าคงที่ a และ b
ใดๆ


X  n
1
lim P  a 
 b 
n 


2
n

1







b
a
e
 z2 / 2
dz
• Th’m 10: คุณสมบัติของ MGF
1. MX(t) = MY(t) ก็ต่อเมื่อ pdf of X = pdf of Y
2. ถ้า lim ของ MX(t) มีค่าเข้าสู่ MY(t) จะได้วา่
lim ของ pdf of X มีค่าเข้าใกล้ pdf of Y
• Standardized binomial จะเข้าใกล้ standard normal distribution
เมื่อ n   (และ  มีค่าที่ไม่ใกล้เคียง 0 หรื อ 1
จนเกินไป)
5.6The Bivariate Normal Distribution
• Def 16: ตัวแปรสุ่ ม X และ Y คู่หนึ่งมี bivariate normal distribution ก็
ต่อเมื่อ joint pdf เป็ น
f  x, y  
e

1
2 1  2

2
 x   2
 x  1  y  2   y  2  
1

 2  

 
 



 1 
 1  2   2  

2 1 2 1   2
for   x   and
where 1  0, 2  0 and
  y  
1    1
คุณสมบัติสาคัญของ Bivariate Normal Distribution
1. Joint pdf ถูกกาหนดด้วย parameter 5 ตัว: 1 , 2 ,  1,  2 , 
2. Marginal pdf of X จะเป็ น Normal Dist ซึ่งมี   1 &    1
3. Marginal pdf of Y จะเป็ น Normal Dist ซึ่งมี   2 &    2
4. = Correlation Coeff. แสดงถึง corr ของ r.v. X & Y

cov( X , Y )
;
Var ( X )Var (Y )
1    1
5. Conditional pdf of Y given X=x จะเป็ น Normal Dist ซึ่งมี
Y | x
2
 2  
( x  1 );
1
 Y2| x   22 (1   2 )
6. Conditional pdf of X given Y=y จะเป็ น Normal Dist ซึ่งมี
X |y
1
 1  
( x  2 );
2
 X2 | y   12 (1   2 )
7.ถ้า X & Y เป็ น bivariate normal, X & Y จะเป็ นอิสระต่อกัน ก็ต่อเมื่อ
  0 (หรื อ cov(X,Y) = 0)