Transcript + P(B)

銘傳應用統計系
第四章 Chapter 4
機率論基礎
Basic Probability
4-1
學習目標
銘傳應用統計系
1. 定義實驗, 結果, 事件, 樣本空間, 與機率
2. 認識簡單事件與複合事件
3. 事件機率的計算﹕使用列聯表, 范氏圖, 或
樹圖
4. 貝氏定理及其應用
4-2
動動腦想一想
銘傳應用統計系
你知道投擲一枚硬幣得到正
面(人頭)的機率為0.5 即 50%.
比50%是什麼意思呢?
請同學丟100次硬幣看看會有
什麼結果?
?1984-1994 T/Maker Co.
4-3
可能得到的一種類似結果*
銘傳應用統計系
出現正面的次數
= 出現正面的比例 -> 出現正面的機率
投擲次數
1.00
0.75
0.50
0.25
0.00
0
4-4
20
50
75
100
累積投擲次數 (Cumulative coin tosses)
銘傳應用統計系
實驗、結果與事件
Experiments,
Outcomes, and Events
4-5
實驗、結果與事件
銘傳應用統計系
1. 實驗 (Experiment)

觀察一個具有不確定結果的現象的過程。
2. 樣本點 (Sample point)

實驗結束所觀察到的結果稱為樣本點,通常以文
字敘述或符號表示。
3. 樣本空間 (Sample space) ,符號:S

指所有可能得觀察到的結果的集合。
4-6
實驗與其結果範例
銘傳應用統計系
實驗(Experiment)
樣本空間(Sample Space)
• 投擲一枚硬幣
• 投擲兩枚硬幣
• 從一副樸克牌抽一張牌
• 從一副樸克牌抽一張牌
• 觀看一場足球比賽
• 檢查某一零件
• 今日出門遇到的第一個人
4-7
Head, Tail
HH, HT, TH, TT
2, 2, ..., A (52)
Red, Black
Win, Lose, Tie
Defective, OK
Male, Female
結果的性質
銘傳應用統計系
實驗為觀察性別
1. 互斥性 (Mutually exclusive)

兩結果不能同時發生
 不可能有人又是男性又是女性
2.周延性 (Collectively
exhaustive)

在樣本空間中的某一結果必定發生
 Male or female性別非男即女
4-8
事件 (Events)
銘傳應用統計系
1. 任何樣本點的組合稱為事件。
2. 簡單事件 (Simple event)

僅具有單一樣本點的事件。
3. 複合事件 (Compound event)

事件與事件的組合而成的事件。
4. 聯合事件 (Joint event)
需要用兩種或以上的屬性來描述樣本點的事件。
4-9
事件範例
銘傳應用統計系
實驗:
投擲兩枚硬幣觀察其正反面
事件
樣本空間
出現一正面一反面
出現至多一反面
出現至少一正面
兩個都是正面
都沒有出現正面
4 - 10
事件中包含的樣本點
HH, HT, TH, TT
HT, TH
HH, HT, TH
HH, HT, TH
HH
空集合
簡單事件
銘傳應用統計系
The Event of a Triangle
There are 5 triangles in this collection of 18 objects
4 - 11
聯合事件
銘傳應用統計系
The event of a triangle AND blue in color
4 - 12
Two triangles that are blue
樣本空間的描述
銘傳應用統計系
集合的呈列 (Listing)
1.

S: {Head, Tail}
2.
范氏圖 (Venn Diagram)
3.
列聯表 (Contingency Table)
4.
樹圖 (Tree Diagram)
4 - 13
范氏圖 Venn Diagram
銘傳應用統計系
Experiment: 投擲兩枚硬幣觀察得到的正反面
結果
Outcome
Compound
event
TH
複合事件
HT
HH
TT
S
集合的呈列
S: {HH, HT, TH, TT}
4 - 14
Sample space樣本空間
列聯表 Contingency Table
銘傳應用統計系
Experiment:投擲兩枚硬幣觀察得到的正反面
簡單事件第一
枚得到正面
Simple
event
(Head on
1st coin)
第一枚
硬幣
第二枚硬幣
Head正 Tail反
Head正
HH
HT
HH, HT
Tail反
TH
TT
TH, TT
Total
HH, TH HT, TT
集合的呈列
S: {HH, HT, TH, TT}
4 - 15
Total
S
Outcome
(Count,
total %
shown
usually)
Sample Space樣本空間
樹圖 Tree Diagram
銘傳應用統計系
Experiment:投擲兩枚硬幣觀察得到的正反面
H
HH
T
HT
H
TH
T
TT
H
Outcome
結果
T
集合的呈列
S: {HH, HT, TH, TT}
4 - 16
Sample space樣本空間
銘傳應用統計系
複合事件
Compound Events
4 - 17
複合事件的形成
銘傳應用統計系
1. 交集 (Intersection)



A、B兩事件同時發生
敘述時使用且( AND )
 符號表達 (例如: A  B)
2. 聯集 (Union)



A事件發生或B事件發生或AB兩事件同時發生
敘述時使用或( OR )
符號表達 (例如: A  B)
4 - 18
事件的交集: 范氏圖
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
樣本空間:
共52張牌
Sample
space:
{2R, 2R,
2B, ..., AB
Black
得到黑色牌事
件: 2B, ...,
AB
Ace
Event Ace得到A事件:
AR, AR, AB, AB
4 - 19
Event Black
S
交乘事件同時得到A且黑色事件
Joint event (Ace  Black):
AB, AB
事件的交集: 列聯表
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
樣本空間:
共52張牌
點數
Sample
Type
space (S):
Ace
2R, 2R,
2B, ..., AB
Non-Ace
顏色Color
Red
Black
Total
Ace & Ace & Ace
Red Black
Non & Non & NonRed Black Ace
Red Black
S
Simple
event
Ace
得到A事
件:
AR,
AR,
AB,
AB
Joint event
Ace AND Black Total
黑A事件:
Simple event Black得到黑色牌事件: 2B, ..., AB
AB, AB
4 - 20
事件的聯集: 范氏圖
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
樣本空間:
共52張牌
Sample
space:
2R, 2R,
2B, ..., AB
Black
Ace
A事件Event Ace:
AR, AR, AB, AB
4 - 21
S
Event
Black
黑牌:
2B,
2B, ...
, AB
Event 黑牌或A(Ace  Black):
AR, ..., AB, 2B, ..., KB
事件的聯集 : 列聯表
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
樣本空間:
共52張牌
Sample
Type
space (S):
Ace
2R, 2R,
2B, ..., AB
Non-Ace
Color
Black
Total
Ace & Ace & Ace
Red Black
Non & Non & NonRed Black Ace
Red Black
S
Joint event
Ace OR
Total
Black:
AR, ..., AB, 2B, ..., KB
4 - 22
Red
Simple
event
Ace:
AR,
AR,
AB,
AB
Simple event Black黑
牌: 2B, ..., AB
特殊事件
銘傳應用統計系
1.空事件 (Null event)
 某張牌又是梅花又是紅磚
2. 互補事件 (Complement of event)
 對於事件A,所有不在A事件中的結
果的集合 A或AC
3. 互斥事件 (Mutually exclusive event)
 A事件發生則B事件必不發生,反
之亦然;即A、B兩事件不可能同
時發生
4 - 23
Null Event

互補事件範例
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
樣本空間:
共52張牌
Sample
space:
2R, 2R,
2B, ..., AB
Event Black黑牌:
2B, 2B, ..., AB
4 - 24
Black
S
Complement of event Black, Black 黑
牌的補事件? 2R, 2R, ..., AR, AR
互斥事件範例
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
樣本空間:
共52張牌
Sample
space:
2, 2,
2, ..., A

Event Spade黑桃牌:
2, 3, 4, ..., A
4 - 25

S
Outcomes
in event
Heart紅心牌:
2, 3, 4,
..., A
Events  & are mutually exclusive
銘傳應用統計系
機率
Probabilities
4 - 26
何謂機率?
銘傳應用統計系
1. 觀察一個實驗的結果,某事 1
件會發生的可能性以數值來表示
 P(Event)
 P(A)
.5
 Prob(A)
必然發生
Certain
2. 機率值必定在 [0, 1]
3. 樣本空間點的機率總和為1
0
4 - 27
不會發生
Impossible
事件機率的指定
銘傳應用統計系
What is the
probability?
1.
傳統先決方法
a priori classical Method
2.
傳統實驗方法
Empirical classical method
3.
主觀訂定方法
Subjective method
4 - 28
傳統先決方法
銘傳應用統計系
1.需要事先了解得到結果的程序
2.能在實驗前指定機率
3.事件的機率為P(Event) = X / T

X = 事件包含的樣本點數No. of event outcomes

T = 樣本空間中的樣本點總數Total outcomes in sample
?1984-1994 T/Maker Co.
space
每一樣本點發生的可能性相等Each of T outcomes is
equally likely
 每一樣本點的機率P(Outcome) = 1/T

4 - 29
傳統實驗方法
銘傳應用統計系
1.
實際收集資料
2.
實驗後才指定機率
3.
事件發生機率
P(Event) = X / T


4.
重複實驗了T次
事件實際觀察發生了X次
也稱為相對次數方法
4 - 30
檢查了100個零件
發現損壞了兩個
Of 100 parts
inspected, only
2 defects!
主觀認定方法
銘傳應用統計系
股票明天漲跌的機
率為何? ?1984-1994 T/Maker Co.
1. 需要個人對情形具充分的掌握
2. 實驗前已決定
3. 不同的人認定的機率會有差異
4 - 31
複合事件的機率
銘傳應用統計系
1.
複合事件常為事件的聯集與交集
2.
通常使用列聯表來表示
3.
使用的公式方法

加法規則 (Additive rule)
條件機率規則 (Conditional probability formula)

乘法規則 (Multiplicative rule)

4 - 32
使用列聯表求解事件機率
銘傳應用統計系
Event
Event
B1
B2
Total
A1
P(A1  B1) P(A1  B2) P(A1)
A2
P(A2  B1) P(A2  B2) P(A2)
Total
P(B1)
交叉交集機率Joint
probability
4 - 33
P(B2)
1
邊界機率Marginal (simple)
probability
使用列聯表求事件機率範例
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
Color
Red
Black
Total
Ace
2/52
2/52
4/52
Not-Ace
24/52
24/52 48/52
Total
26/52
26/52 52/52
Type
得紅牌的機率P(Red)
4 - 34
得紅牌且A的機
率P(Ace AND
Red)
得A的
機率
P(Ace)
想一想動動腦
銘傳應用統計系
求出下列事件的機率?
P(A) =
Event
A
P(D) =
P(C  B) =
P(A  D) =
Alone
Total
6
B
1
3
4
Total
5
5
10
P(B  D) =
4 - 35
Event
C
D
4
2
Group Class
*解答*
銘傳應用統計系
機率如下:
P(A) = 6/10
P(D) = 5/10
P(C  B) = 1/10
P(A  D) = 9/10
P(B  D) = 3/10
4 - 36
Event
A
Event
C
D
4
2
Total
6
B
1
3
4
Total
5
5
10
銘傳應用統計系
加法規則
Additive Rule
4 - 37
銘傳應用統計系
加法規則
Additive Rule
1. 使用於複合事件聯集事件的機率求解
2. P(A OR B) = P(A  B)
= P(A) + P(B) - P(A  B)
3. 互斥事件時:
P(A OR B) = P(A  B) = P(A) + P(B)
4 - 38
Additive Rule 範例
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
Color
Red
Black
2
2
Total
4
Non-Ace
24
24
48
Total
26
26
52
Type
Ace
P(Ace OR Black) = P(Ace)+ P(Black)- P(Ace  Black)
得黑牌或
4
26
2
28




A的機率
52 52 52 52
4 - 39
動動腦想一想
銘傳應用統計系
使用加法規則求解下列機率Using the
additive rule, what is the probability?
P(A  D) =
Event
A
P(B  C) =
4 - 40
Alone
Event
C
D
4
2
Total
6
B
1
3
4
Total
5
5
10
Group Class
解答*
銘傳應用統計系
使用加法規則得到:Using the additive
rule, the probabilities are:
P(A  D) = P(A) + P(D) - P(A  D)
6
5
2
9




10 10 10 10
P(B  C) = P(B) + P(C) - P(B  C)
4
5
1
8




10 10 10 10
4 - 41
銘傳應用統計系
條件機率
Conditional Probability
4 - 42
Conditional Probability
條件機率
銘傳應用統計系
1. 當另一事件發生後某事件發生的機率(Event
probability given that another event occurred)
2. 當另一事件發生後新的訊息改變了原來的樣本空
間(Revise original sample space to account
for new information)

排除了一些樣本點(結果)
3. P(A | B) = P(A and B)
P(B)
4 - 43
給定B事件發生後
A事件發生的機率
銘傳應用統計系
4 - 44
使用 Venn Diagram求解
Conditional Probability
使用 Venn Diagram求解
Conditional Probability
銘傳應用統計系
Black
Ace
4 - 45
S
使用 Venn Diagram求解
Conditional Probability
銘傳應用統計系
Black
Ace
4 - 46
S
Black
appears?
Eliminates all
other outcomes
使用 Venn Diagram求解
Conditional Probability
銘傳應用統計系
Black
Ace
S
Event (Ace AND Black)
4 - 47
Black appear?
Eliminates all
other outcomes
Black
(S)
使用 Venn Diagram求解
Conditional Probability
銘傳應用統計系
Black
Ace
S
黑牌且是A的事件
Event (Ace AND Black)
4 - 48
黑牌出現排除了紅
牌
Black
(S)
使用 Venn Diagram求解
Conditional Probability
銘傳應用統計系
New sample space
Black
(S)
Event (Ace AND Black)
4 - 49
使用 Venn Diagram求解
Conditional Probability
銘傳應用統計系
新的樣本空間
New sample space
P(A | B) = P(A and B)
P(B)
得到黑牌且是A的事件
Event (Ace AND Black)
4 - 50
Black
(S)
銘傳應用統計系
使用Contingency Table求
解 Conditional Probability
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
Color
Red
Type
Ace
2
2
4
Non-Ace
24
24
48
26
26
52
給定抽中黑
牌後抽出A Total
的機率
P(Ace AND Black)
P(Ace | Black) =
4 - 51
Total 樣本空間
Black
P(Black)

2 / 52
26 / 52
的更新
Revised
sample
space

2
26
Independence獨立事件
銘傳應用統計系
1. A事件的發生不影響B事件發生的
機率時Event occurrence does not
affect probability of another event

投擲一硬幣兩次Toss 1 coin twice
2. 不具有引發或因果關係Causality
not implied
3. 如何判定呢?Tests for
 P(A | B) = P(A)
 P(B | A) = P(B)
 P(A and B) = P(A)*P(B)
4 - 52
使用 Venn Diagram求解
Conditional Probability
銘傳應用統計系
新的樣本空間
New sample space
P(A | B) = P(A and B)
P(B)
得到黑牌且是A的事件
Event (Ace AND Black)
4 - 53
Black
(S)
Independence獨立事件
銘傳應用統計系
1. A事件的發生不影響B事件發生的
機率時Event occurrence does not
affect probability of another event

投擲一硬幣兩次Toss 1 coin twice
2. 不具有引發或因果關係Causality
not implied
3. 如何判定呢?Tests for
 P(A | B) = P(A)
 P(B | A) = P(B)
 P(A and B) = P(A)*P(B)
4 - 54
Tree Diagram樹圖
銘傳應用統計系
實驗: 從一內裝有14支綠色G、6支紅色
R筆的盒子中抽出2支筆來(不放回)。
P(R|R) = 5/19
R
P(R) = 6/20
R
G
P(G|R) = 14/19
相依事件
P(R|G) = 6/19
R
Dependent!
G
P(G) = 14/20
G
P(G|G) = 13/19
4 - 55
動動腦想一想
銘傳應用統計系
使用下表及公式求出下列機率?
P(A|D) =
P(C|B) =
C與B是否獨立
(independent)?
4 - 56
Alone
Event
A
Event
C
D
4
2
Total
6
B
1
3
4
Total
5
5
10
Group Class
解答*
銘傳應用統計系
使用機率公式得到:
P(A  D) 2 / 10 2
P(A | D) =


P(D)
5 / 10 5
P(C  B) 1 / 10 1
P(C | B) =


P(B)
4 / 10 4
因此A、D兩事件及
5 1
P(C) =

C、B兩事件均為相
10 4
依事件(Dependent)
4 - 57
銘傳應用統計系
乘法規則
Multiplicative Rule
4 - 58
銘傳應用統計系
Multiplicative Rule
乘法規則
1. 使用來計算複合事件中交集事件的機率(Used
to get compound probabilities for
intersection of events)
 也稱為交乘事件(Called joint events)
2. A交集B的機率為P(A and B) = P(A  B)
= P(A)*P(B|A)
= P(B)*P(A|B)
3. 對於獨立事件For independent events:
P(A and B) = P(A  B) = P(A)*P(B)
4 - 59
銘傳應用統計系
Multiplicative Rule
乘法規則範例
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
Color
Red
Black
2
2
Total
4
Non-Ace
24
24
48
Total
26
26
52
Type
Ace
P(Ace AND Black) = P(Ace)  P(Black|Ace)
4
2
2
1




得到黑牌且A的機率
52
4
52
26
4 - 60
動動腦想一想
銘傳應用統計系
使用乘法規則求解下列機率?
P(C  B) =
P(B  D) =
Event
A
P(A  B) =
4 - 61
Alone
Event
C
D
4
2
Total
6
B
1
3
4
Total
5
5
10
Group Class
解答*
銘傳應用統計系
使用乘法規則得到:
5
P(C  B) = P(C)  P(B|C) 
P(B  D) = P(B)  P(D|B) 
10
4
10
P(A  B) = P(A)  P(B|A)  0
4 - 62

1
5

1
10
3
3

4 = 10
動動腦想一想
銘傳應用統計系
使用乘法規則求解下列機率?
P(C  B) =
P(B  D) =
Event
A
P(A  B) =
4 - 63
Alone
Event
C
D
4
2
Total
6
B
1
3
4
Total
5
5
10
Group Class
解答*
銘傳應用統計系
使用乘法規則得到:
5
P(C  B) = P(C)  P(B|C) 
P(B  D) = P(B)  P(D|B) 
10
4
10
P(A  B) = P(A)  P(B|A)  0
4 - 64

1
5

1
10
3
3

4 = 10
動動腦想一想
銘傳應用統計系
使用乘法規則求解下列機率?
P(C  B) =
P(B  D) =
Event
A
P(A  B) =
4 - 65
Alone
Event
C
D
4
2
Total
6
B
1
3
4
Total
5
5
10
Group Class
解答*
銘傳應用統計系
使用乘法規則得到:
5
P(C  B) = P(C)  P(B|C) 
P(B  D) = P(B)  P(D|B) 
10
4
10
P(A  B) = P(A)  P(B|A)  0
4 - 66

1
5

1
10
3
3

4 = 10
貝氏定理
Bayes’s Theorem
銘傳應用統計系
P  Bi | A  

Same
Event
4 - 67
P  A | Bi  P  Bi 
P  A | B1  P  B1       P  A | B k  P  B k
P  B i and A 
P  A
Adding up
the parts
of A in all
the B’s

銘傳應用統計系
Bayes’s Theorem
Using Contingency Table貝氏定理範例
只有百分之五十的借款人償還(repay)了他們的債務。 在這些有
償債的人當中, 40%的人具有大學學歷(college degree)。而在
那些未償債的人當中有 10%具有大學學歷。 從所有的借款人隨
機選取一人。如果這個人具有大學學歷,那麼此人會償還債務的
機率為何?
P  R   .50
P R |C   ?
4 - 68
P  C | R   .4
P  C | R   .10
貝氏定理
Bayes’s Theorem
銘傳應用統計系
P  Bi | A  

Same
Event
4 - 69
P  A | Bi  P  Bi 
P  A | B1  P  B1       P  A | B k  P  B k
P  B i and A 
P  A
Adding up
the parts
of A in all
the B’s

銘傳應用統計系
Using Contingency Table
使用列聯表解答
P R |C
Repay
Repay
Total
College
.2
.05
.25
College
.3
.45
.75
Total
.5
.5
1.0


4 - 70
P C | R  P  R 
P C | R  P  R   P C | R  P  R 
 .4   .5 
 .4   .5    .1   .5 

.2
.2 5
 .8
銘傳應用統計系
Bayes’s Theorem
Using Contingency Table貝氏定理範例
只有百分之五十的借款人償還(repay)了他們的債務。 在這些有
償債的人當中, 40%的人具有大學學歷(college degree)。而在
那些未償債的人當中有 10%具有大學學歷。 從所有的借款人隨
機選取一人。如果這個人具有大學學歷,那麼此人會償還債務的
機率為何?
P  R   .50
P R |C   ?
4 - 71
P  C | R   .4
P  C | R   .10
銘傳應用統計系
Using Contingency Table
使用列聯表解答
P R |C
Repay
Repay
Total
College
.2
.05
.25
College
.3
.45
.75
Total
.5
.5
1.0


4 - 72
P C | R  P  R 
P C | R  P  R   P C | R  P  R 
 .4   .5 
 .4   .5    .1   .5 

.2
.2 5
 .8
結論及回顧
銘傳應用統計系
1. 定義 experiment, outcome, event, sample
space, & probability
2. 解說如何得到或指定事件的機率
3. 使用 a contingency table(列聯表), Venn
diagram(范氏圖), or tree(樹圖)求解機率
4. 貝氏定理及應用
4 - 73