Transcript + P(B)
銘傳應用統計系
第四章 Chapter 4
機率論基礎
Basic Probability
4-1
學習目標
銘傳應用統計系
1. 定義實驗, 結果, 事件, 樣本空間, 與機率
2. 認識簡單事件與複合事件
3. 事件機率的計算﹕使用列聯表, 范氏圖, 或
樹圖
4. 貝氏定理及其應用
4-2
動動腦想一想
銘傳應用統計系
你知道投擲一枚硬幣得到正
面(人頭)的機率為0.5 即 50%.
比50%是什麼意思呢?
請同學丟100次硬幣看看會有
什麼結果?
?1984-1994 T/Maker Co.
4-3
可能得到的一種類似結果*
銘傳應用統計系
出現正面的次數
= 出現正面的比例 -> 出現正面的機率
投擲次數
1.00
0.75
0.50
0.25
0.00
0
4-4
20
50
75
100
累積投擲次數 (Cumulative coin tosses)
銘傳應用統計系
實驗、結果與事件
Experiments,
Outcomes, and Events
4-5
實驗、結果與事件
銘傳應用統計系
1. 實驗 (Experiment)
觀察一個具有不確定結果的現象的過程。
2. 樣本點 (Sample point)
實驗結束所觀察到的結果稱為樣本點,通常以文
字敘述或符號表示。
3. 樣本空間 (Sample space) ,符號:S
指所有可能得觀察到的結果的集合。
4-6
實驗與其結果範例
銘傳應用統計系
實驗(Experiment)
樣本空間(Sample Space)
• 投擲一枚硬幣
• 投擲兩枚硬幣
• 從一副樸克牌抽一張牌
• 從一副樸克牌抽一張牌
• 觀看一場足球比賽
• 檢查某一零件
• 今日出門遇到的第一個人
4-7
Head, Tail
HH, HT, TH, TT
2, 2, ..., A (52)
Red, Black
Win, Lose, Tie
Defective, OK
Male, Female
結果的性質
銘傳應用統計系
實驗為觀察性別
1. 互斥性 (Mutually exclusive)
兩結果不能同時發生
不可能有人又是男性又是女性
2.周延性 (Collectively
exhaustive)
在樣本空間中的某一結果必定發生
Male or female性別非男即女
4-8
事件 (Events)
銘傳應用統計系
1. 任何樣本點的組合稱為事件。
2. 簡單事件 (Simple event)
僅具有單一樣本點的事件。
3. 複合事件 (Compound event)
事件與事件的組合而成的事件。
4. 聯合事件 (Joint event)
需要用兩種或以上的屬性來描述樣本點的事件。
4-9
事件範例
銘傳應用統計系
實驗:
投擲兩枚硬幣觀察其正反面
事件
樣本空間
出現一正面一反面
出現至多一反面
出現至少一正面
兩個都是正面
都沒有出現正面
4 - 10
事件中包含的樣本點
HH, HT, TH, TT
HT, TH
HH, HT, TH
HH, HT, TH
HH
空集合
簡單事件
銘傳應用統計系
The Event of a Triangle
There are 5 triangles in this collection of 18 objects
4 - 11
聯合事件
銘傳應用統計系
The event of a triangle AND blue in color
4 - 12
Two triangles that are blue
樣本空間的描述
銘傳應用統計系
集合的呈列 (Listing)
1.
S: {Head, Tail}
2.
范氏圖 (Venn Diagram)
3.
列聯表 (Contingency Table)
4.
樹圖 (Tree Diagram)
4 - 13
范氏圖 Venn Diagram
銘傳應用統計系
Experiment: 投擲兩枚硬幣觀察得到的正反面
結果
Outcome
Compound
event
TH
複合事件
HT
HH
TT
S
集合的呈列
S: {HH, HT, TH, TT}
4 - 14
Sample space樣本空間
列聯表 Contingency Table
銘傳應用統計系
Experiment:投擲兩枚硬幣觀察得到的正反面
簡單事件第一
枚得到正面
Simple
event
(Head on
1st coin)
第一枚
硬幣
第二枚硬幣
Head正 Tail反
Head正
HH
HT
HH, HT
Tail反
TH
TT
TH, TT
Total
HH, TH HT, TT
集合的呈列
S: {HH, HT, TH, TT}
4 - 15
Total
S
Outcome
(Count,
total %
shown
usually)
Sample Space樣本空間
樹圖 Tree Diagram
銘傳應用統計系
Experiment:投擲兩枚硬幣觀察得到的正反面
H
HH
T
HT
H
TH
T
TT
H
Outcome
結果
T
集合的呈列
S: {HH, HT, TH, TT}
4 - 16
Sample space樣本空間
銘傳應用統計系
複合事件
Compound Events
4 - 17
複合事件的形成
銘傳應用統計系
1. 交集 (Intersection)
A、B兩事件同時發生
敘述時使用且( AND )
符號表達 (例如: A B)
2. 聯集 (Union)
A事件發生或B事件發生或AB兩事件同時發生
敘述時使用或( OR )
符號表達 (例如: A B)
4 - 18
事件的交集: 范氏圖
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
樣本空間:
共52張牌
Sample
space:
{2R, 2R,
2B, ..., AB
Black
得到黑色牌事
件: 2B, ...,
AB
Ace
Event Ace得到A事件:
AR, AR, AB, AB
4 - 19
Event Black
S
交乘事件同時得到A且黑色事件
Joint event (Ace Black):
AB, AB
事件的交集: 列聯表
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
樣本空間:
共52張牌
點數
Sample
Type
space (S):
Ace
2R, 2R,
2B, ..., AB
Non-Ace
顏色Color
Red
Black
Total
Ace & Ace & Ace
Red Black
Non & Non & NonRed Black Ace
Red Black
S
Simple
event
Ace
得到A事
件:
AR,
AR,
AB,
AB
Joint event
Ace AND Black Total
黑A事件:
Simple event Black得到黑色牌事件: 2B, ..., AB
AB, AB
4 - 20
事件的聯集: 范氏圖
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
樣本空間:
共52張牌
Sample
space:
2R, 2R,
2B, ..., AB
Black
Ace
A事件Event Ace:
AR, AR, AB, AB
4 - 21
S
Event
Black
黑牌:
2B,
2B, ...
, AB
Event 黑牌或A(Ace Black):
AR, ..., AB, 2B, ..., KB
事件的聯集 : 列聯表
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
樣本空間:
共52張牌
Sample
Type
space (S):
Ace
2R, 2R,
2B, ..., AB
Non-Ace
Color
Black
Total
Ace & Ace & Ace
Red Black
Non & Non & NonRed Black Ace
Red Black
S
Joint event
Ace OR
Total
Black:
AR, ..., AB, 2B, ..., KB
4 - 22
Red
Simple
event
Ace:
AR,
AR,
AB,
AB
Simple event Black黑
牌: 2B, ..., AB
特殊事件
銘傳應用統計系
1.空事件 (Null event)
某張牌又是梅花又是紅磚
2. 互補事件 (Complement of event)
對於事件A,所有不在A事件中的結
果的集合 A或AC
3. 互斥事件 (Mutually exclusive event)
A事件發生則B事件必不發生,反
之亦然;即A、B兩事件不可能同
時發生
4 - 23
Null Event
互補事件範例
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
樣本空間:
共52張牌
Sample
space:
2R, 2R,
2B, ..., AB
Event Black黑牌:
2B, 2B, ..., AB
4 - 24
Black
S
Complement of event Black, Black 黑
牌的補事件? 2R, 2R, ..., AR, AR
互斥事件範例
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
樣本空間:
共52張牌
Sample
space:
2, 2,
2, ..., A
Event Spade黑桃牌:
2, 3, 4, ..., A
4 - 25
S
Outcomes
in event
Heart紅心牌:
2, 3, 4,
..., A
Events & are mutually exclusive
銘傳應用統計系
機率
Probabilities
4 - 26
何謂機率?
銘傳應用統計系
1. 觀察一個實驗的結果,某事 1
件會發生的可能性以數值來表示
P(Event)
P(A)
.5
Prob(A)
必然發生
Certain
2. 機率值必定在 [0, 1]
3. 樣本空間點的機率總和為1
0
4 - 27
不會發生
Impossible
事件機率的指定
銘傳應用統計系
What is the
probability?
1.
傳統先決方法
a priori classical Method
2.
傳統實驗方法
Empirical classical method
3.
主觀訂定方法
Subjective method
4 - 28
傳統先決方法
銘傳應用統計系
1.需要事先了解得到結果的程序
2.能在實驗前指定機率
3.事件的機率為P(Event) = X / T
X = 事件包含的樣本點數No. of event outcomes
T = 樣本空間中的樣本點總數Total outcomes in sample
?1984-1994 T/Maker Co.
space
每一樣本點發生的可能性相等Each of T outcomes is
equally likely
每一樣本點的機率P(Outcome) = 1/T
4 - 29
傳統實驗方法
銘傳應用統計系
1.
實際收集資料
2.
實驗後才指定機率
3.
事件發生機率
P(Event) = X / T
4.
重複實驗了T次
事件實際觀察發生了X次
也稱為相對次數方法
4 - 30
檢查了100個零件
發現損壞了兩個
Of 100 parts
inspected, only
2 defects!
主觀認定方法
銘傳應用統計系
股票明天漲跌的機
率為何? ?1984-1994 T/Maker Co.
1. 需要個人對情形具充分的掌握
2. 實驗前已決定
3. 不同的人認定的機率會有差異
4 - 31
複合事件的機率
銘傳應用統計系
1.
複合事件常為事件的聯集與交集
2.
通常使用列聯表來表示
3.
使用的公式方法
加法規則 (Additive rule)
條件機率規則 (Conditional probability formula)
乘法規則 (Multiplicative rule)
4 - 32
使用列聯表求解事件機率
銘傳應用統計系
Event
Event
B1
B2
Total
A1
P(A1 B1) P(A1 B2) P(A1)
A2
P(A2 B1) P(A2 B2) P(A2)
Total
P(B1)
交叉交集機率Joint
probability
4 - 33
P(B2)
1
邊界機率Marginal (simple)
probability
使用列聯表求事件機率範例
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
Color
Red
Black
Total
Ace
2/52
2/52
4/52
Not-Ace
24/52
24/52 48/52
Total
26/52
26/52 52/52
Type
得紅牌的機率P(Red)
4 - 34
得紅牌且A的機
率P(Ace AND
Red)
得A的
機率
P(Ace)
想一想動動腦
銘傳應用統計系
求出下列事件的機率?
P(A) =
Event
A
P(D) =
P(C B) =
P(A D) =
Alone
Total
6
B
1
3
4
Total
5
5
10
P(B D) =
4 - 35
Event
C
D
4
2
Group Class
*解答*
銘傳應用統計系
機率如下:
P(A) = 6/10
P(D) = 5/10
P(C B) = 1/10
P(A D) = 9/10
P(B D) = 3/10
4 - 36
Event
A
Event
C
D
4
2
Total
6
B
1
3
4
Total
5
5
10
銘傳應用統計系
加法規則
Additive Rule
4 - 37
銘傳應用統計系
加法規則
Additive Rule
1. 使用於複合事件聯集事件的機率求解
2. P(A OR B) = P(A B)
= P(A) + P(B) - P(A B)
3. 互斥事件時:
P(A OR B) = P(A B) = P(A) + P(B)
4 - 38
Additive Rule 範例
銘傳應用統計系
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
Color
Red
Black
2
2
Total
4
Non-Ace
24
24
48
Total
26
26
52
Type
Ace
P(Ace OR Black) = P(Ace)+ P(Black)- P(Ace Black)
得黑牌或
4
26
2
28
A的機率
52 52 52 52
4 - 39
動動腦想一想
銘傳應用統計系
使用加法規則求解下列機率Using the
additive rule, what is the probability?
P(A D) =
Event
A
P(B C) =
4 - 40
Alone
Event
C
D
4
2
Total
6
B
1
3
4
Total
5
5
10
Group Class
解答*
銘傳應用統計系
使用加法規則得到:Using the additive
rule, the probabilities are:
P(A D) = P(A) + P(D) - P(A D)
6
5
2
9
10 10 10 10
P(B C) = P(B) + P(C) - P(B C)
4
5
1
8
10 10 10 10
4 - 41
銘傳應用統計系
條件機率
Conditional Probability
4 - 42
Conditional Probability
條件機率
銘傳應用統計系
1. 當另一事件發生後某事件發生的機率(Event
probability given that another event occurred)
2. 當另一事件發生後新的訊息改變了原來的樣本空
間(Revise original sample space to account
for new information)
排除了一些樣本點(結果)
3. P(A | B) = P(A and B)
P(B)
4 - 43
給定B事件發生後
A事件發生的機率
銘傳應用統計系
4 - 44
使用 Venn Diagram求解
Conditional Probability
使用 Venn Diagram求解
Conditional Probability
銘傳應用統計系
Black
Ace
4 - 45
S
使用 Venn Diagram求解
Conditional Probability
銘傳應用統計系
Black
Ace
4 - 46
S
Black
appears?
Eliminates all
other outcomes
使用 Venn Diagram求解
Conditional Probability
銘傳應用統計系
Black
Ace
S
Event (Ace AND Black)
4 - 47
Black appear?
Eliminates all
other outcomes
Black
(S)
使用 Venn Diagram求解
Conditional Probability
銘傳應用統計系
Black
Ace
S
黑牌且是A的事件
Event (Ace AND Black)
4 - 48
黑牌出現排除了紅
牌
Black
(S)
使用 Venn Diagram求解
Conditional Probability
銘傳應用統計系
New sample space
Black
(S)
Event (Ace AND Black)
4 - 49
使用 Venn Diagram求解
Conditional Probability
銘傳應用統計系
新的樣本空間
New sample space
P(A | B) = P(A and B)
P(B)
得到黑牌且是A的事件
Event (Ace AND Black)
4 - 50
Black
(S)
銘傳應用統計系
使用Contingency Table求
解 Conditional Probability
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
Color
Red
Type
Ace
2
2
4
Non-Ace
24
24
48
26
26
52
給定抽中黑
牌後抽出A Total
的機率
P(Ace AND Black)
P(Ace | Black) =
4 - 51
Total 樣本空間
Black
P(Black)
2 / 52
26 / 52
的更新
Revised
sample
space
2
26
Independence獨立事件
銘傳應用統計系
1. A事件的發生不影響B事件發生的
機率時Event occurrence does not
affect probability of another event
投擲一硬幣兩次Toss 1 coin twice
2. 不具有引發或因果關係Causality
not implied
3. 如何判定呢?Tests for
P(A | B) = P(A)
P(B | A) = P(B)
P(A and B) = P(A)*P(B)
4 - 52
使用 Venn Diagram求解
Conditional Probability
銘傳應用統計系
新的樣本空間
New sample space
P(A | B) = P(A and B)
P(B)
得到黑牌且是A的事件
Event (Ace AND Black)
4 - 53
Black
(S)
Independence獨立事件
銘傳應用統計系
1. A事件的發生不影響B事件發生的
機率時Event occurrence does not
affect probability of another event
投擲一硬幣兩次Toss 1 coin twice
2. 不具有引發或因果關係Causality
not implied
3. 如何判定呢?Tests for
P(A | B) = P(A)
P(B | A) = P(B)
P(A and B) = P(A)*P(B)
4 - 54
Tree Diagram樹圖
銘傳應用統計系
實驗: 從一內裝有14支綠色G、6支紅色
R筆的盒子中抽出2支筆來(不放回)。
P(R|R) = 5/19
R
P(R) = 6/20
R
G
P(G|R) = 14/19
相依事件
P(R|G) = 6/19
R
Dependent!
G
P(G) = 14/20
G
P(G|G) = 13/19
4 - 55
動動腦想一想
銘傳應用統計系
使用下表及公式求出下列機率?
P(A|D) =
P(C|B) =
C與B是否獨立
(independent)?
4 - 56
Alone
Event
A
Event
C
D
4
2
Total
6
B
1
3
4
Total
5
5
10
Group Class
解答*
銘傳應用統計系
使用機率公式得到:
P(A D) 2 / 10 2
P(A | D) =
P(D)
5 / 10 5
P(C B) 1 / 10 1
P(C | B) =
P(B)
4 / 10 4
因此A、D兩事件及
5 1
P(C) =
C、B兩事件均為相
10 4
依事件(Dependent)
4 - 57
銘傳應用統計系
乘法規則
Multiplicative Rule
4 - 58
銘傳應用統計系
Multiplicative Rule
乘法規則
1. 使用來計算複合事件中交集事件的機率(Used
to get compound probabilities for
intersection of events)
也稱為交乘事件(Called joint events)
2. A交集B的機率為P(A and B) = P(A B)
= P(A)*P(B|A)
= P(B)*P(A|B)
3. 對於獨立事件For independent events:
P(A and B) = P(A B) = P(A)*P(B)
4 - 59
銘傳應用統計系
Multiplicative Rule
乘法規則範例
Experiment: 從一副樸克牌中抽出一張辨別花色及點數
Color
Red
Black
2
2
Total
4
Non-Ace
24
24
48
Total
26
26
52
Type
Ace
P(Ace AND Black) = P(Ace) P(Black|Ace)
4
2
2
1
得到黑牌且A的機率
52
4
52
26
4 - 60
動動腦想一想
銘傳應用統計系
使用乘法規則求解下列機率?
P(C B) =
P(B D) =
Event
A
P(A B) =
4 - 61
Alone
Event
C
D
4
2
Total
6
B
1
3
4
Total
5
5
10
Group Class
解答*
銘傳應用統計系
使用乘法規則得到:
5
P(C B) = P(C) P(B|C)
P(B D) = P(B) P(D|B)
10
4
10
P(A B) = P(A) P(B|A) 0
4 - 62
1
5
1
10
3
3
4 = 10
動動腦想一想
銘傳應用統計系
使用乘法規則求解下列機率?
P(C B) =
P(B D) =
Event
A
P(A B) =
4 - 63
Alone
Event
C
D
4
2
Total
6
B
1
3
4
Total
5
5
10
Group Class
解答*
銘傳應用統計系
使用乘法規則得到:
5
P(C B) = P(C) P(B|C)
P(B D) = P(B) P(D|B)
10
4
10
P(A B) = P(A) P(B|A) 0
4 - 64
1
5
1
10
3
3
4 = 10
動動腦想一想
銘傳應用統計系
使用乘法規則求解下列機率?
P(C B) =
P(B D) =
Event
A
P(A B) =
4 - 65
Alone
Event
C
D
4
2
Total
6
B
1
3
4
Total
5
5
10
Group Class
解答*
銘傳應用統計系
使用乘法規則得到:
5
P(C B) = P(C) P(B|C)
P(B D) = P(B) P(D|B)
10
4
10
P(A B) = P(A) P(B|A) 0
4 - 66
1
5
1
10
3
3
4 = 10
貝氏定理
Bayes’s Theorem
銘傳應用統計系
P Bi | A
Same
Event
4 - 67
P A | Bi P Bi
P A | B1 P B1 P A | B k P B k
P B i and A
P A
Adding up
the parts
of A in all
the B’s
銘傳應用統計系
Bayes’s Theorem
Using Contingency Table貝氏定理範例
只有百分之五十的借款人償還(repay)了他們的債務。 在這些有
償債的人當中, 40%的人具有大學學歷(college degree)。而在
那些未償債的人當中有 10%具有大學學歷。 從所有的借款人隨
機選取一人。如果這個人具有大學學歷,那麼此人會償還債務的
機率為何?
P R .50
P R |C ?
4 - 68
P C | R .4
P C | R .10
貝氏定理
Bayes’s Theorem
銘傳應用統計系
P Bi | A
Same
Event
4 - 69
P A | Bi P Bi
P A | B1 P B1 P A | B k P B k
P B i and A
P A
Adding up
the parts
of A in all
the B’s
銘傳應用統計系
Using Contingency Table
使用列聯表解答
P R |C
Repay
Repay
Total
College
.2
.05
.25
College
.3
.45
.75
Total
.5
.5
1.0
4 - 70
P C | R P R
P C | R P R P C | R P R
.4 .5
.4 .5 .1 .5
.2
.2 5
.8
銘傳應用統計系
Bayes’s Theorem
Using Contingency Table貝氏定理範例
只有百分之五十的借款人償還(repay)了他們的債務。 在這些有
償債的人當中, 40%的人具有大學學歷(college degree)。而在
那些未償債的人當中有 10%具有大學學歷。 從所有的借款人隨
機選取一人。如果這個人具有大學學歷,那麼此人會償還債務的
機率為何?
P R .50
P R |C ?
4 - 71
P C | R .4
P C | R .10
銘傳應用統計系
Using Contingency Table
使用列聯表解答
P R |C
Repay
Repay
Total
College
.2
.05
.25
College
.3
.45
.75
Total
.5
.5
1.0
4 - 72
P C | R P R
P C | R P R P C | R P R
.4 .5
.4 .5 .1 .5
.2
.2 5
.8
結論及回顧
銘傳應用統計系
1. 定義 experiment, outcome, event, sample
space, & probability
2. 解說如何得到或指定事件的機率
3. 使用 a contingency table(列聯表), Venn
diagram(范氏圖), or tree(樹圖)求解機率
4. 貝氏定理及應用
4 - 73