数理統計学(第十回） ノンパラ検定とは？1
Download
Report
Transcript 数理統計学(第十回） ノンパラ検定とは？1
数理統計学(第十回）
ノンパラ検定とは？１
浜田知久馬
数理統計学第１０回
1
パラとノンパラ
• パラメトリック
特定の分布(狭義には正規分布）を仮定した方法
分布はパラメータ（例，μ，σ2）によって定まる.
e.g. ｔ検定
• ノンパラメトリック
特定の分布を仮定しない方法
（狭義にはデータの順位情報のみを用いる方法)
e.g. ウイルコクソン検定
数理統計学第１０回
2
パラとノンパラの仮定
パラ
ノンパラ
赤：帰無仮説
緑：対立仮説
数理統計学第１０回
3
パラとノンパラ
パラ
ノンパラ
位置の指標
平均
メディアン
バラツキの指標
SD
４分位偏差
１標本検定
t検定(unpaired) ウイルコクソン
符号検定
２標本検定(対応） t検定(paired)
ウイルコクソン
２標本検定
t検定(unpaired) ウイルコクソン
サベージ，FW等
数理統計学第１０回
4
パラとノンパラ
パラ
ノンパラ
多群比較
1-way ANOVA
KW
多群比較(paired) 乱塊法
Friedman
相関係数
Pearson
Spearman
Kendall
用量相関
回帰分析
Jonckheere
多重比較
Dunnett
Steel
Tukey
Steel-dwass
Willimas
Shirley-Willimas
数理統計学第１０回
5
パラとノンパラ
パラ
分布形の仮定 正規分布
等分散性
仮定
第１種の過誤
≒α
正規分布のとき ◎
外れ値が存在
×
変数変換
変
N<6
△
料理に例えると 懐石
数理統計学第１０回
ノンパラ
必要なし
仮定
常に＜α
○
○
不変
×
電子レンジ
6
ノンパラ検定の仮説
Ｘ1, Ｘ2, ・・・, ＸN ～分布関数Ｆを持つ
Ｙ1, Ｙ2, ・・・, ＹN ～分布関数Ｇを持つ
帰無仮説Ｈ0：Ｆ＝Ｇ
対立仮説Ｈ１：Ｆ≠Ｇ（両側検定）
対立仮説Ｈ１：Ｆ＜Ｇ（上側検定）
対立仮説Ｈ１：Ｆ＞Ｇ（下側検定）
数理統計学第１０回
7
ﾋﾞﾀﾐﾝEに細胞増殖効果はあるのか？
浜君と石君で実験
４枚を通常栄養 ４枚をﾋﾞﾀﾐﾝE処理(PM11:00)
数理統計学第１０回
8
翌朝(AM7:30)
実験は成功したが，石君は来なかった．
１２１
１１８
１１０
９５
９０
３４
２２
１２
数理統計学第１０回
9
(PM:2:00)浜君は考えてみた．
ﾋﾞﾀﾐﾝE処理群はどれか？
１２１
１１８
１１０
９５
９０
３４
２２
１２
数理統計学第１０回
10
８枚から４枚を選ぶ組み合わせの
数は？
8Ｃ4=(8×7×6×5)/(4×3×2×1)=70通り
ﾋﾞﾀﾐﾝＥ群
121 118 110
121 118 110
121 118 110
121 118 110
121 118 110
121 118 95
：
４枚の細胞数の和
95
444
90
439
34
383
22
371
12
361
90
424
数理統計学第１０回
11
図１ 並べ替え分布の幹葉表示と箱ひげ図
ﾋﾞﾀﾐﾝEに増殖効果がなければ全てのパターンは等
しい確率で生じるはず．
Stem
44
42
40
38
36
34
32
30
28
26
24
22
20
18
16
14
Leaf
#
4
1
49
2
36
2
3
1
01381
5
001356812567
12
58903578
8
7578
4
4575
4
12245792347
11
12567014679
11
149
3
9
1
69
2
38
2
8
1
----+----+----+----+
Multiply Stem.Leaf by 10**+1
数理統計学第１０回
Boxplot
|
|
|
|
|
+-----+
|
|
*--+--*
|
|
|
|
+-----+
|
|
|
|
|
12
(PM:4:55)石君到着
合計細胞数=439
１２１
１１８
１１０
９５
９０
３４
２２
１２
数理統計学第１０回
13
図１ 並べ替え分布の幹葉表示と箱ひげ図
和が439以上になるのは2通り：確率2/70
Stem
44
42
40
38
36
34
32
30
28
26
24
22
20
18
16
14
Leaf
4
49
#
1
2
2
1
5
12
8
4
4
11
11
3
1
2
2
1
36
3
01381
001356812567
58903578
7578
4575
12245792347
12567014679
149
9
69
38
8
----+----+----+----+
Multiply Stem.Leaf by 10**+1
数理統計学第１０回
Boxplot
|
|
|
|
|
+-----+
|
|
*--+--*
|
|
|
|
+-----+
|
|
|
|
|
14
並べ替え検定の手順
１．検定統計量を選択する．
e.g. 片方の群の和、順位和、平均値の差
２．得られたデータで検定統計量を計算する．
e.g. 121+118+110+90=439
３．permutationによって検定統計量の分布を
調べる．
４．得られたデータ以上に極端な場合の頻度を
数え上げる(2/70)．
数理統計学第１０回
15
並べ替え検定
permutation test
• ノンパラメトリック検定：αエラーの制御
複雑な仮定を必要としない．
• 拡張が容易
• 統計量の選択によっては、漸近的には最強力な検
定と同程度の検出力を有する．
• 計算に時間がかかる→ハードウエアの進歩
ネットワークアルゴリズム
• 正確な検定、randomization検定
数理統計学第１０回
16
正確な検定と並べ替え検定
exact test and permutation test
• exact test（検定の性質）
（distribution free)
• permutation test（検定の構成原理）
（randomization test)
• permutation testはﾉﾝﾊﾟﾗﾒﾄﾘｯｸ検定
• ﾉﾝﾊﾟﾗﾒﾄﾘｯｸ検定≠permutation test
数理統計学第１０回
17
可能な組み合わせの数
(2N!)/(N!N!)
N
1
2
3
4
5
6
7
8
9
パターン数
2
6
20
70
252
924
3432
12870
48620
N
10
20
30
40
50
100
数理統計学第１０回
パターン数
184756
137846528820
1.1826458×1017
1.0750721×1023
1.0089134×1029
9.0548515×1058
18
並べ替え検定が必要な場合
多
パターン数
少
よい
理論分布による近似 悪い
1)サンプルサイズが小さい場合
2)スパースなデータ
3)外れ値を含んでいる場合
4)結果が微妙な場合
数理統計学第１０回
19
並べ替え検定のプログラム
data ve;
do group=0 to 1;
do i=1 to 4;
input y @@;output;end;end;
cards;
95 34 22 12
121 118 110 90
;
proc freq data=ve;tables y*group/all;exact pcorr;
output out=result pcorr;
数理統計学第１０回
20
並べ替え検定の結果
・FREQプロシジャの出力
H0: 相関 = 0 に対する検定
帰無仮説が正しいもとでの漸近標準誤差
Z
片側 Pr > Z
両側 Pr > |Z|
正確検定
片側 Pr >= r
両側 Pr >= |r|
0.2040
4.0040
<.0001
<.0001
0.0286
0.0571
・PRINTプロシジャの出力
OBS PL_PCORR
1
.
0.057143
PR_PCORR
P2_PCORR
.000031141
XPL_PCOR XPR_PCOR XP2_PCOR
.000062281
数理統計学第１０回
.
0.028571
21
並べ替え分布
Stem Leaf
44
42
40
38
36
34
32
30
28
26
24
22
20
18
16
14
#
1
2
2
1
5
12
8
4
4
11
11
3
1
2
2
1
4
49
36
3
01381
001356812567
58903578
7578
4575
12245792347
12567014679
149
9
69
38
8
----+----+----+----+
Multiply Stem.Leaf by 10**+1
数理統計学第１０回
Boxplot
|
|
|
|
|
+-----+
|
|
*--+--*
|
|
|
|
+-----+
|
|
|
|
|
22
有限母集団からの非復元抽出
大きさNの有限母集団：ａ1,ａ2,・・・,ａN
大きさｎの標本を非復元抽出：X1,X2,・・・,Xn
N!
組合せの数：NCｎ＝
n!( N n)!
Pr(X=ａi1,ａi2,・・・, ａin)=1/NCｎ
注意 Xiの周辺分布はX1の周辺分布,
(Xi , Xj)の同時分布は(X1 , X2)の同時分布
に等しい.(順番は分布に影響しない）
数理統計学第１０回
赤玉と青玉の例を思い出そう．
23
非復元抽出
同時にｎ個取出す
a8
２
a7
２
a２
２
a9
２
a1
２
a４
２
a３
２
a5
２
数理統計学第１０回
a6
２
24
平均と分散
・母集団の期待値(母平均)と分散（母分散）
2
a
(
a
)
i
i
2
a
,
N
N
・標本平均X・の期待値と分散
E[ X ] , V [ X ]
N n
N 1
N n
2
n N 1
：有限修正項
数理統計学第１０回
25
標本平均と分散
X1 X 2 X n
E[ X ] E
n
X i
n
i 1
E
n
n
X1 X 2 X n
V[ X ] V
n
X i
2
2
n
i 1
V
2
n
n
n
X1,X2,・・・,Xnは独立でないため
数理統計学第１０回
26
標本平均と分散
V X i
i 1
V[ X ]
n2
V X 1 X 2 X n
n2
V X i Cov X i , X j
i 1
i j
2
n
数理統計学第１０回
27
標本平均と分散
V[ X i ] V[ X1 ] ,
Cov X i , X j CovX 1 , X 2
2
V[ X ]
V X CovX , X
i 1
i
i j
2
i
j
n
nV X 1 n(n 1)CovX 1 , X 2
n2
CovX 1 , X 2 は？
数理統計学第１０回
28
標本平均と分散
CovX 1 , X 2 E[( X 1 1 )( X 2 2 )]
E[ X 1 X 2 ] 1 2 E[ X 1 X 2 ] 1
1
Pr(X 1 a1 , X 2 a2 )
N ( N 1)
2
2
2
ai a j
ai ai
i j
i 1
i 1
E[ X 1 X 2 ]
N ( N 1)
N ( N 1)
数理統計学第１０回
29
N=5の場合
（a1a2） （a1a3） （a1a4） （a1a5） （a2a3）
（a2a4） （a2a5） （a3a4） （a3a5） （a4a5）
(a1+a2+a3+a4+a5)2=
a12 +a1a2+a1a3+a1a4+a1a5
+a2a1+a22 +a2a3+a2a4+a2a5
+a3a1+a3a2+a32 +a3a4+a3a5
+a4a1+a4a2+a4a3+a42 +a4a5
+a5a1+a5a2+a5a3+a5a4+a52
数理統計学第１０回
30
標本平均と分散
2
CovX 1 , X 2 E[ X 1 X 2 ] 1
2
2
ai
ai ai
i 1
i 1
i 1
N
N ( N 1)
2
a
2
i
1
1
ai
2 i 1
i 1 N ( N 1) N N ( N 1)
(ai ) 2
2
i 1
N ( N 1)
N 1
2
31
数理統計学第１０回
X1がaiのときはX2はaiを取り得ないので負の相関が生じる.
標本平均と分散
nV X 1 n(n 1)CovX 1 , X 2
V[ X ]
2
n
2
2
n n(n 1)
2
2
(n 1)
N
1
2
n
n( N 1)
n
( N 1) (n 1)
n( N 1)
2
2
( N n)
n( N 1)
数理統計学第１０回
2
32
超幾何分布の分散
袋の中にN個の玉があって，そのうち
比率ｐ1で赤球，比率1-ｐ1で青玉が入っている．
ｎ個を非復元抽出したときの赤の個数の分散は？
復元抽出のときの分散： σ2=ｎｐ1(1-ｐ1)
非復元抽出のときの分散：
N n
N n
np1 (1 p1 )
N 1
N 1
2
復元抽出：二項分布
超幾何分布：非復元抽出
数理統計学第１０回
33
確認実験
袋の中にNN個の玉があって，そのうち
比率0.5(p)で赤球が入っている．10（Ｎ）個非復
元抽出したときの赤球の個数の分布（Ｙ）は？
ＮＮ＝10，20，・・・，100
それぞれ１万回のシミュレーションを行う.
復元抽出（二項分布の場合）
Ｅ[Ｙ]＝Ｎｐ＝５，Ｖ[Ｙ]＝Ｎｐ（１－ｐ）＝1.582
数理統計学第１０回
34
ＳＡＳプログラム
data data;
p=0.5;n=10;
do nn=10 to 100 by 10;
do i=1 to 10000;
r=nn*p;
y=rand('hypergeometric',nn,r,n);
output;
end;end;
proc means maxdec=2;var y;class nn;
run;
数理統計学第１０回
35
シミュレーションの結果
オブザーべション
nn
N
平均値 標準偏差 最小値 最大値
-------------------------------------------------10 10000
5.00
0.00
5.00
5.00
20 10000
4.99
1.15
1.00
9.00
30 10000
5.00
1.31
0.00
10.00
40 10000
5.00
1.39
0.00
10.00
50 10000
5.01
1.44
0.00
10.00
60 10000
5.00
1.44
0.00
10.00
70 10000
4.99
1.47
0.00
10.00
80 10000
4.98
1.50
0.00
10.00
90 10000
5.01
1.50
0.00
10.00
100 10000
5.00
1.50
0.00
10.00
36
数理統計学第１０回
---------------------------------------------------
演習 標本平均X・の期待値と分散を計算せよ
また復元抽出の場合と結果を比較せよ
非復元抽出
同時に２個取出す
X
２２
X
２１
２３
２５
２４
２１
２２
数理統計学第１０回
37