わかりやすいパターン認識
Download
Report
Transcript わかりやすいパターン認識
わかりやすいパターン認識
第4章 識別部の設計
4.2 パラメータの推定
発表日:平成15年5月2日
担当者:大城 亜里沙
パラメータの推定
• 確率密度関数のパラメータを推定
{x1, x2 ,....,xn}
ー学習パターンの集
p( ; )
ー推定すべき確率密
ー はパラメータベ
合
度関数=尤度関数
クトルを表す。
パターン集合χが得られる確率 p( ;は
)
n
p ( ; ) p ( x k ; )
(4・18)
k 1
これが最大となる
を求める。
(最尤法)
最尤法
ー ˆ は確率密度関数を最大にする
式(4.18)の最尤法は
ˆ)
{
p
(
;
)
p
(
;
であり、これを求めるには
max
p
(
;
)
p ( ; ) 0
あるいは対数をとって
log p( xk ; ) 0
k 1
n
最尤法の適用例(1)
• パターンが正規分布をする場
合
ーパラメータ は平均ベクトルmと共
分散行列Σ
ー推定値
1 n
ˆ xk
m
n k 1
^
n
1
t
ˆ
ˆ
( xk m)(xk m)
n
k 1
最尤法の適用例(2)
• 確率密度関数が多峰性の場
i ー重み係数
合
r
混合分布
これを求める
p( x; )
i pi ( x; i )
ためにはパラメータ
と重み を推定する必要がある。
i 1
すなわち推定すべきパラメータベクトルは
である。
t (1t ,・・・, rt , 1 ,・・・, r )
教師付き学習と教師なし学習
• 教師付き学
習
ー学習パ
ターンにクラスのラベルが付いている
• 教師なし学
習
ターンにクラスのラベルが付いていない
ークラス数Cは既知
ー混合分布のパラメータ推定と同じ問題
山登り法によるパラメータの推定
ー学習パ