Transcript 卒研中間報告スライド
卒論進歩報告
理学部 数理情報科学科
荒木 貴光
報告概要
• ICAの各Algorithmの概説
classical Infomax (batch , online )
Extended Infomax Algorithm (batch)
• 画像解析による上記の各Algorithm(プロ
グラム)のテスト
• 本題:ICAを顔画像に使い基底画像を求め
た。
ICA概説
仮
定
P(s(1), s(2),..., s(m)) P(s(1))P(s (2)) P(s(m))
互いに統計的に独立
未知=> A
実
際
s1 ( t )
s 2 (t )
s m (t )
x1 ( t )
x 2 (t )
x m (t )
線形に混合
W 統計的に独立に分解
y 1 (t )
A, W
m
s(1)
S
s(m)
未知
x(1)
x(m)
s(i), x ( i ), y ( i )
X AS
y(1)
y(m)
n
y 2 (t )
y m (t )
時系列データ(音声)画像など
Y
W X
このWを以下のアルゴ
リズムで最適化する
今回使用したICA
Algorithm(更新則)の違い (batch)
W
1
初期値
Classical Infomax Algorithm
(Tony Bell,Terry Sejnowski)
k=1
k<100
Y W
exist
X
(Y ) tanh( Y )
(e
( (Y )Y(Y )Y
)/ n W
I E
W
W
1
W
W
(e
y
y
e
e
)
)
Extended Infomax Algorithm
(Lee,Girolami,Sejnowski)
( y tanh( y ))
Y の分布が Sub-Gaussian
Super-Gaussian (Y )
Super-Gaussian
(y tanh( y ))
Sub-Gaussian
画像データについて
1 9 5 2 3 8 1 3 2 9 9 9 1 2 3 1
1
9 5 7
2
2
3 8 1 3
2 9 9 9
1 2 3 1
データポイント
ICA~画像実験
s(i) , x ( i ), y ( i )
s(1)
S
s(4)
10000
x(1)
x(4)
X AS
Y
y(4)
x(1)
s(1)
AでSを重ね
合わせ
x(2)
s(2)
s(3)
Extended Infomax(
Infomax(Tony
Bell and
Terry
Terry
Sejno
Infomax(by
Tony
Bell
andSejno
Terry
y(1)
wski
)batch )を使った結果
algorithmを使った結果
Sejnowski
1
1
A
2
1
2
1
1
1
1
1
1
1
1
1
1
2
x(3)
s(4)
x(4)
y(1)
WでXを分
解
y(2)
y(3)
y(4)
W X
online classical Infomax Algorithm
batch classical Infomax Algorithm
Extended Infomax Algorithm
数値で解析結果を見る
Online
S
X
Y
基底画像による顔画像の表現
• 顔の識別、特徴抽出など顔の認識におい
て顔画像をどのように記述するかは大変
重要な問題である
本研究では、顔画像を基底(基本パター
ン)画像の一次結合(重ね合わせ)として表
現する。
顔をパラメーター空間内の点として表す
=
a2
a1
( a 1 , a 2 ,..., a n )
n
an
どのようにして有効な基底
(基本パターン)を求めるか
イメージ図
顔のパラメーター空間
昔からの手法
PCA(主成分分析)
an
ai
最近では
ICA(独立成分分析)
基底は座標軸のようなものと考えられる
Extended
Infomax
ICAによる顔画像基底
Online
Classical
何らかの基本パターン(基底)
Infomax
の重ねであると想定する
AでSを重
ね合わせ
A<=未知
前回の
卒論の
プログラム
?
その基本パターン
(基底)
Wで分解
空間的局所性
基底を数値で見る
PCAによる顔画像基底
感想と課題
• Algorithm
online よりbatchの方が精度が高いみたい。
今回Extended Infomax はデータによっては古い
Algorithmよりはるかに高い性能をしめした。
その理由を調べる(理解する)。
・ICAによる解析がうまくいったのかどうか判断する
ために、標本相関係数を求めるようにする。
・ICA基底の数をPCAを使うなどして調整する。
基底の係数を特徴ベクトルとして、SVMなどパ
ターン認識アルゴリズムに使って表情認識を行う。
・写真撮影
参考資料
MATLAB Code
• Infomax Algorithm by Tony Bell (Interval Research) and Terry
Sejnowski
http://www.cnl.salk.edu./~tewon/ica_cnl.html
・PCA-code
http://inc.ucsd.edu/~marni
・信号処理~第五部 独立成分解析~(岐阜大学の横田先生が作成
し、学部,大学院の講義で使用している教科書)
http://www.ykt.info.gifu-u.ac.jp/dsp/index.html
・感性と情報処理 ―情報科学の新しい可能性―
一松
信・村岡洋一監修/日本学際会議編
ISBNコード
ISBN4-320-02359-5
• http://www.ipsj.or.jp/members/SIGNotes/Jpn/10/1990/046/article007.
html