卒研中間報告スライド

Download Report

Transcript 卒研中間報告スライド 

卒論進歩報告
理学部 数理情報科学科
荒木 貴光
報告概要
• ＩＣＡの各Algorithmの概説
classical Infomax (batch , online )
Extended Infomax Algorithm (batch)
• 画像解析による上記の各Ａｌｇｏｒｉｔｈｍ(プロ
グラム）のテスト
• 本題：ＩＣＡを顔画像に使い基底画像を求め
た。
ICA概説
仮
定
P(s(1), s(2),..., s(m))  P(s(1))P(s (2))  P(s(m))
互いに統計的に独立
未知=> A
実
際
s1 ( t )
s 2 (t )
s m (t )
x1 ( t )
x 2 (t )
x m (t )
線形に混合
W 統計的に独立に分解
y 1 (t )
A, W    
m
 s(1)

S  
 s(m)






未知
 x(1)

 
 x(m)

s(i), x ( i ), y ( i )  


  X  AS


 y(1)

 
 y(m)

n
y 2 (t )
y m (t )
時系列データ(音声）画像など


 Y


W X
このＷを以下のアルゴ
リズムで最適化する
今回使用したＩＣＡ
Algorithm（更新則）の違い (batch)
W
1
 初期値
Classical Infomax Algorithm
(Tony Bell,Terry Sejnowski)
k=1
k<100
Y W
exist
X


 (Y )   tanh( Y )

(e

( (Y )Y(Y )Y
)/ n W
 I E
W
W
1
W
 W
(e
y
y
e
e

)
)
Extended Infomax Algorithm
(Lee,Girolami,Sejnowski)
 ( y  tanh( y ))
Y の分布が Sub-Gaussian
Super-Gaussian  (Y )
Super-Gaussian
 (y  tanh( y ))
Sub-Gaussian
画像データについて
１ ９ ５ ２ ３ ８ １ ３ ２ ９ ９ ９ １ ２ ３ １
１
９ ５ ７
２
２
３ ８ １ ３
２ ９ ９ ９
１ ２ ３ １
データポイント
ＩＣＡ～画像実験
s(i) , x ( i ), y ( i )  
 s(1)

S  
 s(4)

10000





 x(1)

 
 x(4)



  X  AS


   Y
 y(4) 


x(1)
s(1)
ＡでＳを重ね
合わせ
x(2)
s(2)
s(3)
Extended Infomax（
Infomax（Tony
Bell and
Terry
Terry
Sejno
Infomax（by
Tony
Bell
andSejno
Terry
 y(1) 
wski
）batch ）を使った結果
algorithmを使った結果


Sejnowski
1

1
A 
2

1

2
1
1
1
1
1
1
1
1

1
1

2 
x(3)
s(4)
x(4)
y(1)
WでXを分
解
y(2)
y(3)
y(4)
W X
online classical Infomax Algorithm
batch classical Infomax Algorithm
Extended Infomax Algorithm
数値で解析結果を見る
Online
S
X
Y
基底画像による顔画像の表現
• 顔の識別、特徴抽出など顔の認識におい
て顔画像をどのように記述するかは大変
重要な問題である
本研究では、顔画像を基底(基本パター
ン）画像の一次結合(重ね合わせ）として表
現する。
顔をパラメーター空間内の点として表す
＝
 a2
a1
( a 1 , a 2 ,..., a n )  

n
 an
どのようにして有効な基底
(基本パターン）を求めるか
イメージ図
顔のパラメーター空間
昔からの手法
ＰＣＡ(主成分分析）
an
ai
最近では
ＩＣＡ(独立成分分析）
基底は座標軸のようなものと考えられる
Extended
Infomax
ＩＣＡによる顔画像基底
Online
Classical
何らかの基本パターン(基底）
Infomax
の重ねであると想定する
ＡでＳを重
ね合わせ

A<=未知
前回の
卒論の
プログラム
？
その基本パターン
(基底)
Wで分解

空間的局所性



基底を数値で見る
ＰＣＡによる顔画像基底
感想と課題
• Ａｌｇｏｒｉｔｈｍ
online よりbatchの方が精度が高いみたい。
今回Extended Infomax はデータによっては古い
Algorithmよりはるかに高い性能をしめした。
その理由を調べる（理解する）。
・ＩＣＡによる解析がうまくいったのかどうか判断する
ために、標本相関係数を求めるようにする。
・ＩＣＡ基底の数をＰＣＡを使うなどして調整する。
基底の係数を特徴ベクトルとして、ＳＶＭなどパ
ターン認識アルゴリズムに使って表情認識を行う。
・写真撮影
参考資料
MATLAB Code
• Infomax Algorithm by Tony Bell (Interval Research) and Terry
Sejnowski
http://www.cnl.salk.edu./~tewon/ica_cnl.html
・PCA-code
http://inc.ucsd.edu/~marni
・信号処理～第五部 独立成分解析～（岐阜大学の横田先生が作成
し、学部，大学院の講義で使用している教科書）
http://www.ykt.info.gifu-u.ac.jp/dsp/index.html
・感性と情報処理 ―情報科学の新しい可能性―
一松
信・村岡洋一監修／日本学際会議編
ISBNコード
ISBN4-320-02359-5
• http://www.ipsj.or.jp/members/SIGNotes/Jpn/10/1990/046/article007.
html