Transcript 独立成分分析(ICA)

独立成分分析
(ＩＣＡ：Independent Component
Analysis )
独立成分分析(ICA)とは

いくつかの信号が混信した状態で受信された
観測データか ら未知の信号源の信号を復元
する手法

ｘ：観測データ Ａ：混合行列 ｓ：信号源
ｘ = Ａｓ
ICAにおける制約
1. 信号源の信号が互いに統計的に「独立」で
ある事
2. 信号源の信号が正規分布に従っていない
事
「独立」とは

片方の変数がどのような値をとっても、もう片
方の変数の分布は変わらないような状態

相関が０な状態


無相関とは、片方の変数がどのような値をとって
も、もう一方の目の平均値が常に同じであるとい
うことを指しているに過ぎない。
独立性は無相関性よりもずっと強い性質
ICAの種類

Infomax

FastICA

JADE
FastICAの流れ

前処理
中心化
 （標準化）
 白色化


非ガウス性の最大化
中心化

平均値が０になるよう各値から平均値を引く事
標準化

単位や規模、数量レベルが異なる時、同じレ
ベルで比較するために平均と分散を揃える。

(個々のデータ－平均値)/標準偏差
白色化

分散行列の固有値スペクトルを平坦にする

観測信号を線形に変換し，成分達が無相関
で分散が1（共分散行列が単位行列Iと等し
い）

特異値分解や主成分分析（PCA）を使用
特異値分解

行列に対する行列分解
ｙ ＝ Ａｘ
Ｕ：左特異ベクトル Ｄ：特異値の対角行列 ＶＴ：右特異ベクトル
（直交変換）
（増幅率）
（直交変換）
Ａ ＝ ＵＤＶＴ

無相関で分散を１にする事が可能
ＵＵＴ ＝ ＶＶＴ ＝ Ｉ
白色化によって

白色化では独立成分を直交変換したものし
か得られない

混合行列の探索を直交行列の空間内に絞る
事ができる
FastICAの流れ

前処理
中心化
 （標準化）
 白色化


非ガウス性の最大化
非ガウス性

独立性を測る 手法の一つ

ネゲントロピーによって非ガウス性を測る事
が可能
ネゲントロピー

エントロピーを正規化したもの
Ｊ（ｙ） ＝ Ｈ（ｙgauss） ー Ｈ（ｙ）
ネゲントロピーの最大化

ネゲントロピーの近似値：ｗ
白色化済信号：ｚ
Δｗ ∝ γＥ｛ｚg（ｗＴｚ）｝
ICAの曖昧性

独立成分の分散（大きさ）を決定する事はで
きない

独立成分の順序を決める事はできない