Transcript Miyazaki-PBV200607compressed

Belief Propagation
宮崎大輔
余談
• 余談だが
• MCMC（マルコフ連鎖モンテカルロ法）と
particle filterと
condensation (Conditional Density Propagation)
は同じ物らしい
• 誰かKalman filterを教えてくれ
• 余談終わり
マルコフ確率場モデル
• '80年代にGeman & GemanはMarkov Random
Field(MRF)を発表，以降，CVの分野でMRFが多く使
われるようになる
• 上條先生はMRFによる車両のトラッキング手法を開発した
• 向川さん，尺長先生は，MRFで，砂のような模様をしたテク
スチャを生成する手法を開発した
• 長谷川Aさんは，MRFで，劣化画像から元のきれいな画像を
復元する手法を開発した
信念伝搬アルゴリズム
• 最近はBelief Propagationが流行っている
• ステレオできれいな結果が得られる
• Microsoft Researchでは，欠落画像を埋める研究をしている
• 原さんはBPで絵画風画像を生成する研究を発表した
画像補完
絵画風画像
ステレオ
GC
BP
本日の内容
• 田中和之，”クラスター変分法と確率的情報処理－Belief
Propagationと画像処理アルゴリズム－，”科研費特定領域研
究「確率的情報処理への統計力学的アプローチ」平成14年度
研究成果発表会，2002年12月2日
• http://www.smapip.is.tohoku.ac.jp/~kazu/index-j.html
• ２値画像で，劣化画像の復元
• この論文では「Belief Propagation」ではなく「クラスター変分法」
というネーミングを使っている
• この論文の数式等には誤字がある可能性があるため，読む際
にはご注意を
• ステレオなどではどういう計算をしてるか，は今回の発表の範囲
外とさせていただく
目的
雑音
通信路
原画像
劣化画像
強磁性(Ferromagnetism)
• 強磁性体：鉄，コバルト，ニッケル，ガドリニウム
• 強磁性：隣り合うスピンが同一の方向に整列→磁性
• 電子自身が「磁石」：上向きスピン，下向きスピン
スピン
• それぞれの原子・分子に上向き(+1)・下向き(-1)スピン
が割り当てられている
• 隣接スピン同士は同じ向きに向こうとする相互作用が
働く
• イジング模型(Ising model)：スピン変数の確率分布を
以下で表したもの
s:スピン変数の集合
h:外場・磁場
条件付き確率
• あるsx,yについて，それ以外を固定したとき
α，β：ハイパパラメータ
例：この場合
sx,y-1
sx,y
(α=β=1とした場合)
?
e3
sx+1,y P(sx, y  1)  e3  e3  99.8%
sx-1,y
hx,y
sx,y+1
P( s x , y
e 3
 1)  3 3  0.2%
e e
周囲に+が多ければ，+になる確率が高い
外から+の磁場をかけられていたら，+になる確率が高い
画像処理の場合
• ２値画像の場合：黒い画素を-1，白い画素を+1
• 以下の漸化式を更新していくのはどうか？
s x , y  max P(さっきの確率 )
s x , y  1
• sx,yは常にPを増加させる方向にのみ更新される
素晴らしい！！確実に収束していくわけだね！！
確かにその通りだけど・・・
残念！！局所解に陥ると抜け出せない！！
Belief Propagationのアルゴリズム
• 導出は省略し，アルゴリズムだけ載せる
• 以降の３つのスライド
Belief Propagationのアルゴリズム
Belief:fx,y(ζ)はP(sx,y)
hx,y:外からの磁場
Message:λ(影響を表す)
点(x,y)のスピン変数の確率は
４近傍点と外場の影響を受ける
Eの式にあるβζ'はおそらくβhx',y'の間違いかと思われる
Belief Propagationのアルゴリズム
Belief: f ( ,  ) は P( s x , y , s x, y )
hx,y:外からの磁場
Message:λ(影響を表す)
x , y 
x, y
(x,y)と(x',y')は近傍の6点と外場の影響を受け
なおかつ，(x,y)と(x',y')が同じ値になる確率が高い
Belief Propagationのアルゴリズム
hx,y:外からの磁場
Message:λ(影響を表す)
外場と近傍3点の影響を使い
その方向に対する影響を計算する
Belief Propagationのアルゴリズム
• この３つの式で値を更新していけばいい
• 要は，周囲からの影響λで真ん中の点の値fが決まるだ
けでなく，周囲からの影響λも周囲から影響(λ)を受けて
いる
• 実際の例で見てみよう
• 最初に言った，画像修復を行ってみよう
劣化画像
• 原画像sの各画素が確率pで変化してしまい，劣化画
像hができる
劣化
原画像s
劣化画像h
劣化過程
例えば，単純に
1 p 
P(h | s, p)  exp 
hs 
 p

で説明すると
原画像s=+1が確率p=0.2(20%)で劣化するとき
 0.8
 4
P
(
h


1
)

exp

(

1
)

(

1
)

  e  54.6
h=+1を代入すると
0
.
2


 0.8

P
(
h


1
)

exp
  (1)  (1)   e 4  0.0183
h=-1を代入すると
 0.2

hが+1となる確率を単純に 54.6
54.6  0.0183 とすれば，99.97%
hが-1となる確率を単純に 0.0183 とすれば，0.03%
54.6  0.0183
原画像に対する事前情報
近傍の点は似た値になることを表している
例えば，単純に P(sx, y )  exp sx, y sx1, y  で説明すると
sx,y=+1を代入すると P(sx, y  1)  exp  1  2.72
sx+1,y=+1だったとき
sx,y=-1を代入すると P(sx, y  1)  exp  1  0.12
sx,yが+1となる確率を単純に
sx,yが-1となる確率を単純に
2.72
2.72  0.12
0.12
2.72  0.12
とすれば，88%
とすれば，12%
劣化画像hが与えられたときの原画像sに対する確率
ベイズの公式
これを最大化するsが求めるsである
これを解くアルゴリズム(Belief Propagation)
は以前のスライドで示した
もっと具体的にアルゴリズムの流れを追っていこう
まずは，ハイパパラメータαとβ(つまりp)が既知としよう
アルゴリズム
1.
2.
3.
入力：劣化画像hとそのサイズ，反復回数，ハイパパラメータα，β(p)の値
λの初期値は0とする
T：1より大きい値→1（Tの値を減らしながらループ）
1.
λが変化しなくなるまでループ
1.
2.
4.
出力：原画像sに近い修復画像ŝ
3.1.1.はBPアルゴリズムの３つ目の式
gはh(かŝ)の間違いと思われる
劣化画像hを外からの磁場としている
3.1.2.はBPアルゴリズムの１つ目の式
sは+1か-1しかないので，符号を調べるだけでOK
BPアルゴリズムの２つ目の式はなぜか使われていない
ハイパパラメータの自動推定
• ハイパパラメータαとβ（つまりp）も同様にBelief
Propagationで自動的に推定できる
• 詳細は省略
修復結果
原画像
  0.25
( 1  4)
  0.5
( 1  2)
 1
( 1  1)
劣化画像 (p=0.2)
修復画像
ˆ  0.364
pˆ  0.257
ˆ  0.408
pˆ  0.160
ˆ  0.431
pˆ  0.151
修復結果
原画像
劣化画像
平均場近似
クラスター
変分法
Q値画像
• 今までは２値画像のみを扱った
• Q値画像でもできるか？→できる
• Q-state Ising model
• Q-state Potts model
4値画像の画像修復
原画像
劣化画像
（3p=0.3）
4-state Potts
Model
4-state Ising
Model
次回
• 予定：８～９月？
• 発表者：？
• 内容：コンピュータビジョン？
© Daisuke Miyazaki 2006
All rights reserved.
http://www.cvl.iis.u-tokyo.ac.jp/