講演スライド

download report

Transcript 講演スライド

確率の生み出す新しい情報処理技術
東北大学 大学院情報科学研究科
田中 和之
[email protected]
http://www.statp.is.tohoku.ac.jp/~kazu/
豊田中央研究所2003年11月27日
1
スケジュール
はじめに
ベイズ統計とは
確率的画像処理と確率伝搬法
ベイジアンネットと確率伝搬法
確率的情報処理の最近の動向
豊田中央研究所2003年11月27日
2
確率的情報処理への統計力学的アプローチ
共通の数理
たくさんが関連
統計力学
ベイズ統計
物性の理解・予言
豊田中央研究所2003年11月27日
情報科学
情報の抽出・加工
3
スケジュール
はじめに
ベイズ統計とは
確率的画像処理と確率伝搬法
ベイジアンネットと確率伝搬法
確率的情報処理の最近の動向
豊田中央研究所2003年11月27日
4
確率の知識(1)
事象Aの起こる確率
Pr{ A}
事象Aと事象Bの結合確率 Pr  A , B   Pr  A  B 
条件付き確率と結合確率
Pr B A  
Pr  A , B 
A
Pr  A 
 Pr  A , B   Pr B A  Pr  A 
豊田中央研究所2003年11月27日
B
5
確率の知識(2)
ベイズの公式
Pr A B  
Pr B A  Pr  A 
 Pr B A  Pr  A 
A
豊田中央研究所2003年11月27日
6
スケジュール
はじめに
ベイズ統計とは
確率的画像処理と確率伝搬法
ベイジアンネットと確率伝搬法
確率的情報処理の最近の動向
http://www.statp.is.tohoku.ac.jp/~kazu/SMAPIP-KazuKazu/
豊田中央研究所2003年11月27日
7
画像修復の確率モデル
雑音
通信路
原画像
劣化画像
Pr 原画像 | 劣化画像  
     
事後確率
事前確率

 
Pr 劣化画像 | 原画像 Pr 原画像 
Pr 劣化画像
豊田中央研究所2003年11月27日

8
ベイズの公式と確率的画像処理
P f 

事前確率
y

画素
x
P  f g ,
f

原画像
f  f x, y x, y  
事後確率
修復画像 fˆ 
g

g
劣化過程

P  f g, ,  
劣化画像

g  g x, y x, y  
P  g f ,  P  f 
P g  , 
 fˆx , y ( x , y )     P  f
豊田中央研究所2003年11月27日


g, ,

9

画像処理の直感的理解
劣化画像には原画像の情報が残っている.
よく見ると猿の顔
に見えるな!
周りが白ければ自分も白い.
ごみかな?
できるだけ白い固まりと黒い固まりの多い画像
の中で劣化画像に近い画像を探す.
豊田中央研究所2003年11月27日
10
確率伝搬法
 W  , 
255

x  1, y
g x, y M x, y
 M xx,, yy  1  M xx,, yy  1  
 0
M x  1, y   
255 255
x, y



x  1, y
 W  , ' g x, y M x, y
 M xx,, yy  1  M xx,, yy  1  
  0 '  0
( x , y  1)
固定点方程式
x , y 1
M x, y
( x  1, y )
M
x, y
x  1, y
( x  1, y )
( x, y )
M
x 1, y
x,y
x , y 1
M x, y

 
M  M
 
反復法

M  fˆ
( x , y  1)
豊田中央研究所2003年11月27日
11
反復法
固定点方程式
反復法
M
*
 
 M
繰り返し出力を入力に入れることにより,
固定点方程式の解が数値的に得られる.
M 1   M 0 
y
M 2   M 1 
M1
M 3   M 2 

*
0
y x
y   ( x)
M
* M
1
豊田中央研究所2003年11月27日
M0
x
12
画像修復の劣化過程と事前確率
f x , y , g x , y     ,  
劣化過程
P g f ,   

( x , y ) 

1
2
exp  
f x , y  g x , y 
2
2 
 2


1

事前確率
 
P f   
exp  

Z PR  
 2
( x , y ) 
1
 
 
exp  
 2
( x , y ) 
 f x, y 
 f x, y 
豊田中央研究所2003年11月27日
f x  1, y
f x , y 1

2
2 




13
確率伝搬法を用いた画像修復(白色ガウス雑音)
原画像
劣化画像
MSE: 1512
平滑化フィルター
MSE: 411
ウィーナーフィルター
MSE: 545
豊田中央研究所2003年11月27日
確率伝搬法
MSE: 325
メジアンフィルター
MSE: 447
14
確率伝搬法を用いた画像修復(一様分布)
原画像
平滑化フィルター
MSE: 784
劣化画像
確率伝搬法
MSE: 3469
MSE: 371
メジアンフィルター
ウィーナーフィルター
MSE:1169
豊田中央研究所2003年11月27日
MSE: 477
15
スケジュール
はじめに
ベイズ統計とは
確率的画像処理と確率伝搬法
ベイジアンネットと確率伝搬法
確率的情報処理の最近の動向
豊田中央研究所2003年11月27日
16
ベイジアンネットと統計力学
ベイズの公式
確率モデル
グラフィカルモデル
確率推論
医療診断
故障診断
ベイジアンネット
確率伝搬法
たくさんのノードが関連しあって集まっている.
要請: 多様なデータに耐えうる推論システム
ゆらぎを系統的に扱える理論の必要性
豊田中央研究所2003年11月27日
共通の数理
確率的情報処理
の出番
17
簡単なベイジアンネットの例
問題
芝生がぬれているの
は何故でしょうか?
雨が降ったせいでしょ
うか?
それともスプリンク
ラーを動かしたせいで
しょうか?

Pr AR  T A W  T  Pr AS  T A W  T  ?

豊田中央研究所2003年11月27日
18
簡単なベイジアンネットの例
Pr A R  T A W  T  

Pr  A R  T, A W  T 
Pr  A W  T 
0 . 4581
 0 . 7079
0 . 6471
Pr AS  T A W  T  

Pr  AS  T, A W  T 
Pr  A W  T 
0 . 2781
 0 . 4298
0 . 6471
回答:芝生がぬれているのは雨が降ったせいだと考えられます.
豊田中央研究所2003年11月27日
19
より複雑なベイジアンネット
1
2
W 24
W13
3
W3
W6
W 67
7
豊田中央研究所2003年11月27日
W 346
6
W 25
4
W4
W 568
5
W5
8
20
確率伝搬法
  W 346 ( a 3 , a 4 , a 6 ) M 3  13 ( a 3 ) M 4  24 ( a 4 ) 
M 6  346 ( a 6 ) 
a3 a 4
   W 346 ( a 3 , a 4 , a 6 ) M 3  13 ( a 3 ) M 4  24 ( a 4 ) 
a3 a 4 a6
1
1
2
M 3 13
3
4
M 4  24
3
W3
W6
M 6  346
6
W 24
W13
2
W 67
7
豊田中央研究所2003年11月27日
W 346
6
W 25
4
W4
W 568
5
W5
8
21
固定点方程式と反復法

M
固定点方程式
反復法

M1  

M2  

M3  
*
 
 
 M
*
繰り返し出力を入力に入れることにより,
固定点方程式の解が数値的に得られる.

M0

M1

M2
 
 
 
y x
y
M1
0
y   ( x)
M
*
M1
M0
x

豊田中央研究所2003年11月27日
22
数値実験

Pr ATuberculos is  Present



A Dyspnea  Present
Pr ATuberculos is  Present , A Dyspnea  Present

Pr A Dyspnea  Present



0 . 0082
 0 . 0187
0 . 4393
A2
A1
W 24
W 13
A3
W 346
W3
W6
W 67
A7
豊田中央研究所2003年11月27日
W 25
A4
W4
A6
A5
W 568
W5
A8
23
スケジュール
はじめに
ベイズ統計とは
確率的画像処理と確率伝搬法
ベイジアンネットと確率伝搬法
確率的情報処理の最近の動向
豊田中央研究所2003年11月27日
24
本講演で取り上げなかったトピックス
(符号理論・移動体通信) の参考文献
樺島祥介 “物理の世界/学習と情報の
平均場理論”, 岩波書店, 2002.
樺島祥介 “コトの物理学 ---誤り訂正符
号を例として---”,日本物理学会誌,
vol.58, no.4, pp.239-246, 2003.
田中利幸, ``移動体通信技術とスピング
ラスとの意外な関係”, 日本物理学会誌,
vol.56, no.9, pp. 660-666, 2001.
豊田中央研究所2003年11月27
日
25
これから参入したい方のために
西森,樺島,田中他著, “特集/知識情報処理の統計力学
的アプローチ”, 数理科学1999 年 12 月号.
西森秀稔, “新物理学選書/スピングラス理論と情報統計
力学” 岩波書店, 1999.
H. Nishimori, “Statistical Physics of Spin Glasses and
Information Processing: An Introduction”, Oxford
University Press, 2001.
田中・樺島編, “ミニ特集/ベイズ統計・統計力学と情報処
理”, 計測自動制御学会誌「計測と制御」2003年8月号
豊田中央研究所2003年11月27
日
26
What is SMAPIP?
http://www.smapip.eei.metro-u.ac.jp./
文部科学省 科学研究費補助金 特定領域研究
2002年4月-2006年3月
豊田中央研究所2003年11月27
日
27