Transcript 講演スライド
確率の生み出す新しい情報処理技術 東北大学 大学院情報科学研究科 田中 和之 [email protected] http://www.statp.is.tohoku.ac.jp/~kazu/ 豊田中央研究所2003年11月27日 1 スケジュール はじめに ベイズ統計とは 確率的画像処理と確率伝搬法 ベイジアンネットと確率伝搬法 確率的情報処理の最近の動向 豊田中央研究所2003年11月27日 2 確率的情報処理への統計力学的アプローチ 共通の数理 たくさんが関連 統計力学 ベイズ統計 物性の理解・予言 豊田中央研究所2003年11月27日 情報科学 情報の抽出・加工 3 スケジュール はじめに ベイズ統計とは 確率的画像処理と確率伝搬法 ベイジアンネットと確率伝搬法 確率的情報処理の最近の動向 豊田中央研究所2003年11月27日 4 確率の知識（１） 事象Ａの起こる確率 Pr{ A} 事象Aと事象Bの結合確率 Pr A , B Pr A B 条件付き確率と結合確率 Pr B A Pr A , B A Pr A Pr A , B Pr B A Pr A 豊田中央研究所2003年11月27日 B 5 確率の知識（２） ベイズの公式 Pr A B Pr B A Pr A Pr B A Pr A A 豊田中央研究所2003年11月27日 6 スケジュール はじめに ベイズ統計とは 確率的画像処理と確率伝搬法 ベイジアンネットと確率伝搬法 確率的情報処理の最近の動向 http://www.statp.is.tohoku.ac.jp/~kazu/SMAPIP-KazuKazu/ 豊田中央研究所2003年11月27日 7 画像修復の確率モデル 雑音 通信路 原画像 劣化画像 Pr 原画像 | 劣化画像 事後確率 事前確率 Pr 劣化画像 | 原画像 Pr 原画像 Pr 劣化画像 豊田中央研究所2003年11月27日 8 ベイズの公式と確率的画像処理 P f 事前確率 y 画素 x P f g , f 原画像 f f x, y x, y 事後確率 修復画像 fˆ g g 劣化過程 P f g, , 劣化画像 g g x, y x, y P g f , P f P g , fˆx , y ( x , y ) P f 豊田中央研究所2003年11月27日 g, , 9 画像処理の直感的理解 劣化画像には原画像の情報が残っている． よく見ると猿の顔 に見えるな！ 周りが白ければ自分も白い． ごみかな？ できるだけ白い固まりと黒い固まりの多い画像 の中で劣化画像に近い画像を探す． 豊田中央研究所2003年11月27日 10 確率伝搬法 W , 255 x 1, y g x, y M x, y M xx,, yy 1 M xx,, yy 1 0 M x 1, y 255 255 x, y x 1, y W , ' g x, y M x, y M xx,, yy 1 M xx,, yy 1 0 ' 0 ( x , y 1) 固定点方程式 x , y 1 M x, y ( x 1, y ) M x, y x 1, y ( x 1, y ) ( x, y ) M x 1, y x,y x , y 1 M x, y M M 反復法 M fˆ ( x , y 1) 豊田中央研究所2003年11月27日 11 反復法 固定点方程式 反復法 M * M 繰り返し出力を入力に入れることにより， 固定点方程式の解が数値的に得られる． M 1 M 0 y M 2 M 1 M1 M 3 M 2 * 0 y x y ( x) M * M 1 豊田中央研究所2003年11月27日 M0 x 12 画像修復の劣化過程と事前確率 f x , y , g x , y , 劣化過程 P g f , ( x , y ) 1 2 exp f x , y g x , y 2 2 2 1 事前確率 P f exp Z PR 2 ( x , y ) 1 exp 2 ( x , y ) f x, y f x, y 豊田中央研究所2003年11月27日 f x 1, y f x , y 1 2 2 13 確率伝搬法を用いた画像修復（白色ガウス雑音） 原画像 劣化画像 MSE: 1512 平滑化フィルター MSE: 411 ウィーナーフィルター MSE: 545 豊田中央研究所2003年11月27日 確率伝搬法 MSE: 325 メジアンフィルター MSE: 447 14 確率伝搬法を用いた画像修復（一様分布） 原画像 平滑化フィルター MSE: 784 劣化画像 確率伝搬法 MSE: 3469 MSE: 371 メジアンフィルター ウィーナーフィルター MSE：1169 豊田中央研究所2003年11月27日 MSE: 477 15 スケジュール はじめに ベイズ統計とは 確率的画像処理と確率伝搬法 ベイジアンネットと確率伝搬法 確率的情報処理の最近の動向 豊田中央研究所2003年11月27日 16 ベイジアンネットと統計力学 ベイズの公式 確率モデル グラフィカルモデル 確率推論 医療診断 故障診断 ベイジアンネット 確率伝搬法 たくさんのノードが関連しあって集まっている． 要請： 多様なデータに耐えうる推論システム ゆらぎを系統的に扱える理論の必要性 豊田中央研究所2003年11月27日 共通の数理 確率的情報処理 の出番 17 簡単なベイジアンネットの例 問題 芝生がぬれているの は何故でしょうか？ 雨が降ったせいでしょ うか？ それともスプリンク ラーを動かしたせいで しょうか？ Pr AR T A W T Pr AS T A W T ? 豊田中央研究所2003年11月27日 18 簡単なベイジアンネットの例 Pr A R T A W T Pr A R T, A W T Pr A W T 0 . 4581 0 . 7079 0 . 6471 Pr AS T A W T Pr AS T, A W T Pr A W T 0 . 2781 0 . 4298 0 . 6471 回答：芝生がぬれているのは雨が降ったせいだと考えられます． 豊田中央研究所2003年11月27日 19 より複雑なベイジアンネット 1 2 W 24 W13 3 W3 W6 W 67 7 豊田中央研究所2003年11月27日 W 346 6 W 25 4 W4 W 568 5 W5 8 20 確率伝搬法 W 346 ( a 3 , a 4 , a 6 ) M 3 13 ( a 3 ) M 4 24 ( a 4 ) M 6 346 ( a 6 ) a3 a 4 W 346 ( a 3 , a 4 , a 6 ) M 3 13 ( a 3 ) M 4 24 ( a 4 ) a3 a 4 a6 1 1 2 M 3 13 3 4 M 4 24 3 W3 W6 M 6 346 6 W 24 W13 2 W 67 7 豊田中央研究所2003年11月27日 W 346 6 W 25 4 W4 W 568 5 W5 8 21 固定点方程式と反復法 M 固定点方程式 反復法 M1 M2 M3 * M * 繰り返し出力を入力に入れることにより， 固定点方程式の解が数値的に得られる． M0 M1 M2 y x y M1 0 y ( x) M * M1 M0 x 豊田中央研究所2003年11月27日 22 数値実験 Pr ATuberculos is Present A Dyspnea Present Pr ATuberculos is Present , A Dyspnea Present Pr A Dyspnea Present 0 . 0082 0 . 0187 0 . 4393 A2 A1 W 24 W 13 A3 W 346 W3 W6 W 67 A7 豊田中央研究所2003年11月27日 W 25 A4 W4 A6 A5 W 568 W5 A8 23 スケジュール はじめに ベイズ統計とは 確率的画像処理と確率伝搬法 ベイジアンネットと確率伝搬法 確率的情報処理の最近の動向 豊田中央研究所2003年11月27日 24 本講演で取り上げなかったトピックス (符号理論・移動体通信) の参考文献 樺島祥介 “物理の世界/学習と情報の 平均場理論”, 岩波書店, 2002. 樺島祥介 “コトの物理学 ---誤り訂正符 号を例として---”,日本物理学会誌, vol.58, no.4, pp.239-246, 2003. 田中利幸, ``移動体通信技術とスピング ラスとの意外な関係”, 日本物理学会誌, vol.56, no.9, pp. 660-666, 2001. 豊田中央研究所2003年11月27 日 25 これから参入したい方のために 西森，樺島，田中他著, “特集/知識情報処理の統計力学 的アプローチ”, 数理科学1999 年 12 月号. 西森秀稔, “新物理学選書/スピングラス理論と情報統計 力学” 岩波書店, 1999. H. Nishimori, “Statistical Physics of Spin Glasses and Information Processing: An Introduction”, Oxford University Press, 2001. 田中・樺島編, “ミニ特集/ベイズ統計・統計力学と情報処 理”, 計測自動制御学会誌「計測と制御」2003年8月号 豊田中央研究所2003年11月27 日 26 What is SMAPIP? http://www.smapip.eei.metro-u.ac.jp./ 文部科学省 科学研究費補助金 特定領域研究 ２００２年４月－２００６年３月 豊田中央研究所2003年11月27 日 27