Transcript 発表資料(ppt版)
交換モンテカルロ法における
熱浴型交換率の解析
永田賢二 渡辺澄夫
東京工業大学
発表概要
研究背景
解析
交換モンテカルロ法
交換モンテカルロ法の設計
先行研究の解析結果
本研究の解析結果
考察・まとめ
発表概要
研究背景
解析
交換モンテカルロ法
交換モンテカルロ法の設計
先行研究の解析結果
本研究の解析結果
考察・まとめ
交換モンテカルロ法[Hukushima,96]
<交換モンテカルロ法>
従来のMCMC法の問題点である、
「収束の遅さ」を改善したアルゴリズム
MCMC法 ・・・ ある確率分布に法則収束する
サンプル系列を生成するアルゴリズム。
「計算量が膨大なこと」や「収束判定が難しいこと」が
問題点として知られている。
<交換モンテカルロ法の応用例>
スピングラス・シミュレーション
タンパク質の構造解析
組み合わせ最適化問題
ベイズ学習
交換モンテカルロ法[Hukushima,96]
以下の目標分布からサンプリングすることを考える。
1
目標分布: p(w)
exp(nH (w))(w)
Z (n)
(w Rd )
交換モンテカルロ法では、以下の同時分布からのサンプリングを考える。
K
tk : k 1,, K:温度パラメータ
p(w1,, wK ) p(wk | tk )
k 1
1
p(w | t )
exp(ntH(w))(w)
Z (nt)
交換モンテカルロ法
<アルゴリズム>
以下の2種類の更新を交互に実行する。
1.[従来のMCMC法によるサンプリング]
メトロポリス法やギブスサンプラーなどの従来のMCMC法により、
それぞれの分布 p(wk | tk )からのサンプリングを並列に実行する。
2.[隣り合った温度間でのサンプルの交換]
上記の操作に加えて、適当なステップごとにサンプル wk と wk 1 を
確率 で交換する。以後、 を交換率と呼ぶことにする。
u
u
交換モンテカルロ法
<交換率の種類>
1.メトロポリス型交換率
u1 min1, r
p(wk 1 | tk ) p(wk | tk 1 )
r
expn(tk 1 tk )H (wk 1 ) H (wk )
p(wk | tk ) p(wk 1 | tk 1 )
2.熱浴型交換率
pwk 1 | tk pwk | tk 1
u2
pwk | tk pwk 1 | tk 1 pwk 1 | tk pwk | tk 1
1
n
1 tanh tk 1 tk H wk 1 H wk
2
2
交換モンテカルロ法
<従来のMCMC法>
p(w)
<交換モンテカルロ法>
p(w1 | t1)
p(w2 | t2 )
p(w3 | t3 )
p(w4 | t4 )
発表概要
研究背景
解析
交換モンテカルロ法
交換モンテカルロ法の設計
先行研究の解析結果
本研究の解析結果
考察・まとめ
交換モンテカルロ法の設計
<温度パラメータの設定>
交換率との関わり
r expn(tk 1 tk )H (wk 1 ) H (wk )
1
n
u2 1 tanh tk 1 tk H wk 1 H wk
2
2
•粗く刻むと
・・・ サンプルが交換される割合が減る ⇒ 効率が悪くなる!
•細かく刻むと ・・・ 用意するサンプル系列数が増える ⇒ 計算量が膨大!
サンプル交換の割合(平均交換率)が、各温度間でほぼ一定になるように
温度パラメータを設定することが望ましい。
交換モンテカルロ法の設計
<対称カルバック距離>
p(wk | tk )
p(wk 1 | tk 1 )
I (tk , tk 1 ) p(wk | tk ) log
dwk p(wk 1 | tk 1 ) log
dwk 1
p(wk | tk 1 )
p(wk 1 | tk )
<性質>
1.p(wk | tk ) p(wk 1 | tk 1 ) における log rの期待値 E[logr ] との間に
E[log r] I (tk , tk 1 ) が成り立つ。
2.自由エネルギー
F (t ) log exp(ntH(w))(w)dw
との間に
2 F (tk )
2
I (tk , tk 1 )
t
t
が成り立つ。
k 1
k
t 2
目的
n (低温極限)における対称カルバック距
離と平均交換率の漸近挙動を解明する。
それぞれの性質、関係を明らかにする。
最適な温度パラメータの設定を提案する。
発表概要
研究背景
解析
交換モンテカルロ法
交換モンテカルロ法の設計
先行研究の解析結果
本研究の解析結果
考察・まとめ
問題設定
以下の2つの確率分布間で交換モンテカルロ法を行った場合を考える。
p1w pw | t
p2 w pw | t t w R
<対称カルバック距離>
d
t t
p1 (w1 )
p2 (w2 )
I p1 (w1 ) log
dw1 p2 (w2 ) log
dw2
p2 (w1 )
p1 (w2 )
<平均交換率>
J1 u1 p1 (w1 ) p2 (w2 )dw1dw2
J 2 u2 p1 (w1 ) p2 (w2 )dw1dw2
(メトロポリス型)
(熱浴型)
先行研究
<定理1>[NC研究会、2006]
対称カルバック距離 I 、メトロポリス型平均交換率 J1 は、
n において以下に収束する。
2
t 2
t t
I 1 O
t
t
t
t 2
| t | 12
J1 1
O
t
t
Im z
:有理数
( z) H (w) (w)dw
z
0
Re z
主定理
<定理2>
J 2 は、 n において以下に収束する。
2
3
1 t
t
J 2 1 O
2 2 t
t
熱浴型平均交換率
Im z
:有理数
( z) H (w) (w)dw
z
0
Re z
主定理の証明の概略
f w | t
pw | t
, f w | t exp ntHww
Z nt
nt
H w2 H w1 f w1 | t f w2 | t t
J dw1 dw2 tanh
2
*
2
とすると、
J 2 u2 p(w1 | t ) p(w2 | t t )dw1dw2
1
J 2*
1
2 Z nt Z nt t
と表せる。
主定理の証明の概略
<補題>[Watanabe,2001]
状態密度関数 V s は、 s 0 において以下の漸近形を持つ。
V s s H wwdw cs 1 log sm1
この補題より
2
3
2m1
2
2
c
log
nt
t
t
*
J2
O
nt 2 2 t t
clog nt m1
Z nt
nt
2
3
1 t
t
J 2 1 O
2 2 t
t
発表概要
研究背景
解析
交換モンテカルロ法
交換モンテカルロ法の設計
先行研究の解析結果
本研究の解析結果
考察・まとめ
考察
2
t t
t
対称カルバック距離: I
1 O
t
t
t
t 2
| t | ( 12 )
メトロポリス型平均交換率: J1 1
O
t
( ) t
2
3
1 t
t
熱浴型平均交換率: J 2
1 O
2 2 t
t
2
1、対称カルバック距離が一定になるように温度パラメータを設定することで、
平均交換率も一定になる。
2、その際の温度パラメータは等比数列になる。
3、得られた定理から J J であるため、交換率としてメトロポリス型を
1
2
用いるほうがアルゴリズムの効率がよくなる。
まとめ
低温極限の場合における熱浴型平均交換率の漸近挙
動を解明した。
結果として、以下のことが明らかになった。
対称カルバック距離が一定になるように温度パラメータを設定
することで、熱浴型平均交換率も一定になる。
その際の温度パラメータは等比数列になる。
交換率としてメトロポリス型を用いるほうがアルゴリズムの効率
がよくなる。
今後の課題
得られた理論の検証
階層モデルにおけるベイズ学習などへの応用