Transcript PPT - 知的システムデザイン研究室

シミュレーテッドアニーリングにおける
タイトル
最高温度の重要性
同志社大学工学部
知的システムデザイン研究室
三木光範
廣安知之
○ 吉田武史
Intelligent Systems Design Lab.
シミュレーテッドアニーリングとは
物理プロセス(アニーリング)を
計算機上でシュミレート
•最適化問題に利用
冷却
SA(Simulated Annealing)のアルゴリズム
1. 解摂動
減少
2.
摂動を受理判定
大
増加
Energy
小
温度 低
エネルギー 低
温度 高
エネルギー 高
exp
摂動を受理
確率で摂動を受理
- (Enext – Ecurrent)
T
T : 温度
3. クーリング
Intelligent Systems Design Lab.
SAにおける温度スケジュール
温度スケジュールを決定するパラメータ
Temperature
最高温度 SA実行中の最高温度
クーリング周期
冷却率
最低温度
Time
一定温度でのアニーリング
クーリングでの温度減少率
SA実行中の最低温度
非常に計算時間がかかる
Intelligent Systems Design Lab.
並列SAについて
並列SA(Parallel SA : PSA)の目的
•解探索能力を増大
•計算時間の短縮
情報交換
逐次SA
情報交換
PSAの種類
•完全独立型
•受理同期型
•定期同期型
逐次SA
情報交換
逐次SA
PSAの特徴
•同期を取って情報交換
•すべて同じ温度スケジュール
逐次SA
Intelligent Systems Design Lab.
温度並列SA(TPSA)
TPSAのアルゴリズム
各プロセッサに温度割り当て
メリット
•並列処理との親和性
•温度スケジュールの自動化
Temperature
•各プロセッサに温度割り当て T
1
•クーリング = 解交換
T2
T3
T4
T5
T6
特徴
Time
解の経過した温度
•良質な解は低温プロセッサに移動
Intelligent Systems Design Lab.
研究目的
並列SAの問題点
PSA
適当な温度スケジュールの設定が困難
TPSA
TPSA終了時の高温プロセッサでの
アニーリング効果が小さい
並列SAの改良
計算時間の短縮
現実時間での性能向上
各プロセッサの温度スケジュールが異なるPSA
Intelligent Systems Design Lab.
異なる温度スケジュールでのPSA
TYPE2
TYPE3
Time
Temperature
Temperature
Temperature
TYPE1
Time
Time
すべてのプロセッサの温度スケジュールが異なる
すべてのタイプでクーリング周期は同じ
Intelligent Systems Design Lab.
対象問題
巡回セールスマン問題
(Traveling Salesman Problem : TSP)
代表的な組み合わせ最適化問題
最短の経路長を見つける
近傍定義の方法
2-change手法
Modified 2-change手法
Intelligent Systems Design Lab.
TSPでの近傍構造(1)
2-change手法
C
A
E
F
C
A
E
F
B
D
巡回路 : ABCDEF
2本の枝を選択し，
交換する
B
D
巡回路 : ADCBEF
ランダムに選択するため効率が悪い
Intelligent Systems Design Lab.
TSPでの近傍構造(2)
Modified 2-change手法
半径内の
都市を選択
C
A
C
A
E
F
E
F
2-change
B
D
B
巡回路 : ABCDEF
D
巡回路 : ABFEDC
一本の枝は必ず短くなる
Intelligent Systems Design Lab.
実験概要(1)
温度スケジュールの影響
限られた計算時間でのPSA
アニーリング数,クーリング周期を短く
SAの並列化による性能比較
PSA (解交換なし)
TPSA
温度スケジュールの異なるPSA
(TYPE1,TYPE2,TYPE3)
Intelligent Systems Design Lab.
実験でのパラメータ
アルゴリズム
アニーリング数
Normal PSA
TPSA
温度スケジュールが異なる
PSA
5000～50000までを5000区切り
対象問題
150都市のTSP (ch150)
最高温度
5500
最低温度
0.45
各プロセッサの
温度割り当て
すべて同じ
温度割り当て
5500～0.45まで
を等比割り当て
温度数
16
クーリング周期
300
計算試行数
後述
16プロセッサ × 20試行
Intelligent Systems Design Lab.
異なる温度スケジュールでの温度割り当て
最高温度
十分大きい温度
高温プロセッサの初期温度
最低温度
十分小さい温度
低温プロセッサの終了温度
TYPE1
Time
冷却率 = 0.9
低温重視
TYPE2
等比的に割り当て
等比的に割り当て
全体的に分布
高温重視
Time
TYPE3
Time
Intelligent Systems Design Lab.
実験結果 -温度スケジュールの影響2-change手法
TYPE1
TYPE2
TYPE3
Intelligent Systems Design Lab.
実験結果 -温度スケジュールの影響Modified 2-change手法
TYPE1
TYPE2
TYPE3
Intelligent Systems Design Lab.
実験概要(2)
解交換の影響
TYPE1のPSAでの解交換
解交換回数 4回
３つの解交換法
Solution Change
Temperature
同期を取って
各プロセッサの解交換
ベスト
ソート
逆順ソート
Time
Intelligent Systems Design Lab.
解交換の方法
同期 解交換
High
ベスト
もっとも良好な解をすべてのプロセッサに
ソート
Temperature
温度の低いプロセッサから順に
良好な解をくばる
逆順ソート
Low
温度の高いプロセッサから順に
良好な解をくばる
Intelligent Systems Design Lab.
実験結果 -解交換の影響2-change手法
逆順ソートの
性能が悪い
Intelligent Systems Design Lab.
実験結果 -解交換の影響Modified 2-change手法
逆順ソートの
性能が高い
Intelligent Systems Design Lab.
考察(1)
温度スケジュールの異なるPSA
低温部でのアニーリングが多い
Temperature
TYPE1とTYPE3の違い
TYPE1
並列化のメリット
効率のいい探索が行える
Temperature
同時に幅広い温度でのアニーリング
TYPE3
Time
Time
Intelligent Systems Design Lab.
考察(2)
解交換のPSAへの影響
近傍によって解摂動の
範囲が異なる
巡回路
逆順ソートの近傍による違い
2-change
Modified 2-change
高温
解交換の影響は解の精度に依存
低温
TSPの問題特性
最適解の近くに局所解
Optimum
解交換
局所解の近くに最適解
良好な解を配ることが最適解を見つけることにつながると限らない
Intelligent Systems Design Lab.
まとめ
温度スケジュールの異なるPSAの提案
低温重視のPSAの性能が高い
TSPにおいて低温でのアニーリングが重要
解交換のPSAの影響
近傍により解交換の影響力が異なる
今後の課題
他の組み合わせ最適化問題での
低温アニーリングの検証
Intelligent Systems Design Lab.
付録目次
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
概要
SAでの最高温度の設定
SAでの最低温度の設定
SAでのクーリング率の設定
TYPE2での情報交換の違い
TYPE3での情報交換の違い
ワーストを含めた解交換(2change)
ワーストを含めた解交換(Modified 2change)
51都市問題でのパラメータ
51都市問題ので実験結果(2change)
51都市問題での実験結果(Modified 2change)
51都市問題での解交換(2change)
51都市問題での解交換(Modified 2change)
Intelligent Systems Design Lab.
概要
シミュレーテッドアニーリング(SA)と
並列SA(PSA)について
SAとPSAでの温度スケジュールについて
提案するPSAの説明
対象問題と近傍構造について
TPSA、PSAとの性能比較
まとめ
Intelligent Systems Design Lab.
SAでの最高温度の設定
最高温度 すべての摂動を受理する十分に高い温度
最大の改悪を一定の確率で受理する温度
実験で用いた最高温度
5500 : 最大の改悪を50%の確率で受理
大
Energy
改悪
小
Intelligent Systems Design Lab.
SAでの最低温度の設定
最低温度 エネルギーが変化しない温度
SA探索を続けることが可能な十分小さい温度
実験で用いた最低温度
0.45 : クーリング周期で最小の改悪を
最低１回は受理する温度
SA探索が可能
Cooling Cycle
Cooling Cycle
Cooling Cycle
Intelligent Systems Design Lab.
SAでのクーリング周期
クーリング周期
一つの温度で平衡状態が実現するまで繰り返すアニーリング数
対象問題の近傍サイズに比例して設定
実験で用いたクーリング周期
TSPの場合
都市数 × 20
150都市なら3000
300 ( PSAによる計算時間短縮のため )
Intelligent Systems Design Lab.
TYPE2での情報交換の違い(1)
Temperature
2-change手法
Time
•全体的な温度分布
•冷却率同一
Intelligent Systems Design Lab.
TYPE2での情報交換の違い(2)
Temperature
Modified 2-change手法
Time
•全体的な温度分布
•冷却率同一
Intelligent Systems Design Lab.
TYPE3での情報交換の違い(1)
Temperature
2-change手法
Time
•高温度に分布
•最高温度同一
Intelligent Systems Design Lab.
TYPE3での情報交換の違い(2)
Temperature
Modified 2-change手法
Time
•高温度に分布
•最高温度同一
Intelligent Systems Design Lab.
ワーストを含めた解交換(2change)
ベスト
もっとも良好な解をすべての
プロセッサに
ソート
温度の低いプロセッサから
順に良好な解をくばる
逆順ソート
温度の高いプロセッサから
順に良好な解をくばる
ワースト
温度の高いプロセッサから
順に良好な解をくばる
Intelligent Systems Design Lab.
ワーストを含めた解交換(Modified 2change)
ベスト
もっとも良好な解をすべての
プロセッサに
ソート
温度の低いプロセッサから
順に良好な解をくばる
逆順ソート
温度の高いプロセッサから
順に良好な解をくばる
ワースト
温度の高いプロセッサから
順に良好な解をくばる
Intelligent Systems Design Lab.
51都市問題でのパラメータ
アルゴリズム
アニーリング数
Normal PSA
TPSA
温度スケジュールが異なる
PSA
1000～10000までを1000区切り
対象問題
51都市のTSP (eil150)
最高温度
1000
最低温度
0.1
各プロセッサの
温度割り当て
すべて同じ
1000～0.1までを
等比割り当て
温度割り当て
温度数
16
クーリング周期
100
計算回数
後述
16プロセッサのベスト×20
Intelligent Systems Design Lab.
51都市問題での実験結果(1)
2-change手法
Intelligent Systems Design Lab.
51都市問題での実験結果(2)
Modified 2-change手法
Intelligent Systems Design Lab.
51都市問題での解交換(1)
2-change手法
Intelligent Systems Design Lab.
51都市問題での解交換(2)
Modified 2-change手法
Intelligent Systems Design Lab.
TSPの近傍比較
逐次SAでの性能比較
TSPでは近傍の性能がSAの性能に大きく影響
Intelligent Systems Design Lab.