Transcript 提案手法 - 筑波大学
www.viplab.is.tsukuba.ac.jp/~lacarte
局所部分空間の
アンサンブル学習に基づく
3次元物体認識
筑波大学大学院
システム情報工学研究科
コンピュータサイエンス専攻2年
呉 嘉寧
www.viplab.is.tsukuba.ac.jp/~lacarte
目次
背景
従来研究
提案手法
識別の流れ
比較実験
まとめ&今後の課題
2
www.viplab.is.tsukuba.ac.jp/~lacarte
背景 - 物体認識手法の概要
識別に先立ち、学習を行う
学習フェーズではクラスごとに入力画像から辞書を
生成する
識別フェーズでは入力画像と学習で生成した辞書を
比較し、もっとも類似しているクラスに識別する
3
www.viplab.is.tsukuba.ac.jp/~lacarte
背景 - 主なアプローチ
3次元物体認識には主に2つのアプローチがある
3次元モデルに基づく手法(モデルベース)
利点:モデルに基づくので正確
弱点:カメラに基づく場合は特徴点抽出の精度に依存、
専用デバイスが必要
物体の見え方を統計的に扱う手法(ビューベース)
利点:特徴点抽出を用いなく、通常のカメラで実現可能
弱点:単一の視点だけでは情報が少ない
4
www.viplab.is.tsukuba.ac.jp/~lacarte
背景 - 画像のベクトル表現
ビューベース手法では入力画像を特徴空間上のベ
クトルとして表現する
5
www.viplab.is.tsukuba.ac.jp/~lacarte
背景 - 部分空間近似
単一視点では物体に関する情報が少ないため、
ビューベース手法では複数視点を採用することが多い
複数視点では入力が特
徴ベクトルの集合(パターン
分布)となる
個々のベクトルを個別に
扱うよりパターン分布を主成
分分析して部分空間で近似
したほうが扱いやすい
6
www.viplab.is.tsukuba.ac.jp/~lacarte
目次
背景
従来研究
提案手法
識別の流れ
比較実験
まとめ&今後の課題
7
www.viplab.is.tsukuba.ac.jp/~lacarte
従来研究 - 相互部分空間法(MSM)
部分空間PとQの正準角θの定義は
下式
提案手法の基礎である
学習フェーズでは各クラスの特徴ベクトルを主成分分析により部分
空間で近似し、辞書とする
識別フェーズでは同じように入力を主成分分析して入力部分空間と
する
辞書部分空間と入力部分空間の類似度(正準角)をもとに識別する
8
www.viplab.is.tsukuba.ac.jp/~lacarte
従来研究 - 部分空間近似
線形的な(非線形性の
弱い)パターン分布に
対して部分空間で近似
非線形的な(非線形性の強
い)パターン分布に対して部
分空間で近似
9
www.viplab.is.tsukuba.ac.jp/~lacarte
従来研究 –
核非線形相互部分空間法(KMSM)
線形部分空間での近似が困難なパターン分布に対
して、非線形写像を用いた核非線形相互部分空間
法(KMSM)などが提案されている
顔、物体認識などで非常に高い性能を示してい
る
しかし、非線形写像に伴い膨大な計算量(O(n^2))
が発生する
10
www.viplab.is.tsukuba.ac.jp/~lacarte
従来研究 - 問題点
MSMなどの線形手法では非線形的なパター
ン分布に対応できない
KMSMのような非線形写像を用いる手法は計
算コストが高い
計算量を抑えながら非線形的なパターン分布にも
対応できる識別手法が求められる
11
www.viplab.is.tsukuba.ac.jp/~lacarte
目次
背景
従来研究
提案手法
識別の流れ
比較実験
まとめ&今後の課題
12
www.viplab.is.tsukuba.ac.jp/~lacarte
提案手法 - ①従来手法の問題に対応
部分空間(入力)Aと局所部
分空間集合(辞書)Bの類似
度Sim(A,B)は、Bに含まれる
局所部分空間をBi、AとBiの
正準角をAng(A,Bi)とすると
非線形的なパターン分布をクラスタリングによって分割し、
それぞれ部分空間(以後局所部分空間と呼ぶ)で近似
局所部分空間の集合と入力部分空間の類似度を新たに
定義
13
www.viplab.is.tsukuba.ac.jp/~lacarte
提案手法 - ②アンサンブル学習を採用-1
提案法におけるパター
ン分布の分割数と局所部
分空間の次元は識別性能
に影響するが、理論的に
最適な状態は定義できな
い
各々の分割数と次元を
弱識別器としてみれば、ア
ンサンブル学習を適用す
ることで識別性能の向上
が期待できる
14
www.viplab.is.tsukuba.ac.jp/~lacarte
提案手法 - ②アンサンブル学習を採用-2
アンサンブル学習とは従来の単一の識別器に頼るのではなく、
複数の弱識別器の結果を統合することで識別を行う手法であ
る
さまざまな研究で単一の識別器を採用するよりも高い識別性能
が得られることが報告されている
15
www.viplab.is.tsukuba.ac.jp/~lacarte
提案手法 - ②アンサンブル学習を採用-3
提案法では局所部分空間の次元、分割数を変化させ
ながら、それぞれの場合を弱識別器としてアンサンブ
ル学習を適用する
16
www.viplab.is.tsukuba.ac.jp/~lacarte
提案手法 – ③局所部分空間の最適化-1
いままで提案したアンサンブル学習ではクラス内の
分布は考慮されているが、クラス間の分離は考慮さ
れていない
クラス間分離を考慮した最適化を施すことによって
性能向上の余地がある
部分空間の性能最適化として、学習部分空間法で
提案された手法があり、今回はこれを局所部分空間
に対して適用する
17
www.viplab.is.tsukuba.ac.jp/~lacarte
提案手法 – ③局所部分空間の最適化-2
実際の識別に先立って学習に用いた特徴ベ
クトルで各局所部分空間と部分空間法を行う
誤った場合は下記の式に従って該当局所部
分空間を回転
18
www.viplab.is.tsukuba.ac.jp/~lacarte
提案手法 – ③局所部分空間の最適化-3
識別ミスを起こした
場合:
他クラスの局所部分
空間を該当ベクトル
から逆方向に回転
自クラスの局所部分
空間を該当ベクトル
に向けて回転
19
www.viplab.is.tsukuba.ac.jp/~lacarte
目次
背景
従来研究
提案手法
識別の流れ
比較実験
まとめ&今後の課題
20
21
www.viplab.is.tsukuba.ac.jp/~lacarte
www.viplab.is.tsukuba.ac.jp/~lacarte
目次
背景
従来研究
提案手法
識別の流れ
比較実験
まとめ&今後の課題
22
www.viplab.is.tsukuba.ac.jp/~lacarte
比較実験 - 概要
従来手法である相互部分空間法(MSM)、核非線形
相互部分空間法(KMSM)および提案法(最適化なし、
最適化あり)を比較する
対象は公開データベース(The ETH-80 Image Set)で
ある
8クラス、各クラスに10個体の物体が含まれ、各物
体を41の角度から撮影した画像1セットからなる
23
www.viplab.is.tsukuba.ac.jp/~lacarte
比較実験 - 使用するデータ
•画像はグレースケールである
•サイズは320x320ピクセルで、輝度値をベクトル化する際は16x16に縮小
24
www.viplab.is.tsukuba.ac.jp/~lacarte
比較実験 - 実験条件
学習には4セットを用いて、評価用入力に1セットから
10フレームを用いる
学習と入力を入れ替えながら1640回(Round Robin)
について集計
提案法の分割数は2~5とし、局所部分空間の次元
は寄与率98%以上のものとする
最適化のパラメータはα、βをそれぞれ予備実験よ
り3と1に設定
25
www.viplab.is.tsukuba.ac.jp/~lacarte
比較実験 - 結果・識別性能
手法
識別率(%)
分離度
EER(%)
MSM
69.5
0.34
20
KMSM
87.2
0.41
15
提案法(最適
化なし)
提案法(最適
化あり)
86.5
0.44
14
91.0
0.51
10
提案手法はMSMと比べて識別性能が向上
非線形手法であるKMSMと同程度の識別性能が得られ
た
最適化の適用によって性能向上が認められた
26
www.viplab.is.tsukuba.ac.jp/~lacarte
比較実験 - 結果・計算量
手法
計算時間
(秒/入力)
Order
MSM
0.1
O(n)
提案法
(最適化なし)
0.4
O(n)
提案法
(最適化あり)
0.4
O(n)
KMSM
3.1
O(n^2)
•これらは識別フェーズに
おける計算量である
•Orderは学習データの
増加に応じて計算量が
増加する度合いを示す
提案手法は従来手法であるMSMと比べて計算コストは増え
たもののKMSMより少ない計算量で同程度の性能を実現
27
www.viplab.is.tsukuba.ac.jp/~lacarte
比較実験 - 結果・分割数固定
手法
識別率(%)
分離度 EER(%)
分割数2
73.0
0.41
14
分割数3
77.5
0.40
15
分割数4
75.3
0.41
17
分割数5
72.0
0.40
15
提案法
86.5
0.44
14
•提案手法で採用したア
ンサンブル学習の効果
を確認するため、分割
数を固定した場合(弱識
別器)の識別結果とアン
サンブル学習の結果を
示す
分割数を固定した場合(各々の弱識別器)よりアンサンブル
学習した場合の識別性能が向上することが確かめられた
28
www.viplab.is.tsukuba.ac.jp/~lacarte
目次
背景
従来研究
提案手法
識別の流れ
比較実験
まとめ&今後の課題
29
www.viplab.is.tsukuba.ac.jp/~lacarte
まとめ
パターン分布を分割、局所部分空間近似によって非
線形性に対応し、アンサンブル学習を採用すること
で識別性能を向上させた手法を提案した
局所部分空間の最適化手法を適用した
比較実験を通して従来手法(MSM)より識別性能が向
上し、非線形手法(KMSM)より少ない計算量で同程
度の性能が得られた
30
www.viplab.is.tsukuba.ac.jp/~lacarte
今後の課題
今回は画像の輝度値をそのまま特徴ベクト
ルとしたが、識別対象に応じて適切な特徴抽
出と提案手法を組み合わせることで実用性の
高い識別システムの構築が課題として挙げら
れる
31
www.viplab.is.tsukuba.ac.jp/~lacarte
ありがとうございました