提案手法 - 筑波大学

Download Report

Transcript 提案手法 - 筑波大学

www.viplab.is.tsukuba.ac.jp/~lacarte
局所部分空間の
アンサンブル学習に基づく
3次元物体認識
筑波大学大学院
システム情報工学研究科
コンピュータサイエンス専攻2年
呉 嘉寧
www.viplab.is.tsukuba.ac.jp/~lacarte
目次
 背景
従来研究
提案手法
識別の流れ
比較実験
まとめ&今後の課題
2
www.viplab.is.tsukuba.ac.jp/~lacarte
背景 - 物体認識手法の概要
識別に先立ち、学習を行う
 学習フェーズではクラスごとに入力画像から辞書を
生成する
 識別フェーズでは入力画像と学習で生成した辞書を
比較し、もっとも類似しているクラスに識別する

3
www.viplab.is.tsukuba.ac.jp/~lacarte
背景 - 主なアプローチ
3次元物体認識には主に2つのアプローチがある


3次元モデルに基づく手法(モデルベース)
利点:モデルに基づくので正確
弱点:カメラに基づく場合は特徴点抽出の精度に依存、
専用デバイスが必要
物体の見え方を統計的に扱う手法(ビューベース)
利点:特徴点抽出を用いなく、通常のカメラで実現可能
弱点:単一の視点だけでは情報が少ない
4
www.viplab.is.tsukuba.ac.jp/~lacarte
背景 - 画像のベクトル表現

ビューベース手法では入力画像を特徴空間上のベ
クトルとして表現する
5
www.viplab.is.tsukuba.ac.jp/~lacarte
背景 - 部分空間近似
単一視点では物体に関する情報が少ないため、
ビューベース手法では複数視点を採用することが多い

 複数視点では入力が特
徴ベクトルの集合(パターン
分布)となる
 個々のベクトルを個別に
扱うよりパターン分布を主成
分分析して部分空間で近似
したほうが扱いやすい
6
www.viplab.is.tsukuba.ac.jp/~lacarte
目次
背景
 従来研究
提案手法
識別の流れ
比較実験
まとめ&今後の課題
7
www.viplab.is.tsukuba.ac.jp/~lacarte
従来研究 - 相互部分空間法(MSM)
部分空間PとQの正準角θの定義は
下式
 提案手法の基礎である
 学習フェーズでは各クラスの特徴ベクトルを主成分分析により部分
空間で近似し、辞書とする
 識別フェーズでは同じように入力を主成分分析して入力部分空間と
する
 辞書部分空間と入力部分空間の類似度(正準角)をもとに識別する
8
www.viplab.is.tsukuba.ac.jp/~lacarte
従来研究 - 部分空間近似

線形的な(非線形性の
弱い)パターン分布に
対して部分空間で近似

非線形的な(非線形性の強
い)パターン分布に対して部
分空間で近似
9
www.viplab.is.tsukuba.ac.jp/~lacarte
従来研究 –

核非線形相互部分空間法(KMSM)
線形部分空間での近似が困難なパターン分布に対
して、非線形写像を用いた核非線形相互部分空間
法(KMSM)などが提案されている
顔、物体認識などで非常に高い性能を示してい
る
 しかし、非線形写像に伴い膨大な計算量(O(n^2))
が発生する

10
www.viplab.is.tsukuba.ac.jp/~lacarte
従来研究 - 問題点
MSMなどの線形手法では非線形的なパター
ン分布に対応できない
 KMSMのような非線形写像を用いる手法は計
算コストが高い

 計算量を抑えながら非線形的なパターン分布にも
対応できる識別手法が求められる
11
www.viplab.is.tsukuba.ac.jp/~lacarte
目次
背景
従来研究
 提案手法
識別の流れ
比較実験
まとめ&今後の課題
12
www.viplab.is.tsukuba.ac.jp/~lacarte
提案手法 - ①従来手法の問題に対応
部分空間(入力)Aと局所部
分空間集合(辞書)Bの類似
度Sim(A,B)は、Bに含まれる
局所部分空間をBi、AとBiの
正準角をAng(A,Bi)とすると
 非線形的なパターン分布をクラスタリングによって分割し、
それぞれ部分空間(以後局所部分空間と呼ぶ)で近似
 局所部分空間の集合と入力部分空間の類似度を新たに
定義
13
www.viplab.is.tsukuba.ac.jp/~lacarte
提案手法 - ②アンサンブル学習を採用-1
 提案法におけるパター
ン分布の分割数と局所部
分空間の次元は識別性能
に影響するが、理論的に
最適な状態は定義できな
い
 各々の分割数と次元を
弱識別器としてみれば、ア
ンサンブル学習を適用す
ることで識別性能の向上
が期待できる
14
www.viplab.is.tsukuba.ac.jp/~lacarte
提案手法 - ②アンサンブル学習を採用-2


アンサンブル学習とは従来の単一の識別器に頼るのではなく、
複数の弱識別器の結果を統合することで識別を行う手法であ
る
さまざまな研究で単一の識別器を採用するよりも高い識別性能
が得られることが報告されている
15
www.viplab.is.tsukuba.ac.jp/~lacarte
提案手法 - ②アンサンブル学習を採用-3

提案法では局所部分空間の次元、分割数を変化させ
ながら、それぞれの場合を弱識別器としてアンサンブ
ル学習を適用する
16
www.viplab.is.tsukuba.ac.jp/~lacarte
提案手法 – ③局所部分空間の最適化-1
いままで提案したアンサンブル学習ではクラス内の
分布は考慮されているが、クラス間の分離は考慮さ
れていない
 クラス間分離を考慮した最適化を施すことによって
性能向上の余地がある
 部分空間の性能最適化として、学習部分空間法で
提案された手法があり、今回はこれを局所部分空間
に対して適用する

17
www.viplab.is.tsukuba.ac.jp/~lacarte
提案手法 – ③局所部分空間の最適化-2
 実際の識別に先立って学習に用いた特徴ベ
クトルで各局所部分空間と部分空間法を行う
 誤った場合は下記の式に従って該当局所部
分空間を回転
18
www.viplab.is.tsukuba.ac.jp/~lacarte
提案手法 – ③局所部分空間の最適化-3
識別ミスを起こした
場合:
他クラスの局所部分
空間を該当ベクトル
から逆方向に回転
 自クラスの局所部分
空間を該当ベクトル
に向けて回転

19
www.viplab.is.tsukuba.ac.jp/~lacarte
目次
背景
従来研究
提案手法
 識別の流れ
比較実験
まとめ&今後の課題
20
21
www.viplab.is.tsukuba.ac.jp/~lacarte
www.viplab.is.tsukuba.ac.jp/~lacarte
目次
背景
従来研究
提案手法
識別の流れ
 比較実験
まとめ&今後の課題
22
www.viplab.is.tsukuba.ac.jp/~lacarte
比較実験 - 概要
従来手法である相互部分空間法(MSM)、核非線形
相互部分空間法(KMSM)および提案法(最適化なし、
最適化あり)を比較する
 対象は公開データベース(The ETH-80 Image Set)で
ある
 8クラス、各クラスに10個体の物体が含まれ、各物
体を41の角度から撮影した画像1セットからなる

23
www.viplab.is.tsukuba.ac.jp/~lacarte
比較実験 - 使用するデータ
•画像はグレースケールである
•サイズは320x320ピクセルで、輝度値をベクトル化する際は16x16に縮小
24
www.viplab.is.tsukuba.ac.jp/~lacarte
比較実験 - 実験条件
学習には4セットを用いて、評価用入力に1セットから
10フレームを用いる
 学習と入力を入れ替えながら1640回(Round Robin)
について集計
 提案法の分割数は2~5とし、局所部分空間の次元
は寄与率98%以上のものとする
 最適化のパラメータはα、βをそれぞれ予備実験よ
り3と1に設定

25
www.viplab.is.tsukuba.ac.jp/~lacarte
比較実験 - 結果・識別性能
手法
識別率(%)
分離度
EER(%)
MSM
69.5
0.34
20
KMSM
87.2
0.41
15
提案法(最適
化なし)
提案法(最適
化あり)
86.5
0.44
14
91.0
0.51
10
 提案手法はMSMと比べて識別性能が向上
 非線形手法であるKMSMと同程度の識別性能が得られ
た
 最適化の適用によって性能向上が認められた
26
www.viplab.is.tsukuba.ac.jp/~lacarte
比較実験 - 結果・計算量
手法
計算時間
(秒/入力)
Order
MSM
0.1
O(n)
提案法
(最適化なし)
0.4
O(n)
提案法
(最適化あり)
0.4
O(n)
KMSM
3.1
O(n^2)
•これらは識別フェーズに
おける計算量である
•Orderは学習データの
増加に応じて計算量が
増加する度合いを示す
 提案手法は従来手法であるMSMと比べて計算コストは増え
たもののKMSMより少ない計算量で同程度の性能を実現
27
www.viplab.is.tsukuba.ac.jp/~lacarte
比較実験 - 結果・分割数固定
手法
識別率(%)
分離度 EER(%)
分割数2
73.0
0.41
14
分割数3
77.5
0.40
15
分割数4
75.3
0.41
17
分割数5
72.0
0.40
15
提案法
86.5
0.44
14
•提案手法で採用したア
ンサンブル学習の効果
を確認するため、分割
数を固定した場合(弱識
別器)の識別結果とアン
サンブル学習の結果を
示す
 分割数を固定した場合(各々の弱識別器)よりアンサンブル
学習した場合の識別性能が向上することが確かめられた
28
www.viplab.is.tsukuba.ac.jp/~lacarte
目次
背景
従来研究
提案手法
識別の流れ
比較実験
 まとめ&今後の課題
29
www.viplab.is.tsukuba.ac.jp/~lacarte
まとめ
パターン分布を分割、局所部分空間近似によって非
線形性に対応し、アンサンブル学習を採用すること
で識別性能を向上させた手法を提案した
 局所部分空間の最適化手法を適用した
 比較実験を通して従来手法(MSM)より識別性能が向
上し、非線形手法(KMSM)より少ない計算量で同程
度の性能が得られた

30
www.viplab.is.tsukuba.ac.jp/~lacarte
今後の課題

今回は画像の輝度値をそのまま特徴ベクト
ルとしたが、識別対象に応じて適切な特徴抽
出と提案手法を組み合わせることで実用性の
高い識別システムの構築が課題として挙げら
れる
31
www.viplab.is.tsukuba.ac.jp/~lacarte
ありがとうございました