Transcript Document

先進的データ分析法2015
- Advanced Data Analysis 2105 -
東京工科大学大学院
バイオニクス・情報メディア学専攻科
担当： 亀田 弘之
先週の復習
• データ分析に挑戦！
練習問題（１）
1. 次のことを真似してやってください。
（Rの基本的な使い方の練習）
–
–
–
–
–
–
キーボードからの読み込み
Clipboardからの読み込み
ファイルからの読み込み
平均を求める(mean関数)
ヒストグラム作成（hist関数）
箱ひげ図作成(boxplot関数)
練習問題（２） 陸上競技データ
1.
2.
3.
4.
5.
ファイル（csv形式）の読み込み
データの構造確認（str）
数値要約の表示（summary）
散布図作成（開催年と記録の関係）
ヒストグラム作成
復習問題
• 新生児の体重データに対して、以下の操作を
しなさい。
– 数値要約（summary）を求める。
• 平均、最小値、最大値、中央値(Q2)、第１四分位数（
Q1）、第３四分位数（Q3）
– ヒストグラムを作成する。
– 箱ひげ図を作成する。
ＤＭ Methodology
(注)
 DM: Data Mining (データマイニング)
 Methodology: 方法論
ＤＭ Methodology
1. Exploratory data analysis
（探索的データ解析）
2. Computational data mining
（計算論的データマイニング）
3. Statistical data mining
（統計的データマイニング）
ＤＭ Methodology
1. Exploratory data analysis
（探索的データ解析）
2. Computational data mining
（計算論的データマイニング）
3. Statistical data mining
（統計的データマイニング）
１．Exploratory data analysis
a. 統計的データ解析(SDA)
b. 探索的データ解析(EDA)
統計的データ解析(EDAの基礎)
1. 視覚的分析
•
•
表： 度数分布表(frequency table)
図： ヒストグラム(histogram)
2. 数値的分析
•
•
•
代表値：
平均 (mean)
中央値 (median)
モード (mode,最頻値）
ばらつき度：分散(variance)
平均偏差(mean deviation; MD)
標準偏差(standard deviation)
範囲(range = 最大値ー最小値)
その他
四分位数(quartile,第一・二・三）
外れ値
統計的データ解析(EDAの基礎)
1. 視覚的分析
•
•
表： 度数分布表(frequency table)
図： ヒストグラム(histogram)
2. 数値的分析
•
•
•
代表値：
平均 (mean)
中央値 (median)
モード (mode,最頻値）
ばらつき度：分散(variance)
平均偏差(mean deviation; MD)
標準偏差(standard deviation)
範囲(range = 最大値ー最小値)
その他
四分位数(quartile,第一・二・三）
外れ値（outlier）
探索的データ解析(EDA)
1.
2.
3.
4.
5.
6.
7.
幹葉表示(stem-and-leaf display)
要約値(letter value display)
箱ヒゲ図(box-whisker plots)
Ｘ－Ｙ表示(X-Y plotting)
抵抗性のある直線回帰(registant line)
中央値分散分析(median polish)
時系列データのならし(smoothing)
探索的データ解析(EDA)
1. 幹葉表示(stem-and-leaf display)
ヒストグラムに代わる手法
2. 要約値(letter value display)
平均値・標準偏差に代わるもの
3. 箱ヒゲ図(box-whisker plots)
分布の形と外れ値の図的表示
ＤＭ Methodology
1. Exploratory data analysis
（探索的データ解析）
2. Computational data mining
（計算論的データマイニング）
3. Statistical data mining
（統計的データマイニング）
３．Statistical data mining
a.
b.
c.
d.
e.
f.
Statistic models（統計モデル）
Statistic inference（統計的推論）
Non-parametric model
General linear model
Log-linear model
Graphical model
etc.
ＤＭ Methodology
1. Exploratory data analysis
（探索的データ解析）
2. Computational data mining
（計算論的データマイニング）
3. Statistical data mining
（統計的データマイニング）
２．Computational data mining
1.
2.
3.
4.
5.
6.
Cluster analysis（クラスター分析）
Tree models（木モデル）
Linear regression（線形回帰）
Logistic regression（ロジスティック回帰）
Neural networks（ニューラルネットワーク）
ILP(Inductive Logic Programming;
帰納論理プログラミング）
7. SVM(support vector machines)
etc.
２．Computational data mining
a.
b.
c.
d.
e.
f.
Tree models（木モデル）
Cluster analysis（クラスター分析）
Linear regression（線形回帰）
Logistic regression（ロジスティック回帰）
Neural networks（ニューラルネットワーク）
ILP(Inductive Logic Programming;
帰納論理プログラミング）
etc.
a．クラスター分析
i. Hierarchical methods（階層型法）
ii. Non-hierarchical methods（非階層型法）
a．クラスター分析（２）
•
基本的考え方：
1. 近いデータをかき集めてグループを作る。
2. 近いグループ同士をかき集めて新たなグルー
プを作る。
3. これの繰り返し。
クラスター分析（例）
クラスター分析（例）
クラスター分析（例）
クラスター分析（例）
クラスター分析（例）
クラスター分析（２）
•
基本的考え方：
1. 近いデータをかき集めてグループを作る。
2. 近いグループ同士をかき集めて新たなグルー
プを作る。
近い ＝＞ 距離(distance)が主要な役割を果たす
距離って何だっけ？
距離(distance)
•
空間Ｓの任意の２点x,yの間に、１つの実数d(x,y)
が定義されていて、これが次の４つの条件を満た
しているとき、d(x,y)を２点x,y間の距離という。
(1) d ( x , y )  0 (2 )d ( x , x )  0
( 3) d ( x , y )  d ( y , x )
( 4 ) d ( x , y )  d ( x , z )  d ( z , y )
２点間の距離
空間Ｓ
x
２点間の距離d(x,y)
y
２グループ間の距離は？
２グループ間の距離は？
グループA
グループＢ
２グループ間の距離
グループA
グループＢ
距離d(A,B)
２グループ間の距離
グループA
平均値・中央値
グループＢ
距離d(A,B)
２グループ間の距離
グループA
平均値・中央値
グループＢ
距離d(A,B)
代表値間の距離
クラスター分析法の種類
1.
2.
3.
4.
5.
最短距離法
最長距離法
群平均法
重心法
ウォード法
いろいろな距離（関数）
1 .d ( x 1 , y 2 ) 
( x1  x 2 )  ( y 1  y 2 )
2
2
2 .d ( x 1, y 2 )  | x1  x 2 |  | y 1  y 2 |
3 .d ( x 1, y 2 )  max{| x1  x 2 |, | y 1  y 2 |}
4 .d ( x 1, y 2 )  0 , d ( x 1, y 2 )  1 if x 1, y 2 .
etc .
いろいろな距離（関数）（２）
• Euclidean distance（ユークリッド距離）
• Mahalanobis disntance（マハラノビス距離）
• Edit distance（エディト距離）
etc.
b．木モデル
• 決定木(decision tree)
次回の予定
• ここまでの総復習
• 決定木(decision tree)の話
• 決定木作成・解釈の演習
（特に予習は必要ありません。）
決定木の用途
•
•
•
•
•
分類問題
診断問題
予測問題
制御問題
パターン認識問題 etc.
その前に、ちょっと確認
木とは？
• これらをひっくり返すると…
• これらを抽象化すると…
木とは
木とは（２）
枝(branch)
木とは
根(root)
節(node)
木とは
根(root)
葉(leaf)
節(node)
決定木の例(その１)
クレジット利用者
1000人
利用状況
適切利用者
700人
不適切利用者
300人
負債状況
負債あり
500人
負債なし
200人
履歴状況
ブラックリスト者
10人
非ブラックリスト者
290人
決定木作成のための生データ
決定木の例(その２)
サイレン
あり
なし
車体の色
赤
消防車
白黒
パトカー
車体の大きさ
白
救急車
大
大型トラック
中
普通自動車
小
軽自動車
決定木の作成（学習）
大
量
の
例
決定木の作成
決
定
木
決定木の作成（学習）
大
量
の
例
決定木の作成
決
定
木
分類問題の解
予習
1. 決定木について調べてきなさい
2. 情報エントロピーについて調べてきなさい。