項目参照プロファイル

Download Report

Transcript 項目参照プロファイル

1 / 18
段階数2の場合の
ニューラルテスト理論による
項目分析
○橋本 貴充,荘島 宏二郎
(大学入試センター)
2 / 18
本発表の構成
• ニューラルテスト理論と
は?
– 概略
– 項目参照プロファイルの
例
– ランク・メンバーシップ・
プロファイルの例
• 目的
• 方法
– データ
– 分析のパラメタ
• 結果
– 項目参照プロファイルの
2次元プロット
– 「高」群に属する確率の
度数分布
• 今後の課題
• 引用文献
3 / 18
本発表の構成
• ニューラルテスト理論と
は?
– 概略
– 項目参照プロファイルの
例
– ランク・メンバーシップ・
プロファイルの例
• 目的
• 方法
– データ
– 分析のパラメタ
• 結果
– 項目参照プロファイルの
2次元プロット
– 「高」群に属する確率の
度数分布
• 今後の課題
• 引用文献
4 / 18
ニューラルテスト理論の概略
• 受験者の能力を、連続的なものではなく、順序関係
のある少数の段階(潜在ランク)に分かれるものと仮
定。
– テストは連続的に評価するほど信頼性が高くない
• それぞれの潜在ランクの受験者が項目に正答する
確率(項目参照プロファイル)を、自己組織化マップ
(Kohonen, 1995)を参考とした計算方法で推定。
• 受験者がそれぞれの潜在ランクに属する確率(ラン
ク・メンバーシップ・プロファイル)は、最尤法やベイ
ズ法で推定。
• 詳しくは「neural test theory」で検索してください。
項目参照プロファイルの例
熊谷(2007)がIRP指標を提案
困難度の高い項目
困難度の低い項目
識別力の低い項目
識別力の高い項目
5 / 18
ランク・メンバーシップ・プロファイルの例
0
1
0.6
0.4
0.2
0
1
0.6
0.4
0.2
1
0.8
0.6
0.4
0.2
0
0.8
0.6
0.4
0.2
10
10
PROBABILITY
0.2
1
0.2
Examinee 9
0.8
0.6
0.4
0.2
10
10
Examinee 10
0.8
0.6
0.4
0.2
0
2
4
6
8
LATENT RANK
10
2
4
6
8
LATENT RANK
Examinee 14
1
0.8
0.6
0.4
0.2
0
2
4
6
8
LATENT RANK
0.2
1
0.2
1
0.4
2
4
6
8
LATENT RANK
0
Examinee 13
0.6
0
0.4
10
Examinee 5
0.8
10
0.8
受験者7と10は,同じランク10でも
0.6
所属確率が異なる
0
2
4
6
8
LATENT RANK
0.4
2
4
6
8
LATENT RANK
Examinee 8
0.4
1
0.6
0
2
4
6
8
LATENT RANK
Examinee 12
0
2
4
6
8
LATENT RANK
0.6
10
PROBABILITY
Examinee 11
0.8
1
0.8
10
0
2
4
6
8
LATENT RANK
PROBABILITY
PROBABILITY
Examinee 7
0.8
10
0.2
2
4
6
8
LATENT RANK
0
2
4
6
8
LATENT RANK
0.4
10
PROBABILITY
Examinee 6
0.6
0
2
4
6
8
LATENT RANK
PROBABILITY
PROBABILITY
10
0.8
1
0.2
0
2
4
6
8
LATENT RANK
1
0.4
0.8
Examinee 4
PROBABILITY
0.2
0.6
1
PROBABILITY
0.4
0.8
Examinee 3
PROBABILITY
0.6
1
PROBABILITY
0.8
Examinee 2
PROBABILITY
1
PROBABILITY
Examinee 1
PROBABILITY
PROBABILITY
1
6 / 18
10
Examinee 15
0.8
0.6
0.4
0.2
0
2
4
6
8
LATENT RANK
10
2
4
6
8
LATENT RANK
受験者12は,難しい項目に正答できたわりに,易しい項目にも誤答したため二峰性のRMPとなった
10
7 / 18
目的
• Shojima (2008) は、潜在ランクの数を3以上20以
下にするのが現実的としている。
– 20より大きくしても、テストにそこまで高い解像度があると
は考えられない。
– プレイスメント・テストでは、受験者を3段階くらいに分けた
い。
• 項目を分析する場合には、受験者を「低群」「高群」
の2段階に分けると理解しやすい。
• ニューラルテスト理論を、潜在ランクの数を2としたと
きに、項目分析に利用する例を示す。
8 / 18
本発表の構成
• ニューラルテスト理論と
は?
– 概略
– 項目参照プロファイルの
例
– ランク・メンバーシップ・
プロファイルの例
• 目的
• 方法
– データ
– 分析のパラメタ
• 結果
– 項目参照プロファイルの
2次元プロット
– 「高」群に属する確率の
度数分布
• 今後の課題
• 引用文献
9 / 18
データ
• 2母数ロジスティックモデルの項目反応理論に従っ
て人工的に作成。
• 母数も乱数を使って発生
• 800人×25項目
–
–
–
–
識別力の低い項目が多いテスト(困難度は中程度)
識別力の高い項目が多いテスト(困難度は中程度)
易しい項目が多いテスト(識別力は中程度)
難しい項目が多いテスト(識別力は中程度)
10 / 18
分析のパラメタ
• 潜在ランク数は2
• 学習のための反復回数は500
• 勝者ランク決定のための距離の計算方法は
最尤法(事前情報なし)
11 / 18
本発表の構成
• ニューラルテスト理論と
は?
– 概略
– 項目参照プロファイルの
例
– ランク・メンバーシップ・
プロファイルの例
• 目的
• 方法
– データ
– 分析のパラメタ
• 結果
– 項目参照プロファイルの
2次元プロット
– 「高」群に属する確率の
度数分布
• 今後の課題
• 引用文献
12 / 18
項目参照プロファイルの2次元プロット
誰でもできる項目
1.000



 
    


0.750
高
群
正 0.500
答
確
率
0.250



0.000
識別力の高い項目


難しい項目

0.000
0.200
0.400
0.600
低群正答確率
0.800
13 / 18
1
1
0.8
0.8
高群正答確率
高群正答確率
さまざまなIRPの2次元プロット
0.6
0.4
0.2
0.6
0.4
0.2
0
0
0
0.2
0.4 0.6 0.8
低群正答確率
1
0
0.4 0.6 0.8
低群正答確率
1
識別力高
1
1
0.8
0.8
高群正答確率
高群正答確率
識別力低
0.2
0.6
0.4
0.2
0.6
0.4
0.2
0
0
0
0.2
0.4 0.6 0.8
低群正答確率
1
困難度低
低群:高群=0.45:0.55
0
0.2
0.4 0.6 0.8
低群正答確率
1
困難度高
低群:高群=0.60:0.40
14 / 18
RMPにおける「高」群に属する確率の
推定値の度数分布
識別力低
識別力高
全体的に両極に分かれる傾向
困難度低
困難度高
15 / 18
本発表の構成
• ニューラルテスト理論と
は?
– 概略
– 項目参照プロファイルの
例
– ランク・メンバーシップ・
プロファイルの例
• 目的
• 方法
– データ
– 分析のパラメタ
• 結果
– 項目参照プロファイルの
2次元プロット
– 「高」群に属する確率の
度数分布
• 今後の課題
• 引用文献
16 / 18
今後の課題
• 今回は潜在ランク数を2とした場合の項目分
析の方法について1つの例を示した。
• 他のケースについても検討する必要。
– 受験者数
– 項目数
• 実データへの適用
17 / 18
本発表の構成
• ニューラルテスト理論と
は?
– 概略
– 項目参照プロファイルの
例
– ランク・メンバーシップ・
プロファイルの例
• 目的
• 方法
– データ
– 分析のパラメタ
• 結果
– 項目参照プロファイルの
2次元プロット
– 「高」群に属する確率の
度数分布
• 今後の課題
• 引用文献
18 / 18
引用文献
• Kohonen, T. (1995). Self-organizing maps.
Springer.
• 熊谷 龍一 (2007). ニューラルテスト理論を離散変
数型IRTと見なしたときの項目特徴を示す指標につ
いて. 第1回ワークショップ「ニューラルテスト理論」.
於 大学入試センター
• Shojima, K. (2008). Neural test theory: A latent
rank theory for analyzing test data. 大学入試セン
ター研究開発部リサーチノートRN-08-01.