わさっきhb

大学(教育研究)とか ,親馬鹿とか,和歌山とか,とか,とか.

項目反応理論を用いたテスト事例について

 全国学力・学習状況調査(全国学力テスト)の近年の状況について,手堅くまとめられた本となっています.タイトルからも,また中身においても,全国学力テストには批判的な立場で記されていますが,外からの「おたく的*1」な意見ではなく,著者は「全国学力テストに関わる文部科学省の専門家会議の一員」(はじめに,p.x)であることを明示しています.
 この本で目にした,全国学力テストの算数に関する些末な事項は,https://twitter.com/takehikom/status/1303912151023665152でツイートしています.これまでの全国学力テストで何を知ることができる(よう出題されている)かについて,著者と自分とで見方が異なるようにも感じましたが,この点については別記事にしたいと思います.
 読み進めていき,ぎょっとなったのは,p.80の「有名なTOEFLTOEICといった英語力測定試験も、IRTをベースに運用されています。」の文でした.
 IRTは項目反応理論のことです.
 担当クラスの情報リテラシーの理解度テストという,人数も項目(出題)数も小さな対象に適用し,分析を試みたのを,2018年に学会発表しています.

 全国大会(電子情報通信学会総合大会)でして,予稿はたった1ページでした.関連研究などを入れることも,ままなりませんでした.
 同年9月の情報処理学会関西支部 支部大会において,学生が予稿を提出するに当たり,項目反応理論を用いたテスト事例を取りまとめました.http://id.nii.ac.jp/1001/00191686/*2なのですが,手持ちの最終原稿より,抜き出します.

3.関連研究およびテスト事例
 文献[4]の「はじめに」では,項目反応理論に基づいて設計・運営されているテストが8つ並べられている.その3番目以降は,語彙・読解力検定,GTEC,日本語能力試験など,語学系テストで占められている.国際的な英語能力測定試験であるTOEFLも,同じページに例示されている.
 語学系テスト以外にも,項目反応理論を用いたテストが普及しつつある.例えば「医療系大学間共用試験」(文献番号省略)は,日本の医学部(6年制課程)の学生が受験し,その合格が,臨床実習を行う条件となっているテストの一つである.医療系大学間共用試験実施評価機構が運営しており,CBT (Computer-Based Testing)においては320の設問を6時間で解答させる.問題プールから,受験者ごとに問題が異なる問題をランダムに出題し,平均難易度に差がないよう調整がなされている.2013年10月現在でプール問題数は2万を超えている.合否判定は各大学が実施するが,判定基準について「IRT標準スコア」の数値が設けられている.
 また情報処理技術者試験の試験区分のうち,ITパスポート試験においては,2011年11月より解答方法をCBT方式に変更するのに合わせて,採点は項目応答理論に基づいて解答結果から評価点を算出している(文献番号省略).
 項目反応理論を活用したテスト分析の研究についていくつか示す.(以下略)

 「文献[4]」とは『Rによる項目反応理論』のことで,『全国学力テストはなぜ失敗したのか』の参考文献にも入っています.
 「医療系大学間共用試験」でIRTが採用されていることだけでなく,項目(問題)の管理については,上記の予稿よりもあとで発表された,PDFファイルで整理されています.

 ITパスポート試験の採点にIRTが使われているというのは,次のページで確認できます.

 ぎょっとした件に戻ります.TOEICを,IRTをベースに運用していると言っていいのかどうかです.例えばwikipedia:国際コミュニケーション英語能力テストでは「TOEFLで採用されているIRT(項目応答理論)は、TOEICに採用されているかどうかは明らかにされていない。」と書かれています.2018年の予稿においても,TOEICの状況を調査した上で,結局,記載しなかったのでした.
 とはいうものの「TOEIC 項目反応理論」で検索すると,解説などが容易に見つかりますし,Wikipediaの記述には続きがあって「TOEIC運営委員会は「共通のアンカー(問題)を複数テストの問題の一部として組み込む方法をEquating(スコアの同一化)のために使っている」としている」とのことです.
 ということで「IRTをベースに運用されています」は,問題ない表現と分かりました.

*1:この言葉はp.33とp.34に出現します.

*2:今アクセスすると,「2020年09月21日からダウンロード可能です。」と表示されました.現時点では,オープンアクセスではありません.https://www.ipsj.or.jp/e-library/digital_library.htmlでは「有料・無料のコンテンツがありますが、発行後2年経過するとすべて無料のオープンアクセスとなります。」と書かれています.【翌月追記】「オープンアクセス」に変わりました.