首頁 認知診斷評價理論基礎

第一節 題庫建設

題庫建設主要包括題目編製、參數標定、題庫組織三個方麵。

一、題目編製

認知診斷測驗中題目的編製主要強調題目的診斷功能,也就是編製的題目應該能夠用於診斷被試的知識、技能、策略的掌握狀態(即屬性掌握狀態),以保證測驗有合理的結構效度。關於如何編製具有認知屬性診斷功能的題目的具體方案,艾姆布雷孫等人提出的基於認知心理學理論的認知設計係統具有很好的指導作用,相關內容已經在本書的前麵章節中進行了闡述。

另外,還需要考慮測試每種屬性的題目數量。被試的屬性掌握狀態從理論上說是有無限種類型的,如果用離散模式(即1-掌握或0-未掌握)來表示被試對屬性的掌握狀態,那麽屬性掌握模式是有限的。然而,因為被試對每種屬性的掌握程度可能不同,因此,為了能夠穩定鑒別不同被試的真實屬性掌握狀態,需要針對每種屬性編製足夠多的測試題目,以保證測試結果有較高的信度(信息量)。

測驗長度當然是影響測量結果精確性的關鍵因素,然而,計算機化自適應測驗的一個優勢是能夠用更少的題目對被試做出更精確的評價。而在認知診斷測驗中,題目質量和題目間的屬性組合模式均會顯著影響測量結果的精確性。

為了能夠用更少的題目更精確地對被試進行診斷,一方麵,要保證進入題庫的題目必須有較好的測量學參數,另一方麵,還必須要根據目標領域認知模型,合理分配題庫中的題目與各種屬性的組合模式。

計算機化自適應測驗從根本上來說屬於個體測驗,它為每個不同個體量身定製合適的測驗版本,當然,參加測試的被試會有很多,而且可能有各種不同的屬性掌握模式和掌握水平。那麽,在這種測試環境下,如何設計一個優良的題庫,在節約題目編寫工作量的同時,又能保證各類被試均能被高效又準確地診斷呢?彭亞風等人(2017)對該問題進行了係統研究,並得到一些值得借鑒的結果。研究結果認為,在題庫容量方麵,目標測試領域內屬性個數及其層級關係下的典型項目考核模式種類是決定題庫容量的重要指標。直線型、收斂型和發散型所需的題庫容量是對應的典型項目考核模式種類的4~5倍,而無結構時為3~4倍。在題庫包含的項目類型及其項目數量方麵,每種項目類型的項目數量與該項目類型所包含典型項目考核模式的種類有關,且因屬性層級關係的不同而不同:在直線型和收斂型情況下,每種項目類型包含的典型項目考核模式均為5個左右;在其餘3種屬性層級關係下,隨著項目類型中考察的屬性個數的增加,對應所包含的每種典型項目考核模式的項目個數依次減少:考察1~3個屬性的項目類型中每種典型項目考核模式的項目個數分別約為5、4、3個,考察4個至K-1個屬性的項目類型中每種典型項目考核模式的項目個數均為2個左右,以及1個左右考察K個屬性的典型項目考核模式。