在行為改變技術中,觀察和記錄的目的是為了製定行為改變方案。但是,行為改變方案的執行是否有成效,是通過比較方案實施前後所得的行為資料來確定的。因此,所獲得行為資料的可靠性如何,將直接影響到輔導結果的解釋。為了提高觀察結果的準確性,除了盡量避免會影響觀察與記錄結果的不良因素,運用兩人以上對同一行為進行觀察與記錄外,還應當對他們觀察與記錄信度進行正確的計算,也就是應學會如何計算觀察者間信度(IOR)。獲得觀察者間信度是行為研究中很重要的一個環節。在科學研究中,可以接受的最低IOR值是80%,如果可以達到90%以上則更為理想。
一般說來,觀察者間信度常采用兩種主要計算方法來檢驗:一是粗略的信度計算法;二是逐距核對信度計算法。
(一)觀察者間粗略信度計算法
觀察者間粗略信度的計算,就是將兩人觀察的結果中的較少次數(或時間、強度)除以較多次數(或時間、強度),再乘以百分之百,得出兩人觀察結果的一致百分率,以此來說明兩位觀察者間的信度。其計算公式為:
如果兩位觀察者的觀察結果完全一樣,則二者的觀察一致性是1.0或是100%。例如,記錄一位智障兒童在每節課時間內“亂發怪聲”的行為次數。根據甲觀察員的記錄,在周一上午10:00~10:40的觀察時間內,被觀察者共發出17次怪聲;但根據乙觀察員的記錄結果,隻有15次怪聲,二者觀察結果的一致性隻有88%(15/17×100%=88 %)。
粗略信度計算法的優點是較為簡便,易於掌握,計算十分簡單便利;其缺點是不夠精確,檢驗得出的結果往往難以反映出兩位觀察者記錄到同一事件的真實次數及其比率。因此,粗略信度檢驗法並非計算信度的最佳方法。我們可以從表3-8提供的資料來分析和討論。表中所列舉的真實發出怪聲的次數是20次,這是借助錄音機在現場(也就是上課時)錄音保存的資料來記錄的,是最為客觀和準確的。甲觀察者因在開始時,受到外界因素的幹擾,沒能正確記錄,僅記錄了17次;乙觀察者則在結束時受到幹擾,僅記錄了15次。所以如果僅根據這三份資料來計算觀察者間的一致性百分率,很明顯會有相當大的出入。