Bayangkan sebuah lembar psikotes gambar diperiksa oleh dua psikolog berpengalaman. Keduanya menggunakan gambar yang sama, tetapi menghasilkan skor yang sedikit berbeda. Apakah perbedaan tersebut masih dapat diterima, atau justru menunjukkan persoalan dalam kualitas pengukuran? Pertanyaan ini menjadi penting ketika membahas reliabilitas penilai pada wartegg tes, terutama jika hasilnya digunakan untuk mendukung keputusan mengenai seseorang.
Dalam pemeriksaan psikologis, kualitas hasil tidak hanya ditentukan oleh instrumen dan respons peserta. Cara pemeriksa memberikan skor juga memengaruhi informasi yang akhirnya dilaporkan. Karena itu, kesesuaian penilaian antar pemeriksa perlu dievaluasi menggunakan prosedur yang sistematis dan dapat dipertanggungjawabkan.
Tes Wartegg atau Wartegg Drawing Completion Test merupakan metode asesmen berbasis penyelesaian gambar yang dikembangkan oleh Ehrig Wartegg. Dalam format yang umum dikenal, peserta mengembangkan delapan stimulus visual menjadi gambar. Respons tersebut dapat dinilai menggunakan sistem skoring tertentu sesuai pendekatan pemeriksaan.
Reliabilitas penilai berkaitan dengan konsistensi hasil ketika respons yang sama dinilai oleh pemeriksa berbeda. Konsep ini sering disebut inter-rater reliability atau reliabilitas antarpenilai. Semakin konsisten penerapan aturan skoring, semakin kecil kemungkinan hasil dipengaruhi oleh perbedaan pemeriksa.
Sebuah hasil asesmen idealnya tidak berubah secara berarti hanya karena lembar jawaban diberikan kepada orang lain. Jika dua pemeriksa menggunakan pedoman yang sama, skor yang dihasilkan diharapkan menunjukkan kesesuaian yang memadai. Tingkat kesesuaian tersebut perlu dibuktikan melalui pengujian.
Namun, penilaian yang konsisten belum tentu berarti interpretasinya benar. Para pemeriksa dapat menyepakati kategori yang sama, tetapi kategori tersebut belum tentu mengukur karakteristik psikologis yang dimaksud. Di sinilah reliabilitas perlu dibedakan dari validitas.
Salah satu tantangan utama muncul ketika respons gambar harus dikelompokkan ke dalam kategori tertentu. Beberapa gambar mungkin memiliki karakteristik yang mudah dikenali, sedangkan gambar lainnya berada di antara dua kategori. Kondisi tersebut dapat menghasilkan keputusan skoring berbeda.
Perbedaan juga dapat muncul ketika pedoman tidak menjelaskan batas kategori secara operasional. Pemeriksa akhirnya menggunakan pertimbangan pribadi untuk menentukan skor. Semakin besar ruang interpretasi tanpa aturan yang jelas, semakin penting evaluasi konsistensi penilaian.
Pengalaman profesional dapat membantu pemeriksa memahami prosedur asesmen. Namun, pengalaman yang panjang tidak otomatis menjamin kesesuaian skor dengan pemeriksa lainnya. Dua orang yang sama-sama berpengalaman masih mungkin menggunakan kebiasaan penilaian berbeda.
Pelatihan perlu berfokus pada penerapan aturan yang sama melalui contoh respons yang relevan. Pemeriksa juga harus memahami cara menangani gambar yang sulit dikategorikan. Tujuannya bukan menyamakan pendapat berdasarkan senioritas, melainkan meningkatkan konsistensi berdasarkan pedoman.
Penilaian manusia dapat dipengaruhi harapan, pengalaman, dan informasi yang diketahui sebelumnya. Misalnya, pemeriksa yang sudah membaca laporan negatif tentang kandidat mungkin memperhatikan karakteristik gambar tertentu secara berbeda. Situasi ini berpotensi menimbulkan bias konfirmasi.
Dalam psikologi, bias konfirmasi merupakan kecenderungan memberikan perhatian lebih besar kepada informasi yang mendukung keyakinan awal. Pengaruhnya dapat muncul tanpa disadari pemeriksa. Karena itu, prosedur penilaian perlu mengurangi keterlibatan informasi yang tidak relevan.
Penilaian independen berarti pemeriksa memberikan skor tanpa terlebih dahulu mengetahui keputusan pemeriksa lain. Pendekatan tersebut membantu mengurangi kemungkinan satu penilai mengikuti pendapat orang lain. Hasilnya kemudian dapat dibandingkan untuk mengukur kesepakatan.
Jika pemeriksa berdiskusi sebelum melakukan penilaian awal, skor yang sama belum tentu mencerminkan reliabilitas independen. Kesepakatan dapat muncul karena pengaruh diskusi. Oleh sebab itu, penelitian reliabilitas perlu menjelaskan urutan dan prosedur penilaiannya.
Pengujian reliabilitas memerlukan sejumlah respons yang dinilai oleh dua atau lebih pemeriksa. Setiap pemeriksa menggunakan aturan skoring yang sama secara independen. Setelah itu, hasil penilaian dibandingkan menggunakan teknik statistik yang sesuai.
Pemilihan teknik bergantung pada bentuk data dan tujuan analisis. Skor kategoris tidak selalu dianalisis dengan cara yang sama seperti skor numerik. Karena itu, metode statistik harus mengikuti karakteristik sistem penilaian yang digunakan.
Cohen's Kappa dapat digunakan untuk mengukur kesepakatan dua penilai pada data kategoris dengan memperhitungkan kesepakatan akibat kebetulan. Untuk kategori berurutan, peneliti dapat mempertimbangkan weighted kappa. Pemilihannya harus sesuai dengan struktur kategori yang dinilai.
Sementara itu, Intraclass Correlation Coefficient atau ICC digunakan dalam konteks skor numerik tertentu. Model ICC perlu dipilih berdasarkan rancangan penilaian dan tujuan pengukuran. Angka reliabilitas tidak seharusnya ditafsirkan tanpa mengetahui metode yang menghasilkan angka tersebut.
Salah satu persoalan penting dalam penelitian wartegg tes adalah keberadaan berbagai sistem penilaian. Setiap pendekatan dapat memiliki kategori, definisi, dan prosedur yang berbeda. Karena itu, hasil reliabilitas dari satu sistem tidak otomatis berlaku pada sistem lainnya.
Penelitian juga perlu menjelaskan versi instrumen, jumlah pemeriksa, dan karakteristik sampel yang digunakan. Informasi tersebut membantu pembaca memahami ruang lingkup hasil. Tanpa dokumentasi yang memadai, perbandingan antarpenelitian dapat menjadi menyesatkan.
Kategori penilaian yang baik membutuhkan batas operasional yang dapat dipahami pemeriksa. Pedoman sebaiknya menjelaskan karakteristik respons yang termasuk dan tidak termasuk dalam kategori tertentu. Contoh kasus yang memiliki batas sulit juga dapat membantu proses pelatihan.
Apabila suatu kategori terlalu luas, penilai mungkin mengelompokkan respons dengan pertimbangan berbeda. Sebaliknya, kategori yang terlalu rumit dapat menyulitkan penerapan secara konsisten. Kualitas pedoman perlu diuji menggunakan respons nyata yang beragam.
Kalibrasi merupakan proses menyelaraskan pemahaman pemeriksa mengenai aturan skoring. Dalam kegiatan ini, sejumlah respons latihan dapat dinilai secara independen, kemudian dibandingkan. Perbedaan skor digunakan untuk mengidentifikasi bagian pedoman yang membutuhkan penjelasan tambahan.
Kalibrasi sebaiknya tidak berhenti setelah satu sesi pelatihan. Konsistensi dapat berubah ketika pemeriksa menghadapi respons yang lebih bervariasi. Karena itu, evaluasi berkala diperlukan untuk mempertahankan kualitas penerapan sistem skoring.
Pemeriksaan ganda dapat diterapkan dengan melibatkan dua penilai pada sejumlah respons yang dipilih berdasarkan prosedur tertentu. Cara ini membantu organisasi memantau kemungkinan ketidaksesuaian. Namun, pemeriksaan ganda tidak menggantikan pengujian reliabilitas secara sistematis.
Jika ditemukan perbedaan skor, penyelesaiannya perlu mengikuti aturan yang telah ditetapkan. Organisasi dapat menggunakan peninjauan kembali atau melibatkan penilai tambahan sesuai kebutuhan. Keputusan akhir harus didokumentasikan agar prosesnya dapat ditelusuri.
Reliabilitas antarpenilai berfokus pada kesesuaian skor dari pemeriksa berbeda. Sementara itu, reliabilitas tes ulang berkaitan dengan kestabilan hasil ketika individu menjalani pemeriksaan kembali dalam kondisi yang relevan. Keduanya menjawab pertanyaan pengukuran yang berbeda.
Sebuah sistem mungkin memiliki konsistensi antarpenilai yang memadai, tetapi menunjukkan kestabilan waktu yang terbatas. Temuan tersebut membutuhkan penjelasan sesuai karakteristik konstruk yang ingin diukur. Oleh karena itu, satu indikator reliabilitas tidak cukup untuk menjelaskan seluruh kualitas instrumen.
Dalam psikometri, validitas berkaitan dengan bukti yang mendukung interpretasi dan penggunaan hasil pengukuran. Reliabilitas membantu menunjukkan konsistensi, tetapi tidak membuktikan bahwa skor benar-benar mengukur karakteristik yang dituju. Kedua konsep harus dipertimbangkan bersama.
Sebagai contoh, dua penilai mungkin sepakat mengenai suatu kategori gambar. Namun, kesepakatan tersebut belum membuktikan bahwa kategori itu mampu memprediksi kinerja atau menggambarkan sifat kepribadian tertentu. Klaim tersebut membutuhkan penelitian validitas yang relevan.
Perbedaan skor antarpenilai dapat menjadi persoalan serius ketika hasil psikotes digunakan dalam rekrutmen. Jika kandidat memperoleh kesimpulan berbeda akibat pergantian pemeriksa, keadilan proses seleksi dapat dipertanyakan. Karena itu, perusahaan perlu mengevaluasi kualitas instrumen dan kompetensi penilainya.
HR juga sebaiknya tidak menggantungkan keputusan pada satu hasil tes gambar. Wawancara terstruktur, tes kemampuan, dan simulasi kerja dapat digunakan sesuai tuntutan jabatan. Setiap metode tetap membutuhkan bukti pengukuran yang memadai agar keputusan lebih bertanggung jawab.
Reliabilitas penilai merupakan aspek penting dalam mengevaluasi konsistensi skoring Tes Wartegg. Tantangannya mencakup perbedaan pemahaman kategori, bias subjektif, variasi sistem penilaian, dan keterbatasan pelatihan pemeriksa. Pedoman yang jelas, penilaian independen, serta kalibrasi berkala dapat membantu meningkatkan konsistensi hasil.
Pada akhirnya, memahami reliabilitas penilai dalam wartegg tes membantu praktisi psikologi dan HR menilai kualitas pemeriksaan secara lebih kritis. Kesepakatan skor merupakan informasi penting, tetapi tidak boleh disamakan dengan bukti validitas interpretasi. Penggunaan hasil asesmen harus tetap mempertimbangkan tujuan pemeriksaan, kualitas penelitian, dan tanggung jawab profesional.
Pilih alat psikotes yang sesuai kebutuhan Anda — untuk pengembangan diri, seleksi kandidat, maupun pemetaan psikologis di lingkungan pendidikan.