Sylabus PSY259: Základy psychometriky (jaro 2019) Obecné informace Kurz seznamuje studenty se základy psychometriky jako aplikované psychologické disciplíny, jejíž zvládnutí je podmínkou pro další rozvíjení dovedností jak v oblastech psychologické praxe (zejména psychologické diagnostice), tak teoretickém výzkumu včetně aplikovaného (např. ověřování metod v personalistickém kontextu). Cílem je poskytnout absolventům základní teoretické poznatky oboru a posílit schopnost adekvátně je uplatňovat, v budoucnu například při posuzování a volbě psychodiagnostických metod, aplikaci psychometrických postupů při vyhodnocování testových výsledků, a konečně také při samostatné konstrukci vlastních metod pro konkrétní aplikační účely či samostatné vědecké činnosti. Pro tyto aplikace je zvolen konceptuální rámec klasické testové teorie a faktorové analýzy; pokročilejší teorie měření jsou obsahem volitelných kurzů a navazujícího magisterského studia. Kurz je založen na přednáškách, poskytující základní rámec teoretických znalostí a propojujících jednotlivá témata, a povinných seminářích, na kterých budou znalosti prakticky aplikovány s využitím statistického softwaru. Podstatná část kurzu je nicméně založena i na samostudiu povinné a doporučené literatury; zkoušeny budou i předem definované informace, které nebudou probrány v rámci přímé výuky. Kurz je primárně zaměřen na oblast klasické testové teorie, další přístupy k měření v psychologii budou pouze zmíněny a budou obsahem navazujících kurzů v magisterském stupni studia. Průběh kurzu Kurz sestává ze šesti teoretických přednášek a šesti seminářů. Přednášky poskytují rámcový přehled a poskytují souvislosti napříč tématy. Semináře jsou zaměřené na praktický nácvik potřebných dovedností, zejména stran praktické realizace psychometrických analýz. Těžiště kurzu je nicméně postaveno na studiu povinné a doporučené literatury; přímá výuka nezahrnuje veškeré informace, jejichž znalost je předpokládána pro úspěšné ukončení kurzu. Podmínkou ukončení kurzu je úspěšné obhájení skupinové seminární práce, úspěšné absolvování průběžných testů a zejm. závěrečné zkoušky, která se skládá z písemné a ústní části. Účast na seminářích je povinná; akceptuje se jedna neomluvená neúčast. Prerekvizity Povinnou prerekvizitou kurzu je předchozí či současný zápis kurzu PSY255: Psychologie individuálních rozdílů, oba kurzy jsou nezbytně provázány, ukončený kurz PSY117: Statistická analýza dat. Kurz dále předpokládá znalosti z předcházejících metodologických/statistických předmětů: PSY252 (Statistická analýza dat II) a PSY112 (Metodologie psychologického výzkumu). Kurz Základy psychometriky není prerekvizitou pro žádné jiné předměty v bakalářském studiu; vychází z nich však navazující kurz PSY479 Psychometrika: Měření v psychologii v rámci navazujícího magisterského studia. Vyučují Přednášející a kontaktní osoba kurzu: Mgr. Hynek Cígler, Ph.D. (hynek.cigler@mail.muni.cz) Garant kurzu: Mgr. Jan Širůček, Ph.D. (jansirucek@mail.muni.cz) Vedoucí seminárních skupin:  Seminární skupina 01 (sudé týdny, 12:00): Mgr. Hynek Cígler, Ph.D. (hynek.cigler@mail.muni.cz)  Seminární skupina 02 (liché týdny, 10:00): Mgr. Stanislav Ježek, Ph.D. (jezek@fss.muni.cz)  Seminární skupina 03 (liché týdny, 12:00): Mgr. Adam Ťápal, M.A. (adam.tapal@mail.muni.cz) Konzultační hodiny všech vyučujících: pondělí 14.00–16:00 v pracovně 2.47, v případě Adama Ťápala po domluvě. Stručný harmonogram Pořadí Datum Téma Orientační termíny SP: přednáška 1 18. 2. Úvodní informace o kurzu. Úvod do psychometriky a měření v psychologii, základní pojmy. Škálování v psychologii, typy položek a škál. Model měření. Výběr položek, výběrová validita. seminář 1 18. 2. (S1) 25. 2. (S2, S3) Zadání seminární práce. Vývoj měření v praxi. Dekompozice obsahového univerza prakticky. přednáška 2 4. 3. Model měření CTT. Reliabilita. Úvod do chyby měření v rámci CTT. SP1: Anotace seminární práce seminář 2 4. 3. (S1) 11. 3. (S2, S3) Práce s chybou měření. Intervaly spolehlivosti pro měření, klinicky a statisticky významný rozdíl. přednáška 3 18. 3. Validita. Nové i tradiční pojetí validity. seminář 3 18. 3. (S1) 25. 3. (S1, S2) Položková analýza a analýza testu v rámci CTT. přednáška 4 1. 4. Faktorová analýza – teorie. seminář 4 1. 4. (S1) 8. 4. (S2, S3) Explorační faktorová analýza v praxi. Metody odhadu optimálního počtu faktorů. SP2: Teorie a metody přednáška 5 15. 4. Normy a standardizace testu. Design standardizační studie. Typy skórů a transformací. seminář 5 15. 4. (S1) 22. 4. (S2, S3) Konfirmační faktorová analýza – praxe. přednáška 6 6. 5. Úvod do dalších teorií měření: Teorie odpovědi na položku (IRT), vědomostních prostorů (KST), zobecnitelnosti (GT), spojitého měření (CMT), dynamické síťové modely. Formativní a reflektivní měření. Modely s diskrétními vs. spojitými latentními proměnnými. seminář 6 6. 5. (S1) 13. 5. (S2, S3) Reflexe kurzu, běžné miskoncepce. Bude upřesněno. SP3: Finální verze Tematický přehled kurzu Tento přehled představuje optimální sumu teoretických znalostí, které by absolvent měl získat k tomu, aby byl schopen absolvovat úspěšně předmět a uplatnit poznatky v praxi. Vzhledem k omezené době trvání kurzu jsou na přednáškách probírány pouze nejpodstatnější problematiky – předpokládáme průběžné prostudování povinné literatury k jednotlivým tématům a zběžné prolistování alespoň některých doporučených publikací. Použité zkratky v seznamu literatury: • FURR: Furr, R. M., & Bacharach, V. R. (2014). Psychometrics : An Introduction. Los Angeles, CA: Sage. • SCHULTZ: Schultz, K. S., Whitney, D. J., & Zickar, M. J. (2014). Measurement Theory in Action: Case Studies and Excercises (2 ed.). London: Routledge. [Pozor, v prvním vydání dostupném v knihovně FSS MU je odlišné stránkování!] • HOG: Hogan, T. P. (2013). Psychological Testing: A Practical Introduction. New York: Wiley. • URB: Urbánek, T., Denglerová, D., Širůček, J. (2011). Psychometrika: Měření v psychologii. Praha: Portál. Celkový rozsah povinné literatury je: Přednáška 1, seminář 1: Úvod do psychometriky a měření v psychologii a příbuzných oborech Přednáška poskytne základní rámec k uvažování o měření v psychologii. Představí základní historické milníky ve vývoji měření psychických jevů, důležitost existence teorie či modelu měření. Budou ilustrovány způsoby využití psychometriky v rámci psychologické praxe, a to v teoretickém i aplikovaném výzkumu, stručně představeny základní psychometrické pojmy: validita, reliabilita, objektivita, standardizace a normy. Stručně bude nastíněn koncept psychologického škálování, typy položek a škál. Přednáška bude zakončena představením obsahové validity (zejména tzv. výběrové validity), jako jednoho z typů důkazů o validitě. Seminář bude založen na operacionalizaci měření z hlediska CTT a bude ilustrovat výběr položek za účel maximalizace obsahové validity metody. Klíčová témata  Validita, reliabilita, objektivita, normy, standardizace. Náležitosti psychodiagnostických metod.  Model měření; klasická testová teorie (CTT).  Pravé skóre, hrubé skóre, chyba měření, latentní a manifestní proměnná.  Různé druhy položek a formátů odpovědí.  Psychologické škálování: Likertova škála, Thurstonova škála, Guttmanova škála.  Obsahová validita, výběrová validita. Operacionalismus jako východisko CTT.  Dekompozice obsahové univerza, obsahové univerzum, doména, fasetový model. Povinná literatura:  FURR: strany 1–40.  HOG: strany 3–42. Doporučená a rozšiřující literatura:  URB: strany 13–71 a 78–93.  FURR: strany 40–56 (opakování důležitých statistických konceptů). Přednáška 2, seminář 2: Chyba měření, reliabilita, a vyjádření chyby měření z hlediska CTT Přednáška představí koncept reliability jako ústřední základ klasické testové teorie a představí rovněž i model měření klasické testové teorie. Představeny budou základní způsoby odhadu reliability. Obsahem semináře bude práce s chybou měření z hlediska klasické testové teorie. Bude představen způsob tvorby intervalů spolehlivosti pro různé účely, způsob práce s rozdíly skórů, klinicky významným rozdílem. Klíčová témata  Obecná definice reliability, její implikace pro měření. Vztah pravého a pozorovaného skóre, latentní a manifestní proměnné.  Operacionalizace reliability v CTT, její předpoklady, koncept paralelních testů.  Odhady reliability: test-retest, reliabilita paralelních forem, shoda posuzovatelů, vnitřní konzistence.  Reliabilita kompozitního a rozdílového skóre.  Metody odhadu vnitřní konzistence: Split-half (Spearmanův-Brownův vzorec, Guttmanova λ4), Guttmanovy koeficienty vs. analýza kovarianční matice – Cronbachova alfa. Specifické případy: stratifikovaná a standardizovaná Cronbachova alfa.  Chyba měření. Konstrukce intervaly spolehlivosti hrubého a pravého skóre. Chyba rozdílu, predikce.  Slabiny CTT: předpoklad intervalových škál pro analýzu rozptylu, závislost výsledků na rozložení latentních proměnných resp. na vyšetřované populaci, obtížnost položky jako závislost na populaci; nerealističnost předpokladu lineárního vztahu hrubých skórů a latentní proměnné. Psychometrický paradox.  Faktory ovlivňující reliabilitu testu. Povinná literatura:  FURR: s. 101–186  Dudek, F. J. (1979). The continuing misinterpretation of the standard error of measurement. Psychological Bulletin, 86(2), 335–337. https://doi.org/10.1037/0033-2909.86.2.335 Doporučená a rozšiřující literatura:  Cígler, H., & Šmíra, M. (2015). Chyba měření a odhad pravého skóru: Připomenutí některých postupů Klasické testové teorie. TESTFÓRUM, 4(6), 67–84. https://doi.org/10.5817/TF2015-6-104  Revelle, W., & Condon, D. M. Reliability. Unpublished manuscript. Retrieved online: https://www.personality- project.org/revelle/publications/reliability-final.pdf  SCHULTZ: s. 55–81.  Sijtsma, K. (2009). On the Use, the Misuse, and the Very Limited Usefulness Of Cronbach’s Alpha. Psychometrika, 74(1), 107-120. doi: 10.1007/S11336-008-9101-0.  Marko, M. (2016). Využitie a zneužitie Cronbachovej alfy pri hodnotení psychodiagnostických nástrojov. Testfórum, 5(7), 99-107. https://doi.org/10.5817/TF2016-7-90 Přednáška 3: Validita Obsahem přednášky bude představení konceptu validity měřicího nástroje, zejména pak psychodiagnostické metody. Představeny budou tradiční způsoby uvažování o validitě, následně však bude představeno moderní pojetí, které poslouží jako konceptuální rámec pro zbytek kurzu. Klíčová témata  Tradiční pojetí validity: obsahová, empirická, konstruktová.  Moderní pojetí validity, důkazy konstruktové validity: vnitřní struktura, souběžná validita, validita procesu odpovídání, obsahová validita, důsledky využití testu.  Souběžná validita: kriteriální, prediktivní, konvergentní, divergentní, inkrementální, diferenciální atd.  Face-validity, zjevná a zdánlivá validita. Barnumský (Forerův) efekt.  Vztah validity a reliability, attenuation formula, psychometrický paradox. Povinná literatura  FURR: s. 197–269. Doporučená a rozšiřující literatura  SCHULTZ: strany 123–136.  URB: strany 143–151.  Cronbach, L. J., & Meehl, P. E. (1955). Construct validity in psychological tests. Psychological Bulletin, 52(4), 281–302. https://doi.org/10.1037/h0040957  Grove, W. M. (2005). Clinical Versus Statistical Prediction: The Contribution of Paul E. Meehl. Journal of Clinical Psychology, 61(10), 1233–1243. https://doi.org/10.1002/jclp.20179. Seminář 3: Položková analýza a analýza testu z hlediska CTT Seminář integruje poznatky z druhé a třetí přednášky, na jejichž základě představí praktické postupy položkové analýzy, reliability testu atd. v rámci klasické testové teorie, a to v návaznosti na druhou přednášku. Postupy budou představeny v Excelu, SPSS a Jamovi. Očekává se dovednost provést analýzy v alespoň jednom z nich. Klíčová témata:  Základní parametry položek: diskriminační schopnost položky, popularita resp. obtížnost, reliabilita škály a její úpravy; požadavky na reliabilitu a předpoklady reliability.  Elementární položková CTT analýza (korelace).  Výpočet ukazatelů položkové analýzy v CTT: obtížnost/popularita, rozptyl, korigovaná korelace, koeficient ULI, diskriminační účinnost položky a další.  Praktická schopnost provést položkovou analýzu ve zvoleném programu.  Vztah reliability a validity v praxi. Povinná literatura:  SCHULTZ: strany 171–193.  FURR: s. 186–193 Doporučená a rozšiřující literatura: • URB: strany 217–230. Přednáška 4, semináře 4–5: Faktorová analýza Blok sestávající z jedné přednášky a dvou seminářů předvede model měření s latentní proměnnou, předpokládaný faktorovou analýzou, a představí způsoby využití explorační (EFA) a konfirmační (CFA) faktorové analýzy při vývoji a standardizaci psychodiagnostických metod. Přednáška představí základní teoretická východiska. Seminář 4 se prakticky zaměří na explorační, seminář 5 pak na konfirmační faktorovou analýzu. Klíčová témata • Modely s latentní proměnnou, explorační faktorová analýza (EFA), konfirmační faktorová analýza (CFA). • Analýza hlavních komponent, rozdíly oproti EFA. • Identifikace optimálního počtu faktorů: Kaiserovo pravidlo, scree-plot, Hornova paralelní analýza. • Metody extrakce explorační faktorové analýzy. Šikmé a ortogonální rotace. • Metody odhadu konfirmační faktorové analýzy. • Odhad konstruktové validity pomocí strukturního modelu a konfirmační faktorové analýzy. • Typy proměnných z hlediska strukturálního modelování (manifestní, latentní, reziduální, endogenní, exogenní). Metody odhadu modelu; předpoklady o proměnných (rozložení, linearita vztahů). • Problémy a svody konfirmační faktorové analýzy: problémy spojené s konstrukcí a interpretací modelu, hierarchické a aditivní modely, chyba reifikace. • Odhad reliability s využitím faktorové analýzy: rodina koeficientů omega. • Odhad explorační i konfirmační faktorové analýzy prakticky v programu dle svého výběru. Praktické ukázky budou prováděny v SPSS, R a Jamovi. Povinná literatura • FURR: s. 71–98, 331–353 • SCHULTZ: strany 269–300 • Kenny, D. A. (2015). Measuring Model fit. Dostupné online: http://davidakenny.net/cm/fit.htm Doporučená a rozšiřující literatura: • Urbánek, T. (2000): Strukturální modelování v psychologii. Brno: Psychologický Ústav AV ČR. • McDonald, R.P. (1991): Faktorová analýza a příbuzné metody v psychologii. Praha: Academia. Přednáška 5: Normy a standardizace testu Přednáška představí koncept norem a standardizace testu a položí tak základ pro interpretaci testových výsledků a tedy i využití měřicích nástrojů v psychodiagnostické praxi. Kromě toho se zaměří na způsob konstrukce norem a návrh standardizačních studií. Tematický blok sestává výhradně z přednášky, nepatří k němu žádný seminář. Klíčová témata • Standardní skóry. Různé druhy standardních skórů, jejich interpretace. • Odvozené skóry. Různé druhy odvozených skórů, jejich interpretace. • Ipsativní a interaktivní skóry. Vývojové normy. • Vliv chyby měření na interpretaci testových skórů. • Způsob konstrukce norem, předpoklady jejich konstrukce. • Design standardizační studie, způsob výběru standardizačního vzorku. • Různé druhy norem pro různá použití. • Intervenující proměnné při standardizaci. Povinná literatura: • HOG: strany 61–106. • FURR: 56–69. • Urbánek, T. (2010). Stav české psychologické diagnostiky a evropský model recenze testu. Testfórum, 1(1), 2– 5. https://doi.org/10.5817/TF2010-1-1 Doporučená a rozšiřující literatura: • URB: strany 236–254. • SCHULTZ: strany 195–216 • McGrew, K. S., LaForte, E. M., & Schrank, F. A. (2014). Technical Manual. Woodcock-Johnson IV. Rolling Meadows, IL: Riverside. Dostupné online: https://www.wjscore.com/Files/WJIVTechnicalManual.PDF • International Test Commission (2010). Guidelines for Translating and Adapting Tests, version 2010. Dostupné on-line: http://www.psyktestbarn.no/cms/ptb_mm.nsf/lupgraphics/ITC%20guidelines.pdf/$file/ITC%20guidelines.pdf • International Test Commission (2012). International Guidelines on Quality Control in Scoring, Test Analysis, and Reporting of Test Scores. Dostupné on line: https://www.intestcom.org/files/guideline_quality_control.pdf  Případně totéž v časopise: International Test Comission (2014). ITC Guidelines on Quality Control in Scoring, Test Analysis, and Reporting of Test Scores. International Journal of Testing, 14(3), 195–217. https://doi.org/10.1080/15305058.2014.918040 • International Test Commission (2014). ITC Statement On the Use of Tests and Other Assessment Instruments for Research Purposes. Dostupné on line: https://www.intestcom.org/files/statement_using_tests_for_research.pdf Přednáška 6: Další teorie měření Cílem přednášky je představit další teorie měření, které se v psychologii a souvisejících vědách používají a se kterými je možné občasně přijít do kontaktu, a to za účelem konceptuálního pochopení. Výjimkou je teorie odpovědi na položku, kde budou vyžadovány podrobnější (avšak stále základní) znalosti. Další teorie budou představovány skrze srovnání s klasickou testovou teorií, která bude podrobena obšírné kritice. Klíčová témata: • Formativní vs. reflektivní modely měření. • Teorie zobecnitelnosti jako rozšíření CTT – fasetová struktura chyby měření, zdroje chyby měření. • Teorie odpovědi na položku – základní koncept a principy. Srovnání s faktorovou analýzou. • Příklady využití IRT: počítačové adaptivní testování, kognitivní modelování, vyvažování testů (test-equating), pilotáž položek. • Teorie vědomostních prostorů. Spojité měření. Modely s diskrétními latentními proměnnými. • „(Dynamické) síťové modely“. • Q-sort, sociometrie. Povinná literatura: • FURR: s. 355–411 Doporučená a rozšiřující literatura: • URB: strany 112–120, 152–181, 255–265. • DeMars, C. (2010). Item Response Theory. Oxford: Oxford University Press. (Cca 100 stran, extrémně stručné s minimem statistiky!). • Bond, T. G., & Fox, C. M. (2007). Applying The Rasch Model : Fundamental Measurement in the Human Sciences (2 ed). Mahwaw (NJ): Lawrence Erlbaum Associates. Strany xiii–49. Seminář 6: Bude upřesněno Náplň semináře bude upřesněna během kurzu. Kdo dočetl sylabus až do tohoto místa a zašle na e-mail hynek.cigler@mail.muni.cz kdykoliv do půlnoci 17. února 2019 včetně obrázek svého oblíbeného dinosaura, získá do celkového hodnocení kurzu 1 bonusový bod. Předpokládáme rovněž, že se dotyčný/á do uvedeného data o této pasáži sylabu nikomu nezmíní. Požadavky na ukončení kurzu Závěrečné hodnocení kurzu se skládá z: 1. Průběžné testy: Na 2.–6. semináři bude administrováno pět krátkých písemných testů (multiple-choice a krátké otevřené odpovědi). Obsahem každého testu budou primárně znalosti související s předcházející přednáškou a příslušnými semináři, resp. znalost povinné literatury z předchozího bloku. Každý z testů bude hodnocen pěti body, přičemž nejhorší hodnocení nebude do součtu započítáno, což umožňuje jednu neomluvenou absenci na seminářích bez bodové penalizace. Celkem je tedy možné získat 4×5 = 20 bodů, podmínkou připuštění k písemné zkoušce je zisk minimálně 10 bodů; v opačném případě je kurz ukončen hodnocením „X“. Náhradní termín bude vypsán jen v případě absence řádně omluvené v IS MU po vyžádání studentem. 2. Skupinová seminární práce: Seminární práce bude podrobně zadána na 1. semináři. Vypracování seminární práce je založeno na průběžných konzultacích s vyučujícími a odevzdáním ve dvou termínech, které budou upřesněny. Práce je hodnocena 20 body a není stanovena minimální bodová hranice pro úspěšné absolvování kurzu. Práci není možné přepracovat; zpětná vazba a bodové hodnocení bude předáno výhradně ústně během týmové konzultace. 3. Písemná část závěrečné zkoušky: Písemná zkouška bude hodnocena 0–20 body. Pro přístup k ústní části závěrečné zkoušky je nezbytné získat minimálně 10 bodů. V opačném případě bude uděleno hodnocení F a je nutné písemnou zkoušku absolvovat znovu. 4. Ústní část závěrečné zkoušky: Ústní část zkoušky je hodnocena 0–10 body, minimální hranice pro ukončení kurzu je 1 bod. V případě, že student/ka získá 0 bodů, je uděleno hodnocení F; následně je nutné znovu absolvovat buď pouze ústní, nebo ústní i písemnou část zkoušky dle uvážení studenta. Stejně tak v případě zisku méně než minimálního celkového počtu bodů (viz níže); v takovém případě student/ka může absolvovat znovu písemnou, ústní nebo obě části zkoušky dle svého uvážení. Celkem lze tedy v předmětu získat 4×5 + 20 + 20 + 10 = 70 bodů. Závěrečné hodnocení proběhne podle následujícího klíče: A: 64–70 b B: 57–63 b C: 50–56 b D: 43–49 b E: 36–42 b F: 35 b a méně X: Méně než 10 bodů z průběžných testů.