Grenzen des Signifikanztests

Grenzen des Signifikanztests
(Fast) alles nur Wiederholung
Grenzen des Signifikanztests
• WiesosinddiefolgendenInterpretationenvonpWerten
e a a e
Fehlannahmen?
a) pWertesindIndikatorenfürdieGrößedesEffekts
• pWerteverändernsichbeikonstantemEffekt(z.B.r,d)wenndie
Stichprobengrößesichändert
ÜbungMethodenlehreII,
Übung
Methodenlehre II
SeKo
b) pWerteerlaubeneineAbschätzungderWahrscheinlichkeit,dassdie
Nullhypothese/Alternativhypothesezutrifft
• p(Ergebnis/H0),nichtp(H0/Ergebnis)oderp(H1/Ergebnis)
• keineAussagenüberdieWahrscheinlichkeitvonHypothesenmöglich!
c) pWert:Wahrscheinlichkeit,mitdermansichhinsichtlichseiner
Schlussfolgerung(H0istfalsch)geirrthat
• Irrtumswahrscheinlichkeit:H0verwerfen,obwohlsiezutrifft;Fehler
• pWerterlaubtkeinerleiWahrscheinlichkeitsaussagenüberdieHypothesen
(sondernnursolcheüberdieDaten)
VivienRöder,M.Sc.Psych.
ProfessurfürForschungsmethodik&Evaluation
d) pWerteerlaubeneineAbschätzungderWahrscheinlichkeit,dassein
p Werte erlauben eine Abschätzung der Wahrscheinlichkeit dass ein
Ergebnisreplizierbarist
• ReplizierbarkeithängtvonderTeststärke(Power)ab,unddiewiederumvon
,
g
p ((nichtvonp)
p)
n,derEffektgrößeundalpha
Übung: Methodenlehre II Seko SS15 Vivien Röder
www.tu-chemnitz.de
Übung: Methodenlehre II Seko SS15 Vivien Röder
Grenzen des Signifikanztests
(Fast) alles nur Wiederholung
Grenzen des Signifikanztests
(Fast) alles nur Wiederholung
• WassagtderpWertbeimSignifikanztesten aus?
• WieistdasVorgehenbeimSignifikanztesten nach
N
Neyman
undPearson?
dP
?
– W
WahrscheinlichkeitfürdasgefundeneErgebnisunterder
h h i li hk i fü d
f d
E b i
d
AnnahmederGültigkeitderH0
a. Null undAlternativhypotheseformulierenund
konstruieren
b. und abwägenÆ Poweranalyse
c. pWertmit vergleichen(Signifikanz)
d. p:nimmdieH1 an,p> nimmdieH0 an
• WassagtdiePowerübereinenTestaus?
Was sagt die Power über einen Test aus?
– WahrscheinlichkeitdenEffektzufinden,wennertatsächlich
vorhandenist
• WelcheFaktorenhabenEinflussaufdiePowerundwie
genauäußernsichderenAusprägungenaufdie
B i fl
BeeinflussungderPower?
d P
?
–
–
–
–
–
• WassindproblematischeAutomatismenoderRituale
p
beimSignifikanztesten?
WahrerEffektinderPopulation
Stichprobengröße
p
g
Abwägungvon und
ExperimentellerFehler
H
HomogenitätderPopulation(en)
ität d P
l ti ( )
Übung: Methodenlehre II Seko SS15 Vivien Röder
3
–
–
–
–
2
unspezifischeFragestellungen
automatisiertesVorgehen
ii
h
Fehlinterpretationen
PostHocPoweranalyseRitual
Übung: Methodenlehre II Seko SS15 Vivien Röder
4
Grenzen des Signifikanztests
(Fast) alles nur Wiederholung
• unspezifischeFragen&automatisiertesVorgehen– Waskanndaran
problematisch sein?
problematischsein?
–
–
–
–
unspezifischeHypothesenstattpräziseErwartungen
in„Testkategorien“denkenstattunvoreingenommen
immerauf5%,10%oder1%gesetzt–
i
f 5% 10% d 1%
t t stattabwägen
t tt b ä
blindeAnalysen – ohneVoraussetzungenzuprüfen
– stattsorgfältigeExplorationd.Daten
• GegenmaßnahmenundAlternativen
– präzisereÜberlegungenundFragestellungen(Kontrastanalyse,
Strukturgleichungsmodelle)
– Voraussetzungenprüfen,und inhaltlichabwägen
– aprioristattposthocPoweranalysendurchführen
– ergänzendeVerfahren(Konfidenzintervalle,Effektgrößen,EDAbzw.
ä
d V f h
(K fid i t
ll Eff kt öß
EDA b
grafischeDarstellung)
– alternativeVerfahren(Bootstrapping,BayesStatistik)
– alternativeForschungsdesigns(MultipleBaseline
lt
ti F
h
d i
(M lti l B li
u.Alternating
Alt
ti
TreatmentDesigns)
Übung: Methodenlehre II Seko SS15 Vivien Röder
5
Grenzen des Signifikanztests
(Fast) alles nur Wiederholung
• EinemöglicheAlternativezumSignifikanztest sind
Konfidenzintervalle (KI),nennenSiederenVorteile!
(KI) nennen Sie deren Vorteile!
– Informationsignifikantvs.n.s.
– SchätzungdesPopulationparameters
g
p
p
möglich
g
– InformationüberGenauigkeitderSchätzung
T-Test für die Mittelwertgleichheit
Depressivität
t
1,377
df
16
Sig. (2Sig
(2
Mittelwert Standardfeh
Mittelwertlerdifferenz
seitig)
differenz
,187
2,778
2,017
95% KI
Unterer
-1,498
Oberer
7,053
• Wozu
Wozuundwarumwerdenzusätzlichzuverschieden
und warum werden zusätzlich zu verschieden
Signifikanztests Effektgrößenverwendet?
–
–
–
–
Vergleichzw.unterschiedlichenSkalen
UnabhängigvonN
bh
InMetaanalyseSchätzungvonPopulationsparametern
Äquivalenz von Korrelations undAbstandsmaßen
ÄquivalenzvonKorrelations
und Abstandsmaßen
Übung: Methodenlehre II Seko SS15 Vivien Röder
6