Náhodné veličiny, náhodné chyby

Máme náhodnou veličinu X, jejíž vlastnosti zkoumáme.

Pokud známe její rozložení (např. z nějaké dřívější studie) nebo alespoň předpokládáme znalost rozložení, můžeme ji popsat určitými parametry - charakteristikami populace.

Pokud tyto parametry neznáme, můžeme získat jejich odhad na základě výpočtu nebo zjištění z výběrového souboru.

Každý odhad je zatížen jistou neurčitostí - náhodnou chybou. Je zřejmé, že při každém novém výběru bude chyba jiná, protože budou vybrány jiné prvky z populace.

Náhodné chyby a systematické chyby

Při měření nebo stanovení charakteristik výběru jsou obvykle hodnoty zkresleny nejen náhodnými chybami, ale i dalšími chybami způsobenými nehomogenitou souboru, jednostrannými chybami měření apod. Tyto nežádoucí jevy nazýváme systematické chyby a snažíme se je eliminovat.

Matematická statistika ale naopak počítá s náhodnými chybami - nejedná se vlastně o chyby, mluvíme spíše o náhodné složce, která může být ovlivněna:

biologickou variabilitou nepřesností určení nebo měření veličiny nepřesností modelu

Náhodné chyby a rozsah souboru

Kvalita odhadu je dána variabilitou náhodné veličiny rozsahem výběru

Pokud konstruujeme odhady charakteristik populace, můžeme tedy náhodnou chybu zmenšit pouze zvětšením výběru. Variabilitu náhodné veličiny ovlivnit nemůžeme.

Parametry populace a náhodný výběr

Protože výběr z populace je náhodný, jsou i hodnoty parametrů náhodné veličiny.

Můžeme tedy považovat i parametry populace (například výběrový průměr nebo výběrový rozptyl) za náhodnou veličinu s určitým rozložením.

Mluvíme-li ve statistice o testování veličin, považujeme za testovaný objekt populaci reprezentovanou výběrovým souborem (resp., více výběrovými soubory).

TESTOVÁNÍ VELIČINY je zkoumání nějaké vlastnosti u této populace.

Úvod do statistického testování hypotéz

HYPOTÉZA je domněnka (tvrzení) o statistickém souboru

TESTOVÁNÍ HYPOTÉZ je způsob ověřování domněnek o typu rozdělení statistického souboru o parametrech rozdělení - charakteristikách souboru

(μ, σ2, σ, λ) o shodě dvou a více rozdělení o shodě parametrů rozdělení

vždy proti sobě stojí dvě doměnky (tvrzení): nulová hypotéza (domněnka, kterou testujeme) alternativní hypotéza (domněnka, kterou přijímáme,

pokud zamítneme nulovou hypotézu)

Nulová a alternativní hypotéza

Nulová hypotéza je obvykle tvrzení, které po matematické stránce vyjadřuje „rovnost“, ekvivalenci, nulový rozdíl, nezávislost. Značíme H0

Jejím zamítnutím potvrzujeme platnost alternativní hypotézy, obvykle tvrzení, které chceme prokázat. Zamítnutí H0 má většinou vážnější důsledky.

Alternativní hypotéza je obvykle tvrzení, které se zdá na první pohled evidentní a chceme ho prokázat. Říká, že existuje rozdíl mezi výběrovými soubory, např. závislost na zkoumaných faktorech. Značíme HA nebo H1

Její zamítnutí nemá většinou tak vážné důsledky.

Která hypotéza je nulová a která alternativní je pouze věcí „dohody“, kterou však budeme respektovat.

Nulová a alternativní hypotéza - příklady: Tvrzení, které chceme obvykle prokázat mohou znít např.:

„Lék A má větší léčebný efekt než lék B.“ „Chlapci dosahují kratších časů v plavání než dívky.„ "Výsledky dotazníkového šetření závisí na věku

respondentů.„

Opačná tvrzení - nulové hypotézy k alternativním, zní: „Léky A a B mají stejný léčebný efekt." „Chlapci dosahují stejných časů v plavání jako dívky." "Výsledky dotazníkového šetření nezávisí na věku

respondentů.„

Pokud chceme dokázat HA, potřebujeme zamítnout H0

Nulová a alternativní hypotéza Věcné hypotézy představují nulovou a alternativní

hypotézu podle popsaných konvencí. Vždy se jedná o dvě tvrzení, která stojí proti sobě (druhé neguje první).

Za nulovou hypotézu budeme považovat domněnku (tvrzení), že mezi testovanými soubory neexistuje vztah (souvislost), že pozorované rozdíly jsou způsobeny jen náhodnými vlivy.

Výsledkem je přijetí nebo zamítnutí NULOVÉ HYPOTÉZY jakožto nositele „nulové změny, nulové závislosti“.

Rozhodování ve statistických testech

Základem statistických testů je rozhodnutí, zda rozdíl testovaných hodnot můžeme vysvětlit náhodným kolísáním (platí nulová hypotéza), nebo jej považujeme za systematický (platí alternativní hypotéza).

Pokud lze rozdíl vysvětlit náhodným kolísáním, nemůžeme zamítnout nulovou hypotézu.

V opačném případě - rozdíl není způsobený náhodně, nýbrž má nějakou příčinu (tu právě chceme prokázat) - nulovou hypotézu zamítáme a Alternativní hypotézu považujeme za platnou.

Rozhodování ve statistických testech má vždy charakter pravděpodobnostní – nikdy si nejsme svým rozhodnutím zcela jisti.

Očekávané (hypotetické) rozdělení hodnot

Pokud zkoumáme dva nebo víc výběrových souborů, porovnáváme (testujeme) obvykle jejich charakteristiky, které vypočteme z naměřených (pozorovaných) hodnot.

Nulovou hypotézou bychom nazvali tvrzení, že:- charakteristiky výběrových souborů se neliší

Někdy porovnáváme pouze jeden výběrový soubor s očekávaným rozdělením četností a testujeme, zda se rozdělení hodnot výběrového souboru řídí tímto očekávaným (hypotetickým) rozdělením hodnot.

Nulovou hypotézou bychom nazvali tvrzení, že:- výběrový soubor se řídí očekávaným rozdělením hodnot.

Testování hypotéz

TEST HYPOTÉZY je postup, kterým ověřujeme, zda statistickou hypotézu lze pokládat za správnou.

Pokud se rozložení hodnot testované veličiny řídí očekávaným, hypotetickým rozdělením hodnot,znamená to, že od námi předpokládaného teoretického rozdělení se zkoumané hodnoty odlišují jen díky náhodným vlivům - náhodě, kterou umíme statisticky zdůvodnit,

platí H0 pozorované hodnoty jsou velmi blízké očekávaným (hypotetickým) hodnotám.

V opačném případěplatí HA pozorované hodnoty se příliš liší od očekávaných

- neumíme vysvětlit pouhou náhodou

Příklad pro schematické vysvětlení statistických testů

Budeme-li házet hrací kostkou, budeme očekávat čísla od 1 do 6. Pokud se nám mezi hrací kostky připlete jiná kostka, která bude mít

čísla 6, 7, 8, 9, 10, 11 a padne na ní číslo 6, nepoznáme, že patří do jiného souboru. Když ale na ní padne číslo 7, 8, 9, 10 nebo 11, uvidíme na první pohled, že tato hodnota nepatří mezi očekávané.

Statistické testy vyhodnotí statisticky výsledek našeho pokusu podobně: když se bude výsledek blížit očekávané hodnotě, nemůže zamítnout nulovou hypotézu.

Když se bude výrazně odlišovat, statistický test prohlásí nulovou hypotézu za neplatnou.

Pokud by nesprávné přijetí nulové hypotézy v příkladu s házením hrací kostkou mělo vážné důsledky, pro jistotu bychom ji museli zamítnout ve všech případech, kdy padla šestka, protože neumíme rozlišit, zda padla na kostce s hodnotami 1 – 6 nebo na kostce s hodnotami 6 – 11.

Chyba I. a II. druhu při testování hypotéz

Při testování mohou nastat čtyři situace:

I. H0 zamítneme, ačkoliv platí

II. H0 přijmeme, ačkoliv neplatí

III. H0 přijmeme a platí

IV. H0 zamítneme a neplatí

Výsledek testuSkutečnost

H0 platí H0 neplatí

H0 zamítnuta Chyba I. druhu α

IV.

H0 přijata III. Chyba II. druhuβ

Hladina významnosti

Snahou je volit test tak, aby pravděpodobnost chyby I. i II. druhu byla minimální. Bohužel jak si dále ukážeme, snížíme-li riziko chyby I.

druhu, zvětší se riziko chyby II. druhu a naopak. Rozhodujeme se na základě zvážení důsledků obou chyb -

tam, kde je důsledek chyby menší, můžeme zvolit riziko větší.

Příklad: Lékař vyšetřuje pacienta, který si myslí, že trpí určitou chorobou. Na základě vyšetření se rozhoduje, zda mu předepíše léky (přijímá hypotézu, že pacient je nemocný) nebo ne (přijímá hypotézu, že pacient je simulant). Musí zvážit rizika, která s sebou nese rozhodnutí, že nemocnou osobu považuje za zdravou.

Hladina významnosti

Obvykle mívá důsledek chyby I. druhu - zamítnutí nulové hypotézy, ačkoliv platí, horší následky.

Proto se snažíme chybu I. druhu minimalizovat a její pravděpodobnost volíme velmi malou 0,05 (5%) nebo dokonce jen 0,01 (1%). Tato pravděpodobnost se nazývá hladina významnosti

a značí se α. Je to riziko zamítnutí ověřované hypotézy.

Opačnou chybu – přijetí ověřované hypotézy, přestože neplatí, označujeme jako chybu II. druhu Tuto pravděpodobnost chyby II. druhu značíme β. Doplněk k β, tj. (1-β) - přijetí alternativní hypotézy, když

platí, se nazývá síla testu.

Příklad statistického testu

Sledujeme výšku postavy skupiny basketbalistů ve věku 16-18 let. Chceme vědět, zda se jejich průměrná výška statisticky významně odlišuje od průměrné výšky mužské populace. Pro testování musíme: přijmout určité předpoklady - rozložení výšky se řídí normálním rozdělenímstanovit hladinu významnosti (přijatelnou chybu statistického testu)

Nulová hypotéza H0: průměrná výška sledované skupiny basketbalistů ve věku 16-18 let se neodlišuje statisticky významně od průměrné výšky běžné mužské populace

Alternativní hypotéza: průměrná výška sledované skupiny basketbalistů ve věku 16-18 let je větší než průměrná výška běžné mužské populace

H0 rozdělení výšky normální populace (to co ověřujeme)H1 rozdělení výšky basketbalistů (to co chceme odlišit)

Skutečnost

Výsl

edek

te

stu

β α

Testování hypotéz

H0 H1

α chyba I. druhu zamítáme H0, ačkoliv platí

β chyba II. druhu přijímáme H0, ačkoliv neplatí

H0 H1

H0 zamítnuta chyba α

H0 zamítnuta platí H1

H0 nezamítnutaplatí H0

H0 nezamítnuta

chyba β

Komentář k obrázku

růžová plocha pod modrou křivkou představuje kritických 5% hodnot, tj. 5%-ní pravděpodobnost chyby I. druhu neboli hladinu významnosti α

tuto hladinu významnosti volíme, může být např. i přísnější 1%

modrá plocha pod červenou křivkou představuje chybu II. druhu a je to pravděpodobnost, že sice platí alternativní hypotéza H1 , ale my nejsme schopni prokázat významnou odchylku od testované hodnoty a nemůžeme zamítnout H0.

- zmenšit tuto pravděpodobnost, tj. chybu II. druhuaniž bychom zvětšili chybu I. druhu, můžeme jen zvětšením rozsahu výběru (viz následující obrázek)

zvětšíme tím sílu testu, jinými slovy – budeme schopní prokázat i menší odchylky od nulové hypotézy (na následujícím obrázku představuje posunutí šedé čáry z místa původní do nové hladiny významnosti α – chyby 1. druhu).

H0 testovaná hypotéza (to co ověřujeme)H1 alternativní hypotéza (to co chceme odlišit)

Skutečnost

Výsl

edek

te

stu

β α

zvětšením rozsahu výběruα chyba I. druhu zůstává stejná

β chyba II. druhu se zmenšila

H0 H1

H0 zamítnuta chyba α

H0 zamítnuta platí H1

H0 nezamítnutaplatí H0

H0 nezamítnuta

chyba β

Výška mužů basketbalistů Dvouvýběrový t-test s rovností rozptylů182 184 Výška mužů výška basketbal.175 182 Stř. hodnota 178,9 181,2176 181 Rozptyl 13,88 9,29178 182 Počet pozorování 10 10184 179 Hyp. rozdíl stř. hodnot 11,58173 180 t Stat – abs. hodnota 0183 178 P(T<=t) (1) 18179 186 t krit (1) – jednostranný t. -1,51182 176 P(T<=t) (2) 0,07177 184 t krit (2) – oboustranný t. 1,73

Výška mužů basketbalistů Dvouvýběrový t-test s rovností rozptylů182 184 Výška mužů výška basketbal.175 182 Stř. hodnota 178,9 181,2176 181 Rozptyl 13,88 9,29178 182 Počet pozorování 10 10184 179 Hyp. rozdíl stř. hodnot 11,58173 180 t Stat – abs. hodnota 0183 178 P(T<=t) (1) 18179 186 t krit (1) – jednostranný t. -1,51182 176 P(T<=t) (2) 0,07177 184 t krit (2) – oboustranný t. 1,73180 186 Výška mužů výška basketbal.173 174 Stř. hodnota 179,2 181,4177 182 Rozptyl 12,03 10,04183 181 Počet pozorování 20 20178 182 Hyp. rozdíl stř. hodnot 11,04180 179 t Stat – abs. hodnota 0176 180 P(T<=t) (1) 38183 184 t krit (1) -2,14181 183 P(T<=t) (2) 0,02183 185 t krit (2) 1,69

Vyhodnocení výsledků t-testu z Excelové tabulky

Jednostranný t-testpro H0 výška basketbalistů není vyšší než průměrná výška populacepro HA výška basketbalistů je vyšší než průměrná výška populace

porovnáním pravděpodobnosti a hladiny významnosti α vypočtenou hodnotu pravděpodobnosti P(T<=t) porovnáváme se zvolenou

hladinou významnostipro 10 měření je P=0,07 > α=0,05 proto H0 nemůžeme zamítnout

pro 20 měření je P=0,02 < α=0,05 proto H0 zamítáme

nebo ke stejnému závěru dojdeme

porovnání statistiky a kritické hodnoty absolutní hodnotu vypočtené statistiky t Stat porovnáme

s kritickou hodnotou t krit (1) pro hladinu významnosti α = 0,05pro 10 měření t Stat=1,51 < t krit(1)=1,73 proto H0 nemůžeme zamítnout

pro 20 měření t Stat=2,14 > t krit(1)=1,69 proto H0 zamítáme

Závislost výsledku testu na počtu měření

Při prvním testu jsme vyhodnotili výsledek z 10 měření a na zvolené hladině významnosti α = 0,05 nemohli zamítnout nulovou hypotézu, že průměrná výška sledované skupiny basketbalistů ve věku 16-18 let se statisticky významně neodlišuje od průměrné výšky běžné mužské populace.

H0 nemůžeme zamítnout ani u jednostranného testu, kdy nás zajímá pouze vyšší výška basketbalistů, ani u oboustranného testu, kdy hodnotíme odchylky na obě strany

Při druhém testu jsme vyhodnotili výsledek z 20 měření a na zvolené hladině významnosti α = 0,05 zamítáme nulovou hypotézu a přijímáme alternativní hypotézu, že průměrná výška sledované skupiny basketbalistů ve věku 16-18 let je statisticky významně vyšší než je průměrná výška běžné mužské populace.

Když se podíváme na střední hodnoty obou výběrů, vidíme, že průměrná výška basketbalistů vzrostla o něco méně než u mužů, přesto se test stal pro vyšší počet měření statisticky významný.

Síla testu a interval spolehlivosti - viz příklad

Pokud budeme mít více měření, budou hustoty pravděpodobnosti nulové hypotézy H0 i alternativní hypotézy H1 užší - rozptyl se zmenšil z 13,88 na 12,03 pro běžnou mužskou populaci a z 12,03 na 10,04 pro basketbalisty. Střední hodnota se paradoxně zvětšila u basketbalistů méně než u běžné mužské populace.

Mezní hodnota pro chybu I. druhu (šedá čára) se posune pro jednostranný test z 1,73 na 1,69 a pro oboustranný test z 2,1 na 2,02.

Velikost chyby II. druhu β (plocha pod červenou křivkou) se zmenší - test se stane silnějším.

Čím je rozsah výběrového souboru větší, tím je náš odhad testovaného parametru přesnější a tím je interval spolehlivosti užší.

Čím užší je interval spolehlivosti, tím větší je síla testu.

Postup konstrukce a provedení testu1. Formulujeme hypotézu H0, kterou chceme ověřit a k ní

alternativní hypotézu HA,

2. Zvolíme hladinu významnosti podle důsledků, které by mohla mít chyba I. druhu (obvykle 5%, přísnější test 1%)

3. Zvolíme rozsah výběru (obvykle máme rozsah výběru daný našimi možnostmi)

4. Provedeme experiment a na základě hypotézy zvolíme testovou statistiku T (znamená to, že data převedeme transformací do vhodné statistické „normy“, např. výběrového rozdělení, abychom mohli test vyhodnotit)

5. Porovnáme testovou statistiku T s kritickou hodnotou TK příslušného výběrového rozdělení pro zvolenou hladinu významnosti. (TK najdeme v tabulkách nebo pomocí statistického programu, např. ve funkcích Excelu).

Postup konstrukce a provedení testu - pokračování

6. Na základě porovnání rozhodneme o zamítnutí nebo přijetí nulové hypotézy.

Přijetí H0: pokud odchylky naměřených hodnot od předpokládaného výběrového rozdělení lze vysvětlit pouhou náhodou (T < TK).

Zamítnutí H0: pokud odchylky jsou větší - jsou statisticky významné (T ≥ TK), s námi zvoleným rizikem α (hladina významnosti) zamítáme H0 a přijímáme H1

Testování hypotéz

α=0,05

H0HA

TK pro α=0,05

T < TK T > TK

H0 zamítáme H0 přijímáme

Test není statisticky významný – hypotézu H0 nezamítámePozorované odchylky od hypotézy je možno vysvětlit pouhou náhodouDůvodem může být i to, že rozdíl je tak malý, že na jeho prokázání nestačí použitý rozsah souboru.

Test je statisticky významný – hypotézu H0 zamítámePozorované odchylky od hypotézy není možno vysvětlit pouhou náhodouOdchylka od hypotézy je tak velká, že při opakování šetření bychom s velkou pravděpodobností hypotézu opět zamítli.

P - hodnota Pravděpodobnost chyby vypočtená z našich pozorovaných dat, se kterou bychom zamítli hypotézu H0.

Při praktickém provedení testu slouží k porovnání s hladinou významnosti: platí, že H0 zamítáme, pokud p-hodnota ≤ α

Významnost statistického testu - shrnutí

jsou rozložení používaná ke konstrukci statistických testů

Mějme normální rozložení s parametry a Protože Normální rozložení je tabelováno pouze pro hodnoty

a , normováním transformujeme pozorované hodnoty na tzv. z-skóry

a tyto transformované hodnoty pak mají normované normální rozdělení.

V praxi neznáme skutečné hodnoty a a musíme je nahradit jejich odhady. Tím se změní rozložení takto transformované veličiny.

ii

xz

),( 2N

0 1

VÝBĚROVÁ ROZDĚLENÍ

Proto byla pro tyto případy odvozena jiná rozdělení, která popisují rozdělení výběrových charakteristik (odhadů populačních parametrů).

Pro provádění statistických testů nám slouží tato VÝBĚROVÁ ROZLOŽENÍ jako vzor, se kterým srovnáváme vypočtené výsledky:

- rozdělení

t - rozdělení

F - rozdělení

VÝBĚROVÁ ROZDĚLENÍ

2

ROZDĚLENÍ

Je rozdělení součtu n druhých mocnin normálně rozdělených veličin U: U (0,1)

Tvar rozložení je závislý na počtu sčítanců n, ale toto číslo musíme v případě, že pro výpočet použijeme odhad jednoho nebo více parametrů, zmenšit o příslušný počet odhadovaných parametrů. Příklad: když pro výpočet výběrového ROZPTYLU

použijeme odhad průměru, je počet stupňů volnosti

(n – 1) místo n - (odhadovali jsme jeden parametr).

2

223

22

21

1

22 ... n

n

ii UUUUU

STUDENTOVO t - ROZDĚLENÍ

Studentovo t-rozdělení popisuje např. standardnínormální rozdělení v případě, že neznáme směrodatnouodchylku a použijeme pouze její odhad.

veličina U v čitateli má standardizované normální rozložení veličina ve jmenovateli má rozdělení o n-stupních volnosti

Nejčastěji se používá k porovnání průměrů.

Pro n > 40 můžeme Studentovo t-rozdělení nahraditNormálním rozdělením.

n

Ut

2 2

FISHEROVO F-ROZLOŽENÍ

Toto rozložení popisuje rozložení dvou různých veličin s rozdělením o n a m stupních volnosti.

Používá se především pro testování rozdílnosti rozptylů

m

nF 22

21

2