Zadání příkladů — Statistická inference II — 2017
Příklad 1. Směs dvou normálních rozdělení Nechť náhodná veličina X pochází ze směsi dvou normálních rozdělení X ~ \pN(/j,\, a'f) + (1 — p)N(fi2, ^i)]- Potom marginální hustota náhodné veličina X má tvar
f(xi,o)= Yl f(xl,bl,e) = f(xl,i,e1) + f(Xl,o,e2),
b,e{o,i}
kde
f(xi, 1, 6»i) = exp
V^crx       V 2cri je sdružená hustota za podmínky, že data pochází z první skupiny a
/(Zi, 0, 02) =   r— exp
V 2ct22
^2
je sdružená hustota za podmínky, že data pochází z druhé skupiny.
Logaritmická věrohodnostní funkce náhodné veličiny X má tvar
L(0ix)=n/(*i,0).
i=l
Příklad 2. Odhad parametrů směsi dvou normálních rozdělení
1. Načtěte datový soubor faithfuI obsahující údaje o době čekání na erupci (waiting) a o době trvání erupce (eruption), přičemž se zaměřte na proměnnou waiting.
2. Nakreslete histogram doby čekání na erupci a superponujte jej křivkou jádrového odhadu.
3. Pomocí funkce optim() odhadněte parametry p, yui, /i2, o\, o\ smíšeného rozdělení \pN(fii, a'()+(l—p)N({i2, náhodné proměnné waiting.
4. Pomocí funkce optim() nalezněte rozptyly odhadů parametrů p, fí{,      a'f, <j\. Body 1.-3. aplikujte také na proměnnou eruption.
a) ## p        mul sigmal        mu2 sigma2
## MLE 0.3609 54.6145 5.8698 80.0908 5.8682 ## Var 0.0010   0.4893 0.2884   0.2547 0.1608
Histogram
o
40      50      60      70      80      90 100 doba cekáni na erupci
1
b) ## p      mul sigmal       mu2 sigma2
## MLE 0.3482 2.0183 0.2356 4.2733 0.4370 ## Var 0.0009 0.0007 0.0005 0.0012 0.0007
Histogram
re o to
o
o
o o
1.5
2.0
2.5
3.0
3.5
4.0
4.5
5.0
doba trváni erupce
Příklad 3. Dvourozměrná Newton-Raphsonova metoda Nechť náhodná veličina X pochází z normálního rozdělení se střední hodnotou /i a rozptylem a2, tj. X ~ N(fi, a2). Hustota náhodné veličiny X má tvar
1. Odvoďte tvar věrohodnostní a logaritmické věrohodnostní funkce pro N(p,, a2).
2. Odvoďte tvar skóre funkce pro parametr /i a pro parametr a (ne tr2!!!).
3. Odvoďte tvary druhých parciálních derivací logaritmické věrohodnostní funkce podle parametrů jj, a a (celkem
4. Naprogramujte v R dvourozměrnou Newton-Raphsonovu metodu pro normální rozdělení N(fi, a2). Funkci pojmenujte NMnorm.
Naprogramovanou funkci nyní vyzkoušíme na reálných datech.
5. Načtěte datový soubor one-sample-mean-skull-mf.txt.
6. Vykreslete histogram proměnné délka lebky (skuli.L).
7. Pomocí naprogramované funkce NMnorm odhadněte parametr /iau proměnné skull.L.
8. Odhady získané pomocí funkce NMnorm porovnejte s bodovými odhady parametrů jj, a a.
9. Body 6-8 aplikujte také na proměnnou šířka lebky (skuli.B).
4).
2
a) Délka lebky
## mu sigma
## Newtonova metoda 179.5169 7.1390 ## exaktni vypočet    179.5169 7.2249
b) Šířka lebky
## mu sigma
## Newtonova metoda 136.1662 4.9247
## exaktni vypočet 136.1662 4.9708
3
Příklad 4. Broydenova metoda
1. Naprogramujte v R Broydenovu metodu (dvourozměrnou metodu sečen) pro normální rozdělení N(p,a2). Funkci pojmenujte BrMnorm().
2. Načtěte datový soubor one-sample-mean-skull-mf.txt.
3. Pomocí funkce BrMnorm() získejte odhady parametrů /iau délky lebky skuli. L.
4. Pomocí funkce BrMnorm() získejte odhady parametrů /iau šířky lebky skuli.B.
3. Broydenova metoda aplikovaná na proměnnou skuli.L
## mu sigma
## Broydenova metoda 179.5174 7.2333 ## exaktni vypočet     179.5169 7.2249
4. Broydenova metoda aplikovaná na proměnnou skull.B
## mu sigma
## Broydenova metoda 136.1481 5.0360 ## exaktni vypočet     136.1662 4.9708
4
Příklad 5. MC experiment pro Waldovy empirické intervaly spolehlivosti Nechť
(a) X ~ AT(0,1);
(b) X ~ pN(0,1) + (1 — p)JV(0, 4), kde p = 0.9, tedy jde o směs dvou normálních rozdělení X ~ JV(0,1) a X ~ iV(0,4) v poměru 9 : 1.
Pro obě části (a) i (b) Vygenerujte M = 100 náhodných výběrů s rozsahem n = 500 a vypočítejte:
1. Waldovy exaktní empirické 100(1 — a) % IS pro rozptyl a2, když jj, neznáme.
2. Waldovy asymptotické empirické 100(1 — a) % IS pro rozptyl a2, když /i neznáme.
3. Waldovy asymptotické empirické 100(1 — a) % IS pro směrodatnou odchylkul tr, když jj, neznáme.
Vždy spočítejte, kolik IS obsahuje rozptyl a2 = 1 (resp. směrodatnou odchylku a = 1). Toto číslo podělené hodnotou M představuje simulovanou hladinu významnosti a.
a) X ~ N(0,1)
1. Waldovy exaktní empirické 100(1 — a) % IS pro rozptyl a2, když /i neznáme.
## n ## simulovaný počet 48.0 ## presny počet 47.5
Simulace 95% spolehlivosti Waldových empirických IS
exaktni IS pro o2; X ~ N(0,1)
experiment
2. Waldovy asymptotické empirické 100(1 — a) % IS pro rozptyl a2, když /i neznáme.
## n ## simulovaný počet 47.0 ## presny počet 47.5
Simulace 95% spolehlivosti Waldových empirických IS
asymptoticky IS pro o2; X ~ N(0,1)
20 30 experiment
5
3. Waldovy asymptotické empirické 100(1 — a) % IS pro směrodatnou odchylkul a, když jj, neznáme.
## n ## simulovaný počet 48.0 ## presny počet 47.5
Simulace 95% spolehlivosti Waldových empirických IS
asymptoticky IS pro o; X ~ N(0,1)
b) X ~ PN(0,1) + (1 - p)N(0,4)
1. Waldovy exaktní empirické 100(1 — a) % IS pro rozptyl a2, když jj, neznáme.
## n ## simulovaný počet 40.0 ## presny počet 47.5
Simulace 95% spolehlivosti Waldových empirických IS
exaktní IS pro a2; X ~ pN(0,1)+(1-p)N(0,4)
2. Waldovy asymptotické empirické 100(1 — a) % IS pro rozptyl a2, když /i neznáme.
## n ## simulovaný počet 41.0 ## presny počet 47.5
6
Simulace 95% spolehlivosti Waldových empirických IS
asymptoticky IS pro o2; X ~ pN(0,1)+(1-p)N(0,4)
experiment
3. Waldovy asymptotické empirické 100(1 — a) % IS pro směrodatnou odchylkul a, když jj, neznáme.
## n ## simulovaný počet 41.0 ## presny počet 47.5
Simulace 95% spolehlivosti Waldových empirických IS
asymptoticky IS pro o; X ~ pN(0,1)+(1-p)N(0,4)
20 30 experiment
7
Příklad 6. Simultánní oblasti spolehlivosti + elipsa spolehlivosti pro střední hodnotu a rozptyl (resp. směrodatnou odchylku)) Empirické 100(1 — a) % asymptotické intervaly spolehlivosti Waldova typu pro /i, a2 a a jsou pro neznámé a definovány následujícím způsobem:
Pr ( x — Ui_a/2\/cř2/n  <  /i  <  x — ua/2^/a2/n\ = 1 — a
Pr {a2 -u1_a/2V/29'í/n < a2 < a2 - ua/2v^/n) = 1 Pr (a - u1_a/2V/a2/2n < a < a - ua/2V/a2/2nj = 1 -
1. (a) Nakreslete simultánní množinu spolehlivosti pro 8 = (/i, a2)T použitím exaktních intervalů spolehlivosti
pro /i a pro a2.
(b) Nakreslete simultánní množinu spolehlivosti pro 9 = (p, a2)T použitím asymptotických intervalů spolehlivosti pro /i a pro a2.
(c) Do obrázku dokreslete 100(1—a) % elipsu spolehlivosti pro 6 = (/i, a2)T použitím asymptotických intervalů spolehlivosti pro jj, a pro a2.
2. (a) Nakreslete simultánní množinu spolehlivosti pro 8 = (/i, a)T použitím exaktních intervalů spolehlivosti
pro jj, a pro a.
(b) Nakreslete simultánní množinu spolehlivosti pro 6 = (/i, a)T použitím asymptotických intervalů spolehlivosti pro jj, a pro a.
(c) Do obrázku dokreslete 100(1 — a) % elipsu spolehlivosti pro 9 = (p, a)T použitím asymptotických intervalů spolehlivosti pro jj, a pro a.
Použijte (1) n = 10, (2) n = 100, (3) n = 10000. V (1), (2) a (3) zvolte fi = 0 a a2 = 1 resp. a2 = 4. Koeficient spolehlivosti simultánní množiny zvolte zvolte 1 — a = 0.95.
Simult. oblasti spolehl. + elipsa spolehl, pro \i a a
n=10, (i=0, 1^=1
			
■ asymp □ exakl			
	f		
			
			
			
Simult. oblasti spolehl. + elipsa spolehl, pro \i a a
n=10, (i=0, o2=1
Simult. oblasti spolehl. + elipsa spolehl, pro \i a a
n=10, (i=0, (^=1
n-1-1-r
■ asymp □ exakl
1-1-1-1-1-r
■3-2-10 1 2
-0.2       0.0       0.2 0.4
Simult. oblasti spolehl. + elipsa spolehl, pro   a a
n=10, (i=0, (^=1
□ asymp
□ exakl
Simult. oblasti spolehl. + elipsa spolehl, pro   a a
n=100, (i=0, o2=1
□ asymp <m J □ exakl
Simult. oblasti spolehl. + elipsa spolehl, pro   a a
n=10000, (i=0, o2=1
□ asymp o J □ exakl
Příklad 7. Rozdělení výběrového rozptylu a výběrové směrodatné odchylky: simulační studie Nechť X ~ N(fj,, a'2), potom
1. výběrový rozptyl S2 ~ N (a2, ^);
2. výběrová směrodatná odchylka Sn ~ N(a,
nS2 ,  ,        <y , , nS2 9
3. testovací statistika —^r pochází z x rozdělení o n stupních volnosti, tj. -pf- ~ x„-
Vygenerujte M = 1000 náhodných výběrů z normálního rozdělení N(fi, a2) o rozsahu n, kde /i = 0 a a2 = 4, resp. cr2 = 1. Použijte (i) n = 10, (ii) n = 50 a (iii) n = 500.
(a) Pro každý náhodný výběr vypočítejte statistiku S2 , i = l,..., M & statistiky S2 zobrazte pomocí histogramu. Histogram superponujte křivkami hustoty asymptotického a exaktního rozdělení statistiky S2.
(b) Pro každý náhodný výběr vypočítejte statistiku Sn%, i = 1,..., M a statistiky Sn^ zobrazte pomocí histogramu. Histogram superponujte křivkami hustoty asymptotického a exaktního rozdělení statistiky Sn.
i-1-1-1-1-1 i-1-1-1-1-1-1
0 2 4 6 8 10 0.5 1.0 1.5 2.0 2.5 3.0 3.5
9
Histogram - sj;
3.5 4.0 4.5 5.0
s*
Histogram - Sn
n-500,a2-4
10
Příklad 8. P Předpokládejme, že X ~ ÍV(/lí, cr2), kde a2 známe. Nechť 8 = /i. Testujeme všechny tři typy hypotéz
a) Hqi : jj, = jj,q oproti Hu : jj, ^ jj,q (oboustranná);
b) Hq2 ■ M < Mo oproti 7Ji2: /i > /io (pravostranná);
c) 7ío3 : /i > /io oproti .H13 : jj, < jj,q (levostranná).
1. Odvoďte tvary silofunkcí pro všechny tři typy hypotéz (a)-(c), t.j. tvary /^(/i), /3Í2(m) a /3*3(/lí).
2. Nakreslete silofunkce pro všechny tři typy hypotéz (a)-(c), kde jj,q = 0, a a2 = 1. Do jednoho obrázku zakreslete vždy tvary silofunkcí pro n = 10, n = 30, n = 50 a n = 100. Hladinu významnosti a zvolte 0.05. Hodnoty jj, volte rozumně, např. v intervalu ( —1.5; 1.5).
-1.5 -1.0 -0.5   0.0   0.5   1.0   1.5 -1.5 -1.0 -0.5   0.0   0.5   1.0   1.5 -1.5 -1.0 -0.5   0.0   0.5   1.0 1.5
11
Příklad 9. Rozdělení testovací statistiky pro test o střední hodnotě /i, když a2 neznáme
1. Nechť náhodný výběr X pochází z normálního rozdělení, t.j. X ~ N(p,a2), kde jj = 600 a a2 = 1002. Rozsah náhodného výběru n = 20. Pomocí simulační studie v CĚt porovnejte rozdělení testovací statistiky pro test 'nepřesně zvolené' nulové hypotézy Hq: jj < 500 (alternativní hypotéza H\: jj > 500), když rozptyl a2 neznáme, s rozdělením testovací statistiky nulové hypotézy Hq: jj < 600 (alternativní hypotéza H\: jj > 600), opět když a2 neznáme.
Nasimulujte M pseudonáhodných výběrů, M=l,... ,10 000 a pro každý vypočítejte realizaci testovací statistiky = Xm~fí° ^Jn pro nulovou hypotézu Hq: jj < 500 oproti Hi: \j > 500. Histogram superponujte jednak křivkou hustoty necentrálního í-rozdělení sn-1 stupni volnosti a parametrem necentrality A (A = , kde
jji je vzatá z alternativní hypotézy) a jednak křivkou hustoty centrálního studentova rozdělení. Obě křivky potom vzájemně okometricky porovnejte.
2. Nechť nyní X pochází ze směsi dvou normálních rozdělení, t.j. X ~ \pN(p, 1002) + (1 — p)N(/j, 1502)], kde p = 0.9 a jj = 600. Proveďte simulační studii popsanou v bodě (1) pro tento náhodný výběr.
12
Příklad 10. empirická a exaktní silofunkce testu; pokračování příkladu č.9
1. Nechť náhodný výběr X pochází z normálního rozdělení, t.j. X ~ N(pi, a2), kde /ii = 470, 480,..., 590, 600 a a2 = 1002. Rozsah náhodného výběru n = 20. Použijte CŠT na simulaci empirické silofunkce pro jednovýběrový Studentův í-test nulové hypotézy Hq: jj, < 500 oproti H\: jj, > 500. Vygenerujte m = 10 0000 pseudonáhodných výběrů a pro každý stanovte hodnotu testovací statistiky tm, m = 1,..., 10 000. Dále vypočítejte p-hodnotu korespondující s tm a porovnejte ji s hladinou významnosti a = 0.05. Tak získáte empirickou silofunkci 1 — /3(/ii) pro zvolenou alternativní hypotézu. Do grafu zakreslete 1 — /3(/ii) i její standardizované chyby
SE[1 - /3(^i)] = \J0--h^)P(ěA v podobě chybové úsečky 1 - /3(^i) ± SE[1 - P(fii)}. Do grafu vkreslete také teoretickou silofunkci 1 — /3(/ii), fii G (470; 600) (na její výpočet použijte funkci power.t.test()).
2. Nechť nyní X pochází ze směsi dvou normálních rozdělení, t.j. X ~ \pN(/j,\, 1002) + (1 — p)N(fii, 2002)], kde p = 0.9 a /Líi = 470,..., 600. Proveďte simulační studii popsanou v bodě (1) pro tento náhodný výběr.
13