MASARYKOVA UNIVERZITA PŘÍRODOVĚDECKÁ FAKULTA ÚSTAV MATEMATIKY A STATISTIKY Diplomová práce BRNO 2015 JANA ŠTROSOVÁ ř IP I MASARYKOVA UNIVERZITA PŘÍRODOVĚDECKÁ FAKULTA ÚSTAV MATEMATIKY A STATISTIKY o i Zobecněné jádrové odhady Diplomová práce Jana Strosová Vedoucí práce: Mgr. Jiří Zelinka, Dr. Brno 2015 Bibliografický záznam Autor: Bc. Jana Štrosová Přírodovědecká fakulta, Masarykova univerzita Ústav matematiky a statistiky Název práce: Zobecněné jádrové odhady Studijní program: Matematika Studijní obor: Finanční matematika Vedoucí práce: Mgr. Jiří Zelinka, Dr. Akademický rok: 2014/2015 Počet stran: xi + 44 Klíčová slova: Jádrový odhad; Momentová vytvořující funkce; Charakteristická funkce; Fourierova transformace; Zobecněný jádrový odhad Bibliographic Entry Author: Be. Jana Strosova Faculty of Science, Masaryk University Department of Mathematics and Statistics Title of Thesis: Generalized kernel estimates Degree Programme: Mathematics Field of Study: Financial Mathematics Supervisor: Mgr. Jiff Zelinka, Dr. Academic Year: 2014/2015 Number of Pages: xi + 44 Keywords: Kernel estimate; Moment generating function; Characteristic function; Fourier transform; Generalized kernel estimate Abstrakt V této diplomové práci se věnujeme jádrovým odhadům funkcí, které lze získat aplikací lineárního operátoru na hustoty spojité náhodné veličiny. Zejména se jedná o momentovou vytvořující funkci a charakteristickou funkci, pro které byly odvozeny i konkrétní vztahy pro dvě různá jádra. Dále jsou uvedeny vybrané vlastnosti takových odhadů. Praktická část je zastoupena výpočty jádrových odhadů charakteristické funkce pro simulace několika rozdělení. Abstract In this thesis we study kernel estimates of functions which can be obtained by applying a linear operator on the density of a continuous random variable. In particular, we discuss the moment generating function and the characteristic function for which specific formulas were derived using two different kernels. Selected properties of such estimates are also presented. The practical part consists of computing kernel estimates of a characteristic function for simulations of several distributions. Masarykova univerzita Prírodovedecká fakulta ZADÁNÍ DIPLOMOVÉ PRÁCE Student: Be. Jana Strosová Studijní program - obor: Matematika - Finanční matematika Ředitel Ústavu matematiky a statistiky PřF M U Vám ve smyslu Studijního a zkušebního řádu M U určuje diplomovou práci s tématem: Oficiální zadání: V práci se zaměřte na jádrové odhady funkcí, které lze získat aplikací lineárního operátoru na hustotu spojité náhodné veličiny. Určete základní vlastnosti takových odhadů, případně i možné aplikace. Doporučená literatura ANDĚL, Jiří. Matematická statistika. Praha: SNTL - Nakladatelství technické literatury, 1985., HOROVÁ, Ivanka a Jan KOLÁČEK a Jiří ZELINKA. Kernel Smoothing in MATLAB: Theory and Practice of Kernel Smoothing. Singapore: World Scientific Publishing Co. Pte. Ltd., 2012. 244 s. Neuveden. ISBN978-981-4405-48-5., RUDIN, Walter. Analýza v reálném a komplexním oboru. 1. vyd. Praha: Academia, nakladatelství Československé akademie věd, 1977. 463 s., SZEGO, Gabor. Orthogonal polynomials. Providence: American Mathematical Society, 1991. xiii, 432. ISBN 0-8218-1023-5., TAYLOR, Angus E. Úvod do funkcionální analýzy. 1. vyd. Praha: Academia, 1973. 408 s., WAND, M. P. a M. C. JONES. Kernel smoothing. 1st ed. London: Chapman & Hall, 1995. 212 s. ISBN 0-412-55270-1. Zobecněné jádrové odhady Generalized kernel estimates Vedoucí diplomové práce: Mgr. Jiří Zelinka, Dr. C^^é-f Datum zadání diplomové práce: listopad 2012 Datum odevzdání diplomové práce: dle harmonogramu ak. roku 2013/2014 V Brně dne 14. 11. 2012 prof. RNDr. Jiří Ros-lcký, DrSc. ředitel Ústavu matematiky a statistiky Zadání diplomové práce převzal dne: 2s> A2_ . 2£X? Podpis studenta Poděkování Na tomto místě bych ráda poděkovala Mgr. Jiřímu Zelinkovi, Dr. za cenné rady, připomínky, vstřícnost a čas, který mi věnoval. Dále bych chtěla poděkovat své rodině, přátelům a kolegům za podporu i trpělivost při psaní této práce. Prohlášení Prohlašuji, že jsem svoji diplomovou práci vypracovala samostatně s využitím informačních zdrojů, které jsou v práci citovány. Brno 13. května 2015 Jana Štrosová Obsah Úvod ix Přehled použitého značení xi Kapitola 1. Jádrové odhady hustoty 1 1.1 Úvod 1 1.2 Histogram 1 1.3 Jádrový odhad 2 1.3.1 Kvalita jádrových odhadu 6 Kapitola 2. Generující funkce 8 2.1 Momenty 8 2.2 Generující funkce 9 2.2.1 Momentová vytvořující funkce 9 2.2.2 Charakteristická funkce 11 2.2.3 Další příklady generujících funkcí 13 Kapitola 3. Fourierova transformace 16 3.1 Vlastnosti Fourierovy transformace 17 3.1.1 Aproximace identity 19 Kapitola 4. Zobecněné jádrové odhady 21 4.1 Odhad distribuční funkce 22 4.2 Odhad střední hodnoty 23 4.3 Odhad obecných momentů 24 4.3.1 Moment 2. řádu 25 4.4 Odhad momentové vytvořující funkce 26 4.4.1 Odhad pro Gaussovo jádro 27 4.4.2 Odhad pro Epanečnikovo jádro 27 4.5 Odhad charakteristické funkce 29 - vii - 4.5.1 Odhad pro Gaussovo jádro 30 4.5.2 Odhad pro Epanečnikovo jádro 30 4.6 Vlastnosti odhadů 31 4.6.1 Střední hodnota 31 4.6.2 Vychýlení 33 4.6.3 Rozptyl 33 Kapitola 5. Simulace 34 5.1 Rovnoměrné rozdělení 34 5.2 Normální rozdělení 35 5.3 Exponenciální rozdělení 35 5.4 Gamma rozdělení 35 5.5 X2 rozdělení 36 Závěr 42 Seznam použité literatury 43 Úvod Jádrové odhady jsou poměrně mladou disciplínou, která má své počátky v polovině 20. století. V té době se ovšem bez počítačů moc nerozvinula a tak největší zájem matematiků o tyto neparametrické odhady přichází až s rozvojem počítačů v posledních 20 letech. Mezi hlavní monografie, které se těmito odhady zabývají, patří Silverman [10], Wand and Jones [12], Simonoff [11] a Bowman and Azzalini [2]. I když se o jádrových odhadech mluví až v nedávné historii, již našly uplatnění v mnoha odvětvích. Za zmínku stojí například archeologie, bankovnictví, klimatologie, ekonomie, genetika, hydrologie nebo fyziologie. Více informací a odkazů lze nalézt v [9]. Jádrové odhady, jak už bylo řečeno, patří mezi neparametrické odhady, což znamená, že není nutné předem znát informace o křivce, kterou odhadujeme, ale můžeme takto odhadnout naprosto libovolnou křivku. Naproti tomu existují odhady parametrické, u kterých předpokládáme, že pocházejí z nějakého známého rozdělení a pouze určujeme hodnoty parametrů. U jádrového odhadu regresní funkce se vlastně jedná o vážený průměr. Hlavní podíl na tom, jak bude odhad vypadat, má volba jádra, která ovlivňuje tvar výsledného odhadu a šířka vyhlazovacího okénka, na které závisí hladkost odhadu. Do dnešní doby vzniklo již několik knih i bakalářských a diplomových prací, které se věnují především jádrovým odhadům hustoty, distribuční funkce, regresní funkce nebo rizikové funkce. V této diplomové práci se budeme souhrnně zabývat jádrovými odhady funkcí, které lze získat aplikací lineárního operátoru na hustoty spojité náhodné veličiny. Jelikož se jedná o téma, které není dosud nikde zpracované, nejsou zde téměř žádné odkazy na literaturu, hlavním zdrojem informací je připravovaný článek J. Zelinky. V první kapitole se nejprve seznámíme s tím, jak jádrové odhady vznikají a uvedeme si nejjednodušší verzi, kterou je histogram. Dále se také zaměříme na chyby odhadu, které nám určují, jak kvalitní odhad jsme získali. Druhá kapitola nám pak doplní potřebné znalosti a případně připomene všechny souvislosti o generujících funkcích, ze kterých budeme vycházet a odvozovat v další kapitole. Jelikož mají generující funkce blízký vztah k Fourierově transformaci, zaměříme se v následující třetí kapitole právě na toto téma a odvodíme si některé potřebné vlastnosti. Ve čtvrté kapitole se dostáváme k jádru celé diplomové práce. Představíme si jednotlivé lineární operátory a jádrové odhady hustoty po aplikaci těchto operátorů včetně vybraných -ix- Uvod x vlastností. Poslední závěrečná kapitola je praktická, podíváme se na některé výsledky odvozené v předchozí kapitole a vyvodíme závěry. U čtenáře se předpokládají základní znalosti pravděpodobnosti a statistiky. Práce je vysázena typografickým systémem E T j X . Veškeré grafy byly vytvořeny pomocí matematického prostředí R. Přehled použitého značení Pro snazší orientaci v textu zde čtenáři předkládáme přehled základního značení, které v celé práci vyskytuje. množina všech jader řádu k K jádro h šířka vyhlazovacího okénka fh{x) jádrový odhad hustoty náhodné veličiny X MSE střední kvadratická chyba ISE integrální kvadratická chyba MISE střední integrální kvadratická chyba EX střední hodnota náhodné veličiny X DX rozptyl náhodné veličiny X n-tý obecný moment f4i n-tý centrální moment /to hustota náhodné veličiny X Mx(t) momentová vytvořující funkce náhodné veličiny X M) charakteristická funkce náhodné veličiny X Ll (R) prostor všech absolutně integrovatelných funkcí /» Fourierova transformace c v množina všech spojitých funkcí do řádu v L lineární operátor m) transformace hustoty f(x) aplikací lineárního operátoru L Lfh(t) jádrový odhad transformované hustoty operátor v integrálním tvaru s použitím funkce g(x,t) Kapitola 1 Jádrové odhady hustoty 1.1 Úvod V dnešní době se často setkáváme s tím, že optimalizujeme rozhodovací procesy na základě získaných dat. Tato data mohou být velmi specifická, což reprezentují například údaje o časech příchodu lidí do obchodu, kde optimalizujeme otevírací dobu. Na druhou stranu se ale můžeme setkat s mnoha prediktory, které ovlivňují nějaký závěr, v tomto případě si uveďme jako příklad rozpoznání klientů, kteří nebudou splácet úvěr. V této práci se budeme zabývat případy, u kterých se jedná pouze o jednorozměrná data. Ve většině těchto případů se nejprve snažíme analyzovat jejich četnost na základě veličiny, na které jsou závislé, v našem příkladě se jednalo o čas. Nejjednodušším takovým odhadem je histogram. Poznatky do této kapitoly byly čerpány z literatury [5], [12] a [9]. 1.2 Histogram Histogramem rozumíme jednoduché zpracování četnosti události na základě rozdělení do několika intervalů. Nejprve si zvolíme počátek XQ a délku jednotlivých intervalů h. Jednotlivé dělící intervaly můžeme zapsat obecně ve tvaru [XQ + mh, XQ + (m + l)h], kde m G N . Poté spočítáme počet realizací k, které spadnou do jednotlivých intervalů a podle toho určíme výšku sloupců. Většinou se histogram definuje i používá jako normalizovaný, tedy takový, že celková plocha je jednotková. Definice 1.1. NechťXi,X2,... ,Xn je n realizací náhodné veličiny X a h je šířka dělícího intervalu. Potom histogram v bodě x je dán vztahem * , \ k(x) fh(x) = nh -1- Kapitola 1. Jádrové odhady hustoty 2 kde k(x) je počet realizací Xi ve stejném intervalu jako x. Poznámka 1.1. Kvalita histogramu závisí na dvou zvolených parametrech, první je počáteční bod xo a druhá šířka intervalu h. Více v následujícím příkladě. Příklad 1.1. Vygenerujeme si 100 realizací náhodné veličiny se standardizovaným normálním rozdělením. Na obrázcích 1.1 můžeme vidět, jak šířka dělícího intervalu h ovlivňuje výsledný odhad. Stejně tak si můžeme prohlédnout na obrázcích 1.2, že i počáteční bod x$ má zásadní vliv na zobrazení četnosti. - 3 - 2 - 1 0 1 2 3 - 3 - 2 - 1 0 1 2 3 Obrázek 1.1: Rozdílnost histogramů pro různé šířky dělícího intervalu při XQ — —3, vlevo h — 0.5, vpravo h — 0.25. - 4 - 2 0 2 4 - 4 - 2 0 2 4 Obrázek 1.2: Rozdílnost histogramů pro volbu počátečního bodu při h — 1, vlevo XQ — —3, vpravo XQ — —3.5. 1.3 Jádrový odhad Histogramy, jakožto pouhé obdélníky, nepostihují některé důležité vlastnosti zkoumaných dat, proto byl navržen nástroj, který je hlavní náplní této práce - jádrový odhad, což není nic jiného, než snaha o vyhlazení histogramu do hladké spojité křivky. Funguje na principu proložení křivky každým bodem realizace náhodné veličiny a následném sečtení. Tuto křivku nazýváme jádro. Kapitola 1. Jádrové odhady hustoty 3 Definice 1.2. Nechť k > O a k — 21, kde / e N . Pak jádrem K řádu k nazýváme reálnou funkci splňující K e St, kde ' £ e LÍ>[-1, 1], = [-1,1] 1, 7 = 0 JľL-v^(.v)dv= { 0, O < ./ < A fa(K)ŕO, j = k, (1.1) kde Li/?[—1,1] značí Lipschitzovu podmínku (tj. 3L > 0 : Vx,y G [—1,1] : —K(y)\ < L\x-y\). Poznámka 1.2. Integrální podmínky uvedené v definici se často nazývají momentové podmínky a budeme je využívat při odvozování v dalších kapitolách. Místo Pk(K) budeme dále užívat pouze označení v případě, že bude zřejmé, o kterém jádře mluvíme. Na obrázcích 1.3 si můžeme prohlédnout nejznámější jádra řádu 2. 0.0 0 5 -1.0 -0.5 0.5 1.0 (a) Trojúhelníkové jádro K(x) = 1 - |x| (b) Epanečnikovo jádro K{x) = \{\-r) -1.0 -0.5 0.0 0.5 (c) Kvartické jádro K(x) = £(l-x2 )2 (d) Triweight jádro K(x) = f2(i-Xy Obrázek 1.3: Přehled základních jader Kapitola 1. Jádrové odhady hustoty 4 Často se také používá Gaussovo jádro na obrázku 1.4 definované jako 1 K(x) = —=e 2 , V2n které nepatří mezi jádra 52, protože nosič není na intervalu [— 1,1], ale M, avšak díky jeho vlastnostem se obvykle řadí mezi jádra 2.řádu. Obrázek 1.4: Gaussovo jádro Po proložení jádra každým bodem realizace náhodné veličiny a jejich sečtením již získáváme jádrový odhad hustoty. Poznámka 1.3. V celém dalším textu budeme uvažovat jako X spojitou náhodnou veličinu s hustotou / . Definice 1.3. Nechť Xi,X2,... ,Xn je n realizací náhodné veličiny X, jejíž hustota rozložení je / . Potom jádrový odhad hustoty f v bodě x je dán kde h je šířka vyhlazovacího okénka a K jádro. Poznámka 1.4. Často se také v literatuře můžeme setkat s vyjádřením jádrového odhadu v podobě Mx) = -fíKh(x-Xi), kde Kh vyjadřuje Kapitola 1. Jádrové odhady hustoty 5 Příklad 1.2. Vygenerujeme si 7 realizací náhodné veličiny se standardizovaným normálním rozdělením. Názornou ukázku tvorby jádrového odhadu vidíme na grafu 1.5. Obrázek 1.5: Jádrový odhad pro 7 realizací náhodné veličiny Stejně jako u histogramu vidíme rozdíly při různých hodnotách šířky dělícího intervalu h, tak i jádrové odhady se chovají různě při různých volbách šířky vyhlazovacího okénka h. Pokud zvolíme h hodně malé, dostaneme podhlazený odhad, v případě velkého h naopak přehlazený odhad, což si můžeme prohlédnout na grafech 1.6. Výběrem vhodného parametru se již ovšem zabývají jiné práce, takže tomu se zde věnovat nebudeme. Obrázek 1.6: Podhlazenost a přehlazenost jádrového odhadu, vlevo h — 0.1, vpravo h = 0.7, v obou je pro srovnání znázorněn odhad pro h = 0.3495. Ačkoli volbou jádra také ovlivňujeme výsledný jádrový odhad, tato volba již není tak zásadní oproti volbě h, což nám zobrazují grafy 1.7. Plnou čarou je značen odhad pro trojúhelníkové a Epanečnikovo jádro, čárkovaně pro srovnání odhad pro jádro Gaussovo. Kapitola 1. Jádrové odhady hustoty 6 -4 -2 O 2 4 -4 -2 0 2 4 (a) Trojúhelníkové jádro (b) Epanečnikovo j ádro Obrázek 1.7: Rozdílnost odhadu při použití různých jader 1.3.1 Kvalita jádrových odhadu Jak vytvořit jádrový odhad již víme, ale důležitou součástí je také určit vhodné jádro a šířku vyhlazovacího okénka. Zavedeme si proto několik měřítek rozdílu mezi skutečnou funkcí a jádrovým odhadem této funkce, tzv. chyb odhadu. Poznámka 1.5. Základní podmínkou pro určení chyby odhadu je nutnost znát skutečnou hustotu, takže zjištění chyb většinou provádíme na simulovaných datech z nějakého konkrétního rozložení nebo počítáme jen jejich odhad. Nejjednodušší chybou je střední kvadratická chyba, která porovnává rozdíly v jednotlivých bodech. Definice 1.4. Střední kvadratická chyba (MSE - z anglického Mean Square Error) jádrového odhadu fh(x) je definována jako MSE{fh(x)}=E{fh(x)-f(x)}2 . Věta 1.1. Platí MSE{fh(x)} = [Efh(x)-f(x)]2 + E [fh(x)]2 -Ez [fh(x)] . Důkaz. Z definice střední hodnoty MSE{fh(x)}=E{fh(x)-f(x)}2 = E{fh{xf-2fh{x)f{x)+f{x)2 } = E [fh(x)]2 -2f(x)Efh(x)+f(x)2 = E [fh(x)}2 -2f(x)Efh(x)+f(x)z +Ez [fh(x)]-Ez [fh(x)} Kapitola 1. Jádrové odhady hustoty 7 [Efh(x)-f(x)]2 + E [fh(x)]2 -E2 [fh(x)} • Poznámka 1.6. Výraz Efh(x) — f (x) je často označován jako bias {//,(.*;)} a E[fh(x)]2 — Ez [fh(x)] jako var{fh(x)}, v češtině jsou pro tyto dvě veličiny většinou používány názvy vychýlení a rozptyl. Předchozí lemma nám tedy ukazuje, že jádrový odhad lze snadno rozdělit na součet kvadrátu vychýlení a rozptylu, což nám velmi pomáhá a zjednodušuje přístup při studiu vlivu parametrů na kvalitu jádrových odhadů. Další chybou, na kterou se podíváme, je integrální kvadratická chyba, která spojuje všechny bodové rozdíly a studuje tedy globální rozdíl. Definice 1.5. Integrální kvadratická chyba (ISE - z anglického Integrated Square Error) jádrového odhadu //,(•) je definována jako Nicméně pro nás bude nej užitečnější obě chyby spojit a zavést si střední integrální kvadratickou chybu, která nám udá střední hodnotu integrální chyby a bude tudíž vhodným měřítkem pro odhad celkové chyby. Definice 1.6. Střední integrální kvadratická chyba (MISE - z anglického Mean Integrated Square Error) jádrového odhadu //,(•) je definována jako Poznámka 1.7. V předchozí definici můžeme zaměnit pořadí integrace, dostáváme tak Na závěr kapitoly si ještě uveďme následující větu pro vyjádření chyby MISE. Věta 1.2. Nechť / e Cf e °, 0 < k < k0, k sudé, /(*) kvadraticky integrovatelná, K e Sk, l i m ^ o o h — 0 a l i m M ^ 0 0 nh — °°. Potom MISE{fh(-)}=E J {fh(x)-f(x)}2 áx MISE{fh(-)} 1 V(K)+hlk plDk + o{hlk + {nh)-1 }, nh kdeDf e = /(ÄT) dxaV(K) = f"aoK2 (x)áx. Důkaz. Důkaz lze nalézt v publikacích [10] nebo [12]. • Kapitola 2 Generující funkce Tahle kapitola slouží především pro připomenutí a osvěžení některých základních pojmů ze statistiky, které budou využívány později při odvozování v následující kapitole. Základním zdrojem literatury jsou [1], [3] a [4]. Prvním důležitým pojmem, který si zde uvedeme, budou momenty náhodné veličiny. 2.1 Momenty Momenty náhodné veličiny X jsou souhrnem čísel, které charakterizují náhodnou veličinu a tak můžou sloužit například k porovnávání náhodných veličin mezi sebou. Nejznámější a nejpoužívanější z nich je střední hodnota EX, která je prvním momentem s n — 1 (viz následující definice) a je definována jako / oo xf(x)áx. -oo Další momenty jsou definovány analogicky. Definice 2.1. Mějme HÉN. Pak n-tým obecným momentem náhodné veličiny X, který značíme jako \ln rozumíme \in — EXn , neboli také / oo xn f{x)dx -oo za předpokladu, že integrál existuje. Dále pak n-tým centrálním momentem náhodné veličiny X, označovaný \i! n, rozumíme Ú = E(X-Li)n , -8- Kapitola 2. Generující funkce 9 kde jU = jUi = EX. Poznámka 2.1. Kromě střední hodnoty, která již byla zmíněna výše, je druhým nejpoužívanějším momentem rozptyl, což je druhý centrální moment, tedy E(X — EX)2 , značený obvykle DX. Odmocninu z rozptylu pak nazýváme směrodatnou odchylkou. Jelikož číselné charakteristiky neurčují náhodnou veličinu jednoznačně, bude nutné si zavést i nějaký souhrnný popis náhodné veličiny. K tomu nám velmi dobře poslouží generující funkce. 2.2 Generující funkce Jak už bylo řečeno, klíčovými metodami pro studium náhodných veličin jsou souhrnné popisy, ze kterých lze výhodně určovat zajímavé vlastnosti náhodné veličiny. Tyto popisy budeme nazývat transformace. Jako první z těchto transformací si uvedeme momentovou vytvořující funkci. 2.2.1 Momentová vytvořující funkce Nutno podotknout, že v mnoha případech je snazší spočítat momenty přímo než využívat momentovou vytvořující funkci, která je k tomu již z názvu určena. Avšak hlavním důvodem, proč se touto funkcí zabýváme, není pouze možnost stanovit momenty, ale souhrne je charakterizovat určitou funkcí. Definice 2.2. Nechť X je náhodná veličina s hustotou / . Potom momentovou vytvořující funkci pro náhodnou veličinu X, kterou značíme Ařy(ř) rozumíme Ařy(ř) : M —> [0, °°) a definujeme jako za předpokladu, že střední hodnota pro t existuje v nějakém okolí bodu 0, což znamená, že existuje h > 0 takové, že pro Vř v intervalu —h a b f(x,X) = Xe-*x f{xXQ) = T{l)Qkxk l e e , . i ^ 1 x f(x,k)= / x2 l e 2 22r(f) 1 1, t = o Mx(t,Li,o) = e»t+q ¥ Mx(t,X) = ^rt, tx(t) : l ^ C a definujeme jako Mt) = Ee' Kapitola 2. Generující funkce 12 (a) Rovnoměrné rozdělení na intervalu [0,1] (b) Standardizované normální rozdělení -4 -2 0 2 4 -0 4 -0 2 0.0 0.2 0.4 (c) Exponenciální rozdělení s X = 4 (d) Gamma rozdělení sk = 3ad = \ i i i i i -0.4 -0.2 0.0 0.2 0.4 (e) x2 rozdělení s k = 2 Obrázek 2.1: Grafy momentových vytvořujících funkcí základních spojitých rozdělení kde i značí komplexní číslo y/—l, takže předchozí vyjádření je komplexním integrálem. Poznámka 2.2. Jelikož má charakteristická funkce velmi blízko k Fourierově transformaci, protože j i můžeme vyjádřit jako M) = feitx dF(x) = feitx f(x)dx a tudíž mají i několik společných vlastností, věnujeme následující kapitolu právě Fourierově transformaci a jejím vybraným vlastnostem. Kapitola 2. Generující funkce 13 Obrázek 2.2: Rozdílné hustoty rozdělení při zachování momentů, tučně je vyznačena hustota f\, čárkovaně pak f2. Poznámka 2.3. Použitím Eulerova vzorce dostáváme vyjádření charakteristické funkce ve tvaru ab , ( * - M ) 2 f(x,X) = Xe-*x / ( j C ' * 0 ' r ) = \ J ^ Ý " KY l +{y) , « i k i x f{x,k) = / x2 l e 2 22r(f) M ) - it{b-a) 2 2 $x{t,ii,o) = eVit -g -r 0 x ( ř , A ) = ^ - ^ l 0x (ř,A:,0) = ( 1 _ 1 0 . ř ) , x(t,k)= 1 t (l-2iř)2 Tabulka 2.2: Charakteristické funkce základních spojitých rozdělení pro tuto funkci byl definován díky vlastnosti, kterou tato funkce splňuje ^-Etx \í=1=E[X(X-l)...(X-r+l)}. Kapitola 2. Generující funkce 15 - 6 4 - 2 0 2 4 6 -4 -2 0 2 4 (a) Rovnoměrné rozdělení na intervalu [0,1] (b) Standardizované normální rozdělení 4 - 2 0 2 4 (c) Exponenciální rozdělení s X = 4 (d) Standardizované Cauchyovo rozdělení (e) Gamma rozdělení s i = 3 a S = l (f) x2 rozdělení s k = 2 Obrázek 2.3: Grafy charakteristických funkcí základních spojitých rozdělení Kapitola 3 Fourierova transformace V historii se můžeme setkat z mnoha rozličnými fyzikálními problémy, které bylo nutné řešit matematickými prostředky, v tomto případě je to rovnice vedení tepla. V souvislosti s hledáním jejího řešení vyslovil Fourier hypotézu, že každou funkci lze na omezeném intervalu rozložit do součtu sinových a cosinových funkcí. Tomuto rozložení se říká Fourierovy řady. Jejich použití je ovšem omezené, jelikož jsou diskrétní a tak vzniká nástroj zvaný Fourierova transformace, která zahrnuje všechny reálné frekvence. Více o tomto tématu se můžeme dočíst např. v [7]. Poznatky v této kapitole byly převážně čerpány z publikace V následujícím textu budeme pracovat s absolutně integrovatelnou funkcí, což je funkce splňující Prostor všech funkcí f(x) splňujících výše uvedenou podmínku budeme označovat jako L! (IR). Definice 3.1. Mějme funkci / : R -> C patřící do Ú (R). Pro t G R definujeme a nazýváme ji Fourierovou transformací funkce f (x). Pro každé t je tento integrál konečný, protože platí \f(x)e-ilx \ = \f(x)\, a tedy f(x)e-ilx e Ú (R). Ovšem Fourierova transformace být integrovatelná rozhodně nemusí, což si ukážeme v následujícím příkladu. [6]. dx -16- Kapitola 3. Fourierova transformace 17 Příklad 3.1. Nechť/(x) = 1 prox e (-1,1) a / = 0 jinak. Potom $ 2sinř m = — a / ^ L 1 (M), tj. / T o o |dř diverguje. Výpočtem přímo z definice dostaneme /(0= l\e-itx áx g—ltX -It n 1 íř 2sinř j - i l t Lze snadno ukázat, že tato funkce neleží v L (M), nicméně nevlastní Riemannův integrál přes reálnou osu existuje. 3.1 Vlastnosti Fourierovy transformace Nyní si ukážeme vybrané vlastnosti Fourierovy transformace, které využijeme následně při odvození Fourierovy transformace Gaussovy funkce. Lemma 3.1 (Fourierova transformace derivace). Nechť / e L 1 n C, tedy se jedná o funkci absolutně integrovatelnou a spojitou, dále nechť derivace / ' e L 1 n C a také l i m x ^ ± o o f(x) — 0. Pak platí (f)(t) = itf(t), (3.1) což znamená převedení derivování na násobení. Důkaz. Využijeme integraci per partes f' co (/')(')= / f'(x)e-itx áx = [e-^mr^- (it) J-oo-f(x)e-itx áx = itf(t). • Lemma 3.2 (Derivace Fourierovy transformace). Nechť opět / e L 1 n C a g (x) — xf (x) e L 1 n C. Pak f (t) je diferencovatelná a platí Důkaz. Vyjdeme z definice Fourierovy transformace / oo / M e - ^ d x , -oo Kapitola 3. Fourierova transformace 18 kterou zderivujeme podle parametru t a dostaneme df(t] dt / co f(x){-ix)e-itx dx -co / co xf(x)e-itx dx -co = ~ig{t). • Poslední a nej důležitější lemma, které využívá předchozích dvou lemmat, a které později využijeme, se týká transformace Gaussovy funkce. Lemma 3.3 (Fourierova transformace Gaussovy funkce). Je-li 1 ^ /(*) = "Äš=e 2 .V2TC potom f(t) = e=£. (3.3) Důkaz. Nejdříve si označme F(t) — f(t). Zderivováním funkce f(x) máme 1 f'(x ) = 7E=xe 2 = -Xf(x). V2% Aplikací Fourierovy transformace a použitím (3.1) dostáváme (^75)) = /'(í) = ifF(í), naopak použitím (3.2) platí Hí?)(ř) = ^(0 a celkově tedy F'(t) = -tF(t). Tuto rovnici vyřešíme separací proměnných F{t)=Ce= r. Konstanta C je rovna hodnotě / v nule, což je řešením Laplaceova integrálu 1 H -x1 • Kapitola 3. Fourierova transformace 19 3.1.1 Aproximace identity Na závěr této kratší kapitoly si ještě uvedeme další vlastnost Fourierovy transformace, kterou později také využijeme při určování vlastností zobecněných jádrových odhadů. Definice 3.2. Nechť (x) G Ll (R) má vlastnosti hustoty pravděpodobnosti, tedy §(x) ^ 0 a /Tlo 0 (x)dx — 1. Pak systém funkcí «.(x) = i # ( f ) se pro £ > 0 nazývá aproximací identity příslušnou funkci 0. Z definice zřejmě plyne, že Ve platí / oo 0e (x)dx = 1. -oo Obrázek 3.1: Systém hustot normálního rozložení s různými e. Například když vezmeme Gaussovu funkci 1 pak (x) jakožto ap roximaci identity a / sp ojitou omezenou funkci na M. Pak / * e(x) konverguje (stejnoměrně na kompaktních intervalech) k f (x) p ro e —> 0, kde hvězdička v / * 0e (x) značí konvoluci funkcí, která je definována jako / OO í-OO f(y)g(x-y)dy= / f{x-y)g(y)dy. -oo J—oo Kapitola 3. Fourierova transformace 20 Důkaz. Důkaz můžeme nalézt například v [8]. • Kapitola 4 Zobecněné jádrové odhady Nejčastějšími jádrovými odhady, se kterými se v literatuře setkáváme, jsou odhady hustoty náhodné veličiny, dále její derivace a také odhady distribuční funkce. Všechny zmíněné odhady však vznikají lineární transformací hustoty náhodné veličiny, a to nás vede k otázce zkoumání dalších odhadů funkcí, které také vznikají transformací hustoty náhodné veličiny. Zavedeme si proto zobecnění pomocí lineárního operátoru aplikovaného na hustotu spojité náhodné veličiny a souhrnně určíme vlastnosti takových odhadů. Nejdříve začneme u distribuční funkce, dále si odvodíme střední hodnotu a momenty obecně, poté se budeme věnovat momentové vytvořující funkci a na závěr si uvedeme funkci charakteristickou. Mějme lineární operátor L a hustotu náhodné veličiny f(x). Označme nyní Lf(t) jako transformaci hustoty f(x) definovanou O lineárním operátoru však můžeme ještě předpokládat, že je v nějakém konkrétním tvaru. M y si zavedeme tvar, který budeme nazývat integrální. Pojem integrální budeme používat z toho důvodu, že operátor lze rozepsat jako integrál dané funkce a hustoty náhodné veličiny. Označme si tuto funkci jako g(x,t), pak lineární operátor integrálního tvaru označíme Lg a můžeme ho vyjádřit ve tvaru Lf(t)=L(f(x)). Potom jádrový odhad této transformace definujeme následovně Lfh(t) = -1 £L(Kh(x-Xi)). 1 £ -21- Kapitola 4. Zobecněné jádrové odhady 22 a v souvislosti s tím pak jádrový odhad tohoto operátoru zapíšeme jako Lgfh(t) = -Y< g{x,t)-Kh{x-Xi)ôx. (4.1) n i=1J-°° Než se podíváme na jednotlivé příklady takových operátorů v pořadí podle složitosti a odvodíme si pro ně jádrové odhady, začneme ještě zmínkou o derivaci, která je také lineárním operátorem, avšak se nedá vyjádřit v integrálním tvaru. Poznámka 4.1. Mějme jádro splňujícím e Sk fi C v (IR). Potom jádrovým odhadem derivace hustoty / náhodné veličiny X rozumíme n (=1 kde Nyní již přejdeme k operátorům v integrálním tvaru. 4.1 Odhad distribuční funkce Prvním a nejjednodušším příkladem lineárního operátoru bude integrální operátor pro nespojitou funkci g r n í 1 1 0 x > t Aplikováním na hustotu / náhodné veličiny získáváme Lf(t)= ľ l-/(x)dx, J — C O což je ovšem známá distribuční funkce náhodné veličiny označovaná běžně F (x), a v tomto případě tedy Lf(t)=F(t). Když dosadíme distribuční funkci do (4.1), dostáváme její jádrový odhad Lfh(t)= ľ / ( x ) d x = - f ľ Kh(x-Xi)dx. J—CO ľl j i J—CO Poznámka 4.2. V následujícím textu budeme místo značení Lf(t) používat pro zjednodušení pouze Lf. Kapitola 4. Zobecněné jádrové odhady 23 4.2 Odhad střední hodnoty Dalším lineárním operátorem, na který se zaměříme, bude lineární funkce v proměnné x nezávislá na t, tedy g(x,t) =x. Když integrální operátor s touto funkcí aplikujeme na hustotu / náhodné veličiny, dosta­ neme / oo x-f(x)dx, -oo a v tomto vyjádření poznáváme střední hodnotu běžně značenou EX, můžeme tedy psát, že nyní se Lf = EX. Dosazením do známého vzorce (4.1) opět získáme její jádrový odhad ^ j n /.oo L fh = ~Y, x-Kh(x-Xi)dx, n i = 1 J - ° ° ten ale můžeme úpravami zjednodušit. Nejprve dosadíme vyjádření K^, které jsme si definovali v (1.2) dále použijeme substituci y — =>- x = Xj + hy. Ze substituce také snadno vyjádříme diferenciál dx Dosazením a dalšími úpravami pak získáváme 1 U r-oo Lfh=-Y< (Xi + hy)-K(y)dy n i = 1 J - c o 1 fl / f'OO f'co = - £ / XrK(y)dy+ / hy-K(y)dy TI • | \y.J—oo J—oo i n f'oo f'oo = K(y)dy + h y-K(y)dy TI - i J—oo J—oo (=1 1 n V p osledním kroku byly p oužity vlastnosti jádra z definice (1.1), a to konkrétně / oo K(y)dy=l -oo Kapitola 4. Zobecněné jádrové odhady 24 / oo y-K(y)dy = 0. -co Po odvození jsme dospěli k tomu, že v případě použití jádrového odhadu na střední hodnotu spojité náhodné veličiny je výsledkem aritmetický průměr. 4.3 Odhad obecných momentů Po lineární funkci by se jistě hodilo začít funkcí kvadratickou, my si však úlohu zobecníme a použijeme funkci mocninnou, tedy g(x,t)=xm . Aplikace lineárního integrálního operátoru na mocninnou funkci nám dá / oo -oo kterou můžeme označit Hm(X), jelikož se jedná o obecný moment m-tého řádu náhodné veličiny X. Nyní tedy máme Lf = Hm(X). I v tomto případě operátor dosadíme do vzorce (4.1) a dostaneme tím jádrový odhad Lfh = ~Y< xm -Kh(x-Xi)dx, n i=íJ-co u kterého použijeme stejnou substituci jako v předchozím případě x-Xi a dostaneme vyjádření i n /.oo Lfh = ~Y< (Xi + hy)m -K(y)dy ni=1J-°o Abychom mohli vzorec dále upravit, je potřeba rozložit mocninnou funkci podle binomické věty. Po rozložení dostáváme následující vyjádření (Xi + hyT=t(m )x rJ (hyy j=o V J / Kapitola 4. Zobecněné jádrové odhady 25 a to když dosadíme zpátky do jádrového odhadu, získáváme w k— 1 E E (=1 •/ -°° "•/=lj=l n . = 1 j - o o n i=\j=\\JJ J-™ + 1 -Í(1)x rk hk ľyk -K(y)dy+l -Í ľ f (7)*r'(Äy)'-*Mdy n i=\\K J n i=ij -°°j=k+i\J/ = \Í*r+\±(I)r-Vft(^)+;É E ("')/" y'• *W* n i=\ n i=\\K J n i=ij=k+i\J / V předchozí úpravě byly znovu použity vlastnosti jádra, tentokrát / oo K ( y ) d y = l , -oo / oo yJ-K(y)dy = 0, O < j < k, -oo / oo / • * ( y ) d y = -oo 4.3.1 Moment 2. řádu Jelikož se jedná o hodně obecné vyjádření, vrátíme se nyní ke kvadratické funkci, která je speciálním případem mocninné s m = 2 a pokusíme se o upravení vzorce do jednodušší podoby. Vyjdeme z Y n /.ooL /A = - E / • * 2 - £ / í ( * - X í ) d x , n . = 1 J - o o což po použití již známé substituce a roznásobení kvadrátu dá vztah Y n /.oo L /A = - E / x ^ • * M + 2 Z < ^ • + Ä V • ^(á)dy. n . = 1 j - o o V tomto vyjádření použijeme opět vlastnosti jádra, ale také si úpravu rozdělíme na dva případy, pro k = 2, kde / oo y2 -K{y)áy = UK) -oo a pro /V > 2, kde / oo y2 -J fi:(y)dy = 0, -oo Kapitola 4. Zobecněné jádrové odhady 26 celkově můžeme psát 4.4 Odhad momentové vytvořující funkce Jako další lineární operátor použijeme funkci exponenciální, tedy g(x,t) =e,x . Aplikováním tohoto operátoru na hustotu spojité náhodné veličiny dostáváme / oo etx -f(x)dx, -oo což je běžná definice momentové vytvořující funkce a budeme ji značit Mx(t). V tuto chvíli máme Lf = Mx. Pro zjištění jádrového odhadu opět dosadíme do vzorce (4.1), získáváme tím vyjádření 1 ľl f'OO Lfh = -Y< etx -Kh(x-Xi)dx, n i = \ J - ° ° u kterého použijeme shodnou substituci jako v předchozím případě x-Xi a dostaneme i n f-oo Lfh = - Z e'^.K(y)dy, n i=lJ-°° což upravíme na i n oco Lfh = -Y2 M 2 e < • - ^ = e 2 dy = e 2 — e 2 v/2Ťř— oa Po dosazení zpět dostáváme Lfh = -e— J V ř ^ . Poznámka 4.3. Jelikož budeme v následujícím odvození uvažovat jádro s nosičem [-1,1], místo nevlastního integrálu přes celou reálnou osu můžeme použít integrál přes tento interval. 4.4.2 Odhad pro Epanečnikovo jádro Druhým jádrem, pro které si upravíme vzorec, bude Epanečnikovo jádro. Vyjdeme z rovnice (4.3), do které dosadíme zmíněné jádro Ĺ ? h - - t e t X j ľ eth y-3 -(l-y2 )dy. n p í J-i 4 Nejdříve si upravíme integrál roznásobením | * e % • | ( l - y 2 ) = |/1 i*% -1/* ^ V d y (4.4) a následně upravíme jak první ze dvou nově vzniklých integrálů elhy dy: l \~e tfi y~\ 1 «ÍÄ _ „ - Í Ä 1 th e —e th Kapitola 4. Zobecněné jádrové odhady 28 tak druhý metodou per partes, kterou bude nutné použít dvakrát ethy y2 dy -y2ethy 1 2 ŕ th _! thj- 1 ye thy yg thy th i ŕ Celkově tedy ethy y2 dy = - i th eth _ e-th .th i „—th2 é n + e th „-th th \ th 1 é n - e th th „th - e - t h 2 (th(eth + e - t h ) - e t h + e-th th th (thy [éh - e-'h ) ((th)2 + 2) - 2th (eth + e-'h ) (thy Poznámka 4.4. V předchozím vyj ádření lze použít vyj ádření hyperbolického sinu a kosinu, které jsou definovány sinh(jc) ex — ex cosh(jc) Výsledkem je pak 2 ex + e~x 2sinh(ř/z) ((th)1 + 2) -4thcosh(th) (thf ' Po zpětném dosazení do 4.4 bez hyperbolických funkcí získáváme _ 3 é h - e-th 3 (eth - e-'h ) ((th)2 + 2)- 2th (eth + e-'h ) ~ 4 th 4 (thý 3 {(eth - e-'h ) ((th)2 - (th)2 - 2) + 2th(elh + e~th Ýj 4(th)3 3 {(th-\)eth + (th + \)e-th 2(th)3 Pro jádrový odhad momentové vytvořující funkce pomocí Epanečnikova jádra jsme získali Kapitola 4. Zobecněné jádrové odhady 29 následující vzorec i 7 » = 2 ^ ( ( í A - i y ' + < í ' , + 1 K ' * ) | e 4.5 Odhad charakteristické funkce Stejně jako v předchozím případě budeme uvažovat funkci exponenciální, ovšem tentokrát s komplexním argumentem, tedy jako funkci g(x,t) použijeme následující exponenciálu g(x,t) = eitx . Opět aplikujeme zvolený operátor na hustotu spojité náhodné veličiny a dostaneme / co eitx -f(x)dx, -co takže dostáváme vztah pro výpočet chrakteristické funkce, tedy Lf = E(eitX ). Nyní se budeme věnovat jádrovému odhadu tohoto operátoru, dosadíme tedy do vzorce (4.1) a dostaneme Lfh = ~Y, / eitx -Kh(x-Xi)dx, n i=1J-oo ve kterém použijeme již známou substituci x-Xi a po upravení získáme 1 ŕ Ĺfh = -£eitx > eith y-K(y)dy. (4.5) Stejně jako u momentové vytvořující funkce, i zde si nyní odvodíme podobu vzorce pro dvě různá jádra. Opět začneme jádrem Gaussovým s využitím vlastností Fourierovy transformace z kapitoly 3. Kapitola 4. Zobecněné jádrové odhady 30 4.5.1 Odhad pro Gaussovo jádro Vyjitím z obecné rovnice (4.5) a dosazením Gaussova jádra z kapitoly 1 získáváme Využitím lemmatu (3.3) víme, že v; 1 -v2 (-"O2 2n což po úpravě dává 1 - M A ^ Poznámka 4.5. V následující části opět použijeme místo nevlastního integrálu / _ j , jelikož se jedná o jádro s nosičem [-1,1]. 4.5.2 Odhad pro Epanečnikovo jádro Při odvození jádrového odhadu charakteristické funkce s Epanečnikovým jádrem vyjdeme opět z rovnice (4.5), po dosazení jádra dostáváme n j=i J-i 4 Integrál uvnitř roznásobíme J ^eithy . 3 (i _ yí) = 1 J Jthy _ 3 j ^eithyy2dy ( 4 6 ) a první ze dvou nově vzniklých upravíme následujícím způsobem eithy dy •• I X0ithy~\ nith „—ith 1 ith e — e a použitím Eulerova vzorce dostaneme eith_e-ith ^ 2ism(th) ith (ith)2 Kapitola 4. Zobecněné jádrové odhady 31 Na druhý integrál z 4.6 použijeme dvakrát metodu per partes J eithy y2 dy = •ylgitby- 1 2 ŕ ith j ith J- tíhy ye ithy ye ithy-, 1 ith .j ithJ-\ Jthy a následně pro úpravu zase Eulerův vzorec -i j ^ eithy y2 dy • gith _ g—tíh 2 / g'th e—ith j eith _ e-ith ith ith \ ith ith ith 2sm(th) 2 (2i(sm(th)-thcos(th)' th ith \ (th)2 2(((th)2 - 2) sin(ŕÄ) + 2thcos(th)) (thj2 Celkově jsme pro jádrový odhad charakteristické funkce s použitím Epanečnikova jádra dostali -7 _ 1 v i t x 3 (2iún (th ) 2 ( ( ( t h ) 2 ~ 2 ) s i n ( ^ ) + 2thcos(th)) Lfh ~nh£ 3 A V (ith)2 ( i W 3 sm(th) — thcos(th) A eitx > 4.6 Vlastnosti odhadů Jak vyp adají zobecněné jádrové odhady p ro vybrané funkce již víme a nyní se pojďme podívat na vlastnosti takových odhadů. 4.6.1 Střední hodnota Základní a nej důležitější vlastností je střední hodnota. Uveďme si nejprve, jak vypadá pro jádrový odhad Efh(x) = E-j^Kh(x-Xi) = -fíEKh(x-Xi) = EKh{x-Xi) Kapitola 4. Zobecněné jádrové odhady 32 K^ix — u)f{u)áu = Kn*f(t). Nyní již snadno odvodíme i střední hodnotu pro zobecněný jádrový odhad, při kterém opět vyjdeme z definice a následně upravíme střední hodnotu ELfh(t) = -fíEL(Kh(x-Xi)) = EL(Kh(x-X1)) L(Kh(x — u))f(u)du = LKh*f(t). Pokud bude lineární operátor symetrický, pak můžeme předchozí vyjádření psát ve tvaru / oo Kh(x- u)Lf{u)du = Kh*Lf(t). -oo Poznámka 4.6. Lineární operátor v integrálním tvaru je symetrický v případě, že je g(x, t) symetrická vzhledem k proměnným, tj. Vx,ř : g(x,t) — g(t,x). Například g(x,t) —x2 + t2 nebo g(x,t) — eltx . Zde také můžeme využít vlastnosti aproximace identity, kterou jsme si definovali v kapitole 3. Za předpokladu, že L f je spojitá a omezená, pak podle lemmatu 3.4 Vř platí ELfh(t) -»• L/0) pro h -»• 0. (4.7) V případě, že budeme opět pracovat s lineárním operátorem v integrálním tvaru, jak jsme sijej definovali na začátku této kapitoly, můžeme střední hodnotu upravit následujícím způsobem EQh(t) = -fíEL(Kh(x-Xi)) n i=l = EL(Kh(x-X1)) / oo g(x,t)Kh(x-Xi)dx -oo g(x,t)Kfl(x — u)dxf(u)du, oo /-oc —oo J —oo Kapitola 4. Zobecněné jádrové odhady 33 záměnou integrálů pak dostaneme / co A'co g(x,t) / Kh(x-u)f(u)dudx, -co ,/ —oo dále upravíme zpět na vyjádření pomocí střední hodnoty / co g(x,t)Efh(x)dx -co a v posledním kroku zkrátíme vyjádření používaného operátoru v integrálním tvaru EĹ~fh(t)=Lg(Efh(x)). (4.8) Celkově jsme tedy zjistili, že při lineárním operátoru v integrálním tvaru nezáleží na pořadí střední hodnoty a aplikace operátoru. 4.6.2 Vychýlení Z hlediska jádrových odhadů se objevuje i pojem bias neboli vychýlení, který je důležitou vlastností a charakteristikou. Podívejme se tedy na to, jak vypadá pro zobecněné jádrové odhady s obecným operátorem a následně zase s operátorem v integrálním tvaru. Pro první zmíněný případ už máme předchystáno z 4.7, kde stačí vyjádření vhodně přepsat, dostáváme tedy ELfh(t)-Lf(t)^0. Pokud bychom chtěli využít zápisu pomocí konvoluce, lze vychýlení psát takto ELfh(t)-Lf(t) = Kh*Lf(t)-Lf(t). Stejně tak pro operátor v integrálním tvaru použijeme vyjádření 4.8 a dostaneme EQh{t)-Lgf(t) = Lg (Efh(x) - /(*)). 4.6.3 Rozptyl Další základní vlastností je rozptyl. Ten vypadá z definice takto 2 2 D(Qh(t))=E(Qh{t)) -(ELfh{t)) . Toto vyjádření bohužel nelze obecně lépe upravit. Kapitola 5 Simulace Neméně důležitou součástí kromě odvození teoretických vlastností je samozřejmě část praktická. Proto se nyní zaměříme na simulace některých známých hustot uvedených již v kapitole 2 a ukážeme si jádrové odhady charakteristické funkce odvozené v předchozí kapitole, které jsou nej zajímavější z lineárních operátorů, kterými jsme se zabývali. Naší snahou bude zjistit, které ze dvou jader odvozených pro jádrové odhady charakteristické funkce je přesnější, dále si též vyzkoušíme, jak šířka vyhlazovacího okénka ovlivňuje tento odhad. Kromě grafů pro všechny tyto odhady si také vytvoříme přehledné tabulky s naměřenými chybami jak pro reálnou, tak pro imaginární část charakteristické funkce. Pro každé z následujících 5 rozdělení bylo vygenerováno 100 hodnot. Následně byly zvoleny dvě nebo tři hodnoty šířky vyhlazovacího okénka h tak, aby byl vidět rozdíl mezi jádry aplikovanými na reálnou i imaginární část. Na grafech jsou plnou čarou značeny různé varianty parametru h, čárkovanou pak přesná charakteristická funkce, ke které se snažíme odhady přiblížit. V tabulkách jsou uvedeny hodnoty ISE, které jsou spočítané numericky složeným obdélníkovým pravidlem vycházející ze vzorce a podle nich také snadno poznáváme, který graf patří k jakému h. Číselné hodnoty jsou zaokrouhleny na 5 desetinných míst. 5.1 Rovnoměrné rozdělení Začneme simulací z rovnoměrného rozdělení na intervalu [0,1]. Pro toto rozdělení byla zvolenah = 27h = l ah = 0.5. Kapitola 5. Simulace 35 Již z grafů 5.1 a 5.2 lze vidět, že v tomto případě je pro odhadování jak reálné, tak imaginární části lepší Epanečnikovo jádro, což si také následně potvrzujeme podle hodnot ISE v tabulce 5.1. Odhad se v obou dvou případech zlepšuje pro klesající šířku okénka h. 5.2 Normální rozdělení Pro standardizované normální rozdělení byly zvoleny stejné parametry hjako v předchozím případě, tedy h — 2,h—\ah — 0.5. Při odhadu reálné části můžeme dle hodnot ISE v tabulce 5.2 soudit, že Epanečnikovo jádro je pro odhad vhodnější, avšak dle obrázku 5.3 je vidět, že při použití menšího h nám vzniká podhlazený odhad, což není žádoucí. S menší šířkou okénka h se nám odhad opět zlepšuje. Naopak imaginární část, která je ve skutečnosti nulová, dokáže Gaussovo jádro odhadnout s menší chybou, proto v tomto případě zůstává otázkou, které z jader je lépe použitelné. 5.3 Exponenciální rozdělení U exponenciálního rozdělení byl uvažován parametr X — 4, stejně jako v kapitole 2. Pro odhady jsme použili parametry šířky vyhlazovacího okénka h — 0.5, h — 0.3 a h — 0.1. Z grafů 5.5 a 5.6 můžeme pozorovat, že Gaussovo jádro s h — 0.1 téměř kopíruje křivku, avšak při vhodně zvoleném h je i odhad pomocí Epanečnikova jádra velmi přesným odhadem. V tomto případě se mu nejvíce blíží h = 0.3. U imaginární části pak vidíme lepší hodnoty ISE u Epanečnikova jádra, zejména h = 0.1, avšak nemůžeme vyvrátit, že existuje parametr h, pro který bude i Gaussovo jádro kvalitním odhadem. Není proto zřejmé, které z jader křivku odhaduje lépe. 5.4 Gamma rozdělení I u rozdělení gamma jsme použili stejné rozdělení jako v předchozích kapitolách a to s parametry k = 3 a 6 = 1. Pro parametr h byly zvoleny následující hodnoty: h — 2 a h = 0.5. Tentokrát můžeme na obrázcích 5.7 a 5.8 pozorovat, že Gaussovo jádro je v obou případech, jak pro reálnou, tak pro imaginární část, vhodnější zejména z toho důvodu, že při menším h nepodhlazuje odhad na rozdíl od Epanečnikova jádra, přičemž platí, že čím menší je h, tím je odhad lepší. Kapitola 5. Simulace 36 5.5 x2 rozdělení %2 rozdělení uvažujeme s 2 stupni volnosti, tedy k — 2. Pro šířky vyhlazovacího okénka byly zvoleny parametry h — 2ah — 0.5. U reálné části odhadu se setkáváme se stejným problémem jako u předchozího gamma rozdělení a to nevhodnost užití Epanečnikova jádra z důvodu podhlazení odhadu. Nelze však říci, že je Gaussovo jádro lepší, protože v tomto případě bohužel nedokáže odhadnout funkci dostatečně přesně. Pro odhad imaginární části je mírně lepší Epanečnikovo jádro, lepší výsledek dostáváme s h — 0.5, ale odhad má opět tendenci být podhlazený. Celkově můžeme soudit, že ze simulací nevyšlo jedno z jader lépe a jedno hůře, ale každé se hodí pro jiné odhady a u každého je také velmi nutné zvolit vhodný parametr šířky vyhlazovacího okénka h. Také je nutné poznamenat, že se jedná o první pokusy, jejichž cílem bylo vyzkoušet, jak odhady fungují. Pro dosažení hlubších výsledků by bylo potřeba odvodit kritéria pro určení optimální šířky vyhlazovacího okénka, metody pro její odhad apod. Kapitola 5. Simulace 37 (a) Reálná část (b) Imaginární část Obrázek 5.1: Odhady charakteristické funkce rovnoměrného rozdělení pomocí Gaussova jádra (a) Reálná část (b) Imaginární část Obrázek 5.2: Odhady charakteristické funkce rovnoměrného rozdělení na intervalu [0,1] pomocí Epanečnikova jádra Reálná část Imaginární část Gaussovo ^ ^ . , . h=l J a d r ° h = 0.5 0.15190 0.06846 0.02154 0.25750 0.20584 0.08596 „ v . h = 2 Epanecni- ^ kovo jádro h ~ Q 5 0.06681 0.02162 0.00361 0.22904 0.08359 0.01042 Tabulka 5.1: Hodnoty ISE pro odhad charakteristické funkce rovnoměrného rozdělení Kapitola 5. Simulace 38 (a) Reálná část (b) Imaginární část Obrázek 5.3: Odhady charakteristické funkce standardizovaného normálního rozdělení pomocí Gaussova jádra (a) Reálná část (b) Imaginární část Obrázek 5.4: Odhady charakteristické funkce standardizovaného normálního rozdělení pomocí Epanečnikova jádra Reálná část Imaginární část Gaussovo ^ ^ . , . h=l J a d r ° h = 0.5 0.05126 0.01189 0.00083 0.00001 0.00003 0.00047 „ v . h = 2 Epanecni- ^ kovo jádro h ~ Q 5 0.01024 0.00050 0.00029 0.00005 0.00043 0.00582 Tabulka 5.2: Hodnoty ISE pro odhad charakteristické funkce normálního rozdělení Kapitola 5. Simulace 39 (a) Reálná část (b) Imaginární část Obrázek 5.5: Odhady charakteristické funkce exponenciálního rozdělení s X = 4 pomocí Gaussova jádra (a) Reálná část (b) Imaginární část Obrázek 5.6: Odhady charakteristické funkce exponenciálního rozdělení s X — 4 pomocí Epanečnikova jádra Reálná část Imaginární část h = 0.5 Gaussovo , _ „ h — 0.3 j a d r o Ä = 0.1 0.12737 0.03717 0.00019 0.13197 0.06018 0.00447 h = 0.5 Epanecm- , n = 0.3 kovojadro ^ ^ 0.01482 0.00053 0.00173 0.03464 0.00891 0.00157 Tabulka 5.3: Hodnoty ISE pro odhad charakteristické funkce exponenciálního rozdělení Kapitola 5. Simulace 40 (a) Reálná část (b) Imaginární část Obrázek 5.7: Odhady charakteristické funkce gamma rozdělení sk — 3a6 — l pomocí Gaussova jádra (a) Reálná část (b) Imaginární část Obrázek 5.8: Odhady charakteristické funkce gamma rozdělení sk — 3a6 — l pomocí Epanečnikova jádra Reálná část Imaginární část Gaussovo h — 2 jádro h — 0.5 0.00827 0.00118 0.01168 0.00098 Epanečni- h— 2 kovo jádro h — 0.5 0.00259 0.00336 0.00168 0.00338 Tabulka 5.4: Hodnoty ISE pro odhad charakteristické funkce gamma rozdělení Kapitola 5. Simulace 41 o -6 -4 -2 0 2 4 S (a) Reálná část Obrázek 5.9: Odhady charakteristické funkce o m o o U i o o - 6 ^ - 2 0 2 4 6 (b) Imaginární část X2 rozdělení s k —2 pomocí Gaussova jádra (a) Reálná část (b) Imaginární část Obrázek 5.10: Odhady charakteristické funkce %2 rozdělení s k — 2 pomocí Epanečnikova jádra Reálná část Imaginární část Gaussovo h — 2 jádro h — 0.5 0.00658 0.00134 0.04185 0.00949 Epanečni- h— 2 kovo jádro h — 0.5 0.00199 0.00183 0.02350 0.00378 Tabulka 5.5: Hodnoty ISE pro odhad charakteristické funkce %2 rozdělení Závěr Práce si kladla za cíl seznámit čtenáře se zobecněným pohledem na jádrové odhady. Tohoto cíle bylo dosaženo prostřednictvím několika lineárních operátorů aplikovaných na hustoty spojité náhodné veličiny, z nichž ty nej významnější jsou momentová vytvořující funkce a charakteristická funkce. Pro obě tyto funkce byl následně odvozen konkrétní vzorec pro jádrové odhady použitím dvou různých jader - Gaussova jádra a Epanečnikova jádra. V závěru teoretické části jsou také odvozeny základní vlastnosti pro zobecněné jádrové odhady. Charakteristická funkce byla posléze zkoumána na simulovaných datech z 5 různých základních rozdělení pravděpodobnosti a výsledky porovnány jak pro dvě odvozená jádra, tak pro vybrané hodnoty šířky vyhlazovacího okénka h. Také byly prakticky zjištěny chyby odhadů. Dalším rozšířením této práce by mohlo být odvození kritérií pro optimální šířku vyhlazovacího okénka h v zobecněných jádrových odhadech, které bylo v této práci prozkoumáno pouze empiricky. -42- Seznam použité literatury [1] ANDĚL, Jiří. Základy matematické statistiky. Vyd. 1. Praha: Matfyzpress, 2005, 358 s. ISBN 8086732401. [2] B O W M A N , Adrian a Adelchi A Z Z A L I N I . Applied smoothing techniques for data analysis: the kernel approach with S-Plus illustrations. Oxford: Clarendon Press, 1997, xi, 193 p. ISBN 0198523963. [3] C A S E L L A , George a Roger L. B E R G E R . Statistical inference. 2nd ed. Pacific Grove, Calif.: Duxbury, c2002, xxviii, 660 s. ISBN 0534243126. [4] G R I M M E T T , Geoffrey a David STIRZAKER. Probability and random processes. 3rd ed. Oxford: Oxford University Press, 2001, xii, 596 s. ISBN 0198572239. [5] HOROVÁ, Ivana, Jan KOLÁČEK a Jiří Z E L I N K A . Kernel smoothing in MATLAB: theory and practice of Kernel smoothing. Hackensack, N.J.: World Scientific, c2012, xiii, 227 s. ISBN 9789814405485. [6] KOLÁŘ, Martin. Spektrální analýza 1. Text k přednáškám. Dostupný na < //www.math.muni . cz/~mkolar/f a.pdf>, květen 2015. [7] K O U K A L , Stanislav, Michal KŘÍŽEK a Radovan POTŮČEK. Fourierovy trigonometrické řady a metoda konečných prvků v komplexním oboru. Vyd. 1. Praha: Academia, 2002, 273 s. ISBN 8020010297. [8] RUDJN, Walter. Analýza v reálném a komplexním oboru. Vyd. překladu 1. Praha: Academia, 1977, 463 s. [9] SHEATHER, Simon J. Statistical Science. 2004, Vol. 19, No. 4, 588-597. Dostupný na , květen 2015. [10] S I L V E R M A N , B . Density estimation for statistics and data analysis. 1st ed. Boca Raton: Chapman & Hall, cl986, ix, 175 s. ISBN 0412246201. -43- Seznam použité literatury 44 [11] SIMONOFF, Jeffrey S. Smoothing methods in statistics. New York: Springer-Verlag, 1996, xii, 338 s. ISBN 0387947167. [12] W A N D , M . P. a M . C. JONES. Kernel smoothing. 1st ed. London: Chapman & Hall, 1995, 212 s. ISBN 0412552701.