D 2008

Smooth Estimates of Distribution Functions with Application in Environmental Studies

HOROVÁ, Ivanka, Jan KOLÁČEK, Jiří ZELINKA and Abdel H. EL-SHAARAWI

Basic information

Original name

Smooth Estimates of Distribution Functions with Application in Environmental Studies

Name in Czech

Hladké odhady distribučních funkcí s aplikací v environmentálních studiích

Authors

HOROVÁ, Ivanka (203 Czech Republic, belonging to the institution), Jan KOLÁČEK (203 Czech Republic, guarantor, belonging to the institution), Jiří ZELINKA (203 Czech Republic, belonging to the institution) and Abdel H. EL-SHAARAWI (124 Canada)

Edition

1. vyd. Mexico, Advanced topics on mathematical biology and ecology, p. 122-127, 6 pp. 2008

Publisher

WSEAS Press

Other information

Language

English

Type of outcome

Stať ve sborníku

Field of Study

10101 Pure mathematics

Country of publisher

Mexico

Confidentiality degree

není předmětem státního či obchodního tajemství

Publication form

printed version "print"

RIV identification code

RIV/00216224:14310/08:00025758

Organization unit

Faculty of Science

ISBN

978-960-6766-32-9

UT WoS

000263783300020

Keywords in English

cumulative distribution function; kernel smoothing; reflection method

Tags

International impact, Reviewed
Změněno: 12/11/2013 15:56, doc. Mgr. Jan Koláček, Ph.D.

Abstract

V originále

The most commonly used nonparametric estimate of a cumulative distribution function F is an empirical distribution function F_n. But F_n is a step function even in case that F is continuous. The present paper aims to provide a smooth estimate of F. Kernel methods seem to be adequate for this purpose. There exist several methods how to choose a bandwidth. We propose a method of bandwidth selection based on a suitable estimate of Mean Integrated Square Error. We also focus on an estimate of a cumulative distribution function in case that random variables X_1,...,X_n are nonnegative. The aforementioned methods are not reliable near the point x=0. In order to avoid this problem we propose a~reflection method. A simulation study is conducted to compare the performance of the different methods of bandwidth choice. Theoretical results are applied to the data concerning the content of toxic material in the fish population in Lake Ontario.

In Czech

Nejčastěji používaným neparametrickým odhadem distribuční funkce F je empirický odhad F_n. Avšak F_n je schodovitá funkce i v případech, kdy distribuční funkce F je spojitá. Cílem práce je poskytnout hladký odhad F, zde budou použity jádrové odhady. V literatuře existuje několik metod pro volbu optimální šířky okna. Bude zde navržena metoda založená na vhodném odhadu sřední integrální kvadratické chyby (MISE). Zaměříme se také na případ, kdy všechny hodnoty pozorování X_1 ... X_n jsou nezáporné. Zde nastávají problémy při odhadech distribuční funkce F blízko bodu x=0. Abychom se vyhnuli těmto problémům, bude použita tzv. metoda zrcadlení. Cílem simulační studie je porovnat různé metody pro hledání optimální šířky okna. Teoretické výsledky jsou aplikovány na datech toxických látek v rybí populaci v jezeře Ontario.

Links

LC06024, research and development project
Name: Centrum Jaroslava Hájka pro teoretickou a aplikovanou statistiku
Investor: Ministry of Education, Youth and Sports of the CR, Jaroslav Hájek Center for Theoretical and Applied Statistics