M9211 Bayesovské metody

Přírodovědecká fakulta
jaro 2024
Rozsah
2/2/0. 4 kr. (příf plus uk plus > 4). Ukončení: zk.
Vyučováno prezenčně.
Vyučující
Mgr. Ondřej Pokora, Ph.D. (přednášející)
doc. Mgr. Jan Koláček, Ph.D. (pomocník)
Garance
doc. Mgr. Jan Koláček, Ph.D.
Ústav matematiky a statistiky – Ústavy – Přírodovědecká fakulta
Dodavatelské pracoviště: Ústav matematiky a statistiky – Ústavy – Přírodovědecká fakulta
Rozvrh
Po 19. 2. až Ne 26. 5. St 14:00–15:50 M2,01021
  • Rozvrh seminárních/paralelních skupin:
M9211/01: Po 19. 2. až Ne 26. 5. Čt 12:00–13:50 MP1,01014, O. Pokora
M9211/02: Po 19. 2. až Ne 26. 5. St 18:00–19:50 MP2,01014a, O. Pokora
Předpoklady
Pro porozumění kurzu se předpokládají základní teoretické znalosti pravděpodobnosti a statistiky a praktické zkušenosti s výpočty: Bayesův vzorec, náhodná veličina, rozdělení pravděpodobnosti (binomické, Poissonovo, exponenciální, normální), pravděpodobnost a hustota pravděpodobnosti, výpočty číselných charakteristik (střední hodnota, rozptyl), bodové a intervalové odhady parametrů, lineární regresní model. Pro počítačová cvičení je nutná alespoň základní znalost práce ve statistickém jazyce R, velmi doporučená je praktická zkušenost se statistickým zpracováním dat v R v rozsahu alespoň jednoho praktického matematicko-statistického kurzu na PřF nebo FI.
Omezení zápisu do předmětu
Předmět je nabízen i studentům mimo mateřské obory.
Mateřské obory/plány
Cíle předmětu
Tento kurz seznámí posluchače s principy a metodami bayesovské statistiky. Student se naučí teoretickému principu těchto metod a postupům výpočtů bayesovských odhadů a jejich využití pro inferenci a predikci. Kurz se věnuje také základům teorie informace a numerickým a simulačním metodám pro výpočty. V praktické části se posluchač naučí počítat aposteriorní hustoty a bayesovské odhady v reálných úlohách, intepretovat výsledky a porovnat je s klasickými statistickými odhady. Dále se naučí implementovat numerické metody integrování a Markov-Chain-Monte-Carlo simulace v počítačových systémech.
Výstupy z učení
Po absolvování kurzu bude student schopen:
- porozumět metodám bayesovské statistiky a intepretovat jejich parametry;
- počítat bayesovské odhady a využít inferenci v reálných situacích;
- porovnat bayesovský a frekventistický přístup;
- počítat aposteriorní hustotu pomocí aproximací a Markov-Chain-Monte-Carlo metod na počítači;
- počítat I-divergenci a informaci získanou z experimentu.
Osnova
  • Nezbytné základy: podmíněná pravděpodobnost, Bayesův vzorec pro pravděpodobnosti.
  • Bayesovská statistika: základní koncept, porovnání s frekventistickou statistikou.
  • Formulace modelu: výběrový prostor, parametrický prostor, apriorní rozdělení, aposteriorní rozdělení.
  • Bayesova věta: aposteriorní hustota, vzorec pro diskrétní a spojité náhodné veličiny, věrohodnostní funkce.
  • Důležité vlastnosti: princip věrohodnosti, zaměnitelnost, pravidlo řetězení, postačující statistiky.
  • Bayesovská inference: bodové odhady (aposteriorní střední hodnota, MAP), intervalové odhady (ET interval, HPD oblast), testování hypotéz.
  • Predikce: prediktivní rozdělení.
  • Apriorní rozdělení: neinformativní, slabě informativní, informativní, Jeffreysova hustota, referenční, konjugované systémy.
  • Modely: binomický, Poissonův, exponenciální, normální, lineární regresní model.
  • Hierarchický model: hyperparametry.
  • Simulační metody: Monte Carlo simulace, Monte Carlo integrování, Markov Chain Monte Carlo metody, Gibbsův vzorkovač, Metropolisův-Hastingsův algoritmus.
  • Úvod do teorie informace: entropie, vzájemná informace, Kullbackova-Leiblerova divergence, informace získaná z experimentu.
  • Úvod do teorie statistického rozhodování: ztrátová funkce a odhady.
Literatura
  • HOFF, Peter D. A first course in Bayesian statistical methods. Dordrecht: Springer, 2009. ix, 270. ISBN 9780387922997. info
  • ALBERT, Jim. Bayesian computation with R. 2nd ed. Dordrecht: Springer, 2009. xii, 298. ISBN 9780387922973. info
  • GELMAN, Andrew, John B. CARLIN, Hal Steven STERN, David B. DUNSON, Aki VEHTARI a Donald B. RUBIN. Bayesian data analysis. Third edition. Boca Raton: CRC Press/Taylor & Francis, 2014. xiv, 667. ISBN 9781439840955. info
  • CHRISTENSEN, Ronald. Bayesian ideas and data analysis an introduction for scientists and statisticians. Boca Raton: CRC Press, 2011. xvii, 498. ISBN 9781439803547. info
  • ROBERT, Christian P. The Bayesian choice : from decision-theoretic foundations to computational implementation. 2nd ed. New York: Springer, 2007. xxiv, 602. ISBN 9780387715988. info
  • PÁZMAN, Andrej. Bayesovská štatistika. Bratislava: Univerzita Komenského Bratislava, 2003. 100 s. ISBN 80-223-1821-3. info
Výukové metody
Přednáška: 2 h týdně. Cvičení: 2 h týdně, práce v softwaru R.
Metody hodnocení
Cvičení: povinná aktivní účast, řešení úkolů, domácí úlohy, odpovědníky, projekt. Zkouška má formu krátké písemky a ústního pohovoru (cca 60 minut): obhajoba projektu, teoretické i praktické otázky, výpočetní postupy. Pro úspěšné absolvování předmětu je potřeba splnit podmínky cvičení, vypracovat projekt a dosáhnout alespoň 50 % bodů u zkoušky.
Informace učitele
https://is.muni.cz/auth/el/sci/jaro2024/M9211/index.qwarp
Výuka probíhá většinou v češtině nebo dle potřeby v angličtině, příslušná terminologie je za všech okolností uváděna i s anglickými ekvivalenty.
Mezi cílové dovednosti studia patří schopnost používat anglický jazyk pasivně i aktivně ve vlastní odbornosti a také v potenciálních oblastech aplikací matematiky.


Hodnocení ve všech případech může probíhat v češtině i v angličtině, dle volby studenta.

Další komentáře
Studijní materiály
Předmět je vyučován každoročně.
Předmět je zařazen také v obdobích jaro 2018, jaro 2019, jaro 2020, jaro 2021, jaro 2022, jaro 2023.
  • Statistika zápisu (nejnovější)
  • Permalink: https://is.muni.cz/predmet/sci/jaro2024/M9211