IV130 Přínosy a rizika inteligentních systémů

Fakulta informatiky
jaro 2026
Rozsah
2/0/0. 2 kr. (plus ukončení). Ukončení: zk.
Vyučováno kontaktně
Vyučující
prof. RNDr. Jiří Zlatuška, CSc. (přednášející)
Garance
prof. RNDr. Jiří Zlatuška, CSc.
Dodavatelské pracoviště: Fakulta informatiky
Rozvrh
Út 17. 2. až Út 12. 5. Út 16:00–17:50 A217
Předpoklady
Formální předpoklady: žádné
Omezení zápisu do předmětu
Předmět je nabízen i studentům mimo mateřské obory.
Mateřské obory/plány
Anotace
Jedná se o předmět s motivačně-metodicko-paradigmatickým posláním otevřít uvažování studentů směrem k nadcházející éře masivního využívání umělé inteligence (AI) ve všech ohledech. Jedná se o vazbu inteligence v obecném smyslu a konstrukci obecně užitelných strojů zpracovávajících informace (počítačů) s dopady týkajícími se náhrady lidských kognitivních činností inteligentně jednajícími stroji jak v poloze spolupracující s člověkem, tak jako jeho protivníky, včetně dopadů na kyberbezpečnost doposud nasazovaných systémů (v obou zmíněných polohách), ale bezpečných systémů stavějících na AI a vyhýbajících se konfliktu cílů sledovaných strojem a zájmů odpovídajících člověku. Do to těchto okruhů patří i zásadní etické otázky včetně dopadu do do bezpečnostních politik (od lokálních po geopolitiky). Rozšiřuje technicko-operativní pohled informatika–bezpečnostního experta, ve schopnostech vnímat pohled dopředu a být si vědom hrozeb i příležitostí, které s AI přicházejí do světa kyberbezpečnosti. Ambicí předmětu není nutně učit bezprostředně používané techniky, jako spíše poskytnout mentální průpravu na svět, kde se teprve rodí možnosti, vidět tyto techniky v kontextu jejich vývoje, stavu, potenciálu, a s nimi i vymezení role AI s širokými dopady, které z těchto technik, resp. technik, které je doplní/přesáhnou, vzejdou..
Výstupy z učení
Po úspěšném ukončení bude student/ka: • Znát a umět popsat základní pojmy jako jsou kognitivní procesy, fungování paměti, mentální a strojové procesy při rozhodování, roli emocí • Vědět a rozumět principům Bayesovské pravděpodobnosti, Markovovských procesů • Schopen/na identifikovat a popsat hlavní vlivy AI na kyberbezpečnostní hrozby a naopak na metody ochrany • Umí aplikovat techniky využívající Bayesovské sítě k popisu a řešení jednoduchých problémů relevantních ke kyberbezpečnosti • Umět popsat a vysvětlit pojmy užitek, etické aspekty AI • Umět popsat hlavní kyberbezpečnostní aspekty systémů postavených na AI • Orientovat se v hlavních problémech vztahu budoucí „skutečné“ (silné) umělé inteligence a lidí • Znát rámec zákonné regulativy dnešní a očekávané budoucí regulující oblast AI • Umět popsat známé velké výzvy spojené s umělou inteligencí
Klíčová témata
• Inteligence v lidech a strojích, inteligence, paměť, výpočty, učení • Možnosti a limity strojů, biologie a evoluce • Aktéři, prostředí, záměry, tvorba a uskutečňování plánů • Určitost prostředí, nejistota, pravděpodobnost, teorie her • Vyvozování, logické systémy, pravděpodobnostní jazyky, Bayesovské sítě • Vývoj inteligentních systémů, metody učení, učení s učitelem, zpětnovazební systémy, hluboké učení, učení na základě vysvětlování • Výhled superinteligence, dopady, fikce, nebo nebezpečí • Rizika AI, průlomy, chyby vs. robustní systémy, dohled, duševní bezpečnost, autonomní zbraně, substituce lidské práce, ekonomické dopady • Dopady superinteligentní AI, problém gorily a problém krále Midase, inteligenční exploze, problém ovládání • Koexistence inteligentních systémů a člověka, princip prospěšných strojů, přátelská AI • Matematické principy formulace prospěšných strojů, asistenční hry, problém vypnutí stroje • Preference a hodnoty, jejich neurčitost, zjišťování a přizpůsobování, psychologie a technologie • Důsledky pro budoucí vývoj, politiky velkých dat, ochrana soukromí, bezpečný vývoj inteligentních aplikací
Studijní zdroje a literatura
  • Max Tegmark, Život 3.0, Člověkem v éře umělé inteligence. Argo/Dokořán, 2020.
  • RUSSELL, Stuart J. a Peter NORVIG. Artificial intelligence : a modern approach. Edited by Ming-Wei Chang - Jacob Devlin - Anca Dragan - David Forsyth - Ian Good. Fourth edition, global editi. Harlow: Pearson, 2022, 1166 stran. ISBN 9781292401133. info
  • RUSSELL, Stuart J. Jako člověk : umělá inteligence a problém jejího ovládání. Translated by Jiří Zlatuška. První vydání v českém j. Praha: Argo, 2021, 271 stran. ISBN 9788025736418. info
  • RUSSELL, Stuart J. Human compatible : artificial intelligence and the problem of control. [Spojené státy americké]: Viking, 2019, xii, 336. ISBN 9780525558613. info
  • TEGMARK, Max. Life 3.0 : being human in the age of artificial intelligence. First edition. New York: Alfred A. Knopf, 2017, xii, 364. ISBN 9781101946596. info
  • BOSTROM, Nick. Superinteligence : až budou stroje chytřejší než lidé. Translated by Jan Petříček. V českém jazyce vydání p. Praha: Prostor, 2017, 509 stran. ISBN 9788072603534. info
  • BOSTROM, Nick. Superintelligence : paths, dangers, strategies. First published in paperback. Oxford: Oxford University Press, 2016, xvi, 415. ISBN 9780198739838. info
  • BRYNJOLFSSON, Erik a Andrew MCAFEE. Druhý věk strojů : práce, pokrok a prosperita v éře špičkových technologií. Vydání první. Brno: Jan Melvil, 2015, 295 stran. ISBN 9788087270714. info
  • BRYNJOLFSSON, Erik a Andrew MCAFEE. The second machine age : work, progress, and prosperity in a time of brilliant technologies. 1st ed. London: W.W. Norton & Company, 2014, 306 s. ISBN 9780393239355. info
Přístupy, postupy a metody používané ve výuce
Předmět je vyučován každotýdenně formou přednášek.
Způsob ověření výstupů z učení a požadavky na ukončení
Studenti jsou hodnoceni za průběžnou samostatnou práci na esejích na zadaná témata.
Předmět je zařazen také v obdobích jaro 2022, jaro 2023, jaro 2024, jaro 2025.
  • Statistika zápisu (nejnovější)
  • Permalink: https://is.muni.cz/predmet/fi/jaro2026/IV130