ASHOK, Pranav, Tomáš BRÁZDIL, Jan KŘETÍNSKÝ a Ondřej SLÁMEČKA. Monte Carlo Tree Search for Verifying Reachability in Markov Decision Processes. In Leveraging Applications of Formal Methods, Verification and Validation (ISoLA 2018). Cham: Springer, 2018, s. 322-335. ISBN 978-3-030-03420-7. Dostupné z: https://dx.doi.org/10.1007/978-3-030-03421-4_21.
Další formáty:   BibTeX LaTeX RIS
Základní údaje
Originální název Monte Carlo Tree Search for Verifying Reachability in Markov Decision Processes
Autoři ASHOK, Pranav (356 Indie), Tomáš BRÁZDIL (203 Česká republika, domácí), Jan KŘETÍNSKÝ (203 Česká republika, garant, domácí) a Ondřej SLÁMEČKA (203 Česká republika, domácí).
Vydání Cham, Leveraging Applications of Formal Methods, Verification and Validation (ISoLA 2018), od s. 322-335, 14 s. 2018.
Nakladatel Springer
Další údaje
Originální jazyk angličtina
Typ výsledku Stať ve sborníku
Obor 10201 Computer sciences, information science, bioinformatics
Stát vydavatele Švýcarsko
Utajení není předmětem státního či obchodního tajemství
Forma vydání tištěná verze "print"
Impakt faktor Impact factor: 0.402 v roce 2005
Kód RIV RIV/00216224:14330/18:00108292
Organizační jednotka Fakulta informatiky
ISBN 978-3-030-03420-7
ISSN 0302-9743
Doi http://dx.doi.org/10.1007/978-3-030-03421-4_21
Klíčová slova anglicky Monte Carlo Tree Search; Reachability; Markov Decision Processes
Změnil Změnil: RNDr. Pavel Šmerk, Ph.D., učo 3880. Změněno: 28. 4. 2020 07:54.
Anotace
The maximum reachability probabilities in a Markov decision process can be computed using value iteration (VI). Recently, simulation-based heuristic extensions of VI have been introduced, such as bounded real-time dynamic programming (BRTDP), which often manage to avoid explicit analysis of the whole state space while preserving guarantees on the computed result. In this paper, we introduce a new class of such heuristics, based on Monte Carlo tree search (MCTS), a technique celebrated in various machine-learning settings. We provide a spectrum of algorithms ranging from MCTS to BRTDP. We evaluate these techniques and show that for larger examples, where VI is no more applicable, our techniques are more broadly applicable than BRTDP with only a minor additional overhead.
Návaznosti
GA18-11193S, projekt VaVNázev: Algoritmy pro diskrétní systémy a hry s nekonečně mnoha stavy
Investor: Grantová agentura ČR, Algoritmy pro diskrétní systémy a hry s nekonečně mnoha stavy
VytisknoutZobrazeno: 24. 8. 2024 12:12