Stochastické modelování (FSI-S2M-A)

Seznámení studentů se základy teorie Markovských řetězců se spojitou prostorovou proměnnou a jejich využitím při generování vzorků. Studenti získají přehled o využití této teorie v Bayesovských odhadech a v typických příkladech inženýrské praxe.  

Teorie pravděpodobnosti a matematická statistika, matematická a funkcionální analýza.

Předmět se zabývá Markov Chain Monte Carlo (MCMC) algoritmy. V první části se věnuje základům teorie Markovových řetězců s nepřetržitým (spojitým) prostorem a existenci jejich stacionárního rozdělení. Dále se popisuje odvození algoritmů, které tyto řetězce realizují, a analýza jejich konvergence. V závěrečné části jsou uvedeny příklady aplikací MCMC v analýze dat a strojovém učení.

Vypracování semestrální práce a ústní rozprava.

Pravděpodobnostní míra, Bayesovské odhady, motivace pro použití MCMC,
Markovské řetězce s diskrétním stavovým prostorem (ergodický a reverzibilní řetězec)
Markovské řetězce se spojitým stavovým prostorem
Stacionární rozdělení Markovského řetězce
Metropolisův a Metropolis-Hastingsův algoritmus
Vliv návrhové hustoty, kritérium zamítnutí, autoregresní funkce, Gibbsův algoritmus
Vyhodnocení výsledků MCMC algoritmů
Hamiltonova rovnice, Hamiltonovo Monte Carlo, volba parametrů HMC, algoritmus No U-Turn
Bayesovská regrese, Bayesovské neuronové sítě
Zpracování jazyka (Latent Dirichlet allocation)
Bayesovský inverzní problém (odhady parametrů diferenciálních rovnic)
Úlohy na grafech, kombinatorické úlohy, úloha obchodního cestujícího

Charles J. Geyer, Markov Chain Monte Carlo: Lecture notes, University of Minnesota, 2005

Charles J. Geyer, Bayesian Inference via Markov Chain Monte Carlo (MCMC), University of Minnesota, 2025

Hanada, M., Matsuura, S. MCMC from Scratch: A Practical Introduction to Markov Chain Monte Carlo. Springer Nature, 2022.

Brooks, S., Gelman, A., Jones, G., and Meng, X.-L. Handbook of Markov Chain Monte Carlo. Chapman and Hall/CRC, 2011.

Gamerman, D., Lopes, H.F. Markov Chain Monte Carlo: Stochastic Simulation for Bayesian Inference, Chapman & Hall/CRC Texts in Statistical Science, CRC Press, 2006.