Markov Chain Monte Carlo (MCMC) je metoda vzorkování z rozdělení pravděpodobnosti za účelem aproximace stejných rozdělení. Využívá simulaci Monte Carlo, což je technika pro numerické modelování systémů. Používá se v bayesovských statistických analýzách k čerpání vzorků z pravděpodobnostního rozdělení za účelem prozkoumání vlastností tohoto rozdělení. Může být použit v řadě statistických odhadů, jako jsou zadní distribuce, Bayesovská inference a dokonce i odhad maximální pravděpodobnosti.
Algoritmus Markovova řetězce funguje následujícím způsobem: algoritmus začíná náhodným stavem systému, poté je přechod řízen pravděpodobností přechodu. Tímto způsobem se systém přesune do jiného stavu a poté se proces opakuje, dokud není získán požadovaný počet vzorků. Tento proces umožňuje provádět odhady ze vzorků původní distribuce, nikoli z celé distribuce.
Užitečnost MCMC spočívá v tom, že dokáže aproximovat distribuce různých parametrů s mnohem menším počtem vzorků než u naivní simulace Monte Carlo. To umožňuje provádět výpočetně náročné úlohy rychleji a efektivněji. Zejména MCMC byl široce používán v Bayesovských sítích, protože umožňuje pravděpodobnostní odvození neznámých proměnných pomocí výpočtu zadních distribucí.
MCMC je populární a dobře prostudovaná pravděpodobnostní technika, která má obrovské důsledky v oblasti vědy a techniky. Nejen, že se používá v bayesovských sítích a odhadech algoritmů, ale byl také aplikován na řadu dalších vědeckých a technických problémů, jako je lineární a nelineární regrese, rozpoznávání obrazu, optimalizace a řízení systému.
Celkově je Markov Chain Monte Carlo výkonná pravděpodobnostní technika, která se používá v mnoha oblastech informatiky a inženýrství. Lze jej použít k aproximaci rozdělení pravděpodobnosti, odvození neznámých proměnných a mnoho dalšího.