Hamiltonian Monte Carlo

Hamiltonian Monte Carlo (HMC) je typ metody Markov Chain Monte Carlo (MCMC) pro efektivní vzorkování z rozdělení pravděpodobnosti. Byl vyvinut Radfordem M. Nealem v 90. letech 20. století. HMC funguje tak, že do procesu vzorkování zavádí další proměnné hybnosti, což umožňuje efektivnější vzorkování ve směrech, kde má distribuce relativně velké změny hodnoty, a také umožňuje „odskočit“ od oblastí, kde se rozložení rychle mění. Obvykle se používá v bayesovském vyvozování, ale lze jej použít i v jiných typech výukových nebo optimalizačních úloh.

HMC je zvláště užitečné v případech, kdy je rozdělení pravděpodobnosti multimodální (tj. existuje více než jedna odlišná oblast rozdělení) nebo má silné zakřivení. Může být také užitečné v případech, kdy se v některých oblastech rychle mění rozložení pravděpodobnosti. HMC je zvláště užitečné v případech, kdy je rozdělení pravděpodobnosti funkcí několika spojitých proměnných, protože to může ztížit efektivní vzorkování pomocí metod MCMC, jako je Gibbsovo vzorkování.

Obecně je HMC méně efektivní než jiné metody MCMC, pokud jde o počet vzorků, které je třeba odebrat, aby bylo možné získat přesný odhad pozdějšího rozdělení pravděpodobnosti; v praxi však může být často rychlejší, protože nevyžaduje provedení mnoha kroků k odběru vzorků z konkrétní oblasti rozdělení pravděpodobnosti.

Termín „hamiltonovský“ v hamiltonovském Monte Carlu pochází ze skutečnosti, že dynamiku Markovova řetězce lze vyjádřit jako hamiltonovský systém v potenciálně vysokorozměrném fázovém prostoru. To umožňuje efektivnější reprezentaci vzorků ve srovnání s běžnou reprezentací MCMC, protože dynamika řetězce je vyjádřena jako diferenciální rovnice.