Hamiltoni Monte Carlo

Hamiltoni Monte Carlo (HMC) on Markovi ahela Monte Carlo (MCMC) meetodi tüüp tõenäosusjaotuste tõhusaks valimi võtmiseks. Selle töötas välja Radford M. Neal 1990. aastatel. HMC töötab, lisades diskreetimisprotsessi täiendavaid impulsimuutujaid, mis võimaldab tõhusamat diskreetimist suundades, kus jaotuse väärtuse muutused on suhteliselt suured, ning võimaldab "põrkuda" piirkondadest, kus jaotus muutub kiiresti. Seda kasutatakse tavaliselt Bayesi järeldustes, kuid seda saab kasutada ka muud tüüpi õppe- või optimeerimisülesannetes.

HMC on eriti kasulik juhtudel, kui tõenäosusjaotus on multimodaalne (st jaotusel on rohkem kui üks eristatav piirkond) või tugeva kõverusega. See võib olla kasulik ka juhtudel, kui tõenäosusjaotus muutub mõnes piirkonnas kiiresti. HMC on eriti kasulik juhtudel, kui tõenäosusjaotus on mitme pideva muutuja funktsioon, kuna see võib raskendada tõhusat proovide võtmist MCMC meetodite, näiteks Gibbsi valimi abil.

Üldiselt on HMC teistest MCMC meetoditest vähem efektiivne proovide arvu osas, mis tuleb võtta, et saada täpset hinnangut tagumise tõenäosusjaotuse kohta; kuid praktikas võib see sageli olla kiirem, kuna tõenäosusjaotuse konkreetsest piirkonnast valimi võtmiseks ei ole vaja teha palju samme.

Hamiltoni Monte Carlo termin "Hamiltoni" tuleneb asjaolust, et Markovi ahela dünaamikat saab väljendada Hamiltoni süsteemina potentsiaalselt suure mõõtmega faasiruumis. See võimaldab näidiseid tõhusamalt esitada võrreldes tavalise MCMC esitusega, kuna ahela dünaamikat väljendatakse diferentsiaalvõrrandina.