Hamiltoniaanse Monte Carlo

Hamiltonian Monte Carlo (HMC) is een soort Markov Chain Monte Carlo (MCMC) methode om efficiënt monsters te nemen uit kansverdelingen. Het werd ontwikkeld door Radford M. Neal in de jaren 1990. HMC werkt door extra momentumvariabelen in het bemonsteringsproces te introduceren, waardoor er efficiënter bemonsterd kan worden in richtingen waar de verdeling relatief grote veranderingen in waarde heeft, en waardoor er 'gestuiterd' kan worden in gebieden waar de verdeling snel verandert. Het wordt meestal gebruikt in Bayesiaanse inferentie, maar kan ook worden gebruikt in andere soorten leer- of optimalisatietaken.

HMC is vooral nuttig in gevallen waarin de kansverdeling multimodaal is (d.w.z. er is meer dan één duidelijk gebied van de verdeling) of een sterke kromming heeft. Het kan ook nuttig zijn als de kansverdeling in sommige gebieden snel verandert. HMC is vooral nuttig in gevallen waar de kansverdeling een functie is van meerdere continue variabelen, omdat dit het moeilijk kan maken om efficiënt te bemonsteren met MCMC-methoden zoals Gibbs sampling.

Over het algemeen is HMC minder efficiënt dan andere MCMC-methoden wat betreft het aantal monsters dat genomen moet worden om een nauwkeurige schatting van de posterior kansverdeling te krijgen; in de praktijk kan het echter vaak sneller zijn omdat er niet veel stappen genomen hoeven te worden om een monster te nemen uit een bepaald gebied van de kansverdeling.

De term "Hamiltoniaans" in Hamiltonian Monte Carlo komt van het feit dat de dynamica van een Markov-keten kan worden uitgedrukt als een Hamiltoniaans systeem in een potentieel hoogdimensionale faseruimte. Dit zorgt voor een efficiëntere representatie van de monsters in vergelijking met een gewone MCMC representatie, omdat de dynamica van de keten wordt uitgedrukt als een differentiaalvergelijking.