Hamiltonowskie Monte Carlo

Hamiltonian Monte Carlo (HMC) to rodzaj metody MCMC (Markov Chain Monte Carlo) służącej do efektywnego próbkowania z rozkładów prawdopodobieństwa. Została ona opracowana przez Radforda M. Neala w latach 90. ubiegłego wieku. HMC działa poprzez wprowadzenie dodatkowych zmiennych pędu do procesu próbkowania, co pozwala na bardziej wydajne próbkowanie wzdłuż kierunków, w których rozkład ma stosunkowo duże zmiany wartości, a także pozwala na "odbijanie się" od regionów, w których rozkład zmienia się szybko. Metoda ta jest zwykle stosowana we wnioskowaniu bayesowskim, ale może być również wykorzystywana w innych typach zadań związanych z uczeniem się lub optymalizacją.

HMC jest szczególnie przydatna w przypadkach, gdy rozkład prawdopodobieństwa jest wielomodalny (tj. istnieje więcej niż jeden wyraźny region rozkładu) lub ma silną krzywiznę. Może być również przydatna w przypadkach, gdy rozkład prawdopodobieństwa zmienia się szybko w niektórych obszarach. HMC jest szczególnie przydatny w przypadkach, gdy rozkład prawdopodobieństwa jest funkcją kilku zmiennych ciągłych, ponieważ może to utrudniać efektywne próbkowanie przy użyciu metod MCMC, takich jak próbkowanie Gibbsa.

Ogólnie rzecz biorąc, HMC jest mniej wydajna niż inne metody MCMC pod względem liczby próbek, które należy pobrać w celu uzyskania dokładnego oszacowania rozkładu prawdopodobieństwa posterior; jednak w praktyce często może być szybsza, ponieważ nie wymaga wykonywania wielu kroków w celu pobrania próbki z określonego obszaru rozkładu prawdopodobieństwa.

Termin "Hamiltonian" w Hamiltonian Monte Carlo pochodzi z faktu, że dynamika łańcucha Markowa może być wyrażona jako układ Hamiltona w potencjalnie wysokowymiarowej przestrzeni fazowej. Pozwala to na bardziej wydajną reprezentację próbek w porównaniu do zwykłej reprezentacji MCMC, ponieważ dynamika łańcucha jest wyrażona jako równanie różniczkowe.