Hamiltonian Monte Carlo

Hamiltonian Monte Carlo (HMC) ialah sejenis kaedah Markov Chain Monte Carlo (MCMC) untuk pensampelan yang cekap daripada taburan kebarangkalian. Ia telah dibangunkan oleh Radford M. Neal pada tahun 1990-an. HMC berfungsi dengan memperkenalkan pembolehubah momentum tambahan ke dalam proses pensampelan, yang membolehkan pensampelan yang lebih cekap di sepanjang arah di mana taburan mempunyai perubahan nilai yang agak besar, serta membenarkan 'melantun' dari kawasan di mana taburan berubah dengan cepat. Ia biasanya digunakan dalam inferens Bayesian, tetapi juga boleh digunakan dalam jenis tugasan pembelajaran atau pengoptimuman lain.

HMC berguna secara khusus dalam kes di mana taburan kebarangkalian adalah berbilang modal (iaitu, terdapat lebih daripada satu kawasan taburan yang berbeza) atau mempunyai kelengkungan yang kuat. Ia juga boleh berguna dalam kes di mana taburan kebarangkalian berubah dengan cepat di sesetengah kawasan. HMC amat berguna dalam kes di mana taburan kebarangkalian adalah fungsi beberapa pembolehubah berterusan, kerana ini boleh menyukarkan untuk mengambil sampel secara cekap menggunakan kaedah MCMC seperti persampelan Gibbs.

Secara amnya, HMC adalah kurang cekap berbanding kaedah MCMC yang lain dari segi bilangan sampel yang perlu diambil untuk mendapatkan anggaran tepat taburan kebarangkalian posterior; walau bagaimanapun, ia selalunya boleh menjadi lebih pantas dalam amalan kerana ia tidak memerlukan banyak langkah untuk mengambil sampel dari kawasan tertentu taburan kebarangkalian.

Istilah "Hamiltonian" dalam Hamiltonian Monte Carlo berasal daripada fakta bahawa dinamik Rantaian Markov boleh dinyatakan sebagai sistem Hamiltonian dalam ruang fasa dimensi yang berpotensi tinggi. Ini membolehkan perwakilan sampel yang lebih cekap berbanding dengan perwakilan SKMM biasa, kerana dinamik rantai dinyatakan sebagai persamaan pembezaan.