汉密尔顿的蒙特卡洛

汉密尔顿蒙特卡洛（HMC）是一种马尔科夫链蒙特卡洛（MCMC）方法，用于从概率分布中有效取样。它是由Radford M. Neal在20世纪90年代开发的。HMC的工作原理是在抽样过程中引入额外的动量变量，这样可以沿着分布值变化相对较大的方向进行更有效的抽样，也可以在分布变化较快的区域进行 "反弹"。它通常用于贝叶斯推理，但也可用于其他类型的学习或优化任务。

HMC在概率分布是多模式的（即分布中有多个不同的区域）或有强曲率的情况下特别有用。在概率分布在某些区域快速变化的情况下，它也可以发挥作用。在概率分布是几个连续变量的函数的情况下，HMC特别有用，因为这可能使使用吉布斯抽样等MCMC方法进行有效抽样变得困难。

一般来说，HMC在获得后验概率分布的精确估计所需的样本数量方面不如其他MCMC方法有效；然而，在实践中，它往往可以更快，因为它不需要为了从概率分布的特定区域取样而采取许多步骤。

哈密顿蒙特卡洛中的 "哈密顿 "一词来自这样一个事实，即马尔科夫链的动力学可以被表达为潜在高维相空间中的哈密顿系统。与普通的MCMC表示法相比，这允许更有效地表示样本，因为链的动力学被表示为一个微分方程。