Monte Carlo hamiltoniano

Hamiltonian Monte Carlo (HMC) es un tipo de método Markov Chain Monte Carlo (MCMC) para muestrear eficientemente distribuciones de probabilidad. Fue desarrollado por Radford M. Neal en la década de 1990. HMC funciona mediante la introducción de variables de impulso adicionales en el proceso de muestreo, lo que permite un muestreo más eficiente a lo largo de las direcciones en las que la distribución tiene cambios relativamente grandes en el valor, así como permitir el "rebote" de las regiones en las que la distribución cambia rápidamente. Suele utilizarse en la inferencia bayesiana, pero también puede emplearse en otros tipos de tareas de aprendizaje u optimización.

El HMC es especialmente útil en los casos en que la distribución de probabilidad es multimodal (es decir, hay más de una región distinta de la distribución) o tiene una fuerte curvatura. También puede ser útil en casos en los que la distribución de probabilidad cambia rápidamente en algunas zonas. El HMC es especialmente útil en los casos en los que la distribución de probabilidad es una función de varias variables continuas, ya que esto puede dificultar un muestreo eficaz con métodos MCMC como el muestreo de Gibbs.

En general, HMC es menos eficiente que otros métodos MCMC en cuanto al número de muestras que deben tomarse para obtener una estimación precisa de la distribución de probabilidad posterior; sin embargo, a menudo puede ser más rápido en la práctica, ya que no requiere dar muchos pasos para tomar muestras de una región concreta de la distribución de probabilidad.

El término "hamiltoniano" en Hamiltonian Monte Carlo procede del hecho de que la dinámica de una cadena de Markov puede expresarse como un sistema hamiltoniano en un espacio de fases potencialmente de alta dimensión. Esto permite una representación más eficiente de las muestras en comparación con una representación MCMC regular, ya que la dinámica de la cadena se expresa como una ecuación diferencial.