Monte Carlo Hamiltoniano

O Hamiltonian Monte Carlo (HMC) é um tipo de método Markov Chain Monte Carlo (MCMC) para amostragem eficiente de distribuições de probabilidade. Ele foi desenvolvido por Radford M. Neal na década de 1990. O HMC funciona com a introdução de variáveis de momentum adicionais no processo de amostragem, o que permite uma amostragem mais eficiente ao longo das direções em que a distribuição tem mudanças relativamente grandes no valor, além de permitir o "salto" das regiões em que a distribuição muda rapidamente. Geralmente é usado na inferência bayesiana, mas também pode ser usado em outros tipos de tarefas de aprendizado ou otimização.

O HMC é especificamente útil nos casos em que a distribuição de probabilidade é multimodal (ou seja, há mais de uma região distinta da distribuição) ou tem forte curvatura. Ele também pode ser útil nos casos em que a distribuição de probabilidade muda rapidamente em algumas áreas. O HMC é particularmente útil nos casos em que a distribuição de probabilidade é uma função de diversas variáveis contínuas, pois isso pode dificultar a amostragem eficiente usando métodos MCMC, como a amostragem de Gibbs.

Em geral, o HMC é menos eficiente do que outros métodos MCMC em termos do número de amostras que precisam ser coletadas para obter uma estimativa precisa da distribuição de probabilidade posterior; no entanto, ele pode ser mais rápido na prática, pois não exige muitas etapas para coletar amostras de uma determinada região da distribuição de probabilidade.

O termo "Hamiltoniano" em Hamiltonian Monte Carlo vem do fato de que a dinâmica de uma cadeia de Markov pode ser expressa como um sistema Hamiltoniano em um espaço de fase potencialmente de alta dimensão. Isso permite uma representação mais eficiente das amostras em comparação com uma representação MCMC regular, já que a dinâmica da cadeia é expressa como uma equação diferencial.