Monte Carlo hamiltonien

La méthode Hamiltonian Monte Carlo (HMC) est un type de méthode Markov Chain Monte Carlo (MCMC) permettant d'échantillonner efficacement des distributions de probabilité. Elle a été développée par Radford M. Neal dans les années 1990. La méthode HMC fonctionne en introduisant des variables d'élan supplémentaires dans le processus d'échantillonnage, ce qui permet un échantillonnage plus efficace dans les directions où la distribution connaît des changements de valeur relativement importants, ainsi qu'un "rebond" sur les régions où la distribution change rapidement. Elle est généralement utilisée dans l'inférence bayésienne, mais peut également être utilisée dans d'autres types de tâches d'apprentissage ou d'optimisation.

La CMH est particulièrement utile dans les cas où la distribution de probabilité est multimodale (c'est-à-dire qu'il existe plus d'une région distincte de la distribution) ou présente une forte courbure. Elle peut également s'avérer utile lorsque la distribution de probabilité change rapidement dans certaines zones. La méthode HMC est particulièrement utile lorsque la distribution de probabilité est une fonction de plusieurs variables continues, car il peut être difficile d'échantillonner efficacement à l'aide de méthodes MCMC telles que l'échantillonnage de Gibbs.

En général, la méthode HMC est moins efficace que les autres méthodes MCMC en termes de nombre d'échantillons à prélever pour obtenir une estimation précise de la distribution de probabilité postérieure ; cependant, elle peut souvent être plus rapide dans la pratique, car elle ne nécessite pas de nombreuses étapes pour échantillonner une région particulière de la distribution de probabilité.

Le terme "hamiltonien" dans Hamiltonian Monte Carlo vient du fait que la dynamique d'une chaîne de Markov peut être exprimée comme un système hamiltonien dans un espace de phase potentiellement de haute dimension. Cela permet une représentation plus efficace des échantillons par rapport à une représentation MCMC classique, puisque la dynamique de la chaîne est exprimée sous la forme d'une équation différentielle.