Hamiltonian Monte Carlo

Hamiltonian Monte Carlo (HMC) là một loại phương pháp Markov Chain Monte Carlo (MCMC) để lấy mẫu hiệu quả từ phân bố xác suất. Nó được phát triển bởi Radford M. Neal vào những năm 1990. HMC hoạt động bằng cách đưa thêm các biến động lượng vào quá trình lấy mẫu, cho phép lấy mẫu hiệu quả hơn dọc theo các hướng mà phân phối có những thay đổi tương đối lớn về giá trị, cũng như cho phép 'bật' ra khỏi các khu vực có phân phối thay đổi nhanh chóng. Nó thường được sử dụng trong suy luận Bayes, nhưng cũng có thể được sử dụng trong các loại nhiệm vụ học tập hoặc tối ưu hóa khác.

HMC đặc biệt hữu ích trong trường hợp phân bố xác suất là đa phương thức (tức là có nhiều hơn một vùng phân bố riêng biệt) hoặc có độ cong mạnh. Nó cũng có thể hữu ích trong trường hợp phân bố xác suất thay đổi nhanh chóng ở một số khu vực. HMC đặc biệt hữu ích trong trường hợp phân bố xác suất là hàm của một số biến liên tục, vì điều này có thể gây khó khăn cho việc lấy mẫu hiệu quả bằng các phương pháp MCMC như lấy mẫu Gibbs.

Nhìn chung, HMC kém hiệu quả hơn các phương pháp MCMC khác về số lượng mẫu cần lấy để có được ước tính chính xác về phân bố xác suất sau; tuy nhiên, trong thực tế, nó thường có thể nhanh hơn vì không yêu cầu thực hiện nhiều bước để lấy mẫu từ một vùng cụ thể của phân bố xác suất.

Thuật ngữ “Hamiltonian” trong Hamiltonian Monte Carlo xuất phát từ thực tế là động lực học của Chuỗi Markov có thể được biểu diễn dưới dạng hệ Hamilton trong một không gian pha có chiều cao tiềm năng. Điều này cho phép biểu diễn các mẫu hiệu quả hơn so với biểu diễn MCMC thông thường, vì động lực học của chuỗi được biểu thị dưới dạng phương trình vi phân.