Markov Chain Monte Carlo (MCMC)

Markov Chain Monte Carlo (MCMC) is een methode voor het nemen van steekproeven uit een kansverdeling om diezelfde verdelingen te benaderen. Het maakt gebruik van een Monte Carlo-simulatie, een techniek voor het numeriek modelleren van systemen. Het wordt gebruikt in Bayesiaanse statistische analyses om steekproeven te trekken uit een probabilistische verdeling om de eigenschappen van die verdeling te onderzoeken. Het kan worden gebruikt in een reeks statistische schattingen, zoals posterieure verdelingen, Bayesiaanse gevolgtrekkingen en zelfs schattingen van de maximale waarschijnlijkheid.

Het Markov-ketenalgoritme werkt als volgt: het algoritme begint met een willekeurige toestand van het systeem, waarna een transitie wordt bepaald door de transitiewaarschijnlijkheid. Op deze manier wordt het systeem naar een andere staat verplaatst en vervolgens wordt het proces herhaald totdat het gewenste aantal monsters is verkregen. Met dit proces kunnen schattingen worden gemaakt op basis van steekproeven van de oorspronkelijke distributie, in plaats van op basis van de gehele distributie.

Het nut van MCMC is dat het de verdelingen van verschillende parameters kan benaderen met veel minder steekproeven dan die van een naïeve Monte Carlo-simulatie. Hierdoor kunnen rekenintensieve taken sneller en efficiënter worden uitgevoerd. MCMC is met name op grote schaal gebruikt in Bayesiaanse netwerken, omdat het probabilistische gevolgtrekkingen van onbekende variabelen mogelijk maakt door de berekening van posterieure verdelingen.

MCMC is een populaire en goed bestudeerde probabilistische techniek, die enorme implicaties heeft gehad op het gebied van wetenschap en techniek. Het wordt niet alleen gebruikt in Bayesiaanse netwerken en schattingen van algoritmen, maar is ook toegepast op een reeks andere wetenschappelijke en technische problemen, zoals lineaire en niet-lineaire regressie, beeldherkenning, optimalisatie en systeemcontrole.

Over het geheel genomen is Markov Chain Monte Carlo een krachtige probabilistische techniek die op veel gebieden van de informatica en techniek wordt gebruikt. Het kan worden gebruikt om waarschijnlijkheidsverdelingen te benaderen, onbekende variabelen af te leiden en nog veel meer.