Langetermijngeheugen (LSTM)

Long Short-Term Memory (LSTM) is een type Recurrent Neural Network (RNN) dat wordt gebruikt om temporele afhankelijkheden in gegevens te modelleren. Concreet kan het zich gebeurtenissen uit het verleden of afhankelijkheden uit eerder waargenomen tijden ‘herinneren’. Het wordt veel gebruikt in een aantal domeinen, zoals natuurlijke taalverwerking, automatische vertaling, ondertiteling van afbeeldingen en spraakherkenning.

Een LSTM is een type netwerk dat speciaal is ontworpen om een computer te helpen informatie langer te onthouden dan gewoonlijk mogelijk is met een terugkerend neuraal netwerk. Het lange-kortetermijngeheugenmodel werkt met behulp van ‘cellen’ die informatie gedurende langere tijd opslaan; wanneer een nieuwe invoer wordt gedetecteerd, worden er nieuwe cellen gemaakt die aan de bestaande cellen worden gekoppeld. Daarnaast kunnen de nieuwe cellen een deel van de informatie die in de bestaande cellen is opgeslagen ‘vergeten’, waardoor het netwerk een deel van wat het heeft geleerd kan ‘vergeten’.

De belangrijkste componenten van de LSTM zijn de geheugencellen, vergeetpoorten en invoerpoorten. Geheugencellen zijn verantwoordelijk voor het langdurig opslaan van informatie, en de vergeet- en invoerpoorten beslissen welke informatie wel of niet in de cellen moet worden opgeslagen. Deze componenten zorgen ervoor dat LSTM-netwerken het verleden kunnen ‘herinneren’ en tegelijkertijd rekening kunnen houden met nieuwe input.

LSTM's zijn een essentieel hulpmiddel in een verscheidenheid aan toepassingen, waaronder natuurlijke taalverwerking en beeldherkenning. Ze kunnen rekening houden met voorkennis en kunnen zowel bij begeleid als onbegeleid leren worden ingezet. Hun toepassingen variëren van het voorspellen van aandelenkoersen en taalvertaling tot autonoom rijden en het afspelen van video's.

Over het geheel genomen zijn LSTM-netwerken zeer effectieve neurale netwerken voor een verscheidenheid aan toepassingen vanwege hun vermogen om informatie gedurende langere tijd op te slaan en nieuwe input efficiënter te verwerken dan traditionele terugkerende neurale netwerken.