Pikaajaline lühiajaline mälu (LSTM)

Long Short-Term Memory (LSTM) on korduva närvivõrgu (RNN) tüüp, mida kasutatakse andmete ajalise sõltuvuse modelleerimiseks. Täpsemalt võib see "mäletada" minevikusündmusi või sõltuvusi varem vaadeldud aegadest. Seda kasutatakse laialdaselt paljudes valdkondades, nagu loomuliku keele töötlus, masintõlge, piltide pealdised ja kõnetuvastus.

LSTM on võrgutüüp, mis on spetsiaalselt loodud selleks, et aidata arvutil teavet kauem meeles pidada, kui see on korduva närvivõrguga tavaliselt võimalik. Pikaajalise lühiajalise mälu mudel töötab "rakkude" abil, mis salvestavad teavet pikka aega; kui tuvastatakse uus sisend, luuakse uued lahtrid, mis ühenduvad olemasolevate lahtritega. Koos sellega suudavad uued rakud "unustada" osa olemasolevatesse rakkudesse salvestatud teabest, võimaldades võrgul "unustada" osa õpitust.

LSTM-i põhikomponendid on mälurakud, unustamisväravad ja sisendväravad. Mälurakud vastutavad teabe pika aja jooksul salvestamise eest ning unustamis- ja sisendväravad otsustavad, millist teavet lahtritesse salvestada või mitte. Need komponendid võimaldavad LSTM-i võrkudel minevikku "mäletada", võttes samal ajal arvesse ka uut sisendit.

LSTM-id on oluline tööriist mitmesugustes rakendustes, sealhulgas loomuliku keele töötlemisel ja pildituvastuses. Nad oskavad arvestada eelteadmisi ja neid saab kasutada nii juhendatud kui ka juhendamata õppes. Nende kasutusalad ulatuvad aktsiahindade ennustamisest ja keele tõlkimisest autonoomse sõidu ja video taasesitamiseni.

Üldiselt on LSTM-võrgud väga tõhusad närvivõrgud mitmesuguste rakenduste jaoks, kuna nad suudavad salvestada teavet pikka aega ja töödelda uut sisendit tõhusamalt kui traditsioonilised korduvad närvivõrgud.