長期短期記憶（LSTM）

Long Short-Term Memory (LSTM) はリカレント ニューラル ネットワーク (RNN) の一種で、データの時間依存関係をモデル化するために使用されます。具体的には、過去の出来事や、以前に観察された時間からの依存関係を「記憶」することができます。自然言語処理、機械翻訳、画像キャプション、音声認識など、多くの分野で広く使用されています。

LSTM は、リカレント ニューラル ネットワークで通常可能であるよりも長くコンピュータが情報を記憶できるように特別に設計されたネットワークの一種です。長短期記憶モデルは、情報を長期間保存する「細胞」を使用して機能します。新しい入力が検出されると、既存のセルとリンクする新しいセルが作成されます。これに加えて、新しいセルは既存のセル内に保存されている情報の一部を「忘れる」ことができるため、ネットワークは学習した内容の一部を「忘れる」ことができます。

LSTM の主要なコンポーネントは、メモリ セル、フォーゲット ゲート、および入力ゲートです。メモリ セルは情報を長期間保存する役割を担っており、忘却ゲートと入力ゲートによってセルにどの情報を保存すべきか、または保存すべきでないかが決定されます。これらのコンポーネントにより、LSTM ネットワークは過去を「記憶」しながら、新しい入力も考慮できるようになります。

LSTM は、自然言語処理や画像認識など、さまざまなアプリケーションに不可欠なツールです。事前の知識を考慮に入れることができ、教師あり学習と教師なし学習の両方で使用できます。その用途は、株価の予測や言語翻訳から自動運転やビデオ再生まで多岐にわたります。

全体として、LSTM ネットワークは、情報を長期間保存し、従来のリカレント ニューラル ネットワークよりも効率的に新しい入力を処理できるため、さまざまなアプリケーションにとって非常に効果的なニューラル ネットワークです。