Дослідження · листопад 1997 р.

Розміщено за датою сучасного події першоджерела. Точна дата події невідома; нижче наведено підтверджений часовий інтервал.

LSTM

LSTM запропоновано для залежностей у послідовностях.

Чому це важливо

LSTM розв’язувала проблему збереження інформації в довгих послідовностях.

Її результат стосується рекурентної архітектури, а не кожної пізнішої мовної моделі.

Дата події

1997

Дата на часовій осі

Дата первинної публікації

Перевірка

Джерела зібрано автоматично · 11 вересня 2026 р.

Лінії

ID

evt-0005

першоджерело Long Short-Term Memory
Neural Computation · Опубліковано листопад 1997 р.
першоджерело Long Short-Term Memory, Technical Report FKI-207-95, revised December 1996 (Hochreiter, Schmidhuber)
Institute for Machine Learning, Johannes Kepler University Linz (author archive) · Опубліковано грудень 1996 р.

Пов’язано Чому далекі залежності не вивчаються 1994посилається на цей запис
Разом із роботою Хохрайтера обґрунтовує потребу в новій рекурентній схемі.
Пов’язано Проблема зникомого градієнта 1991посилається на цей запис
LSTM 1997 року — пряма відповідь саме на цю діагностику.
Пов’язано Пошук структури в часі 1990посилається на цей запис
Рекурентна схема, обмеження якої LSTM потім і розв'язує.
Пов’язано Зворотне поширення 1986
Рекурентну архітектуру навчають градієнтним методом, популяризованим раніше.

Спирається на Керований рекурентний блок (GRU) 2014посилається на цей запис
Препринт каже, що новий прихований блок натхненний LSTM, але значно простіший.
- Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation · arXiv
Спирається на Sequence-to-sequence 2014посилається на цей запис
Автори прямо використовують багатошарові LSTM-мережі для кодування вхідної послідовності й формування перекладу.
- Sequence to Sequence Learning · arXiv
Пов’язано Mamba 2023посилається на цей запис
Модель належить до лінії рекурентних схем із керованим станом.