Запис атласу: https://www.aitimeline.dev/uk/events/evt-0004/
Дослідження · жовтень 1986 р.
Розміщено за датою сучасного події першоджерела. Точна дата події невідома; нижче наведено підтверджений часовий інтервал.
Метод навчання багатошарових мереж було описано в дослідженні.
Ця робота дала практичне правило навчання, яке використали пізніші нейромережі.
Стаття описує експерименти, а не усуває всі труднощі глибокого навчання.
Nature · Опубліковано жовтень 1986 р.
MIT Press (scan of the chapter hosted on gwern.net) · Опубліковано 1986
Це перше правило навчання прихованих шарів, що передувало статті 1986 року в тій самій групі.
Обидві роботи описують навчання багатошарових моделей через поширення похибки назад; ширшу увагу привернула пізніша публікація.
Обидва підходи будують багатошарові моделі; методи добору шарів і навчання різні.
Двотомник виклав повну програму коннекціонізму, статтю в Nature того ж року — лише її ядро.
Мережу навчено зворотним поширенням, описаним роком раніше.
Мережу навчено зворотним поширенням.
Показує, чому метод 1986 року не працює на глибині.
Оцінна функція є мережею, навченою зворотним поширенням.
Рекурентну архітектуру навчають градієнтним методом, популяризованим раніше.
Модель навчається зворотним поширенням.
Обидві роботи стосуються навчання глибоких мереж; ця пропонує пошарову ініціалізацію перед тонким налаштуванням.
Заміна сигмоїди прибирає згасання градієнта, властиве методу 1986 року.
Держава підтримала школу, що виросла навколо авторів зворотного поширення.
Робота того самого автора, що дала практичний спосіб навчати глибокі мережі.