Теорія адаптивних класифікаторів
Амарі описав навчання класифікатора стохастичним градієнтним спуском і довів збіжність навіть для нероздільних розподілів, якщо середній ризик має єдиний мінімум.
Чому це важливо
Градієнтний спуск на зашумлених оцінках отримав теорію тоді, коли поле вже відверталося від нейронних мереж.
Стаття узагальнює правило на багатокатегорійні класифікатори, на кусково-лінійні дискримінантні функції (максимум кількох лінійних) і на машини з фіксованими нелінійними ознаками; прихованих шарів, навчених градієнтом, у ній немає. Без умови єдиного мінімуму ваги збігаються лише до одного з локальних мінімумів. Робота вийшла за два роки до «Perceptrons» і майже не вплинула на англомовну дискусію того часу. Амарі згодом розвинув інформаційну геометрію і природний градієнт.