Кінець ARPA SUR: Harpy проти цілей 1971 року
У вересні 1976 року, після показу чотирьох систем, завершилася п'ятирічна програма ARPA з розуміння мовлення. Звіт Університету Карнегі-Мелон для DARPA зіставляє Harpy із цілями листопада 1971 року — 1000 слів, менш як 10 % семантичних помилок, близько 300 MIPSS: Harpy мала 1011 слів, 5 % помилок і 28 MIPSS. Клатт з MIT називає її найкращою з чотирьох і каже, що вона виконала цілі, поставлені на початку.
Чому це важливо
Кінець цієї програми лишив документ про виконання цілей із числами, а не про скорочення: «зиму» тут не видно. Це редакційна оцінка. Що агентство вирішило далі, у прочитаних документах не сказано.
Цілі 1971 року й результат Harpy (звіт CMU, перша частина): багато співрозмовників — п'ятеро (троє чоловіків, дві жінки); словник 1000 слів — 1011; менш як 10 % семантичної похибки — 5 %; близько 300 MIPSS — 28 MIPSS (виноска: початкова специфікація казала «a few times real-time» на машині зі 100 MIPS); 256 тисяч 36-розрядних слів пам'яті; 5 доларів на оброблене речення; завдання — пошук у рефератах з ШІ. Випробування 8 вересня 1976 року: Harpy — 97 % слів, 91 % речень і 95 % за змістом на 184 тестових реченнях (1138 слів, 6,5 хвилини мовлення); 27,9 MIPSS. Hearsay-II — 86 % слів, 73 % речень, 91 % за змістом, але лише на 22 реченнях; 85,0 MIPSS. Наживо того дня Harpy розпізнала правильно чотири речення з п'яти, Hearsay-II — три. Це звіт виконавця про власні системи (правило 8). Друге джерело — резюме огляду Клатта (JASA, грудень 1977), незалежного від CMU: «Harpy satisfied a set of design goals that were specified at the beginning of the program», зокрема розуміння понад 90 % речень із 1000 слів. Статтю Клатта прочитано лише в резюме (сторінка видавця закрита перевіркою). Чого запис не стверджує: результатів решти трьох систем (їх у резюме не названо); що цілі не були пом'якшені під час виконання (звіт подає «5 %» і «28 MIPSS» проти «10 %» і «300», але виноска про специфікацію показує, що цілі 1971 року формулювали й інакше); що після вересня 1976 року DARPA скоротило чи зберегло фінансування мовлення.