Повернутися до часової лінії

Дослідження · травень 1988 р.

Читання з губ зменшує помилки розпізнавача

У травні 1988 року Ерік Петаджан і колеги з AT&T Bell Laboratories разом із Майклом Бруком з Університету Бата показали на CHI '88 систему, що читає з губ за відео рота й поєднує результат зі звуковим розпізнавачем AT&T ASR1000. На англійській абетці поєднання зменшило його помилки від чверті до двох третин.

Чому це важливо

Думка, що побачене допомагає почутому, стала виміряним результатом машини: зорова частина виправляла саме ті літери, які звуковий розпізнавач плутав. Стаття продовжує систему з дисертації Петаджана 1984 року в Іллінойському університеті, яку він сам в огляді 1996 року називає першою системою читання з губ.

Камера передавала обличчя; спеціальне обладнання з частотою 60 кадрів за секунду робило бінарне зображення, а рот знаходили, стежачи за ніздрями. Шаблони слів векторно квантували кодовою книгою з трохи менш ніж 256 зображень рота — 60 байтів зорових даних за секунду — і порівнювали динамічним викривленням часу. Чотири диктори, окремі слова, система налаштовувалася на кожного; словники — абетка й цифри від нуля до дев'яти. Поєднання робили 29 евристичних правил: для одного диктора помилки ASR1000 на літерах зменшилися майже вдвічі з квантуванням і майже на дві третини без нього, для іншого — приблизно на чверть і на третину. Дисертацію 1984 року описує її реферат у репозиторії Іллінойського університету: окремі слова, один диктор, камера й мінікомп'ютер зі спеціальним обладнанням для відео; звук розпізнає окремий комерційний пристрій, а поєднання зорових і звукових кандидатів дає точність, що «greatly exceeds» звукову. Чисел реферат не називає, а повний текст відкритий лише для університету. В огляді 1996 року Петаджан і Граф пишуть, що першу систему читання з губ Петаджан завершив 1984 року: чотири параметри бінарного зображення рота, знайденого за ніздрями, словник із цифр, літер і кількох слів. Першість — твердження самого автора, другого джерела про неї запис не має; доповіді Globecom 1984 і CVPR '85 не прочитано. Відсотків із таблиць статті 1988 року не наведено: у доступній копії вони не читаються надійно.

Відомості про подію

Дата події
травень 1988 р.
Дата на часовій лінії
Дата події
Перевірка
Джерела зібрано автоматично · 25 вересня 2026 р.
Лінії
ID
evt-0796

Місяць за ACM: матеріали CHI '88; Crossref дає лише рік. Дисертацію Петаджана 1984 року запис описує за її рефератом, але датується статтею 1988-го: вимір є лише в ній.

Джерела

Пов’язані події