Амодей закликає сповільнити передовий ШІ
12 вересня 2026 року генеральний директор Anthropic Даріо Амодей опублікував есей «We Must Pace the Frontier»: темп, з яким зростають спроможності моделей, треба сповільнити, щоб запобігання ризикам встигало за ним. Приводами він назвав рекурсивне самовдосконалення, яке з літа почалося в галузі, зокрема в Anthropic, та інцидент OpenAI — Hugging Face. Перший крок свого плану — сторонні оцінювачі з доступом, як у працівника, — Anthropic узяла на себе однобічно.
Чому це важливо
Керівник однієї з провідних лабораторій закликав сповільнити саму розробку передових моделей, а не лише їх розгортання, і пов'язав це з тим, що ШІ вже прискорює створення наступного ШІ. Однобічне зобов'язання дістало перевірюваний наслідок: 18 вересня Anthropic оголосила партнерство з Accenture як крок до вбудованих оцінювачів.
План має три кроки. Перший — вбудовані сторонні оцінювачі (есей називає як приклад METR) з робочими місцями, пропусками й доступом, близьким до внутрішніх команд оцінки ризиків, і з правом публікувати висновки без редакторського контролю Anthropic. Другий — координація компаній у демократичних країнах щодо спільних стандартів і меж темпу, для якої потрібне посередництво уряду або звільнення від антимонопольних обмежень. Третій — глобальна координація з чотирма рівнями угод: заборона вузьких небезпечних застосувань, тестування моделей перед випуском, «обмеження швидкості» рекурсивного самовдосконалення і повна пауза, яку автор вважає малоймовірною. Партнерство з Accenture веде її підрозділ Faculty; обидві компанії очікують вкласти в цю роботу щонайменше по мільярду доларів за п'ять років. Чого запис не стверджує: що інші лабораторії пристали до плану — про такі відповіді сесія читала лише в переказах — або що темп розробки після есею справді сповільнився.