Anthropic дає METR доступ як працівникам
15 жовтня 2026 року Anthropic оголосила, що почала надавати доступ, подібний до працівницького, команді METR, некомерційної організації, яка оцінює передові моделі ШІ, і що METR публікуватиме власні оцінки ризиків, інцидентів і практик Anthropic. Шість працівників METR уже залучено; Anthropic не може заборонити публікацію, але може вимагати вилучити інформацію з наперед визначених категорій. Вона також працює із SecureBio, Accenture і Faculty.
Чому це важливо
Це крок, який обіцяло есе Даріо Амодеї від 12 вересня: зовнішні оцінювачі всередині компанії з правом публікації. Anthropic порівнює його з резидентними інспекторами в банках і описує три рівні доступу для оцінювачів, найвищий з яких має METR. Скільки METR зможе сказати, залежить від умов, які сторінка описує лише в загальних рисах і які Anthropic редагувала 15 і 16 жовтня.
Що сказано на сторінці. «Минулого місяця» Anthropic зобов'язалася посилити незалежне стороннє оцінювання своїх моделей і практик безпеки й підписала Угоду Білого дому про суперінтелект (White House Accord on Super Intelligence), у якій компанії обіцяли співпрацювати з незалежними зовнішніми аудиторами чи оцінювачами. Тепер вона почала давати «доступ, подібний до працівницького», команді METR. Шестеро працівників METR отримали обладнання компанії, офісне місце й доступ до внутрішніх інструментів і систем приблизно на рівні команд оцінювання ризиків Anthropic. Поза невеликим числом чітко визначених категорій (дані клієнтів, привілейована юридична інформація, відомості про архітектури моделей) працівникам рекомендовано ділитися інформацією з ними як із колегою. METR публікуватиме власний аналіз рівнів ризику, інцидентів чи практик; Anthropic не може накласти вето, але може вимагати вилучити інформацію, що підпадає під наперед визначені категорії (наприклад, відтворення конфіденційної інтелектуальної власності), і сама вирішує, що до них належить; METR зберігає право висловлюватися про рівень доступу й відомостей, які отримала. Співпраця обмежена малою командою за обов'язковими угодами, решта співробітників METR відокремлена від її роботи. Інші оцінювачі. SecureBio розглядає розділ про хімічну й біологічну зброю в серпневому Risk Report після пілотного огляду попереднього звіту; з Accenture і Faculty Anthropic працює над партнерством з оцінювання й червоних команд, оцінок узгодженості, перевірки запобіжників; у ранніх розмовах із кількома іншими організаціями, зокрема Hugging Face. Компанія розробляє три рівні доступу: на першому оцінювачі виконують вузькі розслідування, їхній доступ визначає Anthropic, публікація — за її схваленням; на другому можуть публікувати без схвалення, мають більше інформації, але Anthropic може вимагати вилучення окремих категорій, а оцінювачі можуть публічно висловити, чи вилучення виправдане; третій — домовленість із METR. Зміни сторінки. Примітка 2 каже: «Оновлено 16 жовтня, щоб уточнити поточні умови проєкту METR з Anthropic»; примітка 3 — «Оновлено 15 жовтня, щоб уточнити поточні умови проєкту SecureBio». Тобто текст змінили після першої публікації, і тут прочитано пізнішу версію. Чого запис не стверджує. Умови угоди з METR не читано: їх описує лише сторінка Anthropic; аналізів METR за цією угодою ще немає. Підписання Угоди Білого дому згадано зі слів сторінки, самого документа тут не читано.