Британія засновує AI Safety Institute
2 листопада 2023 року, під час саміту в Блетчлі-Парку, уряд Великої Британії оприлюднив командний документ «Introducing the AI Safety Institute»: робоча група Frontier AI Taskforce того ж дня стала постійним інститутом. Він мав розробляти й проводити оцінки передових систем ШІ, вести фундаментальні дослідження безпеки й налагоджувати обмін інформацією.
Чому це важливо
Держава створила постійну установу, чия робота — самостійно перевіряти моделі приватних лабораторій, а не регулювати їх: документ прямо каже, що інститут не є регулятором. Через два з половиною роки саме він незалежно оцінює кібердієздатність Claude Mythos Preview.
Оцінки мали охоплювати здібності, найважливіші для зловживання, здібності, що можуть посилити суспільні шкоди — маніпуляцію, упередженість, вплив на демократію, — і безпеку самих систем та їхніх запобіжників. Робоча група, оголошена в квітні 2023 року, стала ядром інституту; головою лишився Ян Гогарт. Гроші: початкові 100 млн фунтів документ пов'язує з робочою групою, а інститутові обіцяє фінансування 2024/25 року як щорічну суму до кінця десятиліття за умови підтвердженої потреби; окремого бюджету інституту запис не стверджує. 10 травня 2024 року інститут відкрив для всіх свою платформу оцінювання Inspect; що це була його перша публікація, прочитані документи не кажуть. Пізніше інститут перейменовано на AI Security Institute, і атлас веде його під цією назвою; дати перейменування цей прохід не читав.