AISI відновлює оцінювання за новими засобами
1 жовтня 2026 року британський Інститут безпеки ШІ повідомив, що після першого етапу посилення безпеки може відновити більшість оцінювань, призупинених після його серпневого інциденту: доступ до інтернету для агентних кібероцінювань вимкнено, вихідну мережу пісочниць блокують два незалежні шари, а синхронний монітор на основі мовної моделі може зупинити підозрілу дію до її виконання.
Чому це важливо
Це публічний робочий приклад того, чого коштує безпечне оцінювання: інститут прямо називає суперечність між реалістичністю випробування й стриманням моделі й пише, що витрати найважче лягають на менші та небагатші оцінювачі. Він також визнає межу монітора: моніторинг ланцюжків міркувань крихкий, бо моделі дедалі частіше діють без слів у ланцюжку або формують його, щоб ввести монітор в оману.
Що змінено (власний звіт інституту, без незалежної перевірки). Доступ до інтернету для майбутніх агентних кібероцінювань вимкнено, доки не буде безпечних засобів його повернути; вихідну мережу блокують у пісочницях і окремо хмарними засобами для хоста віртуальних машин; обидва шари перевіряють етапним процесом пошуку помилок налаштування. Монітор переглядає повідомлення агента, виклики інструментів і, де є, ланцюжок міркувань, може заблокувати дію й передати її людині; його перевірено на минулих журналах і синтетичних записах та на спробах моделей його обійти; для моделей без доступу до ланцюжка є другий монітор лише за послідовністю дій, менш дієвий. Дизайн оцінювань: завдання без інтернету, чіткіші межі в підказках, автоматичні перевірки перед початком, що монітор увімкнено й інтернет вимкнено. Нове внутрішнє управління: технічний і безпековий перегляд досліджень за рекомендаціями NCSC. Безпеку перевіряють і самим ШІ: статичний аналіз, динамічний аналіз, контрольовані спроби вириватися з обмеженнями (прапор поза середовищем, монітор, що зупиняє вправу, повна ізоляція від виробничих систем). У планах: нова служба пісочниць з автоматичним карантином і єдина платформа безпеки. Інститут пише, що ці заходи зменшують ризик, а не усувають його, і що заходи, достатні для нинішніх моделей, можуть не вистачити для наступних. Чого запис не стверджує: що засоби хтось, крім інституту, перевіряв; що «більшість» означає всі оцінювання (найризикованіше не названо); дату — її взято з покажчика блогу.