Асиломарські принципи ШІ
У січні 2017 року Future of Life Institute оприлюднив 23 Асиломарські принципи ШІ, вироблені на його конференції Beneficial AI 2017 в Асиломарі. Принципи згруповано в три розділи — дослідження, етика й цінності, довгострокові питання — і відкрито для підпису.
Чому це важливо
Дослідники ШІ спільно підписали перелік, у якому поруч стоять приватність і прозорість та уникнення гонки, узгодження цінностей, рекурсивне самовдосконалення й суперінтелект. Шість років по тому лист про паузу спирається саме на двадцятий принцип: розвинений ШІ може стати глибокою зміною в історії життя на Землі й потребує відповідного планування.
За дописом FLI, до переліку входили лише ті формулювання, з якими погодилися щонайменше 90 % учасників конференції. Серед принципів: 5 — уникати гонки, що зрізає кути в стандартах безпеки; 10 — узгодження цінностей високоавтономних систем; 16 — людський контроль над делегуванням рішень; 18 — уникати гонки летальних автономних озброєнь; 22 — суворі заходи безпеки для систем, що рекурсивно самовдосконалюються; 23 — суперінтелект лише на службі широко поділюваних етичних ідеалів. Кількість підписантів на дату запис не наводить: в архівній копії січня 2017 року лічильник і списки малюються скриптом і порожні. Дату конференції жоден прочитаний документ не назвав.