Керівники superalignment залишають OpenAI
14 травня 2024 року Ілля Суцкевер оголосив, що йде з OpenAI, а 17 травня Ян Лейке написав, що попереднього дня завершив роботу керівником узгодження й керівником superalignment. Лейке пояснив, що давно розходився з керівництвом щодо пріоритетів компанії, доки не настала точка розриву, і що команді бракувало обчислень.
Чому це важливо
Обидва керівники команди, якій менше ніж рік тому пообіцяли п'яту частину обчислень, пішли протягом трьох днів, і один із них публічно сказав, що культура й процеси безпеки поступилися «блискучим продуктам».
Тред Лейке: більше уваги слід приділяти підготовці до наступних поколінь моделей — безпеці, моніторингу, підготовленості, змагальній стійкості, узгодженню, впливу на суспільство; «Sometimes we were struggling for compute»; «safety culture and processes have taken a backseat to shiny products»; OpenAI має стати компанією, для якої безпека понад усе. Суцкевер пише лише, що після майже десяти років іде, і висловлює впевненість, що OpenAI збудує безпечний і корисний AGI; про безпеку чи команду він не каже нічого. Запис не стверджує, що команду розпущено, і не називає, яку частку обчислень вона отримала: цього не каже жоден із двох прочитаних дописів, а заяви компанії про розпуск не знайдено. Відповідь Альтмана й Брокмана не читали.