GPT-2
OpenAI опублікувала опис GPT-2.
Чому це важливо
Ця робота показала, як великий Transformer може генерувати продовження за підказкою.
Публікація OpenAI також обговорює ризики випуску та поетапне поширення.
Запис атласу: https://www.aitimeline.dev/uk/events/evt-0013/
Дослідження · лютий 2019 р.
OpenAI опублікувала опис GPT-2.
Ця робота показала, як великий Transformer може генерувати продовження за підказкою.
Публікація OpenAI також обговорює ризики випуску та поетапне поширення.
OpenAI · Опубліковано лютий 2019 р.
OpenAI
Закон ухвалено за п'ять місяців до опису GPT-2 і написано про автоматизовані акаунти, а не про мовні моделі; вимога розкриття стосується й бота, що працює на такій моделі.
Прямий попередник GPT-2, що вийшов за вісім місяців.
Технічний опис GPT-2 вказує на мовне моделювання з архітектурою Transformer.
Дослідження вимірювало моделі тієї самої архітектурної родини.
Та сама архітектура, збільшена в сто разів.
Асистент спирається на лінійку мовних моделей GPT.
Перші відкриті ваги компанії від часів GPT-2 у 2019 році.