GPT-2
OpenAI опублікувала опис GPT-2.
Чому це важливо
Ця робота показала, як великий Transformer може генерувати продовження за підказкою.
Публікація OpenAI також обговорює ризики випуску та поетапне поширення.
Дослідження · лютий 2019 р.
Відомості про подію
- Дата події
- лютий 2019 р.
- Дата на часовій лінії
- Дата події
- Перевірка
- Джерела зібрано автоматично · 11 вересня 2026 р.
- Лінії
- ID
- evt-0013
Джерела
- першоджерело GPT-2
OpenAI · Опубліковано лютий 2019 р.
Пов’язані події
- Спирається на Transformer
Технічний опис GPT-2 вказує на мовне моделювання з архітектурою Transformer.
GPT-2
Записи, що посилаються на цей
- Пов’язано Закони масштабування
Дослідження вимірювало моделі тієї самої архітектурної родини.
- Пов’язано ChatGPT
Асистент спирається на лінійку мовних моделей GPT.
- Уможливлює GPT-1
Прямий попередник GPT-2, що вийшов за вісім місяців.
Improving Language Understanding by Generative Pre-Training - Розвиває GPT-3
Та сама архітектура, збільшена в сто разів.
Language Models are Few-Shot Learners - Пов’язано gpt-oss
Перші відкриті ваги компанії від часів GPT-2 у 2019 році.
- Пов’язано Каліфорнія: бот мусить назватися ботом
Закон ухвалено за п'ять місяців до опису GPT-2 і написано про автоматизовані акаунти, а не про мовні моделі; вимога розкриття стосується й бота, що працює на такій моделі.