LLaMA
Meta випустила сімейство моделей від 7 до 65 мільярдів параметрів, навчених лише на відкритих даних, і роздала ваги дослідникам.
Чому це важливо
Менша модель перевершила вдесятеро більшу — і ваги, що витекли за тиждень, породили цілу галузь відкритих моделей.
Ваги видавали за заявкою, але вже за тиждень вони з'явилися у відкритому доступі без дозволу Meta. Компанія не стала переслідувати поширення, і на LLaMA за місяці виросли Alpaca, Vicuna і сотні донавчених варіантів. Це переламало припущення, що передові моделі лишаться у кількох компаній: виявилося, що донавчити чужу основу можна за сотні доларів.