Carbon-X: відкрита мовна модель ДНК
22 жовтня 2026 року Hugging Face, Zhongguancun Academy та Telethon Institute of Genetics and Medicine разом з Неаполітанським університетом імені Федеріко II опублікували ваги Carbon-X, мовної моделі на 14,8 мільярда параметрів, навченої разом на послідовностях ДНК і англійському тексті, під Apache 2.0, а також квантовану версію GGUF. Користувач вставляє сиру ДНК у звичайну розмову, і модель відповідає англійською, наприклад чи варіант імовірно доброякісний або патогенний.
Чому це важливо
Модель, що читає ДНК і текст в одному потоці токенів і така мала, що вміщається на одну відеокарту на 80 ГБ, доступна з відкритими вагами, тож лабораторія може тримати чутливі чи неопубліковані послідовності на власних машинах, а не надсилати їх в API передової моделі. Картка каже, що модель не пройшла клінічної перевірки й читає наявні послідовності, а не проєктує нові.
Що каже картка. Carbon-X починається з Qwen3-14B і навчена на 302 мільярдах токенів проміжного навчання на ДНК, біологічних текстах, англійській і даних з інструкціями, потім контрольованим донавчанням і навчанням із підкріпленням із перевірюваними винагородами на завданнях із ДНК. Гібридний токенізатор зберігає словник тексту й кодує ДНК неперекривними 6-мерами, тож один токен ДНК охоплює шість основ; окремого кодувальника ДНК немає. Контекст — 40 960 токенів; модель донавчали й оцінювали з вимкненим режимом міркування. Її пропонують для передбачення, чи мутації доброякісні або патогенні, для пошуку ділянок, що керують активністю генів, для класифікації послідовностей за групою організмів і для передбачення наступних основ. Для репозиторію GGUF потрібна збірка llama.cpp b11742 або новіша. Дати. Перший коміт нинішньої історії репозиторію — 22 жовтня 2026 року о 09:55 UTC (сторінка, показана глядачеві в тихоокеанському поясі США, подає його як 22 жовтня 02:55); сам репозиторій створено 21 жовтня. На картці власної дати немає, а блог, на який вона посилається, — це Space на Hugging Face, і його не читано. Чого запис не стверджує. Картка порівнює Carbon-X із передовими моделями на п'яти тестах із ДНК і наводить вартість на задачу; це власні оцінки авторів, і жодне їхнє число тут не повторено як висновок. Картка сама перелічує межі: питання про сайти сплайсингу й гістонові мітки лишаються слабкими, модель може помилятися в підрахунку основ і плутати координати, вигадувати, що це за послідовність, коли в запиті бракує контексту, а довгі послідовності генерує гірше. Вона також застерігає, що генетичні дані дуже чутливі.