Google відкриває TorchTPU
20 жовтня 2026 року на PyTorch Conference 2026 Google оголосила, що TorchTPU, її рідний стек PyTorch для тензорних процесорів TPU, відкрито на GitHub. Він дає змогу запускати наявний код PyTorch на TPU з мінімальними змінами; разом із ним Google додала підтримку TPU в vLLM, SGLang, llm-d 1.0, TorchTitan, VeRL, Ray і Hugging Face. На навчанні Qwen 3 8B вона вказує до 52% використання обчислювальних можливостей (MFU) на до 8 192 чипах Ironwood.
Чому це важливо
Одна з перешкод для переходу з графічних процесорів на TPU — потреба підлаштовувати код під інший програмний стек; Google частково прибирає її, роблячи TPU «рідним» варіантом PyTorch поруч із GPU і CPU. Чи скористаються цим розробники, залежить і від цін та наявності чипів, а цифра ефективності — власний вимір Google.
Що сказано в дописі. Автори — Mark Lohmeyer і Bill Jia; допис оголошує TorchTPU як «рідний стек PyTorch для Google TPU», доступний як відкритий код на GitHub, розроблений разом із командою PyTorch у Meta. Розробник може налагоджувати модель у режимі негайного виконання (eager), а потім переходити до промислової продуктивності через torch.compile. З Hugging Face домовлено, що популярні моделі з Hub працюють на TorchTPU: у Transformers v5 розгортання на TPU зводиться до device_map="tpu", а бібліотека Diffusers працює на TPU нативно. Для виведення: бекенди vLLM (з Inferact) і SGLang (з RadixArk) і llm-d 1.0 (з Red Hat та IBM, понад 500 учасників і 25 організацій, проєкт пісочниці CNCF). Для навчання: TorchTitan, перевірений на до 8 000 чипів Ironwood (TPU v7x), де TorchTPU показав «до 52% використання обчислювальних можливостей (MFU) на Qwen 3 8B» з майже лінійним масштабуванням на до 8 192 Ironwood; бекенд TPU для VeRL (перегляд), підтримка Ray. LiteRT (раніше TensorFlow Lite) приєднується до екосистеми PyTorch; «набір агентів для TPU» — у ранньому попередньому перегляді на GitHub. Meta у цитаті називає TorchTPU великим кроком, бо не хоче залежати від однієї апаратної архітектури. Чого запис не стверджує. Сам репозиторій TorchTPU не відкривано; цифра 52% — вимір Google на одній моделі й одному навантаженні, її не порівнюють у тексті з графічними процесорами. Допис не говорить ні про ціни, ні про наявність TPU.