Google и Meta пуснаха с отворен код TorchTPU за нативна поддръжка на PyTorch върху Google TPU чипове
Източник: InfoQ / PyTorch Conference 2026
По време на годишната конференция PyTorch Conference 2026 инженерните екипи на Google и Meta обявиха съвместното пускане с отворен код на TorchTPU – дългоочакван компилаторен и софтуерен стек, осигуряващ директна, първокласна съвместимост на PyTorch с хардуерните тензорни процесори TPU на Google [1]. Проектът премахва десетилетната изолация между доминиращия софтуерен фреймуърк за изследвания и специализираните ASIC ускорители.
Исторически разгръщането на PyTorch върху TPU клъстери изискваше сложни междинни преобразуватели чрез Torch-XLA, което водеше до непредвидими спадове в производителността, затруднено профилиране на оперативната памет и чести прекъсвания при разпределено обучение (Distributed Training). TorchTPU интегрира директен хардуерен бекенд в ядрото на PyTorch 2.x, позволявайки динамично разпределяне на графи и автоматично сливане на кърнели без модификация на потребителския код.
Архитектурни подобрения и интеграция с OpenXLA
Сърцевината на TorchTPU стъпва върху обновения междинен компилаторен слой OpenXLA. За разлика от класическите статични компилации, новата библиотека поддържа пълна съвместимост с механизма torch.compile, компилирайки операции в движение директно към микрокода на TPU v5p и TPU v6e.
Основните инженерни оптимизации включват:
- Zero-Copy споделяне на тензори: Директен трансфер на тегла между HBM (High Bandwidth Memory) чиповете без ненужна сериализация в хост паметта.
- Оптимизирано разпределение на комуникационните примитиви: Нативно използване на вътрешната оптична мрежова топология (Optical Circuit Switches) на Google за паралелизъм на модела.
- Еднакъв интерфейс за разработка: Инженерите могат да прототипират код локално на NVIDIA GPU и да го стартират на TPU мегаклъстери само с промяна на целевото устройство
device = 'tpu'.
Дългосрочни индустриални и системни последици
Пускането на TorchTPU с отворен код представлява стратегически удар срещу почти пълния монопол на софтуерната екосистема CUDA на NVIDIA. Докато досега стартъпите и изследователските центрове избираха графични процесори на NVIDIA най-вече заради безпроблемната поддръжка в PyTorch, сега бариерата за преминаване към облачните TPU клъстери на Google на практика пада.
В дългосрочен план това партньорство между Google и Meta ще ускори хардуерната диверсификация в цялата индустрия за изкуствен интелект. Meta получава втори мащабен доставчик на изчислителна мощност за обучение на своите модели от семейството Llama, намалявайки капиталовата си зависимост от ценовата политика на NVIDIA. За облачния пазар това означава по-висока конкуренция, по-ниски цени на изчислителния токен и ускорено навлизане на отворени стандарти за компилация на невронни мрежи.
Четири ключови слоя на отворения компилаторен интерфейс TorchTPU