Vx Language: Единен системен език и компилатор за хетерогенни чипове без адаптация на кода
Снимка: Vx Foundation / Hacker News Archive
Фондацията за отворени изчислителни стандарти представи официалната първа стабилна версия на Vx Language (Vx) – революционен език за системно програмиране и мултиплатформен компилатор, проектиран да изпълнява един и същ код с максимална производителност върху всякакъв клас силиций [1].
Проектът атакува най-големия структурен проблем в съвременните хетерогенни изчисления: дълбоката фрагментация между платформите за хардуерно ускорение (като Nvidia CUDA, AMD ROCm, Apple Metal и Intel OneAPI), която принуждаваше разработчиците да пренаписват изчислителните си ядки за всяка отделна марка чипове.
Краят на монопола на платформените API-та
Досега пренасянето на високопроизводителен софтуер от Nvidia GPU към AMD или персонализирани NPU чипове изискваше месеци на сложен ръчен инженеринг. Различните асемблерни инструкции, размери на споделената памет (SRAM) и модели на паралелизъм правеха истинската преносимост невъзможна:
- Унифицирано междинно представяне (VxIR): Компилаторът трансформира математическите операции в специален граф, запазващ размерността на тензорите, и го понижава динамично до най-оптималните машинни инструкции за целевия чип (PTX за Nvidia, GCN за AMD, SPIR-V за Vulkan или Metal за Mac).
- Автоматично картографиране на паметта: Vx анализира наличностите на локална кеш памет в чипа и сам изчислява оптималните размери на блоковете (tiling) и разпределението на регистрите.
- Производителност в рамките на 2% от ръчен CUDA код: Бенчмарковете на матрично умножение и внимание показват, че генерираният код работи със скорост, съпоставима с най-добрите човешки оптимизации.
„Ние не искаме да пишем различен код за всяка нова платка, която излезе на пазара. Vx прави хардуера прозрачен: вие пишете чистата математика, а компилаторът се грижи за силиция,“ обяви водещият архитект на проекта [1].
Синтаксис и сигурност в съвременните компилатори
Езикът Vx черпи вдъхновение от най-добрите практики в съвременните компилатори:
- Безопасност на паметта без Garbage Collector: Подобно на Rust, Vx използва модел на собственост и проверки по време на компилация, гарантирайки липса на състезания за памет (data races) при паралелни нишки.
- Директен контрол на регистрите: За напреднали инженери езикът позволява вграждане на явни векторни директиви и асинхронни бариери за синхронизация.
- Нулево копиране при интеграция: Пълна съвместимост с Python и C през C-FFI интерфейс, позволяваща на библиотеки като PyTorch и JAX да извикват Vx модули без забавяне.
Дълбок системен анализ
Появата на езика Vx представлява директна заплаха за прословутия защитен ров (moat) на Nvidia. В продължение на почти две десетилетия доминацията на компанията се дължеше не само на превъзходния хардуер, но най-вече на дълбоката зависимост на софтуерните инженери от CUDA екосистемата.
Ако общността възприеме унифицирания компилатор Vx, компаниите ще могат да сменят доставчиците на графични ускорители за броени минути в зависимост от цената и наличността. Това ще отвори пазара за масово навлизане на европейски и азиатски алтернативни чипове, ускорявайки иновациите и сваляйки цената на изкуствения интелект в глобален мащаб.
Инфографика: Механизъм на междинното представяне VxIR, съвместимост с чипове и сравнителни тестове на производителността