Nvidia анонсира процесора Vera и оркестратора NVKE за високопроизводителни клъстери от автономни агенти
Източник: Nvidia Official Blog
В рамките на техническа лекция за системна архитектура Nvidia разкри подробности за новия си сървърен централен процесор Vera CPU и съпътстващата софтуерна платформа NVKE (Nvidia Kubernetes Engine) [1]. Комбинацията е специално проектирана да разреши критичния проблем с недостига на пропускателна способност към паметта и мрежовото закъснение, възникващи при паралелното изпълнение на хиляди автономни AI агенти в клъстери Kubernetes.
Кохерентен NVLink трансфер и памет LPDDR5X
Процесорът Vera разполага със 144 персонализирани ARM ядра Neoverse и директна двупосочна шина NVLink 5 със скорост 1.8 TB/s към ускорителите Blackwell. Това позволява на системните планировчици да прехвърлят състояния на агенти, вектори на вниманието и кеширани ключове (KV cache) директно между оперативната памет на CPU и HBM3e паметта на графичните чипове без намеса на бавната шина PCIe.
NVKE: Интелигентен планировчик за динамични агентни топологии
Платформата NVKE представлява дистрибуция на Kubernetes, дълбоко интегрирана с хардуерната телеметрия на Nvidia. Тя може динамично да пренасочва натоварвания в рамките на микросекунди, гарантирайки, че интерактивните заявки на агенти получават гарантиран квант изчислително време и мрежови приоритет при пренаселени сървърни шкафове.
Преходът към фабрично ко-проектиране на хардуер и софтуер
Архитектурата на Vera и NVKE илюстрира края на ерата на универсалните изчислителни среди. Досега центровете за данни се изграждаха чрез съчетаване на стандартни x86 процесори с външни ускорителни карти. Мащабът на мултиагентните конвейери обаче изисква пълен ко-дизайн на всеки компонент — от кремъка на чипа през мрежовия оптичен комутатор до софтуерния оркестратор. Компаниите, които овладеят цялостния вертикален стек, ще предложат предимство в ефективността, което традиционните хардуерни производители трудно ще могат да компенсират.
Преглед на шината NVLink 5, ядрата Neoverse и интелигентния Kubernetes оркестратор.