Nvidia Kubernetes Engine (NVKE)

Nvidia Kubernetes Engine (NVKE) представлява специализирана дистрибуция за автоматизирано разгръщане, мащабиране и наблюдение на AI натоварвания върху хиляди графични ускорители.

Основни възможности

  • Дълбока хардуерна интеграция: Пълна поддръжка на технологиите Multi-Instance GPU (MIG), InfiniBand мрежи и GPUDirect Storage.
  • Оркестрация на автономни агенти: Динамично заделяне на изчислителни ресурси за сложни мултиагентни конвейери.
  • Максимална утилизация: Минимизиране на празния ход на ускорителите чрез интелигентно планиране на опашките за inference и finetuning.

Споменавания в статии