Qualcomm Cloud AI 100 Ultra

Qualcomm Cloud AI 100 Ultra е корпоративна карта за ускоряване на изкуствен интелект, проектирана за максимална пропускателна способност на ват енергия.

Технически параметри

  • 150-ватов термичен пакет: Позволява драстично намаляване на разходите за захранване и охлаждане в центровете за данни спрямо традиционните 700W+ ускорители.
  • 128 GB памет с 548 GB/s трансфер: Достатъчен капацитет за хостване на големи езикови модели и мултимодални конвейери на един кристал.
  • Фокус върху Inference: Специализирана за изпълнение на вече обучени модели при висока плътност на заявките.

Споменавания в статии