22 август 2026 г.
Подобряване на скоростта и цената при Qwen3-TTS: Оптимизациите на Nari Labs

Изображение: Svetni.me / ИИ генерирано изображение
В публикация на корпоративния си блог [1], Nari Labs споделя детайли за своите инфраструктурни оптимизации при обслужването на модела Qwen3-TTS (конкретно версията 1.7B CustomVoice, базирана на Qwen3). Постигнатите резултати демонстрират 10 заявки в секунда (RPS) с 95-ти персентил (p95) време до първото звучене (TTFA) под 50 милисекунди на един единствен NVIDIA H100 SXM графичен ускорител, като същевременно се запазва непрекъснатостта на аудио потока в реално време [1].




