Microsoft представи Decision-1: 9B модел за ултрабърза класификация и маршрутизация с латентност 85 ms

Снимка: Microsoft / The Decoder

Корпорацията Microsoft обяви навлизането си в бързо разрастващия се сектор на специализираните модели за решения (decision models) с премиерата на Decision-1 — 9-милиарден компактен модел, оптимизиран за вземане на класификационни и контролни решения с рекордно ниска латентност от 85 милисекунди [1].

Разработката е изградена върху отворената архитектура Qwen (по-конкретно Qwen3.5-9B) и бележи стратегическо признание от страна на софтуерния гигант, че не всяка задача изисква гигантски и скъпи модели като GPT-5 или Claude Opus [1].

Специализация срещу гигантизъм: Какво прави Decision-1 уникален?

В съвременните корпоративни приложения над 70% от заявките към изкуствен интелект не се нуждаят от творческо писане на поезия или философски съждения. Те изискват чисто дискретно решение: класификация на потребителско намерение, маршрутизация на тикет за поддръжка, одобрение на трансакция или избор на инструмент в агентен конвейер [1].

Когато тези задачи се възлагат на масивни reasoning модели, те генерират десетки редове ненужен текст (chain-of-thought), забавят отговора с няколко секунди и струват скъпо.

Decision-1 е фино настроен чрез дистилация и подсилено обучение да генерира незабавни, структурирани решения без вербален баласт. При тестове върху 36 индустриални бенчмарка моделът постига впечатляваща точност от 83.5%, съперничеща на модели със стотици милиарди параметри, при латентност от едва 85 ms.

Ролята в системното маршрутизиране и инференцията

Най-голямото практическо предимство на Decision-1 е приложението му в системното маршрутизиране (system routing) и оптимизацията на инференцията (inference optimization).

Поставен на входа на корпоративна софтуерна архитектура, Decision-1 действа като интелигентен диспечер. За милисекунди той преценява трудността на входящата клиентска заявка. Ако задачата е лесна, тя се пренасочва към ултраевтин малък модел; само ако се изисква комплексно мислене, заявката се ескалира към флагмански модел.

Този двуслоен подход позволява на компаниите да намалят сметките си за облачни изчисления с между 60% и 75%, без никаква видима загуба на качество за крайния потребител.

Индустриален и пазарен анализ: Възходът на невронните „микрочипове“

Пускането на Decision-1 илюстрира зрелостта на пазара на изкуствен интелект. Първоначалната фаза на състезание за „най-големия възможен модел“ отстъпва място на прецизното инженерно профилиране.

В бъдеще AI стекът ще наподобява класическия хардуерен дизайн на компютър: вместо един гигантски централен процесор, системите ще разчитат на десетки специализирани невронни контролери.

Decision-1 заема ролята на свръхбърз контролер на шината (bus arbiter), който разпределя потоците от данни. Фактът, че Microsoft избира да базира модела си на китайската отворена архитектура Qwen, е и красноречиво признание за високото качество на отворените модели с тегло под 10 милиарда параметри, които се превръщат в де факто стандарт за локален и граничен инференс.

Инфографика: Светни.ме

Източници

[1]: Microsoft's Decision-1 model enters the fast-growing AI decision model race - The Decoder