Модели за решения (Decision Models)
Моделите за решения (известни още като „System One модели“) са нов клас архитектури за изкуствен интелект, проектирани за директно вграждане в програмен код като вероятностни условни конструкции („умни if-оператори“). Терминът придоби популярност благодарение на изследователи като Маги Апълтън и Саймън Уилисън след представянето на модела Jev от TypeSafe AI.
Концептуална рамка
Докато традиционните големи езикови модели (LLM) разчитат на авторегресивно генериране на последователност от токени (System 2 или съзнателно вербализиране), моделите за решения подражават на „Система 1“ от когнитивната психология на Даниел Канеман – бърза, интуитивна и автоматична преценка.
Основни характеристики
- Машинно-ориентиран изход: Вместо произволен текст, моделът връща числа с плаваща запетая, категории и вероятностни разпределения.
- Паралелно семплиране: Всички въпроси върху подаденото състояние се оценяват едновременно в рамките на един проход през мрежата.
- Типова безопасност: Изходната схема е гарантирана математически, премахвайки риска от синтактични грешки при парсване на JSON или грешни типове данни.
- Черна кутия без обяснения: За разлика от моделите с верига от разсъждения (Chain of Thought), моделите за решения дават само крайното число или вероятност, което поставя нови предизвикателства пред одита на пристрастия и грешки.
Споменавания в статии
- Проектиране на специализирани модели за решения: Маршрутизация на заявки и дистилация с ниска латентност
- Microsoft представи Decision-1: 9B модел за ултрабърза класификация и маршрутизация с латентност 85 ms
- Cloudflare отвори кода на Clef: модели за детерминистично вземане на решения от AI агенти
- TypeSafe AI представи Jev: Модел за решения, връщащ стриктно типизирани вероятности вместо текст
- TypeSafe AI представи Jev: първият модел за решения от класа System One