TypeSafe AI представи Jev: първият модел за решения от класа System One
Изображение: Svetni.me / Авторско изображение
Изкуственият интелект постигна свръхчовешки възможности в разговорните интерфейси, но дълбоката програмна автоматизация в реалния софтуер все още изостава. Този парадокс мотивира създаването на TypeSafe AI — изследователска лаборатория, основана от бившия изследовател от OpenAI Диого Алмейда [1]. Като един от инженерите зад методите за следване на инструкции в ChatGPT и RLHF, Алмейда излиза от двегодишен период на разработка с нов клас архитектури: „System One модели“.
Първият публичен модел от това направление е Jev, проектиран като машинно-ориентирана интелигентна функция: неструктурирано програмно състояние на входа и типизирани вероятностни решения на изхода. Водещият разработчик Саймън Уилисън подкрепя дефиницията на Маги Апълтън, наричайки технологията модели за решения (decision models) [2]. Jev напълно изоставя авторегресивното генериране на свободен текст в полза на числа с плаваща запетая, категории и калибрирани вероятности, премахвайки риска от синтактични грешки при структурирането на данни.
Изображение: Svetni.me / ИИ генерирана инфографика
Архитектура и RLCD: Паралелни вероятности вместо авторегресивни низове
Традиционните големи езикови модели (LLM) генерират текст последователно, токен по токен, като всеки нов символ зависи от предходните. Този механизъм е идеален за диалог, но създава сериозно забавяне при интеграция в софтуер: отговорите на водещите разсъждаващи модели отнемат от 3 до над 300 секунди. Jev преодолява това ограничение чрез специализиран паралелен семплер (hardware-aware parallel sampler), който изчислява всички изходи и вероятности едновременно в рамките на един проход. Времето за реакция пада до 70–500 милисекунди — от 40 до 200 пъти по-бързо от конвенционалните езикови системи.
Парадигмата променя и тренировъчния процес. Вместо класическото обучение чрез човешка обратна връзка (RLHF) или проверими възнаграждения (RLVR), TypeSafe AI въвежда алгоритъма RLCD (Reinforcement Learning for Calibrated Decisions). Той оптимизира епистемичната надеждност на модела: високата увереност корелира пряко с висока обективна точност.
За софтуерните инженери това елиминира структурните халюцинации. Възможните изходи се дефинират предварително чрез типизирана схема, гарантирайки 0% грешки в типовете данни и синтаксиса на отговорите [1].
Структура на API: Трите категории въпроси в Jev
Взаимодействието с Jev наподобява извикване на детерминистична софтуерна функция. Подава се обект на състоянието (state) — текстов низ, масив или двойки ключ-стойност (например клиентски профил, трансакция или лог). Към това състояние се прикачват неограничен брой въпроси, които се оценяват паралелно в рамките на контекстния прозорец без допълнително забавяне.
API поддържа три специфични формата на запитване:
- Noul (Bernoulli) въпроси: Бинарни проверки от тип Да/Не, кръстени на разпределението на Бернули (потвърдено от Алмейда). Моделът връща число с плаваща запетая между 0 и 1, изразяващо вероятността твърдението да е вярно.
- Choice въпроси: Избор измежду предварително дефиниран списък от категории (до 255 опции). Системата връща както най-вероятната опция, така и пълното вероятностно разпределение с оценка за увереност.
- Score въпроси: Оценка по числова скала с текстови описания на нивата, връщаща точно число по протежение на интервала.
Тази структура превръща модела в естествен градивен елемент за „умни условни конструкции“ (smart if-statements), класификация и маршрутизиране на процеси [1].
Радикалната икономика на парадокса на Джевънс
Името на модела препраща към британския икономист Уилям Стенли Джевънс и неговия парадокс: повишената ефективност на парните двигатели през XIX век не намалява търсенето на въглища, а го увеличава многократно поради по-ниската цена на енергията.
Ценовата политика на TypeSafe AI прилага този принцип към машинния интелект. Докато класическите LLM таксуват изходящите токени пет пъти по-скъпо от входящите, Jev таксува единствено входа на цена от едва $0.042 за милион токена ($42 за милиард токена), а изходящите структурирани решения са напълно безплатни. За сравнение, олекотеният GPT-5 Nano на OpenAI струва $0.05 на милион входни токена, а водещите модели варират между $0.20 и $10 за вход.
Ниската латентност и цена разкриват напълно нови сценарии за автоматизация. В демонстрация екипът на TypeSafe показва бот за играта Doom, вземащ по 10 интелигентни решения в секунда върху състоянието на играта при разход от едва ~$7 на час. При обработка на масиви от данни (MapReduce) и пренареждане на търсения (reranking) моделът позволява паралелно оценяване на стотици кандидати за части от секундата [1].
Завръщането на черната кутия и рисковете от скрити пристрастия
Въпреки инженерните предимства, Саймън Уилисън посочва сериозен компромис: Jev бележи завръщане към непрозрачните системи от тип „черна кутия“ [2].
При езиковите модели потребителят може да изиска верига от логически стъпки (Chain of Thought), макар и не винаги напълно достоверна. При Jev на изхода стои единствено число с плаваща запетая. Ако алгоритъмът класифицира съобщение като спам или оцени клиент като ненадежден, разработчиците нямат начин да разберат кои текстови маркери са повлияли на резултата.
Тази липса на обяснимост крие рискове от скрити алгоритмични пристрастия (bias). Уилисън предупреждава срещу използването на подобни модели за автоматизиран подбор на персонал или скоринг на кандидати. В експеримент той пита Jev дали населени места в района на Сан Франциско са „добър град“: моделът класира богатия Купертино на първо място по увереност, а исторически по-бедния Източен Пало Алто — на последно. Поради това внедряването на модели за решения изисква строги системи за автоматизирана оценка (evals) и статистически контрол [2].
Реакция на екосистемата: От експерименти до отворени тегла
Пускането на Jev предизвика бърза реакция в технологичната общност. Програмистът Кайл Пена създаде проекта jevchat, генериращ текст символ по символ чрез паралелни запитвания към Jev — остроумно оприличен в Hacker News на анимационния герой Морти, предвиждащ бъдещето чрез кристала на смъртта. Фатих Кадир Акън реализира jev-leftpad за добавяне на интервали към текст чрез ИИ, а Анди Гейтън използва модела за играта 2048 (jev-2048).
Паралелно се появиха и сериозни инициативи с отворени тегла. Инженерът Джаред Палмър представи проекта Kev — репликация на концепцията на Jev върху базовия модел Qwen 3.5 с версии от 0.8B, 4B и 9B параметри. В общността вече стартира и бенчмаркът JevBench за сравнителен анализ на точността на този нов клас модели [2].
Новата роля на ИИ в софтуерната архитектура
Появата на Jev и парадигмата System One очертава ново разграничение в ИИ индустрията. От една страна остават мултимодалните диалогови модели за сложни, многоетапни разсъждения и взаимодействие с хора. От друга страна се оформя чисто машинен слой: интелигентни компоненти, които действат бързо, евтино и предвидимо.
Вместо да симулира разговор, моделът за решения предлага надежден строителен блок за вземане на преценки в реално време. Дали тези „умни условни конструкции“ ще отключат масова индустриална автоматизация зависи от способността на инженерните екипи да управляват липсата на обяснимост и да изолират скритите пристрастия.
Източници:
[1]: Introducing System One Models & Jev - TypeSafe AI Blog
[2]: Jev introduces a new shape of LLM—System One, aka Decision Models - Simon Willison’s Weblog