TypeSafe AI представи Jev: Модел за решения, връщащ стриктно типизирани вероятности вместо текст
Снимка: InfoQ / TypeSafe AI
Стартъпът TypeSafe AI, основан от бившия водещ изследовател на OpenAI Диого Алмейда, обяви официалното пускане на Jev – революционен модел за вземане на решения (Decision Models), който напълно елиминира текстовия отговор и вместо това връща стриктно типизирани вероятностни вектори [1]. Новата парадигма решава фундаменталния проблем с недетерминираността и грешките при синтактичен анализ в сложни мрежи от автономни агенти (AI Agents) [2].
Архитектурно скъсване с авторегресивния текст
Традиционните езикови модели вземат решения, като генерират текст (напр. JSON низ), който впоследствие трябва да бъде валидиран и парсван от софтуера на клиента [1]. При Jev този процес е изцяло заменен от паралелно оценяване на подадените структурирани входни данни директно върху дефинирани от разработчика типови схеми (enums и структури).
Моделът изчислява директно нормализирани вероятностни разпределения и нива на доверие за всяка възможна алтернатива, премахвайки 85% от изчислителния овърхед и гарантирайки 100% синтактична коректност при всяко извикване [2].
Бързо внедряване в крайни изчислителни инфраструктури
Благодарение на суб-15-милисекундното си закъснение за вземане на решение, Jev вече намира масово приложение в платформи като Vercel и Netlify за динамично маршрутизиране на уеб заявки, интелигентно кеширане и балансиране на натоварването [1].
Моделът позволява на автономните системи да знаят кога не са сигурни: ако ентропията на вероятностното разпределение надхвърли определен праг, агентът може автоматично да поиска потвърждение от човек или да потърси допълнителен контекст, вместо да халюцинира произволен отговор [2].
Деконструкция на чат парадигмата: Преходът към специализирани дискриминативни ядра
Появата на Jev бележи началото на дългоочаквано отрезвяване в софтуерната архитектура на изкуствения интелект. През последните три години индустрията се опита да използва гигантски генеративни чат модели за всяка инженерна задача – включително за тривиални бинарни класификации и вземане на дискретни решения. Тази практика водеше до гигантски разходи за изчисления, бавни отговори и чести сривове в продукция заради непредвиден текстов изход.
Чрез отделянето на логиката за вземане на решения от генерирането на естествен език, TypeSafe AI връща принципите на стабилното софтуерно инженерство в ИИ стека. В един зрял софтуерен конвейер генеративният модел трябва да се използва единствено за комуникация с човека, докато координацията, маршрутизацията на данни и валидацията на права трябва да се управляват от строго типизирани, детерминирани модели като Jev.
Тази специализация ще доведе до драматична оптимизация на разходите в корпоративния сектор. Вместо да харчат хиляди долари за изпълнение на милиони токени на ден за вземане на прости решения, компаниите могат да постигнат по-висока надеждност с леки, фокусирани невронни класификатори.
Инфографика: Анализ на Svetni.me