Plurai адаптира методологии от автономното шофиране за верификация и безопасност на софтуерни AI агенти
Източник: TechCrunch / Plurai
Новият технологичен стартъп Plurai обяви привличането на първоначален капиталов рунд за разработка на платформа за мащабна верификация на AI агенти, използваща същите инженерни принципи, които направиха възможно сертифицирането на автономното шофиране [1]. Компанията се фокусира върху симулирането на милиони гранични случаи (edge cases), за да гарантира, че автономните софтуерни работници няма да предизвикат системни сривове в реална корпоративна среда.
Паралелът: Защо софтуерните агенти се нуждаят от „полигони за изпитания“
Подобно на безпилотните автомобили на Waymo или Cruise, които изминават милиарди симулирани мили преди да бъдат пуснати по обществените пътища, софтуерните агенти често се провалят при неочаквани промени в интерфейса или непредвидени грешки в API.
Plurai генерира синтетични корпоративни среди със симулирани бази данни, уеб страници и потребителски съобщения, подлагайки агентите на екстремни натоварвания и противоречиви инструкции, за да оцени тяхната стабилност.
Математически метрики за надеждност и сертифициране
Платформата въвежда стандартизиран показател за средно време между дерайлиранията (Mean Time Between Deviations - MTBD), измерващ колко последователни стъпки може да извърши агентът без човешка намеса или логическа грешка.
Тези данни позволяват на корпоративните клиенти в софтуерната архитектура да определят точния праг на автономност и да знаят кога е необходима човешка супервизия (human-in-the-loop).
Инфографика: Аналитичен преглед на Svetni.me
Пътят към индустриализация на агентните работни процеси
Липсата на надеждност и халюцинациите при изпълнение на многоетапни задачи са най-голямата пречка пред масовото внедряване на изкуствения интелект в реалния бизнес. Докато чатботовете могат да си позволят неточности, агент, който управлява банкови преводи или променя производствени разписания, трябва да има детерминистични гаранции за безопасност.
Подходът на Plurai показва зрелостта на екосистемата, която преминава от фазата на хаотични експерименти към строги инженерни методи за контрол на качеството.