Стартъпът GuardAgent набира 20 милиона долара за контрол на автономните системи чрез супервайзърни модели
Източник: Business Insider / Unsplash
Компанията за киберсигурност и AI безопасност GuardAgent обяви набирането на 20 милиона долара в начален рунд, подкрепен от стратегически инвеститори от отбранителния и финансовия сектор [1]. Продуктът на компанията адресира нарастващия страх от неконтролируемо поведение на автономните AI агенти чрез разполагане на паралелни „супервайзърни“ модели, които анализират системните повиквания и изолират потенциални заплахи в мига на тяхното възникване.
Архитектурата „пазач на пазача“ (Guardian Agent)
С нарастването на автономията, съвременните агенти получават директен достъп до командни терминали, корпоративни бази данни и финансови API портали. Това създава огромен риск от инжекции на зловреден код (prompt injection) или халюцинирани разрушителни команди (като триене на производствени таблици).
GuardAgent функционира като прозрачен защитен прокси слой. Всеки предложен план за действие от работния агент се верифицира от специализиран, предварително калибриран защитен модел с формална логика. Ако командата нарушава предварително зададените граници, изпълнението се спира незабавно, а инцидентът се насочва към човешки оператор.
Защита срещу тиха манипулация и изтичане на данни
Супервайзърният модел следи не само за фатални грешки, но и за опити за скрито извличане на интелектуална собственост. Чрез статистически анализ на изходящия трафик GuardAgent засича дали агентът не се опитва да кодира корпоративни тайни в привидно невинни външни HTTP заявки.
Инфографика: Аналитичен преглед на Svetni.me
Стандартизиране на агентната киберсигурност в корпоративния свят
Развитието на платформи като GuardAgent показва, че бъдещето на企業ния софтуер няма да се състои от изолирани самотни агенти, а от сложни ансамбли с взаимен контрол и баланс (checks and balances). Корпоративните застрахователи вече започват да изискват наличието на сертифициран супервайзърен софтуер като задължително условие за застраховане на киберрискове при внедряване на автономни системи.
Това ще оформи нов мултимилиарден пазар за агентен надзор, където скоростта на верификационните модели ще бъде от решаващо значение за запазване на общата производителност на бизнеса.