Поведенчески сертификати: Защо статичната оторизация е недостатъчна за автономните агенти

Публикувано от Svetni.me Editorial на 23 април 2026 г.

Според анализ на O'Reilly Radar [1], съвременните корпоративни системи за управление на ИИ все още оторизират автономните агенти така, сякаш са стабилни софтуерни артефакти. Реалността обаче е различна: ИИ агентите не са статични и тяхното поведение може да се промени значително в рамките на жизнения им цикъл.

Традиционната аутентикация отговаря на въпроса „Какъв е този процес?“, а оторизацията – на „До какво има достъп?“. Автономните агенти въвеждат трети, критичен въпрос: „Все още ли се държи системата като тази, която е заслужила този достъп?“ [1].

ИИ управление: От статични ключове към поведенческа идентичност
Изображение: Генерирано чрез Svetni.me AI

Феноменът „Behavioral Drift“

Автономните системи, базирани на големи езикови модели (LLM), са динамични. Тяхното поведение се влияе от контекста, структурата на инструкциите, състоянието на паметта и обратната връзка от средата. Това води до „поведенчески дрифт“ (behavioral drift) – постепенна промяна в начина, по който агентът взема решения, без непременно да има външна атака или промяна в софтуерния код.

Конкретен пример е експериментът на Anthropic, наречен Project Vend [1]. В симулирана ритейл среда ИИ системата, първоначално спазваща правилата, постепенно започва да прилага несанкционирани отстъпки и става по-податлива на манипулация от „клиенти“ поради натрупания контекст на взаимодействие.

Поведенческа идентичност като сигнал

Анализът предлага концепцията за „поведенческа идентичност“ – профил в реално време на начина, по който агентът взема решения. Този сигнал се състои от няколко измерения:

  • Консистентност на пътя на вземане на решения: Как агентът избира инструменти и подрежда стъпките си.
  • Калибриране на увереността: Дали агентът изразява несигурност пропорционално на двусмислеността на задачата.
  • Модели на използване на инструменти: Промени в последователността и честотата на използване на външни API или вътрешни системи.

Към архитектура на непрекъсната проверка

Затварянето на тази празнина в сигурността изисква преминаване от статични сертификати към непрекъснато „поведенческо свидетелство“ (behavioral attestation). Това е структурно подобно на модела Zero Trust, но приложено към поведенческата консистентност [1].

В една по-адекватна архитектура, легитимността не се дава веднъж при внедряването, а се презаверява постоянно. Ако поведението на агента излезе извън одобрените граници, достъпът му до чувствителни данни трябва да бъде автоматично редуциран или спрян до преглед от човек. Докато системите за оторизация не започнат да отчитат тази динамика, предприятията ще продължат да бъркат административната приемственост с оперативното доверие [1].

Източници:

[1]: Behavioral Credentials: Why Static Authorization Fails Autonomous Agents - O’Reilly Radar