Атака 'Объркан заместник' (Confused Deputy Attack)

Атаката 'Объркан заместник' (Confused Deputy Attack) в контекста на автономни AI агенти е класически информационен вектор за компрометиране на сигурността, при който софтуерен агент с високи привилегии бива подведен от нископривилегирован вход (напр. потребителски имейл, документ или междинен файл) да извърши непозволено действие от името на нападателя.

Механизъм при съвременните LLM агенти:

• Агентът разполага с достъп до корпоративни API, бази данни или операционната система (инструменти за четене/писане).
• При обработка на външно съдържание се активира индиректна инжекция на промпт (indirect prompt injection), която манипулира вътрешния контекст на агента.
• Агентът добросъвестно изпълнява злонамерените инструкции (ексфилтрация на данни, изтриване на файлове), използвайки собствените си легитимни системни права.