Confused Deputy (Объркан заместник)

Confused Deputy (Объркан заместник) е класически проблем в компютърната сигурност, при който компютърна програма е подведена да използва своите легитимни правомощия по начин, който нарушава сигурността.

В контекста на съвременните системи с изкуствен интелект и AI агенти, този проблем възниква, когато агент (заместникът) притежава високи нива на достъп до данни или инструменти, но не успява правилно да разграничи инструкциите на легитимния потребител от злонамерени команди, подадени чрез външни източници (например чрез инжектиране на промпт или компрометирани конфигурационни файлове).

Терминът е въведен за първи път от Норм Харди през 1988 г. и днес е централен в дискусиите за сигурността на автономните AI системи, които оперират на „плоска равнина на оторизация“, където веднъж активиран, агентът не изисква допълнително потвърждение за всяко отделно действие в рамките на предоставените му права.