Изтичане на данни
Изтичането на данни (Data Leakage) описва компрометирането на конфиденциалността на корпоративна, лична или държавна информация чрез технически уязвимости или поведенчески девиации.
Вектори в агентните системи
- Непреднамерено споделяне: Автономни агенти за обслужване, които в стремежа си да решат казус, изпращат медицински или финансови досиета на трети лица.
- Извличане през промпт инжекции: Атаки, принуждаващи езиковите модели да разкрият системните си инструкции или паметта за предходни сесии.
- Обучаващи масиви: Извличане на лични данни на потребители чрез специално конструирани заявки към отворени невронни мрежи.
- Регулаторни санкции: Налагане на колосални глоби по GDPR и щатски закони при липса на контрол над автономното споделяне на данни.
Защитата от изтичане на данни при агентни архитектури изисква строги криптографски шлюзове и политики за нулево доверие.