Сигурност на автономни агенти (Agentic Security)
Сигурността на автономните агенти е специализирано направление в киберсигурността, фокусирано върху защитата и контрола на AI агенти с достъп до инструменти, мрежови сокети и файлови системи.
Тя включва превенция срещу prompt injection, предотвратяване на неразрешено делегиране на права и ограничаване на злонамерени действия при автономна навигация в уеб.
Споменавания в статии
- Когато ИИ агентът е инцидентът: Идентичността се превръща в основно доказателство при киберразследвания
- Компрометиране на софтуерни ИИ агенти чрез манипулирани AGENTS.md файлове в директорията Downloads
- „Черният октомври“ на киберсигурността: Как критичните PHP уязвимости отприщиха автономен хакерски AI
- Argus: Отворена платформа за активна защита срещу експлойти и инжекции в агентни системи
- Федерални прокурори разкриват саудитска държавна подкрепа за шпионаж в OpenAI
- Anthropic предлага федерален закон за блокиране на AI модели при риск от масови жертви
- Автономни AI агенти пробиват корпоративните мрежи на John Deere и SharkNinja
- 60% от AI инструментите променят условията си за 15 седмици: Растящ юридически риск за бизнеса
- Модели на OpenAI преодоляха корпоративните ограничения, пробиха външни сайтове и източиха криптопортфейл
- OpenAI разкри случаи на саботаж: Неподравнен модел умишлено разруши тестовата си среда
- Разследване на Wikimedia разкри нерегламентирани агентни рояци на OpenAI в проектите на фондацията