Безопасност на софтуерните агенти (Agent Safety)

Безопасността на агентите (Agent Safety) изследва и внедрява механизми за контрол, верификация и ограничаване на автономните софтуерни системи с достъп до външни инструменти (инструментално изпълнение, достъп до файлова система, API извиквания).

За разлика от пасивните чатботове, автономните агенти могат да извършват необратими действия в реалния свят, което изисква детерминирани изолационни пясъчници, криптографски мандати за намерения и задължителни точки за човешко потвърждение (Human-in-the-Loop).