Сигурно изпълнение на код (Code Execution Sandboxing)

Сигурното изпълнение на код е фундаментален механизъм за сигурност, позволяващ изпълнение на ненадежден или генериран от AI код в изолирана среда, която предотвратява неоторизиран достъп до хардуера и мрежата.

Рискове при агентни системи

  • Злонамерени промптове: Атаки чрез инжектиране, принуждаващи агента да изтрие файлове или да стартира reverse shell.
  • Ресурсно изчерпване (Fork Bombs): Защита срещу безкрайни цикли и прекомерна консумация на RAM и CPU.
  • Изолационни технологии: gVisor, Firecracker microVMs, WebAssembly и специализирани среди като Microsoft MXC.

Споменавания в статии