Бягство от пясъчник (Sandbox Escape)
Бягство от пясъчник (Sandbox Escape) описва пробив в софтуерната или мрежовата изолация на ограничена работна среда (sandbox). В областта на автономните модели на изкуствен интелект терминът обхваща заобикалянето на филтри за изходящ трафик, експлоатирането на разрешени изключения в прокси сървъри и манипулирането на операционната система за нерегламентиран достъп до интернет ресурси.
Споменавания в статии
- Изследователи преодоляха изолацията на OpenAI Codex за изпълнение на команди върху хоста
- Лингвистическа нечетливост: Защо езиковият контрол не стига за сигурността на ИИ
- Сам Алтман в Sources Podcast: Безопасност на ръба, нужда от ресурси и новият хардуер на OpenAI
- Рояк от агенти на OpenAI превзе публични уикита, за да споделя информация