Prospero: Unix-нативната програмна среда за детерминистичен контрол и изолация на кодиращи агенти
Източник: Wikimedia Commons / Jason Scott
Легендарният системен програмист Крис Уелънс (nullprogram) представи проекта Prospero — минималистична и стриктна Unix-нативна софтуерна среда (harness), проектирана да осигури детерминистична изолация, проследимост и контрол върху автономни кодиращи AI агенти [1]. Системата отхвърля сложните съвременни слоеве за виртуализация в полза на изпитаните инструменти на ядрото на операционната система.
Изолация чрез стандартни Unix файлови дескриптори и канали
Prospero премахва риска от нерегламентирани мрежови връзки и повреда на файловата система, като затваря AI агента в пясъчник, комуникиращ единствено през предварително дефинирани pipes (канали). Агентът получава входни данни през стандартния вход (stdin) и извежда резултатите през стандартния изход (stdout), без възможност за спаунване на неконтролирани демони.
Детерминизъм и светкавична скорост на тестване
Докато тежките Docker контейнери изискват стотици милисекунди за стартиране и спиране, Prospero стартира процесите на изолация за под 5 милисекунди. Това позволява на кодиращия агент да изпълнява хиляди итерации на модулни тестове в секунда без овърхед.
Уроците на класическия Unix за ерата на изкуствения интелект
Проектът Prospero е ярка илюстрация на фундаменталния принцип, че сигурността на автономните AI системи не се постига чрез добавяне на нови слоеве софтуерна сложност, а чрез придържане към доказани архитектурни основи. През последните две години стартъпите инвестираха милиони в създаване на сложни уеб платформи за управление на агенти, пълни със скрити уязвимости. Уелънс доказва, че философията на Unix от 70-те години на миналия век — малки програми, вършещи едно нещо безупречно и свързани чрез чисти текстови потоци — остава най-мощният и елегантен щит срещу неконтролируемото поведение на изкуствения интелект.
Анализ на стандартните потоци, нулевия овърхед и детерминистичното тестване.