Имунна система за ИИ агенти: NanoClaw и JFrog блокират свалянето на зловреден код
Автономните ИИ агенти притежават способността динамично да разширяват възможностите си в движение. Когато даден агент срещне задача, за която няма нужния софтуер (например обработка на гласово съобщение), той може самостоятелно да изтегли, инсталира и стартира нужния софтуерен пакет в бекграунда. Тази гъвкавост обаче отваря сериозна пролука за атаки по веригата за доставки на софтуер (supply chain attacks).
В опит да затворят тази празнина, разработчиците на популярната с отворен код платформа NanoClaw (NanoCo AI) обявиха стратегическо партньорство с лидера в управлението на софтуерни артефакти JFrog [1]. Двете компании пускат съвместна интеграция, която служи като „имунна система“ за автономните агенти, блокирайки инжектирането на компрометиран код [1].
Авторско изображение: Филтриране на изтеглянията на ИИ агенти през регистрите на JFrog
Как работи имунната система?
Досега ИИ агентите теглеха необходимите библиотеки директно от публични хранилища без допълнителна проверка, заобикаляйки стандартния софтуерен контрол, извършван от програмистите. Тъй като крайните оператори на агентите често не са разработчици, те остават напълно сляпи за заплахата от компрометирани пакети [1].
Новата интеграция променя това, като пренасочва всички мрежови заявки за изтегляне на библиотеки, инструменти за команден ред (CLI) и сървъри за Model Context Protocol (MCP) през защитените регистри на JFrog.
Ако агентът се опита да свали библиотека с открита уязвимост, регистърът на JFrog блокира инсталацията с грешка за сигурност (403). Вместо просто да спре работа обаче, системата задейства динамичен коригиращ цикъл: агентът бива известен за блокирането и автоматично пристъпва към търсене и инсталиране на алтернативна, безопасна и одобрена версия на библиотеката [1].
Двупистов модел за отворен код и бизнес
За да предпазят цялата екосистема, партньорите предлагат интеграцията безплатно за общността с отворен код [1]. Индивидуалните разработчици получават безплатен достъп до проверени от JFrog артефакти. Освен това, всеки нов инструмент или „умение“ (skill), качен от общността в публичните хранилища, се сканира автоматично за зловреден софтуер, преди да стане достъпен за други потребители [1].
За големите корпорации интеграцията се свързва директно с техните съществуващи комерсиални среди в JFrog. Това дава пълна видимост и контрол на ИТ мениджърите върху това кои агенти какви ресурси използват, спазват ли се фирмените политики и търговските лицензи на софтуера [1].
Новата защитна стена допълва предишните мерки за сигурност на NanoCo AI, включително изолацията на агенти в контейнери на Docker и интеграцията с Vercel за извеждане на диалогови прозорци за ръчно одобрение на чувствителни действия от потребителя [1].
Източници: