Edera представи архитектура за ограничена власт чрез обектни възможности за защита на тайни при AI агенти
Източник: InfoQ / Edera
Стартъпът за инфраструктурна сигурност Edera представи революционна рамка за изолиране на идентификационни данни при изпълнение на задачи от изкуствен интелект, базирана на принципа на обектните възможности (Object Capabilities - ocap) [1]. Технологията за ограничена власт (Bounded Authority) цели да премахне системния риск от изтичане на дълготрайни пароли и служебни ключове чрез спазване на абсолютен минимум на привилегиите.
Премахване на амбиентната власт при автономни работни потоци
В традиционните софтуерни системи програмите наследяват широк набор от права само въз основа на самоличността на потребителя, който ги е стартирал. Когато автономен агент попадне под влияние на зловредна инструкция (prompt injection), той може да злоупотреби с тези невидими права. Архитектурата на Edera изисква всяко действие да разполага с изрично криптографско пълномощно, дефиниращо точния файл, валидността в секунди и разрешения метод за четене или запис.
Неподправени дескриптори вместо статични тайни
Вместо да предава истински API ключове към контекста на езиковия модел, Edera подава непрозрачни обектови указатели. Моделът може да инструктира системата да извърши операция чрез този указател, но няма техническа възможност да види базовия таен ключ или да го изпрати към трети страни.
Преосмисляне на компютърната сигурност за нечовешки събеседници
Моделът на обектните възможности, измислен още през 70-те години на миналия век, намира своето истинско предназначение едва днес в ерата на изкуствения интелект. Докато хората могат да проявяват здрав разум при боравене с пароли, езиковите модели са статистически механизми, уязвими на манипулации. Прилагането на математически доказуеми граници на властта гарантира, че дори един агент да бъде напълно хакнат или заблуден, потенциалните щети ще бъдат ограничени до минималното действие, за което му е било издадено конкретно пълномощно.
Преглед на премахването на амбиентната власт, непрозрачните указатели и сигурността.