Willow: Защо SQLite е идеалният дом за ИИ агенти
В света на изкуствения интелект „агент“ е нещо повече от езиков модел — това е модел, снабден с инструменти и памет. Но как точно трябва да се съхранява тази памет? Според Хеянг Джоу (Heyang Zhou), създател на платформата Willow, отговорът е изненадващо прост: SQLite. В нова публикация [1] той описва как Willow използва разпределена версия на популярната база данни, за да реши едни от най-трудните проблеми при управлението на ИИ агенти в мащаб.
Изображение: Svetni.me / Авторско изображение
Платформата Willow
Willow е т.нар. agent harness (инфраструктурен слой), разработен за проекта Bridge [2]. Неговата задача е да обслужва милиони агенти, като третира всеки от тях като отделен „контейнер“ със собствена файлова система и състояние. Ключовата иновация тук е, че файловата система на агента не е просто папка с файлове, а таблица в SQLite база данни.
Това носи огромни предимства:
- Нативен SQL за ИИ: Големите езикови модели (LLM) са обучени върху милиарди редове SQL код. Когато агентът има директен достъп до SQLite, той може лесно да генерира приложения и да управлява данни, използвайки език, който вече владее перфектно.
- Ефективно мащабиране: Willow позволява „пакетирането“ на до 1000 агента в рамките на един системен процес. Вместо тежки виртуални машини, всеки агент е просто една лека база данни.
Пътуване във времето (Time-Travel)
Най-впечатляващата функция на Willow е способността за „пътуване във времето“. Използвайки mvSQLite (разпределена версия на SQLite с поддръжка на версии), Willow записва състоянието на файловата система на агента във всеки един момент.
„LLM унищожават информация, докато работят“, отбелязва Джоу. „Добрата инфраструктура трябва да компенсира това, като направи информацията неунищожима.“ Ако агентът по погрешка изтрие файл или повреди код, той може просто да извика версия отпреди 5 минути или 2 дни. Всяка версия е уникално адресируема, което позволява на агентите сами да се коригират, като „гледат“ в собственото си минало.
Технологичният стек
Под повърхността Willow разчита на доказани технологии за разпределени системи. Данните се съхраняват във FoundationDB — високопроизводително хранилище „ключ-стойност“, което поема тежката работа по репликация и транзакции. Големите файлове (блобове) се изместват към S3, докато метаданните и малките обекти остават в SQLite за максимална скорост.
Този подход превръща ИИ агентите от нестабилни чатботове в надеждни софтуерни единици със застраховка срещу грешки и практически неограничена памет.
Източници:
[1]: SQLite is the best home for AI agents - su3.io
[2]: Bridge - The everything agent - bridge.surf