18 юни 2026 г.
Изграждане на дългосрочна памет за ИИ агенти с Elasticsearch
В съвременните системи с изкуствен интелект поддържането на контекст в рамките на един разговор обикновено се решава чрез „напомпване“ на контекстния прозорец с историята на сесията. Този подход обаче бързо се сблъсква с ограничението на разходите, латентността и т. нар. ефект на „изгубване в средата“ (lost in the middle), при който моделите игнорират факти, намиращи се далеч от краищата на промпта. В инженерна публикация на Elasticsearch Labs [1], авторът Ноам Шварц описва как голям контекстен прозорец от 1 милион токена може да служи като работна чернова за единична извеждаща стъпка (short-term memory), но не представлява истинска дългосрочна памет.
Решението е изграждането на слой за дългосрочна памет (long-term memory), базиран на Elasticsearch, който оцелява след края на сесиите, мащабира се с години взаимодействие и позволява извличане на факти по съдържание, време и потребител. Разработената архитектура постига средна пълнота на извличането (Recall@10) от 0.89 при нулева опасност от изтичане на данни между отделните потребители (zero tenant leaks) [1].