Anthropic разкрива тайната на агентната памет: Умението да забравяш и процесът „Сънуване“

Източник: The Decoder / Anthropic Research
Нов научен доклад на Anthropic относно дългосрочната памет на автономните AI агенти доказва, че ключът към успешното изпълнение на многочасови задачи не е в съхраняването на огромни архиви от минали събития, а в активното селективно забравяне [1]. Според изследването, цитирано от The Decoder, натрупването на нефилтрирани бележки отравя контекста и блокира вземането на правилни решения от моделите Claude.
Експериментът Pokémon Red: Малко бележки бият 400 архивни файла
Изследователите на Anthropic демонстрират ефекта чрез бенчмарка за дългосрочно планиране в играта Pokémon Red. Когато по-старият модел Sonnet 3.7 е бил оставен да записва всичко в паметта си, той е създал над 400 отделни файла с бележки, пълни с остарели хипотези и противоречиви инструкции, които в крайна сметка са парализирали прогреса му.
Обратно, новата архитектура на паметта поддържа само няколко компактни стратегически файла, като агресивно изтрива неактуалните детайли. Този подход в контекстното инженерство позволява на агента да напредне четири пъти по-далеч в сложната среда [2].
Механизмът „Сънуване“ (Dreaming) за ретроактивна корекция
Втората ключова иновация в доклада е процесът, наречен от екипа „сънуване“ (Dreaming). В периоди на пауза между активните действия агентът преглежда натрупаната си епизодична памет, идентифицира грешни предположения, които вече са били опровергани от опита, и презаписва обобщените си знания.
По този начин големият езиков модел не просто добавя нови редове в края на лога, а непрекъснато рефакторира собствения си модел за света.
Край на наивните RAG архиви при дългосрочните автономни системи
Откритията на Anthropic опровергават разпространената в индустрията теза, че неограниченият контекстен прозорец и векторните бази данни решават проблема с паметта на агентите. Точно както човешкият мозък консолидира спомените по време на сън и изчиства шума, софтуерните агенти се нуждаят от активна хигиена на паметта.
През следващата година системите за управление на агентна памет ще преминат от пасивно векторно търсене към автономни фонови процеси за забравяне, дедупликация и семантична ревизия.

Инфографика: Аналитичен преглед на Svetni.me