Защо автономните агенти не се мащабират: Инфраструктурният данък на изкуствения интелект

Разработването на прототип на ИИ агент, който работи успешно в контролирана среда, е сравнително лесна задача. Преходът към производствена система, обслужваща реални потребители, обаче се оказва сериозно предизвикателство. Според анализ на ИИ инженера Рафаел Лопеш, мащабирането на автономните агенти е изцяло системен и инженерен проблем, а не ограничение на самите езикови модели [1].

Успешното внедряване на тези технологии изисква плащането на висок „инфраструктурен данък“, разделен в четири основни технологични направления [1].

Авторско изображение: Детерминистична рамка за управление на ИИ агенти в производство

1. Детерминистични предпазни рамки (Guardrails)

Когато голям езиков модел се постави в директен контакт с реални потребители, поведението им става напълно непредвидимо. За да се избегнат хаотични или опасни резултати, архитектурата изисква внедряването на детерминистични предпазни рамки [1].

Вместо да се оставя моделът да действа свободно, съвременните платформи използват допълнителни филтриращи модели и твърдо разписани софтуерни правила, които да ограничават неговите действия в предварително одобрен план за изпълнение [2].

2. Канали за неструктурирани данни

Огромна част от корпоративната информация — над 90% — се съхранява в неструктуриран вид под формата на договори, имейли, PDF файлове и транскрипти. Поради тази причина в момента по-малко от 1% от фирмените данни се използват ефективно в проекти за генеративен изкуствен интелект [3].

Дори най-способният агент дава грешни отговори, ако няма достъп до правилната информация. Изграждането на сигурни и бързи канали за обработка, сегментиране и извличане на данни чрез системи за RAG (Retrieval-Augmented Generation) се оказва критичното тясно място в разработката на корпоративни агенти [1].

3. Оркестрация и каскадни грешки

При преминаване от един агент към мултиагентни системи сложността нараства експоненциално. Когато няколко специализирани агента си прехвърлят задачи по веригата, вероятността за грешка се умножава [1].

Ако всеки отделен агент има 95% надеждност, то при верига от 5 агента крайната надеждност на системата пада до едва $0,95^5 \approx 77%$ [1], [4]. Поради това е необходимо изграждането на оркестриращ слой, който да следи за възникването на халюцинации и да извършва автоматично възстановяване при грешка по веригата.

4. Наблюдение на качеството на вземане на решения

Традиционните инструменти за мониторинг на софтуер (APM) проследяват параметри като латентност и технически грешки (код 500). При ИИ агентите обаче е необходимо специализирано наблюдение (observability) на самото качество на решенията [1]. ИТ екипите трябва да разполагат с инструменти, които да анализират дали агентът е избрал правилния инструмент за задачата, дали планът му е логичен и дали генерираният отговор е фактически верен [5].

В крайна сметка, успешното мащабиране на ИИ изисква изграждането на детерминистични системи, които да обвиват и контролират недетерминирания изход от езиковия модел.

Източници:

[1]: Why Agents Don't Scale: It's an Engineering Problem, Not an AI Problem - Rafael Lopes
[2]: AI agents in 2025: Why agentic commerce isn't ready for Black Friday yet - IBM Technology
[3]: Unlocking Smarter AI Agents with Unstructured Data, RAG & Vector Databases - IBM Technology
[4]: Using AI agents to transform your business at scale - IBM
[5]: AI agents in action: From pilots to outcomes at scale - IBM