Проблемът при корпоративните ИИ агенти не е в моделите, а в правата за достъп
Според анализ в технологичното издание VentureBeat, написан от Емилия Дейвид, голямата пречка пред внедряването на автономни ИИ агенти в бизнеса не са ограниченията на моделите, а управлението на правата за достъп [1]. Всеки опит за мащабиране на агентни работни потоци рано или късно се сблъсква с въпроса: как да се контролира какво е оторизиран да прави даден агент, от чие име действа и как се одитват неговите действия [1].
Изображение: Svetni.me / Авторско изображение
Рискът от самостоятелните решения
В опитите си бързо да внедрят ИИ, много компании изграждат собствени „направи си сам“ (DIY) решения, даващи на агентите достъп до необработени данни. Този подход обаче крие огромни рискове. Без фино дефинирани нива на оторизация, ИИ агентите могат да получат твърде широк достъп, да прочетат поверителна информация или да генерират неточни и опасни резултати [1].
Геррит Казмайер, президент по продукти и технологии в Workday, подчертава, че управлението на правата за сигурност не трябва да се извършва външно, а трябва да бъде вградено в самата Система от записи (System of Record) — софтуерът, където живеят истинските бизнес данни [1].
Стратегията на Workday и Sana
За да разреши този проблем, софтуерният гигант Workday интегрира своите ИИ агенти, базирани на платформата Sana, директно в ядрото на своите приложения [1]. По този начин ИИ агентите автоматично наследяват вече съществуващите потребителски роли, одобрени работни потоци и модели за сигурност.
В чувствителни области като управлението на човешки ресурси и финансите, всяко действие на агента (например промяна на заплата или работен график) се извършва в съответствие с фирмените нива на достъп [1].
Одит и съвместимост
Интегрирането на правата в Системата от записи решава и друг критичен проблем — одита [1]. Докато външни езикови модели (като Google Gemini) могат да обработват разговорните заявки, същинският бизнес одит и проследяването на трансакциите остават изцяло под контрола на Workday. Това гарантира пълна отчетност и съответствие с регулаторните изисквания, правейки ИИ агентите безопасни за ежедневна бизнес употреба [1].
Източници:
[1]: The AI agent bottleneck isn't model performance — it's permissions - VentureBeat