Директорът на Amazon AGI: Надеждността, а не възможностите, спира AI агентите
На технологичната конференция VB Transform 2026, Брайън Силвърторн, директор на AGI Autonomy в Amazon, сподели ключови наблюдения относно развитието и внедряването на AI агенти в корпоративната среда. Според него основната пречка за широкото разпространение на тези технологии не е липсата на възможности, а недостигът на надеждност.
Въпреки че съвременните модели притежават достатъчно "интелигентност" за изпълнение на сложни задачи, тяхната непредсказуемост в реални условия възпрепятства масовото им използване на ниво продукция.
Разминаването между възможности и надеждност
Силвърторн подчерта, че много предприятия се сблъскват с трудности при опитите си да преодолеят пропастта между възможностите и надеждността. Данните сочат, че макар 85% от компаниите да пилотират AI агенти, едва 5% от тях са успели да ги внедрят успешно в реална експлоатация.
Според експерта, вътрешните оценки често се оказват заблуждаващи. Много агенти преминават тестовете в контролирани среди, но се провалят, когато бъдат изложени на нюансите на реалните данни и софтуерни промени. Компаниите често се фокусират върху "времето на работа" на агента, пренебрегвайки далеч по-важния въпрос дали той изпълнява задачата правилно.
Четирите измерения на надеждността
За да се реши този проблем, Силвърторн предлага рамка, базирана на изследвания от Принстън, която оценява AI агентите по четири ключови измерения:
- Последователност (Consistency)
- Устойчивост (Robustness)
- Предвидимост (Predictability)
- Безопасност (Safety)
Изображение: Svetni.me / Авторско изображение
Философията "Асистент-стажант"
Лабораторията за AGI на Amazon е възприела работна култура, при която към агентите се подхожда като към "стажанти". Този модел признава, че въпреки високата си продуктивност, агентите изискват внимателно управление, надзор и ясно разбиране на приемливите нива на риск, за да се предотвратят грешки в голям мащаб.
Тази перспектива отразява по-широка промяна в индустрията за корпоративен AI, където фокусът се измества от търсенето на суперинтелект към практическата индустриална полезност и управление.
Източници: