Автономните пазаруващи агенти Instinct и Muse разкриват рисковете при директна интеграция с търговски API
Снимка: Smith Collection / Gado / Getty Images / Business Insider
Появата на ново поколение автономни агенти за лично пазаруване, като платформите Instinct и Muse, обещаваше пълно освобождаване на потребителите от досадните покупки в интернет.
Първите масови потребителски тестове, отразени в подробен репортаж на Business Insider, обаче разкриха комични, но и финансово опасни инциденти, показващи критичните уязвимости в сферата на AI в електронната търговия (e-commerce AI) [1].
„20 паунда пилешки крилца“: Когато агентът няма представа за мащаб
Най-яркият случай от репортажа описва потребител, който възлага на своя асистент Instinct да поръча вечеря и продукти за дома от местен супермаркет [1].
Вместо нормална порция за двама, агентът погрешно интерпретира продуктовия код в API интерфейса на търговеца и финализира покупка на индустриален кашон с 10 килограма замразени пилешки крилца. Тъй като системата разполага с директен достъп до кредитната карта на клиента, трансакцията минава мигновено без човешко потвърждение.
Други потребители съобщават за агенти, които при изчерпване на промоционални самолетни билети автоматично са резервирали първа класа, изпразвайки семейния бюджет, или са поръчвали грешни размери дрехи поради неправилно съпоставяне на размерни таблици.
Уязвимости в API сигурността и липса на предпазни механизми
Проблемът подчертава острата липса на финансови предпазни механизми (financial guardrails) и сериозни пропуски в API сигурността.
Търговските платформи са оптимизирани за бързо завършване на покупката с един клик. Когато този интерфейс бъде предоставен на недетерминиран езиков модел, липсва слой за критична проверка. Агентът оптимизира единствено за „изпълнение на задачата“: ако първоначалният артикул липсва, той избира най-близкия семантичен еквивалент, дори цената му да е пет пъти по-висока.
Банковите институции също не са подготвени за този сценарий — оспорването на подобни трансакции е изключително трудно, тъй като клиентът сам доброволно е делегирал API права на софтуерния агент.
Системен и регулаторен анализ: Новите правила за автономните разплащания
Случаят с Instinct и Muse е първият предвестник на гигантските правни и финансови предизвикателства, които предстоят при масовото навлизане на автономната търговия в потребителските технологии (consumer tech).
Неконтролираното делегиране на финансови права на изкуствен интелект е неприемлив риск за потребителите. За да оцелее този сектор, ще трябва да се въведат строги индустриални стандарти:
- Твърди финансови лимити (Hard Caps): Всяка трансакция над предварително фиксиран лимит (например 50 долара) задължително изисква двуфакторно потвърждение от жив човек на смартфона.
- Изолирани виртуални карти: Използване на еднократни виртуални банкови карти с предварително зареден точен бюджет, което предотвратява преразход при грешка.
- Семантична валидация: Внедряване на защитен слой, който сравнява поръчания обем със стандартните човешки нужди и сигнализира при аномалии.
Автономното пазаруване неизбежно ще бъде част от нашето ежедневие, но докато технологичните компании не въведат железни бариери за безопасност, потребителите биха направили добре да държат своите агенти на много къса каишка.
Инфографика: Светни.ме