Петима журналисти тестваха автономни лични ИИ агенти: Какво проработи и къде настъпи хаос

Снимка: Business Insider

Екип от петима журналисти на изданието Business Insider проведе задълбочен практически експеримент, поверявайки ежедневните си служебни и лични ангажименти на новото поколение автономни ИИ агенти [1]. Резултатите от едноседмичния тест демонстрираха впечатляващи възможности за спестяване на време, но едновременно с това осветиха сериозни системни дефекти при вземането на финансови и комуникационни решения [1].

Агентите показаха завидна ефективност при пресяването на стотици входящи писма, координирането на графици за срещи при сложни часови разлики и синтезирането на обемисти финансови отчети [1]. Когато обаче им бе дадена свобода да взаимодействат самостоятелно с външни платформи и да извършват покупки, възникнаха неочаквани проблеми [1].

Инфографика: Светни.ме

Нежелани поръчки и социални гафове

Най-фрапантните инциденти настъпиха при опити за автоматизирано пазаруване [1]. Един от агентите поръча троен обем офис консумативи поради неправилно тълкуване на промоционални отстъпки, докато друг изпрати напълно формални и неуместно сухи отговори на важни лични съобщения от роднини [1].
„Агентите работят безупречно като интелигентни филтри, но им липсва човешкият усет за контекст, йерархия и дискретност“, споделят участниците в теста [1]. Когато системата се сблъска с непредвидена промяна в интерфейса на уебсайт или с двусмислена инструкция, тя често предприема действия с неоправдана самоувереност, вместо да поиска разяснение от собственика си [1].

Необходимост от строги прагове на разрешение

Експериментът доказва, че съвременният софтуерен инженеринг в сферата на персоналния изкуствен интелект трябва да заложи на модели с задължително човешко потвърждение (human-in-the-loop) за всяко действие, включващо финансови средства или изпращане на външни съобщения [1].
Пълната автономност остава мираж, докато моделите не развият устойчива памет за дългосрочните навици и моралните граници на своите потребители [1].

Източници:

[1]: 5 BI staffers who put AI agents to work share what worked and what went wrong - Business Insider