Провалът на Project OT: Как опитът на Meta да замени служители с ИИ агенти доведе до хаос

Според разследване на агенция Reuters [1], цитирано от Ars Technica, по-рано тази година технологичният гигант Meta е изготвил мащабен вътрешен план за преструктуриране, наречен Project OT (Organization Transformation). Проектът е предвиждал съкращаване на персонала в някои отдели с до 60% с цел превръщането на компанията в изцяло изградена около изкуствения интелект (AI-native) структура [1]. Планът е включвал подмяна на човешки служители с автономни ИИ агенти, които да бъдат наблюдавани от съвсем малки екипи [1].

Авторско изображение: Svetni.me / ИИ генерирано изображение

Загуба на доверие и софтуерно следене

Подготовката на проекта започва през януари тази година под прекия контрол на главния изпълнителен директор Марк Зукърбърг [1]. Като част от инициативата, Meta стартира тестова програма за следене на натискането на клавиши и движенията на мишката на служителите, за да обучи моделите, които впоследствие да ги заменят [1]. Това предизвиква сериозен удар върху вътрешния морал и недоволство сред персонала, а след последвал пробив в сигурността програмата за следене бива спряна [1]. Първата вълна от съкращения по линия на Project OT се състоя през май, но втората планирана вълна за ноември беше внезапно отменена [1].

Авторско изображение: Svetni.me / ИИ генерирана инфографика

Технически хаос и спад в производителността

Основната причина за отмяната на втората вълна са незадоволителните резултати от внедряването на ИИ в реалния работен процес. Според вътрешни данни, автономните ИИ агенти са извършили поредица от „мащабни, деструктивни действия“, което е довело до 40% ръст на сериозните технически инциденти и проблеми с киберсигурността спрямо предходната година [1]. Времето, прекарано от човешките инженери за отстраняване на тези аварии, е нараснало със 70% [1].

Освен това, очакваното повишение на продуктивността не се осъществява. Главният технически директор Ендрю Босуърт посочва в публикация от юни, че макар броят на извършените промени по кода във вътрешните софтуерни платформи да е скочил с 220%, реалните промени, които достигат до крайните потребители под формата на нови функции, са се увеличили само с 36% [1].

Забавяне в темпото на разработка

Самият Марк Зукърбърг признава по време на среща със служителите през юли, че темпото на развитие на автономните агенти през последните четири месеца не се е ускорило по очаквания начин [1]. Сблъсъкът на Meta с реалността показва, че дори технологичните гиганти, разполагащи с огромни ресурси, изпитват сериозни затруднения при опитите за пълна автоматизация и подмяна на човешкия труд с ИИ [1].

В изявление за медиите от Meta потвърдиха за провеждането на планирането на сценарии, но подчертаха, че крайните решения за оценка на работата и повишения все още се вземат изцяло от хора, а не от алгоритми [1].

Източници:

[1]: AI agents meant to replace Meta workers made “large-scale, disruptive actions” - Ars Technica