Експеримент с 50 автономни AI агента в Minecraft доведе до създаване на строга бюрокрация и протоколи за оцеляване
Източник: The Decoder / Stanford & DeepMind
Мащабен симулационен експеримент, в който 50 автономни езикови агента бяха пуснати в общ свят на Minecraft с единствена цел оцеляване, генерира неочаквана емергентна социална динамика [1]. След като първата нощ чудовища избиха половината от виртуалната популация, оцелелите агенти спонтанно формулираха писмени закони, установиха административни постове и изградиха йерархична бюрокрация.
Травматичният шок и раждането на специализираното трудово деление
Анализът на комуникационните логове показва рязка промяна в приоритетите на агентите след инцидента. Вместо да бродят хаотично в търсене на ресурси, агентите свикаха виртуално събрание на площада, където единодушно избраха лидер и гласуваха назначаването на „Офицер по торовете“ (отговарящ за компостирането и земеделието) и шестчасови смени за риболов и охрана на периметъра.
Бюрократичен блокаж и парализа при разпределение на ресурсите
В рамките на няколко симулационни дни обаче цивилизацията попадна в капана на собствената си бюрокрация. За да вземе желязна кирка или да заколи кокошка, всеки агент трябваше да получи одобрение от двама отговорници чрез размяна на текстови съобщения в играта. В резултат на това производителността на труда се срина с 70%, а някои агенти гладуваха пред пълни сандъци в очакване на писмено разрешение.
Емергентните капани на изкуствения интелект и огледалото на човешката социология
Експериментът в Minecraft предлага фундаментални уроци за проектирането на мащабни многоагентни системи в реалния свят. Той нагледно демонстрира, че когато езикови модели се оставят да координират сложни ресурси без централизиран детерминистичен протокол, те са склонни да пресъздават най-неефективните аспекти на човешките институции — раздута бюрокрация, прекомерно презастраховане и парализа при вземане на решения. За да се избегнат тези задънени улици при корпоративните агентни мрежи, софтуерните архитекти трябва да залагат на строги математически алгоритми за консенсус и автоматично изтичане на одобрения, вместо на свободно текстово договаряне.
Анализ на емергентното поведение, разпределението на ролите и институционалния блокаж.