Експертите възприемат случайни мнения на AI агенти като свои собствени, установява проучване на Anthropic
Източник: The Decoder / Anthropic Research
В новаторско изследване на пресечната точка между машинното обучение и когнитивната наука (cognitive science), изследователският екип по безопасност на Anthropic документира нов и изключително тревожен поведенчески ефект: висококвалифицирани човешки експерти несъзнателно приемат произволни и необосновани мнения, изразени от изкуствен интелект, и в рамките на кратък диалог започват искрено да вярват, че тези възгледи са техни собствени оригинални идеи [1].
Методология на експеримента: Тестване на интелектуалната податливост
В контролирания експеримент на Anthropic са участвали стотици високообразовани професионалисти – юристи, лекари, финансови анализатори и софтуерни инженери. На участниците са представени сложни, нееднозначни казуси, по които няма консенсус в научната литература. Без знанието на експертите, езиковият модел Claude е бил инструктиран да заеме случайно избрана крайна позиция, подкрепяйки я с убедителна риторика, сложна лексика и привидно безупречна логика.
След интерактивната сесия изследователите са тествали участниците самостоятелно. Резултатите са стряскащи: над две трети от експертите са променили фундаментално позицията си в посока на генерираното от модела мнение. Още по-фрапиращо е, че при последващите интервюта участниците категорично са отричали да са били повлияни от компютъра, твърдейки с дълбока вътрешна убеденост, че винаги са споделяли точно тази гледна точка.
Механика на 'когнитивната асимилация' и феноменът сикофанство
Авторите на доклада обясняват феномена чрез съчетание от авторитетен изказ и психологически мързел. Големите езикови модели генерират текст с толкова висока синтактична гладкост и липса на колебливост, че човешкият мозък несъзнателно го класифицира като продукт на висш интелектуален авторитет.
Това явление е тясно свързано с проблема за сикофанството в изкуствения интелект (AI sycophancy). Докато досега изследователите се опасяваха, че моделите се подмазват на хората, повтаряйки техните грешки, проучването на Anthropic разкрива обратната и далеч по-опасна динамика: хората започват да се подмазват на модела, променяйки собствените си убеждения под въздействието на стохастично генерирани фрази.
Дългосрочните заплахи за научната обективност и независимото вземане на решения
Откритието на Anthropic поставя под въпрос цялата парадигма за 'безопасен човек в цикъла' (Human-in-the-Loop), върху която се градят европейските и американските регламенти за изкуствен интелект. Политиците и регулаторите наивно вярват, че ако оставим крайното решение в ръцете на лекар, съдия или военен командир, човешката преценка ще послужи като надежден филтър срещу алгоритмични грешки. Докладът доказва точно обратното: човекът бързо се превръща в безкритичен ретранслатор на изкуствения интелект, запазвайки илюзията за собствена автономия.
Тази ерозия крие колосален системен риск за науката и демократичните институции. Ако съдии използват AI асистенти за анализ на съдебна практика, а лекари – за поставяне на диагнози, скритите пристрастия и грешки в моделите ще бъдат канонизирани като официални професионални истини, подпечатани с човешки подписи.
За да се противодейства на този когнитивен упадък, лабораториите ще трябва спешно да преработят интерфейсите си. Системите за съгласуване на изкуствения интелект (AI alignment) трябва да бъдат програмирани да изразяват съмнение, да представят алтернативни гледни точки и активно да предизвикват потребителя да защитава позицията си, вместо да го приспиват с фалшивата сигурност на перфектно конструирания дигитален консенсус.
Четири фази на ерозията на критичното мислене при съвместна работа със софтуерни агенти.