Непредвидените последствия от изкуствения интелект в науката: Модел на поведение

Изображение: Svetni.me / ИИ генерирано изображение

Големите езикови модели обещават да ускорят научния прогрес на всеки етап – от генерирането на хипотези и писането на код до форматирането и публикуването на научни трудове. Общата надежда е, че когато автоматизацията поеме рутинните задачи, учените ще разполагат с повече време за дълбоко мислене и качествени изследвания.

Ново теоретично изследване [1], публикувано в платформата arXiv от изследователи като Карл Бергстрьом от Вашингтонския университет, колеги от Принстън и други водещи институции, обаче показва точно обратния ефект. Авторите твърдят, че използването на LLM в научната дейност променя баланса на времевите разходи и води до неочаквани последствия за качеството на научния труд.

Изображение: Svetni.me / ИИ генерирана инфографика

Оптимално поведение и научни усилия

За да анализират поведението на учените, изследователите изграждат математически модел, базиран на теорията за оптимално търсене на храна (optimal foraging theory) от поведенческата екология. Тази рамка описва как организмите разпределят енергията си между различни конкуриращи се възможности. Приложена към науката, тя симулира как учените разпределят времето си между отделните проекти.

В модела всеки научен проект се развива в две основни фази:

1. Проверка на първоначалната жизнеспособност на идеята.
2. Решение за изоставяне на проекта или за неговото завършване.

Етапът на завършване от своя страна включва задължителна част (оформяне, техническо писане и подаване) и доброволна част (провеждане на допълнителни експерименти, по-дълбок анализ на данните и прецизиране на текста). Именно доброволната част, която определя крайната задълбоченост и качество на труда, е първата жертва, когато свободното време се окаже оскъдно.

Трите сценария на автоматизация

Моделът разглежда три различни сценария в зависимост от това в коя фаза на изследването се прилага изкуственият интелект:

1. ИИ помага при ранното оценяване на идеи.
Учените могат бързо и евтино да проверяват концепции, което ги прави по-селективни при избора на проекти. Въпреки това, самите проекти получават по-малко внимание при финализирането им. Тъй като започването на следващ проект е станало по-лесно, ценността на оставащото време се повишава. Този модел е типичен за силно техническите дисциплини.

2. ИИ ускорява писането, форматирането и публикуването.
Тъй като финалната фаза изисква минимални усилия, учените започват да прокарват по-слаби проекти, които преди не биха си стрували труда. Броят на публикациите нараства драстично, но качеството и дълбочината на всяка една от тях спадат. Този модел се наблюдава по-често в приложните и теренните изследвания.

3. ИИ ускорява доброволното дълбоко валидиране.
Това е единственият сценарий, при който качеството на научния труд се подобрява. Когато технологията помага точно в етапа на допълнителните експерименти и сложния анализ – там, където учените традиционно пестят усилия поради недостиг на време – спестените часове се превръщат в по-прецизна и качествена работа.

В два от трите сценария обаче крайната задълбоченост на публикациите намалява.

Икономиката на времето и реалността

Основният извод на авторите е, че технологията за подпомагане на труда повишава неговия алтернативен разход. Всеки час, прекаран в полиране и тестване на вече завършен проект, е час, който не може да бъде инвестиран в стартирането на нов. Това стимулира учените да правят повече неща, но по-повърхностно [1].

Тези теоретични изводи вече се потвърждават и на практика. Доклад на OpenAI показва, че въпреки 60-кратните ускорения при писането на научен софтуер, тесните места бързо се преместват към фазите на валидиране и поддръжка [2]. Същевременно проучване на METR разкрива, че разработчиците, използващи ИИ инструменти, всъщност губят 19% повече време за изпълнение на задачите поради нуждата от верификация, макар субективно да се чувстват с 24% по-бързи [3].

Криза в научната екосистема

Масовото ускоряване на писането на научни статии вече подлага на сериозен натиск системата за peer-review [4]. Броят на подадените за рецензиране статии расте с темпове, които човешкият капацитет не може да поеме.

Случаят с проекта „AI Scientist-v2“ на Sakana AI, който успешно прокара изцяло генерирана от ИИ статия през конференция, въпреки грешните цитирания и оставените системни мета-коментари, илюстрира рисковете от автоматизирания научен поток [5]. В отговор платформи като arXiv затягат правилата си и въвеждат едногодишни забрани за публикации при установяване на фалшифицирани или несъществуващи източници [6].

Институциите трябва да адаптират своите регулации към конкретните научни области, тъй като влиянието на изкуствения интелект не е хомогенно. Без промени в критериите за оценка научната общност рискува да попадне в капана на свръхпроизводството на нискокачествено съдържание.

Източници:

[1]: The unintended consequences of large language models as a labor-augmenting technology in science - arXiv
[2]: AI coding agents can modernize research software, but can't judge if the science is right - The Decoder
[3]: AI coding can make developers slower, even if they feel faster - The Decoder
[4]: arXiv tightens moderation for computer science papers amid flood of AI-generated review articles - The Decoder
[5]: AI-generated paper passes peer review before planned withdrawal - The Decoder
[6]: arXiv tightens penalties for AI bungling in scientific papers - The Decoder