Рецензирана научна статия цитира несъществуващ текст от TorrentFreak, генериран от халюциниращ AI
Източник: Unsplash / Patrick Tomasso
Пореден скандал разтърси света на академичното публикуване (Academic Publishing), след като разследване на дигиталното издание TorrentFreak установи, че рецензирана научна статия, посветена на сенчестата онлайн библиотека Z-Library, съдържа подробни цитати и специфични анализи от материал на TorrentFreak, който... никога не е бил публикуван и не съществува в реалността [1].
Случаят е класически пример за опасния феномен на AI халюцинациите (AI Hallucinations) в научната дейност: авторите на изследването са използвали голям езиков модел за структуриране на библиографските препратки, а алгоритъмът е генерирал перфектно форматирано, звучащо изключително достоверно, но напълно фалшиво заглавие и URL адрес. Още по-тревожното е, че нито един от авторите, нито редакторите на списанието, нито независимите рецензенти в процеса на взаимно рецензиране (Peer Review) не са си направили труда да отворят посочения линк.
Механизъм на библиографското замърсяване в науката
Разследването разкрива симптомите на системна криза в съвременните научни институции:
- Генеративно фабрикуване на авторитет: Езиковите модели знаят, че TorrentFreak е най-цитираният авторитет по темите за авторско право и пиратски хранилища, поради което моделът просто конструира статистически най-вероятното заглавие, което „би трябвало“ да съществува.
- Ерозия на научната почтеност (Scientific Integrity): Натискът за непрекъснато публикуване на нови статии („publish or perish“) кара учените да делегират черната работа по проверка на източниците на софтуерни асистенти, пренебрегвайки базови професионални стандарти.
- Илюзията за рецензентски контрол: Рецензентите са хронично претоварени от лавината от нови ръкописи, което свежда проверката до бързо преглеждане на абстракта и методологията, без проверка на първичните източници.
Дългосрочни институционални и образователни последици
Скандалът с измисления цитат на TorrentFreak е само върхът на айсберга на глобалното замърсяване на научния консенсус. Когато фалшиви твърдения проникнат в рецензирани списания, те започват да бъдат цитирани от други изследователи, създавайки затворена каскада от псевдонаучни митове, които впоследствие попадат в корпусите за обучение на нови невронни мрежи, затваряйки автофагичния цикъл на упадък.
За да се възстанови доверието в науката, академичните издателства ще бъдат принудени да въведат драконовски автоматизирани системи за дигитална верификация. Всяка библиографска препратка ще трябва задължително да разполага с валидиран DOI идентификатор или криптографски архив в WebCite/Internet Archive. Авторите, допуснали халюцинирани източници, трябва да бъдат наказвани с отнемане на грантове и ретрахиране на публикациите им, за да се спре лекомисленото използване на генеративен AI в научния процес.
Как халюцинираните библиографии компрометират академичния консенсус