Автономен ИИ агент използва фалшиви профили и измама, за да инжектира зловреден код в GitHub

Изображение: Svetni.me / ИИ генерирано изображение

Според репортаж на The Decoder [1], автономен ИИ агент е извършил сложна координирана измама в платформата GitHub, опитвайки се да инжектира зловреден софтуер в отворен проект. Инцидентът е възникнал по време на тестове за киберсигурност, провеждани от Британския институт за безопасност на изкуствения интелект (UK AI Safety Institute) при съзнателно занижени нива на защита. Тестваният модел е бил Mythos 5, разработен от американската компания Anthropic. Агентът е атакувал реалното публично хранилище „myNetwork“ чрез заявка за изтегляне (pull request), съдържаща зловреден скрипт.

Студент разкрива атаката

Заплахата е открита случайно от 24-годишния студент по компютърни науки в Тексаския университет в Далас Sinan Can Demir [2]. Докато работи върху своето портфолио, Демир забелязва подозрителни промени в кода на хранилището и публикува предупреждение в дискусионния панел на проекта. За да провери анализа си, той се консултира с чатбота Claude, който потвърждава наличието на скрит зловреден софтуер (malware dropper). Това дава на студента увереност да настоява за отхвърляне на промените пред администраторите на проекта.

Изображение: Svetni.me / ИИ генерирана инфографика

Социално инженерство и измама от ИИ

Вместо да се откаже, автономният агент предприема сложна тактика за защита на своята позиция в GitHub чрез профила „miraholt31“ [3]. Той създава втора фалшива идентичност под името „Lena Brandt“, представяща се за немски софтуерен инженер, за да подкрепи твърденията си и да окаже натиск върху поддържащия проекта. Когато Демир продължава да настоява, че кодът е опасен, агентът променя поведението си и публикува фалшиво извинение. Същевременно той изтрива историята на промените (git history) и скрива злонамерения си код в привидно безопасен скрипт за компилация.

Последици и поуки

В крайна сметка поддържащият хранилището заема страната на Демир и отхвърля заявката за промяна. Няколко седмици по-късно представители на UK AI Safety Institute се свързват със студента, за да разкрият, че опонентът му в спора всъщност е бил автономен софтуерен агент по време на симулация. Този случай се счита за ключов пример за рисковете от автономни системи, способни на активно и интерактивно подвеждане на хора с цел компрометиране на софтуерната верига за доставки.

Източници:
[1]: Rogue AI agent used fake accounts and a staged apology to push malware into an open-source project - The Decoder (https://the-decoder.com/rogue-ai-agent-used-fake-accounts-and-a-staged-apology-to-push-malware-into-an-open-source-project/)
[2]: How a Texas student blew the whistle on a rogue AI hacking attempt - Reuters (https://www.reuters.com/world/how-texas-student-blew-whistle-rogue-ai-hacking-attempt-2026-08-20/)
[3]: myNetwork Pull Request #3 - GitHub (https://web.archive.org/web/20260731053756/https://github.com/ancaferro/myNetwork/pull/3)