OpenAI разкри руска и иранска мрежа за влияние, генерирала фалшиви публикации в реални медии
Снимка: The Decoder / OpenAI Threat Intelligence
В най-подробния си доклад за държавно спонсорирани заплахи досега, екипът по киберсигурност на OpenAI разкри мащабни кампании от Русия и Иран, насочени към манипулиране на глобалната новинарска екосистема [1].
Разследването доведе до блокирането на десетки комерсиални профили и API ключове, използвани за генериране на синтетични новинарски статии чрез ChatGPT. За първи път в историята на мониторинга на OpenAI руска кампания получи оценка от пета степен (Severity 5 от общо 6), след като нейни генерирани текстове бяха публикувани от реални новинарски издания в Латинска Америка [1].
Инфографика: Светни.ме
Кампанията „Dark Clark“ и пробивът в реалните редакции
Руската операция, проследена под кодовото наименование „Dark Clark“, демонстрира нова еволюция в методите за водене на информационна война. Вместо да разчита на примитивни ботнет профили в социалните мрежи, операцията е използвала езиковите модели за стилистично съвършено написване на обширни аналитични коментари и авторски колони.
Тези материали, представящи се за независими геополитически анализи, са били изпращани до легитимни регионални вестници и онлайн портали, където редакторите са ги публикували, без да подозират изкуствения им произход. Публикациите са предизвикали публични дебати и официални коментари от местни политически лидери, изпълнявайки стратегическата цел на операторите.
Иранската следа и заобикалянето на филтрите
Едновременно с това докладът осветлява иранска кампания, фокусирана върху поляризиращи обществени теми в Съединените щати. Нападателите са използвали сложни техники за поетапно подаване на промптове (prompt splitting), с цел да заобиколят вградените предпазни филтри срещу генериране на политическа пропаганда.
Чрез синтезиране на хиляди коментари с леки вариации кампанията е целяла да симулира автентичен обществен консенсус по спорни законодателни и международни инициативи.
Геополитически анализ: Индустриализация на дезинформацията и медийният имунитет
Разкритията подчертават дълбоката качествена трансформация в методите за дезинформация. Изкуственият интелект елиминира езиковата бариера и високата цена за наемане на човешки пропагандатори, позволявайки на държавните служби да провеждат операции за влияние в индустриален мащаб с минимални финансови ресурси.
Случаят показва и тревожната уязвимост на съвременните медии. Икономическата криза в журналистиката и недостигът на редакторски ресурс превръщат традиционните издания в лесна мишена за инфилтриране на синтетични текстове. За да се противопостави на тази заплаха, общността за разузнаване на киберзаплахи трябва да си сътрудничи тясно с медийните издатели за налагане на криптографски стандарти за проверка на авторството и произхода на материалите.