Федералните се паникьосаха от Fable 5 след обикновена подкана за поправка на код
Случаят около спешното преустановяване на достъпа до авангардните изкуствени интелекти на Anthropic придоби нов и изненадващ обрат. Според публикация в технологичното издание The Register [1], американското правителство е задействало тежката процедура по експортен контрол не заради сложна злонамерена атака или истински джейлбрейк, а заради обикновена потребителска подкана за автоматично отстраняване на грешки в софтуер.
Разкритието дойде от изтъкнати експерти в сектора по киберсигурност, сред които е и Кейти Мусурис — основател на компанията Luta Security. Те категорично отрекоха твърденията на властите, че моделите Fable 5 и Mythos 5 са били компрометирани чрез опасен експлоит, позволяващ офанзивно използване в мрежата.
Изображение: Svetni.me / Авторско изображение
Едно просто „поправи този код“
В основата на държавната паника стои стандартен за всеки програмист процес. Потребители са въвели съвсем легитимна и опростена заявка — „поправи този код“ (fix this code), изисквайки от модела да анализира даден софтуерен фрагмент, да открие слабости в него и да предложи безопасен пач [1].
Вместо да разпознаят това като обичаен защитен инструмент, правителствените регулатори от Бюрото по промишленост и сигурност към Министерството на търговията на САЩ са интерпретирали способността на ИИ да вижда и пренаписва уязвимости като офанзивно оръжие. Това доведе до издаването на безпрецедентната забрана за износ, тълкувайки защитната функция като пробив в сигурността на модела.
Щети за защитата и критики към регулаторите
Реакцията на федералните органи срещна сериозна вълна от критики от страна на инженерната общност. Анализатори подчертават, че анализът на код и отстраняването на уязвимости са фундаментални елементи от съвременната дефанзивна сигурност. Забраната на подобни функции лишава защитниците на мрежи от ключови автоматизирани инструменти, докато злонамерените участници продължават да развиват свои собствени методи.
Освен това, критиците отбелязват, че регулаторите демонстрират неразбиране на ИИ пазара, тъй като други водещи модели — като GPT-5.5 на OpenAI — вече разполагат с абсолютно същия капацитет за преглед и корекция на програмен код, без срещу тях да са предприемани административни санкции.
Впреки несъгласието в бранша, Anthropic се съобрази с разпоредбите и деактивира достъпа до Fable 5 за потребители в целия свят, подчертавайки необходимостта от по-дълбок диалог между държавата и технологичния сектор относно същността на езиковите модели.
Източници: