Anthropic предлага федерален закон за блокиране на AI модели при риск от масови жертви
Снимка: Bloomberg / Getty Images / Business Insider
В безпрецедентен опит директно да оформи регулаторния пейзаж в Съединените щати, лабораторията Anthropic, ръководена от Дарио Амодей, е представила на законодатели във Вашингтон поверителен проект на федерален закон за безопасност на изкуствения интелект [1]. Централното и най-спорно предложение в документа предвижда правителството да получи правомощието за незабавно блокиране и сваляне от експлоатация на всеки модел, за който се установи, че създава непосредствена опасност от инцидент с над 50 жертви.
Конкретните механизми на проекта: Биосигурност и киберсаботаж
Текстът, придобит първоначално от изданието POLITICO, очертава ясна демаркационна линия между стандартните търговски приложения и критичните екзистенциални рискове. Законопроектът предлага създаването на специализирана федерална агенция, която да проверява модели с изчислителен бюджет за обучение, надвишаващ определени прагове (FLOPs).
Ако чрез симулирани тестове (red-teaming) или реални инциденти се докаже, че даден модел може автономно да:
- Синтезира смъртоносни биологични токсини или модифицирани вирусни щамове;
- Пробие защитата на националната електропреносна мрежа или системи за контрол на ядрени съоръжения;
- Координира кинетични атаки чрез автономни дронови рояци,
федералните регулатори ще имат правното основание да наложат административен запор върху инфраструктурата и да изискат спиране на инференцията [1].
Регулаторно превземане или отговорен контрол?
Инициативата на Anthropic предизвика поляризирани реакции сред експертната общност. Докато защитниците на строгата безопасност приветстват въвеждането на конкретен, измерим критерий (прагът от 50 жертви), разработчиците на софтуер с отворен код и по-малките стартъпи виждат в това класически опит за „регулаторно превземане“ (regulatory capture):
- Финансова бариера за навлизане: Задължителните одитни процедури, застраховки за деликтна отговорност и сертифициране на безопасността струват десетки милиони долари — сума, непосилна за академични лаборатории и стартъпи, но лесно поносима за гиганти като Anthropic, OpenAI и Google.
- Стратегически тайминг преди IPO: Anthropic се подготвя за мащабно първично публично предлагане. Позиционирането на компанията като най-отговорния и спазващ правилата играч на пазара е директен коз за привличане на институционални инвеститори, търсещи сигурност срещу бъдещи правителствени санкции.
- Опасността от федерален произволен контрол: Възлагането на държавен орган на правомощието да спира модели поражда сериозни притеснения за възможно налагане на цензура, забрана на изследователски архитектури и задушаване на отворената наука под претекст за „национална сигурност“.
Инфографика: Законодателни прагове и регулаторни механизми за контрол на гранични модели
Източници
- Anthropic's safety bill would let the US block an AI model if there's imminent risk of 50-plus deaths - Business Insider, 19 октомври 2026 г.