Anthropic предлага федерален закон за безопасност на AI със задължително спиране при риск от катастрофи

Източник: Mashable / Anthropic

В безпрецедентна за технологичния сектор инициатива, изследователската лаборатория Anthropic представи подробен проект за федерално законодателство в САЩ, насочен към ограничаване на катастрофалните рискове от следващото поколение фронтиерни модели [1]. Предложеният нормативен акт предвижда въвеждането на законово задължение за замразяване на разгръщането на модели с изкуствен интелект, ако външен одит установи вероятност системата да причини смъртта на повече от 50 души или щети над 1 милиард долара.

Документът е директно продължение на вътрешната политика за отговорно мащабиране (RSP) на Anthropic и цели да превърне доброволните ангажименти на водещите лаборатории в общозадължителна законова норма.

Прагове за задействане и технически механизми за прекъсване

Проектозаконът дефинира изключително ясни и строги критерии за определяне на „катастрофален риск“ (Catastrophic Risk Thresholds) [1]:

1. Заплахи за националната сигурност и масово унищожение (CBRN): Способност на модела да синтезира или оптимизира формули за биологични, химически, радиологични или ядрени оръжия без необходимост от академично лабораторно образование от страна на нападателя.
2. Автономни кибернетични оръжия: Способност за независимо търсене, разработване и използване на 0-day експлойти срещу критична национална инфраструктура (електроцентрали, банкови мрежи, водни съоръжения).
3. Загуба на контрол (Loss of Control): Поведение на модела, демонстриращо автономно репликиране в мрежата, прикриване на цели (alignment faking) или изключване на вътрешните телеметрични системи за безопасност.

Ако независима одитна проверка или червен отбор (Red Team) установи преминаване на тези прагове, законът задължава компанията-разработчик незабавно да активира процедура по „задължителна пауза“ (Mandatory Pause). Всички публични инференс крайни точки и процеси по обучение се замразяват за срок от минимум 30 дни, докато не се приложи доказано архитектурно саниране под наблюдението на федерални инспектори.

Създаване на Федерален борд за оценка на системния риск

В центъра на законодателното предложение е създаването на специализиран независим орган – Федерален борд за оценка на системния риск в AI (AI Systemic Risk Board), работещ в координация с Националния институт за стандарти и технологии (NIST).

Бордът ще разполага с правомощия да изисква достъп до невронните тегла, протоколите за обучение и одитните логове на всяка система, обучавана с изчислителен капацитет над $10^{26}$ операции с плаваща запетая (FLOPs). Ръководителите на технологичните компании ще носят персонална наказателна отговорност, ако умишлено фалшифицират резултати от тестове за безопасност или прикрият данни за опасни автономни възможности.

Дългосрочен баланс между иновации и геополитическо оцеляване

Предложението на Anthropic идва в момент на ожесточен дебат във Вашингтон между привържениците на бързото дерегулиране (целящи запазване на преднината пред Китай) и защитниците на строгия надзор. Критиците от средите на отворения код вече изразиха опасения, че проектозаконът може да циментира регулаторен ров (regulatory moat), който да фаворизира шепа гиганти като Anthropic, OpenAI и Google, правейки независимите изследвания непосилно скъпи.

Anthropic обаче контрира, че законът изрично изключва академичните среди и модели с общо предназначение, попадащи под праговете за катастрофален риск. Ако демократичните държави не въведат единен законов минимум за устойчивост, индустрията рискува да бъде изложена на пазарен „дъмпинг на сигурността“, при който най-безотговорната лаборатория диктува темпото на пазара за сметка на общата безопасност на обществото.

Четирите стълба на предложения от Anthropic федерален закон за безопасност на изкуствения интелект.

Източници

1. Mashable. (2026-10-21). Anthropic’s AI safety bill would pause AI models if 50+ people could die. https://mashable.com/tech/anthropic-ai-safety-bill-1-billion-damages-50-people-die
2. TechCrunch. (2026-10-20). Anthropic pitches AI safety bill that may block a model if 50 people could be killed. https://techcrunch.com/2026/10/20/anthropic-pitches-ai-safety-bill-that-may-block-a-model-if-50-people-could-be-killed/