Anthropic предупреждава за катастрофални рискове в проспекта си и налага контрол чрез доверителен тръст
Източник: UK Government / Wikimedia Commons
В разделите за рискови фактори от своя 355-страничен проспект S-1 Anthropic включи безпрецедентни предупреждения към бъдещите публични инвеститори, посочвайки, че по-нататъшното развитие на авангарден интелект крие реална опасност от „катастрофални въздействия върху човечеството“ [1]. За да смекчи тези заплахи, компанията потвърди, че върховната власт остава в ръцете на независим орган – Long-Term Benefit Trust [2].
Официални предупреждения за екзистенциален и системен риск
В раздела „Рискови фактори“ юристите на Anthropic очертават сценарии, които досега присъстваха предимно в академични доклади за безопасност: възможност бъдещи модели да съдействат за създаване на биологично оръжие, автономна ескалация на кибератаки срещу критична инфраструктура или пълна загуба на контрол над самоусъвършенстващи се системи.
Компанията открито предупреждава акционерите, че спазването на нейната Политика за отговорно мащабиране (Responsible Scaling Policy) може да изисква забавяне, ограничаване или дори пълно спиране на комерсиалното разгръщане на печеливши модели, ако те преминат дефинираните прагове за безопасност.
Механизъм на Long-Term Benefit Trust
За разлика от традиционните корпорации, където гласовете на акционерите определят състава на борда на директорите, Anthropic е въвела надзорен тръст от петима независими експерти по сигурност. Тръстът разполага със специален клас акции, който му дава правото да назначава и освобождава мнозинството от членовете на борда, независимо от дяловото участие на външните инвеститори.
Сблъсък между пазарната логика и протоколите за безопасност
Въвеждането на подобна структура на публичните борси поставя фундаментален въпрос пред институционалните инвеститори: готови ли са фондовете да поверят милиарди долари на ръководство, което открито поставя защитата от системни рискове над максимизирането на тримесечната печалба? Тръстът създава щит срещу враждебни придобивания и регулаторен натиск, но същевременно лишава акционерите от класическите лостове за корпоративен контрол.
Този прецедент ще тества правните рамки на корпоративното право в Делауеър и може да се превърне в задължителен стандарт за всяка следваща компания, разработваща гранични модели с висок потенциал за автономност.
Структурни нива на защита и надзор съгласно проспекта S-1