Anthropic подаде проспект за първично публично предлагане: Огромен растеж и безпрецедентно предупреждение за екзистенциален риск

Ars Technica / Anthropic

Компанията за изкуствен интелект Anthropic, създател на популярното семейство модели Claude, официално подаде своя регистрационен формуляр S-1 пред Комисията по ценните книжа и борсите на САЩ (SEC) за първично публично предлагане (IPO) [1]. Документът разкрива зашеметяващ финансов растеж, подхранван от масово внедряване в корпоративния сектор, но едновременно с това предизвика смут на финансовите пазари с безпрецедентни предупреждения в раздела за рискови фактори [1].

В правно обвързващия проспект ръководството на Anthropic открито заявява, че бързото развитие на гранични модели носи реален риск от „катастрофални събития, водещи до унищожение на човечеството или необратима загуба на контрол над цивилизацията“ [1]. За първи път в историята на Уолстрийт публична компания вписва потенциалния край на човешкия вид като материален инвестиционен риск [1].

Рекорден бизнес на фона на екзистенциална заплаха

Финансовите показатели в проспекта демонстрират, че приходите на Anthropic са се увеличили над четири пъти на годишна база, превръщайки я в един от най-бързо растящите софтуерни бизнеси в историята [1]. Корпоративните клиенти разчитат все по-силно на Claude за софтуерно инженерство, правен анализ и автоматизирано обслужване [1].

Въпреки това проспектът детайлно описва специфичната управленска структура на компанията — Long-Term Benefit Trust [1]. Този независим тръст притежава специални права да спре обучението на модели, да отмени търговски договори или дори напълно да прекрати дейността на фирмата, ако прецени, че се приближава опасно до неконтролируем свръхинтелект [1]. Инвеститорите изрично се предупреждават, че обществената безопасност ще има предимство пред краткосрочната печалба на акционерите [1].

Предупреждение за биологични и кибер заплахи

В списъка с конкретни опасности Anthropic посочва риска бъдещи модели да бъдат използвани от злонамерени актьори за синтез на смъртоносни патогени или автоматизирано разрушаване на критична енергийна инфраструктура [1]. Компанията подчертава, че с нарастването на автономията на агентите контролът върху техните междинни цели става математически недоказуем [1].

„Нашият дълг към бъдещите акционери изисква пълна честност: изграждането на изкуствен общ интелект не е просто печеливш софтуерен бизнес, а технология с планетарни последствия“, се посочва в писмото на основателите Дарио и Даниела Амодей [1].

Пазарно ценообразуване на края на света: Сблъсъкът между рисковия капитал и реалността

Подаването на проспекта на Anthropic представлява вододелен момент за глобалните капиталови пазари [1]. В продължение на десетилетия финансовите модели на Уолстрийт са конструирани върху концепцията за дисконтирани парични потоци, приемайки за даденост, че глобалната икономика ще продължи да съществува в познатия си вид [1]. Когато обаче една от най-високо оценяваните технологични компании в света официално декларира пред регулатора, че нейният основен продукт може да доведе до изчезване на потребителите и инвеститорите, традиционният финансов анализ се оказва безпомощен [1].

Тази откровеност поставя институционалните инвеститори пред фундаментална дилема [1]. От една страна, пенсионите фондове и суверенните държавни фондове не могат да си позволят да пропуснат колосалния растеж на приходите от внедряването на Claude в глобалната индустрия [1]. От друга страна, вграденият механизъм Long-Term Benefit Trust на практика отнема класическите права на акционерите да изискват максимална доходност на всяка цена [1]. Ако независимият борд реши утре да спре пускането на следващия модел заради подозрения в недостатъчна безопасност, инвеститорите няма да имат правно основание за съдебен иск [1]. Това ще принуди финансовия свят да създаде изцяло нова методология за оценка, при която екзистенциалната безопасност се превръща в най-важния структурен коефициент на дисконтиране [1].

Инфографика: Анализ на Svetni.me

Източници

[1]: Anthropic’s IPO pitch includes a warning about human extinction - Ars Technica