Регулатори и банки в спешна готовност след появата на Mythos AI

Глобалните финансови регулатори и най-големите щатски банки проведоха серия от извънредни срещи през последната седмица, след като Anthropic представи своя най-нов и усъвършенстван модел на изкуствен интелект — Mythos [1][2]. Моделът, пуснат в рамките на ограничената програма Project Glasswing, демонстрира безпрецедентни способности за автономно откриване и експлоатиране на уязвимости от типа „zero-day“, което предизвика опасения за системния риск пред световната финансова инфраструктура [1].

Според репортаж на Let's Data Science [1], Mythos Preview е успял самостоятелно да идентифицира и използва критични пропуски в сигурността на основни операционни системи и браузъри. В един от тестовете ИИ моделът е завършил успешно сложна симулация на корпоративна мрежова атака в 32 стъпки без човешка намеса [1]. Тези технически параметри, включително резултат от 93.9% на теста SWE-bench Verified, са сигнализирали на властите, че ИИ-базираните кибератаки вече са напълно реалистичен сценарий в голям мащаб [1].

CNBC потвърди [2], че председателят на Федералния резерв Джеръм Пауъл и министърът на финансите на САЩ Скот Бесент са се срещнали лично с лидерите на водещите банки в страната. На срещата са присъствали ръководителите на Bank of America, Citigroup, Goldman Sachs, Morgan Stanley и Wells Fargo [2]. Единственият отсъстващ от големите банкови директори е бил Джейми Даймън от JPMorgan Chase, въпреки че неговата институция е сред първите партняри на Anthropic в Project Glasswing [2].

Ситуацията се усложнява от обтегнатите отношения между Anthropic и администрацията на президента Тръмп. Министерството на отбраната на САЩ наскоро класифицира лабораторията за изкуствен интелект като „риск за веригата на доставки за националната сигурност“ [2]. Въпреки че федерален апелативен съд отказа да спре временното включване на компанията в черния списък, Anthropic продължава да работи с други правителствени агенции, докато текат съдебните дела [2].

В момента достъпът до Mythos е ограничен до около 40 организации, сред които Apple, Google, Microsoft и Nvidia [1][2]. Регулаторите обмислят два основни подхода: строго ограничаване на достъпа до подобни мощни инструменти или по-широкото им отваряне за общността по сигурността, за да се ускори укрепването на защитите [1].

Източници:

[1]: Regulators Scrutinize Anthropic's Mythos Over Banking Cyber Risks - Let's Data Science
[2]: Powell, Bessent discussed Anthropic’s Mythos AI cyber threat with major U.S. banks - CNBC