Обрат в Белия дом: Тръмп приема тестовете за безопасност на AI след заплахата „Mythos“

Администрацията на Доналд Тръмп (Donald Trump) направи рязък завой в политиката си спрямо изкуствения интелект, сключвайки споразумения с Google DeepMind, Microsoft и xAI за ранен достъп до техните авангардни модели [1]. Този ход е изненадващ, тъй като доскоро Тръмп отхвърляше проверките за безопасност като „свръхрегулация“, която пречи на иновациите [2].

Основният катализатор за тази промяна е решението на компанията Anthropic да ограничи достъпа до най-новия си модел „Mythos“. Причината: моделът се е оказал твърде рисков, след като е открил 271 уязвимости от тип „zero-day“ в браузъра Firefox 150 само за броени часове. Страхът, че подобни способности могат да бъдат използвани от зловредни актьори, изглежда е убедил администрацията, че държавният надзор е необходим.

Изображение: Svetni.me / Авторско изображение

Институционализация на проверките

Новата рамка предвижда моделите да преминават през оценка от правителствени агенции, включително CAISI (Center for AI Safety and Innovation), преди да бъдат пуснати за публична употреба. Това е значителна промяна в сравнение с първоначалния скептицизъм на Тръмп към „регулациите в стил ЕС“. Изглежда, че „факторът Mythos“ е превърнал ИИ безопасността от политически дебат в приоритет на националната сигурност.

Източници:
[1]: Trump administration strikes AI safety deal with Google, Microsoft and xAI - TechCrunch
[2]: Trump’s surprising turn on AI safety - The Verge