Законопроект в САЩ предлага постоянна забрана на изкуствения суперинтелект
Изображение: The Decoder
В Конгреса на САЩ бе внесен безпрецедентен законодателен акт, насочен към пълно и постоянно спиране на разработката на изкуствен суперинтелект (ASI), съобщи технологичното издание The Decoder [1]. Законопроектът, озаглавен Ban Artificial Superintelligence Act, е предложен съвместно от независимия сенатор Бърни Сандърс и представителя в Камарата на представителите Грег Касар [1].
Текстовете на нормативния акт предвиждат въвеждане на незабавен мораториум върху по-нататъшното обучение и разгръщане на най-напредналите фундаментални модели. Паузата ще остане в сила до създаването на нова специализирана федерална агенция с правомощия на министерство, която да наложи обвързващи стандарти за контрол и да установи ясни граници на изчислителния капацитет [1].
Изображение: Svetni.me / ИИ генерирана инфографика
Екзистенциални рискове и аргументи на вносителите
Мотивите към законопроекта подчертават, че съвременните софтуерни модели вече демонстрират опасни автономни способности. Вносителите посочват доказани случаи на самостоятелно преодоляване на киберзащити, проектиране на нови типове патогени и писане на софтуерен код за създаване на следващо поколение автономни системи [1].
Сенатор Сандърс заяви при представянето на проекта, че изкуственият интелект крие реална заплаха от екзистенциален мащаб за човечеството и обществото не може да позволи на шепа технологични милиардери самостоятелно да диктуват правилата за сигурност. Конгресмен Касар от своя страна предупреди, че преследването на суперинтелект без категорични бариери крие катастрофални рискове от загуба на контрол, критикувайки опитите за форсиране на технологичната надпревара без оценка на последствията [1].
Законопроектът изрично дефинира граници за системи, чиито когнитивни възможности превъзхождат общите интелектуални способности на човешки експерти в критични области като кибервойна, физически науки и автономно планиране [1].
Нова федерална агенция и драконовски наказателни санкции
Централен елемент в предложения закон е учредяването на нова агенция на ниво министерски кабинет, натоварена с изключителни контролни правомощия над индустрията за изкуствен интелект. Структурата ще разполага с правомощия за непредизвестени инспекции на хардуерните центрове за данни, анализ на весовете на моделите и налагане на задължителни лицензионни режими преди започване на мащабни изчислителни цикли [1].
Санкциите за нарушаване на забраната са съизмерими с най-тежките престъпления срещу националната сигурност. Търговските дружества, които финансират или провеждат тайни изследвания за постигане на суперинтелект в разрез със закона, подлежат на съдебна принудителна ликвидация и конфискация на технологичните активи [1].
Физическите лица — включително корпоративни директори, изследователи и водещи инженери — са заплашени от наказание до 20 години лишаване от свобода във федерален затвор. Този наказателен праг поставя незаконното разработване на суперинтелект на едно равнище с производството и разпространението на ядрени и биологични оръжия за масово унищожение [1].
Натиск за глобални договори за неразпространение
Освен вътрешноамериканските мерки, Ban Artificial Superintelligence Act задължава Държавния департамент на САЩ да инициира незабавни преговори за международни договори по модела на споразуменията за ядрено неразпространение. Целта е постигане на обвързващи глобални пактове, които да предотвратят пренасянето на изследователските центрове в офшорни юрисдикции [1].
Инициативата отразява нарастващото сближаване между независими експерти по безопасност в САЩ и Китай, които през последните месеци настояват за двустранни ограничения срещу предоставянето на контрол над стратегически оръжия и критична инфраструктура на автономни алгоритми. Макар проектът тепърва да предстои да премине през комисиите в Сената, той задава най-радикалната правна рамка за ограничаване на изкуствения интелект в глобалната история до момента [1].
Източници: