Доклад на METR: Anthropic е преминала собствения си праг за предупреждение за ускорено развитие на AI още през юли
Източник: The Decoder / METR
Авторитетната независима организация за оценка на рисковете от изкуствен интелект METR публикува доклад, според който водещата лаборатория Anthropic най-вероятно е преминала своя собствен праг за ранно предупреждение за ускорение на AI още през юли тази година [1]. Анализът поставя въпроса дали корпоративните ангажименти за безопасност на изкуствения интелект и политиките за отговорно мащабиране (RSP) се спазват на практика при засилваща се пазарна надпревара.
Автономно софтуерно инженерство и прагове за безопасност
Според тестовете на METR, най-новите версии на моделите Claude са демонстрирали способност да изпълняват комплексни многочасови задачи по софтуерно инженерство, откриване на уязвимости и самоусъвършенстване без човешка намеса. Преминаването на този бенчмарк по правилата на самата Anthropic изисква автоматично въвеждане на по-високо ниво на сигурност (ASL-3) и забавяне на публичното разгръщане.
Балансът между прозрачност и конкурентно предимство
Критици посочват, че забавянето в публичното оповестяване на тези резултати отразява огромния търговски натиск. Въвеждането на строги защитни мерки и одитни процедури може да забави пускането на нови функции спрямо конкуренти като OpenAI и Google, поставяйки лабораторията в неизгодно пазарно положение.
Кризата на доброволното корпоративно саморегулиране
Констатациите на METR демонстрират фундаменталната слабост на доброволните рамки за безопасност. Докато надпреварата се води с милиарди долари залог, нито една частна компания не може устойчиво да спазва обещания за доброволно самоограничение, ако това заплашва пазарното ѝ оцеляване. Доброволните обещания за отговорно мащабиране се пропукват в момента, в който технологичните възможности надминат очакванията. Единственият начин да се гарантира сигурността на автономните системи е въвеждането на правно обвързващи външни одити и държавни регулаторни стандарти с реални санкции.
Преглед на бенчмарковете, нивата ASL и регулаторните дилеми.