Anthropic предостави на външни одитори от METR достъп на ниво служители до своите модели и кодова база
Снимка: Anthropic Press Kit
Лабораторията за изкуствен интелект Anthropic обяви споразумение с водещата изследователска група METR (Model Evaluation and Threat Research), съгласно което външни одитори получават привилегии за вътрешен достъп на ниво щатни служители [1]. Това е първият случай в индустрията, при който независима организация получава възможност да тества моделите по време на самото им обучение.
Независим вътрешен одит срещу рискове от критично ниво
Инспекторите на METR ще могат да наблюдават контролните точки (checkpoints) на следващото поколение архитектури Claude преди те да преминат през фазата на фино съгласуване. Целта е провеждането на строги стрес-тестове за потенциално опасни способности — включително автономно саморепликиране, разработване на кибероръжия и подпомагане на биохимичен синтез в рамките на стандарта за безопасност на изкуствения интелект (AI Safety).
Преодоляване на корпоративния конфликт на интереси
Досега лабораториите за изкуствен интелект разчитаха предимно на вътрешни екипи за безопасност (Red Teams) или предоставяха ограничен достъп през API на външни изследователи само седмици преди публичната премиера на моделите. Този подход бе широко критикуван от академичната общност като недостатъчен за откриване на скрити уязвимости.
С предоставянето на инфраструктурен достъп, репозитории с изходен код и дневници за обучение, Anthropic цели да установи нов индустриален стандарт за прозрачност. Споразумението предвижда METR да публикува независими доклади за констатациите си без предварително корпоративно цензуриране.
Институционализиране на регулаторния надзор в преддверието на AGI
Инициативата на Anthropic бележи фундаментален преход от ерата на доброволни корпоративни обещания към реално институционализирано верифициране. С приближаването на моделите към равнища на автономност, способни да оказват влияние върху националната сигурност, саморегулацията губи своето доверие пред правителствените органи.
Интегрирането на независими одитори вътре в разработката създава прецедент, който вероятно ще залегне в законодателните изисквания на Закона за изкуствения интелект на ЕС и директивите на Белия дом. Този модел наподобява независимите инспекции в ядрената енергетика и авиацията, където външният надзор е задължително условие за получаване на лиценз за експлоатация.
Инфографика: Светни.ме • Аналитичен поглед върху тенденциите и последствията