OpenAI публикува системен анекс за безопасност на модела GPT-Rosalind-6 за биологични изследвания
Източник: OpenAI Deployment Safety / Nature
В официален документ за безопасност OpenAI разкри детайли около системните оценки и защитните бариери на специализирания научен модел GPT-Rosalind-6, предназначен за биомолекулярно моделиране [1]. Анексът поставя безпрецедентен фокус върху предотвратяването на използването на изкуствен интелект за синтез на опасни биологични агенти и токсини.
Многослойно сканиране на последователности за опасни патогени
Моделът включва вътрешен предварителен филтър, обучен върху международните списъци за контрол на биологични оръжия. Всяка заявка за генериране на аминокиселинни вериги или ДНК последователности се проверява за структурно сходство с известни хеморагични вируси, невротоксини и антибиотично резистентни щамове, като при най-малкото съвпадение заявката се прекъсва моментално.
Тестове с екипи от външни биоинженери (Red Teaming)
В продължение на шест месеца независими микробиолози и специалисти по национална сигурност са провеждали атаки срещу модела, опитвайки се да заобиколят защитите чрез метафорични описания и кодирани заявки. Резултатите показват, че моделът запазва висока прецизност за легални фармацевтични изследвания, като същевременно блокира над 99,8% от опитите за злонамерен синтез.
Регулаторният прецедент за софтуер с висок биологичен риск
Системният анекс за GPT-Rosalind-6 представлява ключов ориентир за цялата биоинженерна индустрия. С преминаването на генеративните модели от текст към директно манипулиране на физическата материя и биологията, въпросът за сигурността престава да бъде академична абстракция. Публикуването на прозрачни протоколи за оценка на риска показва как научните лаборатории могат да внедряват мощни инструменти за откриване на лекарства без да отварят кутията на Пандора за биотероризъм. Това ще послужи като основа за бъдещите задължителни международни стандарти при работа с биомолекулярен изкуствен интелект.
Анализ на филтрите за последователности, червените екипи и международните регулации.