Трима уволнени изследователи по сигурност на OpenAI твърдят, че компанията никога не е уточнила какво са изтекли
Източник: The Decoder / Daniel Kokotajlo
Трима водещи изследователи по сигурност, уволнени от OpenAI по-рано през годината, излязоха с координирани публични свидетелства, заявявайки, че корпоративното ръководство никога не им е предоставило каквито и да било доказателства или конкретни данни за това какво точно са „изтекли“ [1]. Учените, сред които личат имената на ключови фигури от разпуснатия екип по подравняване на AI, определят чистката като целенасочена кампания за сплашване и пресичане на вътрешните критики срещу агресивното форсиране на комерсиални модели.
Според изследователите, отстраняването им е било съпроводено с агресивно позоваване на драконовски споразумения за конфиденциалност (NDA), които предвиждаха пълно отнемане на натрупаните акции при публични изказвания. Разкритията им поставят OpenAI под нов натиск от страна на американските и европейските регулатори относно практиките за защита на информаторите (whistleblowers) в сферата на авангардния изкуствен интелект.
Хронология на конфликта между скорост и безопасност
Свидетелствата на тримата изследователи хвърлят светлина върху системните напрежения вътре в лабораторията:
- Разминаване в протоколите: Екипът по безопасност многократно е предупреждавал, че тестовете за автономност и манипулативност на моделите се съкращават изкуствено, за да не се изостава от конкурентни разработки.
- Етикетиране като нелоялност: Всеки вътрешен технически доклад, поставящ под въпрос готовността на новите архитектури за пазарно внедряване, е бил посрещан с подозрение от бизнес мениджмънта.
- Юридически шантаж: Служителите са били притискани да подписват документи, отнемащи им правото дори да споменават за съществуването на спорните клаузи за конфиденциалност.
Дългосрочни институционални и регулаторни последици
Този публичен сблъсък нанася тежък репутационен удар върху легитимността на корпоративното саморегулиране при безопасността на AI. Твърденията, че най-мощната лаборатория в света използва правни трикове за цензуриране на собствените си учени по подравняване, окончателно дискредитира тезата, че пазарните стимули са достатъчни за гарантиране на обществения интерес.
Случаят ще послужи като катализатор за законодателни инициативи в Конгреса на САЩ и Европейския парламент за криминализиране на клаузите за мълчание, засягащи системни технологични рискове. За технологичния сектор това означава край на ерата на вътрешните тайни лаборатории: компаниите ще бъдат задължени по закон да осигурят независими канали за подаване на сигнали от информатори и да допускат външни държавни одитори до тестовите протоколи на всяка нова итерация на изкуствения интелект.
Основни точки от свидетелствата на уволнените експерти по сигурност