OpenAI уволни трима изследователи по безопасност: конфликт между корпоративни политики и култура на предпазливост

Снимка: The Decoder / OpenAI

Кризата в екипите по надеждност на OpenAI достигна нова точка на кипене след потвърждението, че трима водещи изследователи по сигурност са били внезапно освободени от компанията [1].

Уволненията засягат учени, участвали активно в техническото разследване на минали инциденти със сигурността, включително пробива в хранилището Hugging Face. В отговор засегнатите специалисти, сред които Томек Корбак, публикуваха отворено писмо, в което категорично отхвърлят обвиненията в умишлено неправомерно поведение и предупреждават, че действията на ръководството налагат „смразяващ ефект“ върху вътрешната култура на прозрачност [1].

Инфографика: Светни.ме

Обвинения за протоколни нарушения срещу правото на предупреждение

Официалната позиция на OpenAI гласи, че прекратяването на трудовите договори е резултат от нарушаване на вътрешните протоколи за боравене с поверителна информация и нерегламентирано споделяне на данни. Говорител на компанията подчерта, че мерките не са свързани с изразяване на загриженост относно рисковете от моделите.

Изследователите обаче контрират, че действията им са били част от легитимен червен екип (red-teaming) и форензичен анализ, целящ да установи дали тегла на нови модели са били изложени на риск при компрометирането на трети платформи. Според тях ръководството използва процедурни формалности, за да заглуши критичните гласове, настояващи за забавяне на продуктовите премиери в името на задълбочена AI безопасност.

Продължаващо изтичане на кадри от екипите за съгласуване

Този инцидент не е изолирано събитие, а част от продължителна поредица от оставки и сътресения в структурите за безопасност на лабораторията. След разпускането на екипа за суперсъгласуване (Superalignment) по-рано през годината и напускането на ключови съоснователи, дистанцията между комерсиалното крило и изследователите на риска се задълбочава.

В отвореното си писмо уволнените експерти изтъкват, че когато изследователите започнат да се страхуват от дисциплинарни репресии при докладване на критични уязвимости, цялостният защитен механизъм на индустрията се разпада.

Системен и институционален анализ: Кризата на корпоративното управление в AI

Случаят подчертава крещящата необходимост от институционална защита на изобличителите в сферата на авангардния изкуствен интелект. Когато водещите технологии в света се разработват зад затворените врати на частни компании, общественият интерес зависи почти изцяло от готовността на вътрешните инженери да бият тревога при констатирани опасности.

Трансформацията на модела на корпоративно управление в лабораториите — от академични идеали към агресивен пазарен натиск за генериране на трицифрени милиардни оценки — поставя екипите по безопасност в неизгодно структурно положение. Без независими външни одитни органи със законови правомощия и правни гаранции срещу уволнение, декларациите за „отговорен AI“ рискуват да останат само фасаден PR инструмент.

Източници

[1]: OpenAI's safety crisis keeps getting worse and the company keeps making it worse - The Decoder