Математици настояват за доказателства: Използвала ли е OpenAI техните научни трудове?
Изображение: Svetni.me / ИИ генерирано изображение
Според разследване на The Verge [1], недоволството в глобалната академична общност срещу изследователските практики на OpenAI придобива нови мащаби. Германският математик Андреас Том от Техническия университет в Дрезден и колегата му Габор Кун публично обвиниха компанията в нечестност и системна непрозрачност относно използваните данни за обучение. Спорът избухна след като OpenAI публикува доклад за десет големи математически постижения, включително в тясната област на несофическите групи.
Случаят следва непосредствено скандала около уравненията на Навие-Стокс, при който професор Тристан Бъкмастър изрази подозрения за изтичане на идеи чрез програмния асистент Codex [3]. Натрупването на подобни инциденти засилва тревогата, че технологичните гиганти използват своето изчислително превъзходство, за да изпреварват авторите на оригинални научни концепции.
Изображение: Svetni.me / ИИ генерирана инфографика
Несофическите групи и премълчаното авторство
Когато OpenAI обяви пробиви по десет отворени въпроса в теоретичната математика, компанията включи и напредък в изследването на софичността на групите. Том и Кун бързо установиха, че разработката на лабораторията стъпва директно върху техни специализирани техники, които по онова време далеч не са били очевиден маршрут.
Въпреки това първоначалната публикация на OpenAI изобщо не споменава приноса на двамата европейски учени. Компанията нанесе корекции в текста едва след публична критика от страна на авторите, което събуди сериозни съмнения как точно моделът е възпроизвел толкова специфичен аналитичен апарат [1].
Въпроси без отговор и съмнения за манипулация
След публичните разкрития около спора за Навие-Стокс, професор Том решава да прегледа собствената си история на разговори в чатбота ChatGPT. Той се свързва директно с изследователите от OpenAI Себастиен Бюбек и математика от Харвардския университет Марк Селке с въпрос дали неговите потребителски сесии са били достъпни за невронните мрежи.
Отговорът на Селке категорично отхвърля моделът да е имал пряк достъп до разговорите по време на разсъжденията, но напълно избягва въпроса дали тези сесии са били вкарани в масивите за предварително обучение. Том определи това обяснение като подвеждащо и нечестно, изтъквайки, че формалното отричане на пряк достъп умишлено премълчава дълбокото усвояване на концепциите през конвейера за обучение [1].
Парадоксът на анонимизацията на данни
В официалните си изявления относно спора с Бъкмастър ръководството на OpenAI призна, че макар да е малко вероятно, не може напълно да изключи вероятността деидентифицирани потребителски данни да са помогнали за усъвършенстване на моделите [2]. Това признание предизвика силна вълна от възмущение сред университетските изследователи.
Том подчерта, че заличаването на потребителските имена премахва само идентичността, но не и интелектуалната същност на математическата идея. Според него е морално недопустимо непубликувани изследвания, споделени от учени в търговски платформи, да подпомагат модели, които впоследствие се използват от същата компания за научно изпреварване на авторите без съгласие и признание [1].
Сянка на тайнственост над академичния свят
Конфликтът между университетските катедри и технологичните лаборатории заплашва да промени из основи научната екосистема. Изправени пред корпорации с неизчерпаеми изчислителни ресурси и колосални финансови възможности, изследователите все повече се страхуват да експериментират с чатботове дори на ниво ранни хипотези.
Според наблюдатели в сектора тази несигурност тласка научната общност към затваряне и засилена секретност. Ако всяко взаимодействие с изкуствен интелект крие опасност от тихомълком поглъщане на идеите от комерсиални гиганти, математиците ще бъдат принудени да изолират своите работни процеси в името на академичната защита на откритията си.
Източници:
[1]: Mathematicians Want Proof OpenAI Didn’t Use Their Work - The Verge