Старши изследовател напусна Google DeepMind заради безотговорното препускане към суперинтелект
Снимка: The Decoder / Google DeepMind
Старшият софтуерен изследовател Робърт О'Калахан обяви публично своето напускане на Google DeepMind — подразделението за изкуствен интелект на технологичния гигант Google [1]. О'Калахан, който доскоро работеше по създаването на специализирани алгоритми за автоматизирано проектиране на микрочипове, мотивира решението си с тезата, че настоящият темп на създаване на суперинтелигентност е „фундаментално и дълбоко безотговорен“ [1].
В свое открито обръщение изследователят подчерта, че скоростта, с която фундаменталните модели разширяват възможностите си, надхвърля способността на обществото и регулаторите да въведат адекватни предпазни мерки [1]. Той заяви категорично, че повече не може да оправдае моралната цена на работата си по инструменти, които правят изчислителния хардуер по-евтин, по-бърз и по-достъпен за неконтролирано скалиране [1].
Изображение: Svetni.me / ИИ генерирана инфографика
Автоматизираният хардуерен цикъл и неговите рискове
Специализацията на О'Калахан бе концентрирана в една от най-критичните сфери на съвременния ИИ — затварянето на цикъла между софтуерните алгоритми и физическото полупроводниково производство [1]. Използването на невронни мрежи за оптимизиране на топологията на процесорите позволява създаването на чипове, които впоследствие ускоряват обучението на още по-мощни следващи модели [1].
Според учения именно тази обратна връзка крие най-голяма опасност от внезапно и неконтролируемо преминаване на критични прагове на когнитивни способности без съответните механизми за подравняване и контрол [1].
Вътрешен натиск и мълчанието на колегите
В изказването си О'Калахан отправи критика и към корпоративната култура във водещите изследователски центрове [1]. По думите му значителна част от старшите учени в лабораториите в САЩ споделят същите екзистенциални притеснения, но предпочитат да запазят мълчание заради високите възнаграждения, акциите с отложено придобиване и опасенията от професионална маргинализация [1].
Оставката на Робърт О'Калахан се нарежда до поредица от знакови напускания на изследователи по безопасност от водещите лаборатории през 2026 г., засилвайки вътрешния дебат за етичната отговорност на инженерите [1].
Източници: