Ветерани от Anthropic купуват отдалечени земи като убежище при неконтролиран изкуствен интелект

Снимка: The Decoder / Wall Street Journal

Дългогодишни служители и ключови изследователи по безопасност в Anthropic са започнали дискретно да изкупуват парцели земя в отдалечени и изолирани райони на САЩ, за да си осигурят физическо убежище в случай, че развитието на технологията излезе извън контрол [1]. Информацията, оповестена от авторитетното издание Wall Street Journal, хвърля неочаквана светлина върху психологическото състояние и искрените страхове на хората, стоящи начело на съвременната ИИ революция [1].

Според публикацията редица ветерани от лабораторията, ръководена от Дарио Амодей, вече са инвестирали в имоти в щати като Монтана, Уайоминг и Колорадо, оборудвайки ги с автономни енергийни източници, сателитни комуникации и хранителни запаси [1]. Тези лични предпазни мерки отразяват дълбокия песимизъм сред част от изследователите относно способността на човечеството да овладее възникващия свръхинтелект [1].

Инфографика: Светни.ме

Дълбокият дисонанс между търговския мащаб и личния страх

Разкритията подчертават парадоксалната реалност в Силициевата долина: инженерите, които ежедневно работят по обучението на следващото поколение модели, оценяват вероятността от глобална катастрофа (т.нар. p(doom)) на 10 до 25 процента [1]. Много от тях произхождат от движението за ефективен алтруизъм, където превенцията на екзистенциалните рискове се разглежда като най-висш морален дълг [1].
В същото време обаче пазарната динамика и конкуренцията с лаборатории като OpenAI и Google принуждават компании като Anthropic непрекъснато да ускоряват изследователските си цикли и да пускат все по-способни модели [1]. Тази надпревара за технологичен суверенитет поражда сериозен вътрешен конфликт сред учените, които се чувстват притиснати между идеалите за безопасност и корпоративните изисквания на инвеститорите [1].

Обществени реакции и морални въпроси

Новината за „бункерите“ на ИИ изследователите предизвика остра обществена дискусия относно моралната отговорност на технологичния елит [1]. Критиците задават въпроса дали е етично създателите на една потенциално опасна технология да подготвят частни спасителни планове за себе си, докато излагат цялото общество на системните последици от своите иновации [1].
Случаят засилва призивите към регулаторните органи да изискат пълна прозрачност относно вътрешните оценки на риска във водещите лаборатории, превръщайки тревогите на учените в повод за реален институционален надзор над сектора [1].

Източници:

[1]: Some Anthropic veterans are reportedly buying remote land in case 'AI goes awry' - The Decoder