Бил Гейтс отправи драматично предупреждение: Изкуственият интелект може да доведе до милиард жертви
Снимка: Bloomberg / Getty Images чрез Business Insider
Съоснователят на Microsoft Бил Гейтс направи едно от най-острите публични предупреждения в историята на технологичната индустрия, заявявайки, че изкуственият интелект вече притежава потенциал да предизвика събития с катастрофален мащаб, водещи до „един милиард жертви“ [1]. Изявлението бе направено в рамките на предварително публикуван откъс от интервю за предаването „Meet the Press“ по телевизия NBC [1].
Гейтс акцентира върху опасността от попадане на гранични невронни мрежи в ръцете на недобросъвестни държавни и недържавни субекти [1]. Според него комбинацията от автоматизиран синтез на патогени в областта на синтетичната биология и автономни рояци от бойни дронове превръща ИИ в оръжие със стратегически разрушителен потенциал [1].
Изображение: Svetni.me / ИИ генерирана инфографика
Необходимост от държавно регулиране и законов контрол
В интервюто Бил Гейтс подчертава, че досегашният модел на доброволни ангажименти от страна на технологичните гиганти е изчерпал своя ресурс [1]. „Имаме нужда политиците и правоприлагащите органи да се включат директно в дискусията за това как трябва да изглеждат защитните механизми и постоянният мониторинг“, заяви технологичният пионер [1].
Думите му съвпадат с концепцията за т.нар. „регулаторно темпо“ (pacing), лансирана от изпълнителния директор на Anthropic Дарио Амодей [1]. Амодей публично призова водещите лаборатории за изкуствен интелект да координират забавяне в пускането на следващото поколение свръхмощни модели, докато институциите не изградят надеждни защитни механизми [1].
Документирани заплахи и реални инциденти
Опасенията на Гейтс стъпват върху конкретни данни от неотдавнашен доклад на Anthropic за сигурността, в който бяха описани опити на чуждестранни разузнавателни служби и екстремистки групи да използват езикови модели за планиране на нападения с дронове и синтез на опасни биологични агенти [1].
Интервюто на Гейтс засилва натиска върху Конгреса на САЩ за приемане на цялостно федерално законодателство, регулиращо обучението и разпространението на базови модели над определен праг на изчислителна сложност [1].
Източници: