Позицията на Anthropic за моделите с отворени тегла и заплахата от Китай
В официално изявление, публикувано в блога на компанията, съоснователят и изпълнителен директор на Anthropic Дарио Амодей категорично отрече обвиненията, че неговата фирма лобира за забрана на модели с отворени тегла [1]. Изявлението идва в момент на разгорещени дискусии в технологичната индустрия относно потенциалните заплахи за националната сигурност на САЩ от страна на авангардни изкуствени интелекти, разработени или придобити от Китай. Амодей подчертава, че Anthropic никога не е настоявала за подобни ограничителни мерки, които според него не само че не решават реалните проблеми, но и засягат технологии с характер на обществено благо.
Вместо общи забрани, които биха навредили на конкуренцията и изследванията, ръководителят на Anthropic предлага три целенасочени политически решения за справяне с рисковете: затягане на износа на полупроводници, ограничаване на промишлената дестилация на модели и въвеждане на задължителни тестове за безопасност на изкуствения интелект за всички достатъчно мощни системи.
Контекстът на индустриалния сблъсък
Изявлението на Амодей е директна реакция на публикуваното наскоро отворено писмо в подкрепа на отворените модели, подписано от множество лидери в сектора, сред които Nvidia, Meta, Microsoft, Mistral и Hugging Face [2]. Писмото призовава политиците да не налагат прибързани ограничения върху моделите с отворени тегла. Дебатът е провокиран от съобщения, че американски държавни служители обмислят блокирането на достъпа на американски компании до китайски отворени модели.
В този контекст се появиха и спекулации, че затворени разработчици като Anthropic се опитват да изтласкат конкуренцията на отворените модели с цел защита на търговския си интерес. Амодей определя тези твърдения като неверни. Той посочва, че моделите с отворени тегла, които не разполагат с опасни военни или биологични способности, са ценен ресурс за научната общност и бизнеса, тъй като предоставят възможност за гъвкаво локално разгръщане срещу минимални разходи за изчисления.
Кошмарен сценарий 1: Военно превъзходство на авторитарните режими
Амодей описва две основни опасности, които са в центъра на неговите притеснения за националната сигурност на САЩ и техните съюзници. Първата и водеща негова грижа е рискът авторитарни държави (като Китайската народна република) да разработят ИИ системи, по-мощни от тези на САЩ, и да ги използват за придобиване на трайно военно превъзходство или за репресии срещу собственото си население [1].
Според Амодей в този случай е без значение дали моделите се разпространяват с отворени тегла или не. Най-голямата заплаха би дошла от модел, който се обучава в пълна тайна и се предава директно на военните структури на Китайската народноосвободителна армия за управление на дронове или на службите за сигурност за наблюдение. Забраната за използване на китайски отворени модели в САЩ по никакъв начин не влияе върху този сценарий.
Кошмарен сценарий 2: Кибератаки, биотероризъм и необратимост
Втората голяма опасност засяга способността на най-мощните ИИ модели да улесняват организирането на кибератаки или разработването на биологични оръжия. В тази сфера Амодей признава, че моделите с отворени тегла крият специфичен и по-висок риск в сравнение със затворените платформи.
След като теглата на един модел бъдат публикувани в интернет, те не могат да бъдат изтеглени обратно. Това означава, че всички защитни филтри и ограничителни механизми, вградени от разработчиците, могат да бъдат премахнати относително лесно чрез донастройка, без възможност за мониторинг от страна на създателите. Тази оценка съвпада с официалния анализ на Института за безопасност на изкуствения интелект на Обединеното кралство (UK AISI), който отбелязва, че при отворените модели липсват лостовете за контрол в реално време, които притежават затворените платформи [1, 2]. Въпреки това Амодей подчертава, че пълната забрана за използването им от легитимни американски бизнеси няма да спре злонамерените участници, които не се съобразяват със закона.
Първа мярка: Стриктен експортен контрол върху хардуера
За да се неутрализират тези рискове, Anthropic предлага три ключови мерки. Първата е поддържането и засилването на експортен контрол върху доставката на авангардни чипове (като графичните процесори на Nvidia) и оборудване за тяхното производство към Китай [1].
Тъй като вътрешното производство на полупроводници в Китай е ограничено, а законите за мащабиране на ИИ изискват колосални изчислителни ресурси, блокирането на физическия достъп до хардуер е най-ефективният начин за забавяне на китайските военни ИИ разработки. Амодей настоява и за по-сериозни мерки срещу заобикалянето на санкциите и контрабандата на чипове през трети страни.
Втора мярка: Спиране на индустриалната дестилация
Втората мярка се състои в ограничаване на промишлените процеси по дестилация на модели. Дестилацията позволява на китайските разработчици да използват готови изходи от водещи американски модели (като Claude или GPT), за да обучават много по-бързо и евтино свои собствени системи.
Този процес изисква много по-малко чипове и позволява на китайските лаборатории да скъсят технологичната дистанция до американския технологичен фронт до броени месеци. Амодей предлага въвеждането на правни и търговски регулации, които да наказват подобно мащабно заимстване на интелектуална собственост, като самата Anthropic вече блокира акаунти, заподозрени в автоматизирано събиране на данни за обучение на чужди модели [1].
Трета мярка: Задължително предпремиерно тестване за безопасност
Накрая Амодей се застъпва за въвеждането на задължителни тестове за сигурност за всички модели, които надхвърлят определен праг на изчислителна мощност – независимо дали са с отворен или затворен код.
Моделите трябва да бъдат изпитвани за специфични рискове (кибератаки, биотероризъм, автономно разпространение) преди тяхното публикуване. За да бъде успешна подобна инициатива, тя трябва да има глобален характер. Амодей смята, че е възможно дори ограничено сътрудничество с Китай по тази тема, тъй като предотвратяването на глобални пандемии или неконтролиран изкуствен интелект е в интерес и на двете суперсили.
Диаграма на заплахите и предложените решения
Следната схема илюстрира как предложените от Дарио Амодей политически мерки се съпоставят с дефинираните от него основни заплахи за сигурността:
Изображение: Svetni.me / Авторско изображение
Изводи за баланса между сигурност и отвореност
Макар Амодей да подкрепя тезата, че моделите с отворени тегла са важни за конкуренцията и иновациите, щети от широкия достъп могат да възникнат, тъй като той изразява скептицизъм към твърденията на отворената общност, че широкият достъп автоматично подобрява защитата. По негово мнение в области като биологията съществува сериозна асиметрия между нападатели и защитници – създаването на опасен вирус изисква дни, докато изграждането на ваксини и защита отнема години. Поради това той призовава за емпирични изследвания и реално тестване на моделите, вместо да се разчита на теоретични допускания за сигурността на отворения код.
Източници: