Nvidia сформира екип за безопасност на ИИ в подкрепа на моделите с отворени тегла

Технологичният гигант Nvidia сформира нов инженерен екип за безопасност и сигурност на изкуствения интелект („AI Safety and Security“), научи Business Insider [1]. Според публикувани обяви за работа от края на миналия месец, компанията търси изтъкнат инженер, който да поеме ролята на технически лидер на новия отдел. Отделът се създава на фона на засилената подкрепа от страна на компанията за ИИ модели с отворени тегла.

Новосъздаденият инженерен екип ще се фокусира върху оценката на автономни ИИ агенти преди тяхното реално внедряване на пазара [1]. Специалистите ще разработват и инструменти, захранвани с изкуствен интелект, за автоматично откриване и коригиране на софтуерни уязвимости. Този ход показва стремежа на компанията да превърне сигурността в приоритет с навлизането на по-сложни автономни системи.

В една от обявите за работа се посочва, че дейността на екипа е основана на убеждението, че моделите с отворени тегла (open-weight models), прозрачността и широкият научен контрол са фундаментални за киберзащитата и лидерството на САЩ в сферата на изкуствения интелект [1]. За разлика от напълно затворените системи на OpenAI и Anthropic, тези модели правят обучените си тегла публично достъпни.

Изображение: Svetni.me / Авторско изображение

През изминалия месец главният изпълнителен директор на Nvidia Дженсън Хуанг изпрати отворено писмо до американските регулатори, в което призова за подкрепа на отворените модели [1]. В писмото си той изтъкна, че този подход засилва общата безопасност и киберсигурност. Nvidia също така стана съосновател на Open Secure AI Alliance (OSAA) — консорциум, разработващ инструменти за сигурност с отворен код.

В консорциума OSAA се включиха над 120 компании и организации, сред които Microsoft, Palantir, SpaceX и платформата Hugging Face [1]. Насърчаването на отворените модели и сигурността обаче отразява и преки бизнес интереси за компанията. Колкото по-достъпни са моделите за широк кръг организации, толкова по-голямо е търсенето на специализирания хардуер и чипове на Nvidia за тяхната поддръжка.

Въпросът за сигурността е определящ в момент, в който изкуственият интелект се развива от обикновени чатботове към автономни агенти с достъп до чувствителни данни [1]. Доверието на корпоративните клиенти се явява ключово за масовото внедряване на технологиите в бизнес процесите. От Nvidia са отказали официален коментар пред Business Insider по повод новите обяви за работа.

Източници:

[1]: Nvidia is staffing a new AI safety team as it doubles down on open models - Business Insider