Nvidia вгражда хардуерен „куче пазач“ директно в чиповете си, за да ограничи своеволията на ИИ агентите

The Decoder / Nvidia Architecture

Лидерът в производството на изчислителни ускорители Nvidia представи фундаментална иновация в архитектурата на своя хардуер за изкуствен интелект: вградена на физическо ниво верига тип „куче пазач“ (Hardware Watchdog), предназначена да следи и спира нерегламентирани действия на автономни софтуерни агенти [1].

Инициативата отразява нарастващото осъзнаване, че софтуерните филтри и системните промптове са недостатъчни за гарантиране на безопасността на ИИ [1]. Чрез преместване на защитните бариери директно в полупроводниковия кристал, компанията гарантира, че моделът не може да наруши правилата, независимо какви софтуерни манипулации се опитва да приложи [1].

Как функционира хардуерната защита

Специализираният микроконтролер е разположен в непосредствена близост до контролерите на високоскоростната памет HBM и процесорните ядра [1]. Той наблюдава потока от команди и проверява в реално време дали агентът не се опитва да адресира памет извън строго определения му пясъчник (sandbox) или да изпълни привилегировани системни инструкции [1].

Ако веригата засече опит за манипулация или заобикаляне на защитите, тя генерира хардуерно прекъсване на ниво силиций, замразява изпълнението на нишката и изпраща криптографски подписан сигнал за тревога към хост системата за по-малко от няколко наносекунди [1].

Стандарт за корпоративни ИИ клъстери

Новата технология ще бъде вградена като стандарт в следващото поколение архитектури Rubin и ще се поддържа директно в библиотеките на CUDA [1]. За корпоративните клиенти в банковия, отбранителния и здравеопазния сектор тази хардуерна гаранция е от ключово значение за получаване на регулаторно одобрение при масово внедряване на автономни системи [1].

Сливането на хардуерната безопасност с регулаторните изисквания за суверенен ИИ

Вграждането на защитни микроконтролери директно в полупроводниковия кристал от страна на Nvidia поставя основите на нов стандарт за сигурност, който има потенциала бързо да се превърне в задължително изискване на държавните регулатори [1]. Точно както модулите за надеждна платформа (TPM) и изолираните криптографски анклави (Secure Enclaves) се превърнаха в задължителен елемент за корпоративните компютри и смартфони, така и хардуерните „кучета пазачи“ в хардуера за изкуствен интелект ще бъдат изисквани за всяка критична инфраструктурна система [1].

За софтуерната общност това означава, че бъдещите среди за изпълнение на агенти ще трябва да бъдат препроектирани около концепцията за непрекъсната хардуерна атестация [1]. Всяко системно повикване, достъп до външна мрежа или модификация на файловата система ще изисква криптографско одобрение от силициевия модул, превръщайки опитите за злонамерено отклонение от зададените граници в технически невъзможни на най-ниско физическо ниво [1].

Инфографика: Анализ на Svetni.me

Източници

[1]: Nvidia wants to keep AI agents on a short leash with a watchdog built into its chips - The Decoder