Google пуска Gemini в „изолация“: AI вече може да работи на локална (on-premise) инфраструктура

Изображение: Генерирано чрез Svetni.me AI

В един от най-значимите ходове за индустрията на изкуствения интелект през тази година
, Google обяви, че неговият водещ модел Gemini вече може да работи на локални сървъри, напълно изолирани от интернет (air-gapped). Според репортаж на VentureBeat [1], това става възможно чрез разширено партньорство с доставчика на облачни услуги Cirrascale Cloud Services и платформата Google Distributed Cloud (GDC).

Това решение адресира един от най-големите страхове на силно регулираните индустрии като държавното управление, финансите и здравеопазването: как да използват най-мощните ИИ модели, без да губят контрол върху своите данни [2].

Хардуерна крепост за данни

Новата услуга предлага Gemini под формата на хардуерно устройство, произведено от Dell и сертифицирано от Google. То е оборудвано с осем графични процесора Nvidia (включително най-новите Blackwell системи) и е защитено чрез технологии за „поверителни изчисления“ (confidential computing).

Най-впечатляващата характеристика на системата е нейната способност да работи в пълна изолация. Организациите могат да внедрят сървъра в собствените си центрове за данни, напълно изключен от интернет и дори от облачната инфраструктура на Google. Данните в системата буквално „изчезват“, когато захранването бъде спряно, благодарение на криптирането и защитите на поверителните изчисления.

Защо това е важно?

„Това е следващата стъпка от ерата на частния ИИ“, казва Дейв Дригърс, изпълнителен директор на Cirrascale Cloud Services. Досега организациите със строги изисквания за суверенитет на данните бяха ограничени до използването на модели с отворен код, които често изостават по възможности от водещите модели като Gemini.

Освен сигурност, локалното внедряване решава и проблема с латентността. При използване на публични API, времето за реакция на моделите може да варира. Директният достъп до хардуера елиминира тази променлива, което е критично за бизнес приложения от първостепенно значение.

Новата стратегия на Google

Този ход бележи повратна точка в стратегията на технологичния гигант. Google позволява на своя „най-ценен модел“ да работи на хардуер, който не притежава, в центрове за данни, които не управлява. Алтернативата — тези клиенти да преминат към конкурентни услуги на Microsoft или Amazon, или да използват изцяло отворени модели — очевидно се счита за по-лош сценарий за компанията.

Партньорството с Cirrascale позволява на Gemini да достигне до сегменти от пазара, където Google исторически е имал по-слабо присъствие в сравнение с Azure на Microsoft. За регулираните институции това е краят на един труден компромис: вече не е необходимо да избират между най-добрия ИИ и пълната сигурност на своите данни.

Източници:

[1]: Google’s Gemini can now run on a single air-gapped server — and vanish when you pull the plug - VentureBeat
[2]: Run Gemini and AI on-prem with Google Distributed Cloud - Google Cloud Blog