Opera предложи нов отворен уеб стандарт за локално изпълнение на AI модели в браузъра
Източник: Opera Software / TechCrunch
Европейската софтуерна компания Opera внесе официално предложение до W3C и Web Incubator Community Group за нов отворен уеб стандарт, целящ да стандартизира локалното изпълнение на базови невронни модели директно в средата на уеб браузъра [1]. Стандартът осигурява унифициран JavaScript API интерфейс за достъп до специализирани хардуерни ускорители чрез WebGPU и WebNN, проправяйки път към истински децентрализиран браузърен изкуствен интелект.
Архитектура на браузърния локален инференс без инсталация
Досега изпълнението на локални модели (Local LLMs) изискваше сложна потребителска инсталация на тежък софтуер (като Ollama или LM Studio) или теглене на гигабайти Wasm модули при всяко посещение на уебсайт. Предложението на Opera въвежда концепцията за споделено локално хранилище за базови модели и стандартизиран драйверен мост към клиентския чип (Apple Neural Engine, Qualcomm Snapdragon NPU, Intel NPU, Nvidia RTX).
Уеб сайтовете могат да изискват изпълнение на стандартни задачи – като резюмиране, граматична корекция, превод или семантично търсене – само с едно извикване на API функтора: navigator.ai.languageModel.generate(). Браузърът изолира изпълнението в сигурен sandbox, гарантирайки, че личните данни на потребителя никога не напускат устройството и не се изпращат към облачни сървъри.
Икономическа независимост от облачните провайдъри
За независимите уеб разработчици този стандарт е спасителен пояс срещу смазващите сметки за облачен инференс. Чрез делегиране на изчисленията към хардуера на крайния потребител сайтовете могат да предлагат богата интелигентна функционалност при практически нулев сървърен разход за изчислителна мощ.
Преразпределение на изчислителната мощ от облака към крайния клиент
Инициативата на Opera маркира началото на нов етап в развитието на световната мрежа. През последното десетилетие облачните хиперскейлъри монополизираха изчислителните иновации, превръщайки браузърите в пасивни терминали за рендериране на сървърно генериран трафик.
Масовото навлизане на свръхмощни невронни процесори (NPU) във всеки модерен лаптоп и смартфон прави тази централизация икономически и екологично нерационална. Стандартизирането на локалния браузърен интелект възстановява първоначалната философия на уеб мрежата като равнопоставена (peer-to-peer) разпределена среда, връщайки контрола върху данните и изчисленията в ръцете на самите потребители.
Четири стълба на локалната браузърна интелигентност