Надпреварата между отворените и затворените модели с изкуствен интелект навлезе в нова и изключително динамична фаза. Години наред разработчиците приемаха, че най-способните асистенти за програмиране ще останат достъпни единствено зад платени, проприетарни API интерфейси. Появата на новия модел GLM-5.2, разработен от китайската компания Zhipu AI, обаче сериозно предизвиква това статукво [1].

Въпреки че моделът дебютира без шумни маркетингови кампании, той бързо привлече вниманието на изследователи и софтуерни инженери заради преминаването на ключов праг на функционалност. GLM-5.2 демонстрира забележителни резултати при задачи за кодиране и управление на автономни агентни работни потоци [1].

В публикация в корпоративния блог на френската консултантска компания OCTO Technology [1] е споделен опитът от провеждането на интензивна обучителна седмица, посветена на навлизането на генеративния изкуствен интелект в продуктовите роли. В инициативата са се включили 14 консултанти — продуктови мениджъри (PM), продуктови оунъри (PO), дизайнери и коучове. Целта е била преминаването от фрагментарно използване на отделни инструменти към изграждане на обща основа, изпробване на технологиите на практика и дефиниране на стратегически предложения.

Изображение: Svetni.me / Авторско изображение

В официална публикация в корпоративния си инженерен блог Meta представи детайлно изследване на своята архитектура за класификация на активи [1]. Проектът е част от по-широката инициатива за изграждане на инфраструктура, съобразяваща се с поверителността (Privacy-Aware Infrastructure или PAI), която има за цел да наложи автоматизирано спазване на правилата за защита на личните данни директно на системно ниво. В съвременната AI-native ера, характеризираща се с бързи цикли на разработка и неструктурирани потоци от данни, традиционните методи за ръчен одит са напълно нерентабилни. Решението на Meta залага на иновативен хибриден модел: съчетание от детерминистичен механизъм с нулево забавяне и резервен предпазен филтър, базиран на големи езикови модели (LLM).

В контекста на корпоративното управление на данните (Data Governance), терминът „актив“ вече далеч надхвърля традиционните релационни бази данни. Днес той обхваща вложени полета в JSON структури, инфрaструктурни логове, API параметри, междинни масиви за обучение на модели и векторни вграждания (embeddings). За да се приложи какъвто и да е контрол върху поверителността – например ограничаване на целта, политики за задържане или заличаване на информация – системата първо трябва да разбере какво точно съдържа даденият актив [1].

В официално изявление на корпоративния си блог, технологичният гигант Docker представи обстоен анализ на новите регулаторни изисквания, наложени от Закона за изкуствения интелект на ЕС (EU AI Act), и очерта практически стъпки, с които софтуерните инженери и организациите могат да гарантират техническо съответствие на своите системи [1]. Законът за изкуствения интелект на ЕС (Регламент (ЕС) 2024/1689) влезе в сила през август 2024 г., като неговите изисквания се въвеждат поетапно до 2027 г. Регламентът има екстратериториално действие – той засяга всеки доставчик или потребител, чиито AI системи се предлагат, внедряват или техните резултати се използват на пазара в ЕС, независимо от местоположението на централата на компанията [1].

В бързо развиващия се свят на изкуствения интелект изследванията традиционно се фокусират върху оптимизирането на „политиката“ на агентите – способността им да вземат решения и да избират следващото действие. Изследователският екип на Tongyi Lab към китайския технологичен гигант Alibaba обаче предлага радикално различна парадигма. В нов научен труд, публикуван в препринт платформата arXiv [1], те представят проектa Qwen-AgentWorld. Това е първата фамилия от т.нар. езикови световни модели (Language World Models), които са обучени не да действат като агенти, а да симулират самата среда, с която агентите взаимодействат [2].

За да може един агентен ИИ да планира дългосрочно и да разсъждава ефективно, той се нуждае от способност да предвижда последствията от своите стъпки. В когнитивната наука тази роля се изпълнява от т.нар. световен модел (World Model) — вътрешна симулация на реалността, която прогнозира как ще се промени средата след определено действие. Досега разработчиците разчитаха на реални или статични симулирани среди (като докер контейнери или софтуерни тестови среди), които обаче са скъпи, трудни за мащабиране и не позволяват лесен контрол върху страничните събития.

Според официално писмо на американския гигант в сферата на изкуствения интелект Anthropic, изпратено до сенаторите Тим Скот и Елизабет Уорън, китайската компания Alibaba е извършила мащабна кампания за неправомерно извличане на интелектуална собственост от нейния водещ изкуствен интелект Claude [1]. В писмото с дата 10 юни компанията описва случая като най-голямата по рода си атака, при която оператори, свързани с китайската корпорация, са извършили близо 29 милиона взаимодействия с модела през хиляди фалшиви акаунти.

Атаката е осъществена чрез т.нар. дистилационни атаки (distillation attacks) [1]. При този метод се извличат отговори от по-силен AI модел (в случая Claude), за да се обучи по-слаб и по-евтин модел, разработен от конкурентна компания. Целта на Alibaba-свързаните оператори е била придобиването на най-ценните възможности на Claude – способността му да се справя с дълги и сложни логически задачи, както и неговите методи за вземане на решения. Подобни практики на „индустриално ниво“ позволяват на китайските фирми да копират и препакетират американски AI технологии на ниска цена, заобикаляйки стотици милиони долари инвестиции в научноизследователска дейност.