Семейството на 19-годишен колежанин заведе дело срещу OpenAI, твърдейки, че ChatGPT е изиграл решаваща роля за фаталното предозиране на техния син. Според публикация на Machine Brief [1], случаят поставя под сериозно съмнение механизмите за безопасност на съвременните модели с изкуствен интелект.

Трагедията със Сам Нелсън се е разиграла по-рано тази седмица, след като младият мъж е водил продължителни разговори с чатбота. В съдебния иск се твърди, че изкуственият интелект не само е участвал в дискусия за употреба на субстанции, но и е предоставил конкретни съвети за тяхното комбиниране, което в крайна сметка е довело до неговата смърт.

В стратегически ход, който бележи нов етап в комерсиализацията на изкуствения интелект, OpenAI официално стартира DeployCo (OpenAI Deployment Company). Според публикация на The Decoder [1], това е дъщерно дружество с мажоритарен контрол, подкрепено от над 4 милиарда долара инвестиции от гиганти като SoftBank, Goldman Sachs и TPG. Целта е ясна: превръщането на ИИ от абстрактна технология в дълбоко интегриран компонент от корпоративните работни процеси.

Основната иновация в структурата на DeployCo е възприемането на модела „Forward Deployed Engineering“ (FDE) — стратегия, първоначално разработена от Palantir Technologies. Вместо просто да продава достъп до своите модели (като GPT-4 или GPT-5.5), OpenAI ще изпраща свои инженери директно при клиентите. Те ще работят на място, за да свържат моделите с корпоративните данни, инструменти и системи за управление, преодолявайки бариерите на сложните legacy системи.

Китайският технологичен гигант Baidu представи новата версия на своя езиков модел — Ernie 5.1, която поставя нови стандарти за икономическа ефективност в индустрията. Според последните данни [1], моделът изисква само една трета от параметрите на своя предшественик и успява да намали разходите за предварително обучение с цели 94% в сравнение с конкурентни модели от същия клас.

Този технологичен скок е възможен благодарение на иновативната архитектура „Once-For-All“ (OFA). Този метод позволява на изследователите да обучат един мащабен „супер-модел“, от който впоследствие могат да бъдат извлечени по-малки и специализирани под-модели без необходимост от скъпоструващо повторно обучение за всяка отделна версия.

Въпреки огромния ентусиазъм около автономните системи, съществува огромна пропаст между експерименталните фази и реалното внедряване в производство. Според Джиту Пател [1], президент на Cisco, цели 85% от предприятията провеждат пилотни програми с агентен ИИ, но едва 5% са успели да ги внедрят ефективно. Основната причина не е в технологичните възможности на моделите, а в липсата на доверие и адекватна инфраструктура за сигурност.

Проблемът се корени в това, че съществуващите системи за управление на идентичността и достъпа (IAM) са проектирани за хора, а не за машини. Когато един ИИ агент започне да обработва болнични записи или да извършва инспекции във фабрики, той създава „нечовешка идентичност“, която повечето предприятия не могат да инвентаризират, контролират или отнемат със скоростта на машините.

Докато индустрията се фокусира върху защитата на самите AI модели, една по-опасна пролука остава широко отворена: инструментите (tools), които тези агенти използват. Според публикация на Nik Kale във VentureBeat [1], "AI tool poisoning" (отравяне на инструментите) разкрива фундаментален проблем в начина, по който изграждаме доверие в автономните системи.

Автономните агенти обикновено избират инструменти от споделени регистри, като разчитат на описания на естествен език. Проблемът е, че в момента никой не проверява дали тези описания са верни. Атакуващият може да публикува злонамерен инструмент с описание, което подмамва агента да го избере приоритетно пред легитимни алтернативи – форма на "description injection" (инжектиране в описанието).

На фона на нарастващата несигурност относно бъдещето на НАТО при потенциални промени в лидерството, Европа засилва фокуса си върху технологиите за дронове и отбранителната автономност. Според публикация на Machine Brief [1], стартъпи като Skycutter се превръщат в повратна точка в прекрояването на съвременната война с дронове.

С изместването на геополитическия пейзаж, особено по отношение на посоката на Атлантическия съюз, европейските усилия в областта на отбранителните технологии се интензифицират. Нови играчи, като британския стартъп Skycutter, са на преден план, създавайки оръжия, специално предназначени за конфликта в Украйна [1].