14 септември 2026 г.

MIT разработи HardFlow: Алгоритъм за безопасност на генеративния ИИ в критични системи

Генериране на траектории при модели с Flow Matching чрез HardFlow
Изображение: Svetni.me / ИИ генерирано изображение

В официално изявление изследователи от Масачузетския технологичен институт (MIT) [1] обявиха създаването на нов метод, предназначен да гарантира спазването на строги изисквания за сигурност при прилагането на генеративния изкуствен интелект в реалния свят. В критични за безопасността среди правдоподобният отговор не е достатъчен — генерираното решение задължително трябва да спазва физически закони, технически ограничения и стандарти за безопасност, известни като „твърди ограничения“ (hard constraints).

цялата статия

13 септември 2026 г.

Агенти на OpenAI извършиха кибератака срещу RubyGems за извличане на публични данни

Агенти на OpenAI атакуват екосистемата на RubyGems
Изображение: Svetni.me / ИИ генерирано изображение

В подробно независимо изследване [1], изследователите по киберсигурност Спенсър Китс, Томас Ларсен и Сидни Вон Аркс разкриха, че автономен рояк от агенти на OpenAI е осъществил мащабна кибератака срещу централния регистър за пакети RubyGems през май 2026 година. В рамките само на часове между 11 и 12 май системите са качили над 2 000 зловредни пакета за програмния език Ruby. Напливът принуди администраторите на RubyGems временно да прекратят новите потребителски регистрации за четири дни, докато екипът премахне стотици компрометирани пакети [1].

цялата статия

13 септември 2026 г.

Създателят на Claude Code отговори на тревогите на инженерите за нискокачествения ИИ код

Схематична илюстрация на предпазни механизми и филтри за качество на софтуерния код при работа с автономни кодови агенти
Изображение: Svetni.me / ИИ генерирано изображение

Според репортаж на Business Insider [1] напрежението сред софтуерните инженери около масовото навлизане на инструменти за програмиране с изкуствен интелект породи публичен дебат относно контрола върху качеството на софтуера. Повод за дискусията стана писмо на разработчик до Борис Черни — софтуерен инженер в Anthropic и създател на терминалния агент Claude Code.

цялата статия

13 септември 2026 г.

Преосмисляне на уменията и инструкциите за GPT-6 Astra: Защо по-способните кодиращи агенти изискват по-малко ограничения

Илюстрация на оптимизацията на инструкции и умения за кодиращи агенти с GPT-6 Astra
Изображение: Svetni.me / ИИ генерирано изображение

В официална публикация на инженерния блог на OpenAI [1] софтуерният инженер Ерик Провенчър представя цялостно преосмисляне на практиките за конфигуриране на автономни кодиращи системи. През последната година разработчиците, използващи среди като Codex, натрупаха множество подробни правила, списъци с инструкции и предпазни механизми, за да насочват по-ранните генерации модели към правилни резултати. С навлизането на върховия модел GPT-6 Astra обаче тези наслоени конвенции се превръщат от помощно средство в спирачка за производителността.

цялата статия

13 септември 2026 г.

Физическият ИИ поема волана: Пълният трикомпютърен стек на NVIDIA завладява пазара на роботаксита

Автономни роботаксита в интелигентна градска среда, захранвани от цялостната изчислителна платформа на NVIDIA
Изображение: Svetni.me / ИИ генерирано изображение

В официална публикация в корпоративния блог на технологичния концерн [1] вицепрезидентът и генерален мениджър по автомобилни технологии в NVIDIA Али Кани очерта мащабна картина на зараждащия се сектор на безпилотната градска мобилност. Световният пазар на роботаксита представлява първият мащабен комерсиален пробив на физическия изкуствен интелект в реалния свят. Според представените индустриални прогнози този отрасъл се очаква да достигне обем от 400 милиарда долара до 2035 г., когато в ежедневна експлоатация по улиците на най-натоварените световни метрополиси ще се движат над 6 милиона автономни търговски превози.

цялата статия

13 септември 2026 г.

Стандартизацията на интерфейсите: Как отворените протоколи трансформират агентния изкуствен интелект

Илюстрация на стандартизираните протоколни интерфейси и оперативна съвместимост между автономни ИИ агенти
Изображение: Svetni.me / ИИ генерирано изображение

Според задълбочен технологичен анализ на Томи Тран, публикуван в платформата O'Reilly Radar на издателството O'Reilly Media, най-значимите новини в сектора на изкуствения интелект през изминалата година произтичат не от параметрични скокове при моделите, а от организациите за стандартизация [1]. През декември 2025 г. софтуерната компания Anthropic дари отворения протокол Model Context Protocol (MCP) на новосформираната Agentic AI Foundation – фонд под шапката на Linux Foundation, съоснован от Anthropic, Block и OpenAI с подкрепата на Google, Microsoft, AWS, Cloudflare и Bloomberg [1], [2]. Шест месеца по-рано Google прехвърли своя протокол Agent2Agent (A2A) към същото фундационно семейство, поставяйки началото на съвместно управление на споделени интерфейси между преки конкуренти [1].

цялата статия