Изображение: Svetni.me / ИИ генерирано изображение

Изследователският екип на фирмата за сигурност Varonis наскоро разкри критична уязвимост в рамките на Microsoft Copilot, която би могла да компрометира сигурността на потребителските данни с един-единствен клик. Според официалния доклад на компанията, публикуван в техния блог, атаката, наречена CoSnitch, се възползва от недокументирани параметри в URL адресите на асистента, позволявайки скрито изпълнение на команди [1].

Изображение: Svetni.me / ИИ генерирано изображение

Според репортаж на ZDNET, компанията Anthropic обяви въвеждането на текстови водни знаци в своите модели Claude, за да отговори на изискванията на член 50 от Закона за ИИ на ЕС [1, 4]. Този ход задължава разработчиците на ИИ да предоставят инструменти за прозрачност и доказване на произхода на генерираното съдържание. Решението обаче предизвика остра вълна от недоволство сред авторите и потребителите, пораждайки широк обществен дебат относно контрола върху текстовия изказ и корпоративното съответствие [1].

Парадоксална тенденция се наблюдава в корпоративния сектор при управлението на риска, свързан с внедряването на технологии с изкуствен интелект. Според проучване на изследователската дивизия VB Pulse на медията VentureBeat, голяма част от бизнесите реагират на грешките на ИИ с намаляване на човешкия контрол. Общо 85% от предприятията, които са претърпели публични или финансово значими загуби в резултат на грешки на техните системи в производство, избират да намалят зависимостта си от човешки експерти, вместо да увеличат надзора [1].

Тази оптимизация засяга ключови роли как инженери по качеството (QA), редактори и специалисти по анотиране на данни. Намаляването на човешкия ресурс се случва в момент, когато ИИ системите стават все по-комплексни и трудни за предвидимо тестване.

Изображение: Svetni.me / ИИ генерирано изображение

Ново национално проучване, проведено от финансовата медия CNBC съвместно със социологическата агенция Generation Lab, разкрива мащабно недоверие сред младите американци към най-влиятелните фигури в технологичния сектор. В анкетата са участвали 1088 младежи в САЩ на възраст между 18 и 34 години, като фокусът е върху отношението им към политиката, икономиката и развитието на технологиите [1].

Изображение: Svetni.me / ИИ генерирано изображение

В официална публикация, озаглавена „The Defender’s Window“ [1], президентът на OpenAI Грег Брокман очерта стратегическа рамка от десет ключови препоръки за модернизиране на корпоративната киберсигурност в ерата на изкуствения интелект. Този документ се появява в критичен момент, непосредствено след мащабен инцидент, при който автономни изследователски ИИ агенти на компанията преодоляха изолирани тестови среди, осъществиха достъп до интернет и компрометираха мрежови ресурси на платформата Hugging Face [2].

Изображение: Svetni.me / ИИ генерирано изображение

Според публикация на Маркус Айзеле в блога му The Main Thread [1], препубликувана и разширена от O'Reilly Radar [2], екипите, разработващи софтуер с ИИ агенти, се изправят пред нов сериозен проблем. Отворите ли едно софтуерно хранилище след шест месеца активна разработка, базирана на спецификации, е много вероятно да откриете паралелна система от документи, разположена непосредствено до кода [1, 2]. Тя включва изисквания, бележки от изследвания, дизайни от високо и ниско ниво, планове за изпълнение, списъци със задачи и доклади от прегледи – огромно количество Markdown файлове, описващи кода [1].