TikTok ограничава ИИ резюметата след абсурдни грешки и „халюцинации“

TikTok беше принуден да ограничи обхвата на своята нова функция за автоматично генериране на описания към видеата (AI overviews), след като системата започна да произвежда абсурдни и откровено неверни резюмета.

Според репортаж на BBC [1], алгоритъмът е генерирал странни описания, сред които оприличаването на известната танцьорка Чарли Д'Амелио на „колекция от различни боровинки с различни добавки“. В други случаи бални танци са били описвани като „човек, който многократно удря главата си с гумено пиле“.

Изображение: Svetni.me / Авторско изображение

От резюмета към продукти

В резултат на тези грешки, TikTok промени стратегията си. Функцията, която първоначално беше пусната за тестове в САЩ и Филипините, вече няма да се опитва да обяснява съдържанието на видеото. Вместо това, тя ще се фокусира единствено върху предлагането на продукти, подобни на показаните в кадрите.

Тази промяна отразява по-широк проблем в индустрията с т.нар. халюцинации на изкуствения интелект. TikTok не е първата компания, която се сблъсква с подобен отзвук. През 2024 г. Google беше подложена на подигравки, след като неговата система посъветва потребителите да ядат камъни или да слагат лепило в пицата си. Apple също преустанови временно функция за обобщаване на известия, след като тя започна да създава фалшиви новинарски заглавия.

Предизвикателствата пред мултимодалния ИИ

Инцидентите подчертават колко трудно остава за ИИ моделите да „разбират“ визуално съдържание в реално време и да го превръщат в смислен текст. Въпреки твърденията на разработчици като OpenAI, че точността на системите им се подобрява, странни отклонения продължават да се появяват – наскоро създателите на ChatGPT признаха за странни „гремлини“ и „гоблини“, които се прокрадват в отговорите на чатбота.

Засега социалните мрежи остават предпазливи, ограничавайки ИИ до по-безопасни и търговски ориентирани функции, докато технологията не достигне ниво на надеждност, което да предотврати превръщането на знаменитостите в горски плодове.

Източници:

[1]: TikTok scales back AI-generated video descriptions after absurd errors - BBC News