Вярна неопределеност

Вярната неопределеност (Faithful Uncertainty) е концепция в изкуствения интелект и обработката на естествен език, която се отнася до съгласуването между начина, по който един езиков модел изразява съмнение с думи (езикова неопределеност), и неговата реална вътрешна статистическа увереност в отговора (вътрешна неопределеност).

Проблемът, който решава

Традиционно големите езикови модели (LLMs) са склонни към халюцинации — те генерират фактически грешни отговори с изключително уверен и авторитетен тон. За да предотвратят това, разработчиците често налагат строги двоични правила от типа „отговори само ако си 100% сигурен, в противен случай откажи“.

Това обаче води до т.нар. „данък полезност“ (utility tax), тъй като моделите отказват да отговорят на голям брой въпроси, на които всъщност знаят верния отговор, просто поради минимално съмнение.

Вярната неопределеност решава този казус, като учи модела да комуникира открито своите съмнения. Ако моделът направи фактическа грешка, но ясно очертае своята несигурност (например: „Не съм напълно сигурен, но предполагам, че...“), това се класифицира като научно предположение (хипотеза), а не като халюцинация. Това запазва полезността на модела за потребителя.

Значение за ИИ агентите

При автономните ИИ агенти вярната неопределеност служи като контролен слой за управление на инструменти. Моделът може да реши кога да извика външно търсене в интернет или API на базата на това дали неговата вътрешна увереност е ниска. Това спестява време, изчислителни ресурси и предотвратява грешки.