MetaFaith

MetaFaith е проект с отворен код (разработен с участието на изследователи от Google и Йейлския университет), предназначен за подобряване на метакогнитивното поведение и калибрирането на несигурността в големите езикови модели (LLMs) без нужда от скъпоструйно допълнително обучение (fine-tuning).

Начин на работа

Рамката позволява на инженерите да използват усъвършенствано проектиране на подкани (prompt engineering), което кара готовите езикови модели да анализират собствените си вътрешни състояния и вероятности преди генериране на окончателния отговор.

Чрез MetaFaith моделите се обучават да разпознават кога информацията, която предоставят, попада в дългата опашка на слабо известните факти, и автоматично да добавят подходящи езикови предупреждения (hedging) към своите изречения.

Значение

За разработчиците на бизнес приложения MetaFaith предоставя най-лесния и нискобюджетен инструмент за избягване на „данъка полезност“ и фино калибриране на автономното поведение на ИИ агентите, без да се налага промяна на теглата на базовия модел.