Премахване на синтетични клишета (Deslop Fine-Tuning)

Deslop (или Anti-Slop Fine-Tuning) е методология за пост-обучение на езикови модели, насочена към премахването на прекомерно любезните, повтарящи се и неестествено клиширани фрази, генерирани в резултат на агресивно обучение с подсилване чрез човешка обратна връзка (RLHF).

Чрез целенасочено директно оптимизиране на предпочитанията (DPO) моделите стават значително по-лаконични, директни и фактологически плътни, намалявайки консумацията на токени и умората на потребителя.

Споменавания в статии