Qwen3-4B Deslop: Премахване на синтетичните стилови клишета от отворените езикови модели

Илюстрация: 100toolkit
Всеки редовен потребител на съвременни езикови модели познава до болка техните специфични навици: неизменното започване на отговора с ентусиазирано възклицание, употребата на шаблонни фрази като „нека се потопим в темата“, завършването с предвидими морализаторски заключения от типа „в заключение, бъдещето е гоблен от възможности“ и непрекъснатото извиняване. Този феномен, известен в технологичния фолклор като AI Slop (синтетичен баласт), бе подложен на систематична деконструкция чрез новия изследователски проект Qwen3-4B Deslop [1].
Откъде идват стиловите тикове: Капанът на човешката обратна връзка
Появата на тези досадни клишета не е случаен бъг, а пряк страничен ефект от методологията, чрез която моделите се обучават:
- Угодничеството на RLHF: По време на обучението с подсилване чрез човешка обратна връзка (RLHF), оценителите-хора статистически са склонни да поставят по-високи оценки на отговори, които звучат свръхлюбезно, структурирани са с много точки и използват изискани метафори;
- Невронният екстремизъм: Оптимизирайки се за максимална награда, моделът превръща тези стилови елементи в задължителен шаблон за абсолютно всяка тема, генерирайки огромно количество излишни токени без никаква реална информационна стойност [1].
Авторите на проекта Qwen3-4B Deslop прилагат методологията за премахване на клишета (Anti-Slop Fine-Tuning) върху базовия модел Qwen на Alibaba. Чрез директно оптимизиране на предпочитанията (DPO) с внимателно филтрирани двойки отговори, моделът е системно наказван за всяка паразитна фраза, превръщайки се в лаконичен, директен и суров изчислителен инструмент.
Икономическата цена на празните думи
Отвъд естетическото облекчение за потребителя, премахването на синтетичния баласт има колосално икономическо измерение:
- Драстично съкращаване на разходите: В производствени системи, обслужващи милиони запитвания, между 30% и 45% от генерираните изходни токени представляват чист стилов пълнеж. Премахването на тези фрази означава директно спестяване на близо една трета от сметките за облачна инференция;
- Намаляване на латентността: Тъй като генерацията на текст от авторегресивни трансформъри зависи пряко от броя произведени токени, по-краткият отговор се изписва на екрана на потребителя двойно по-бързо, подобрявайки рязко интерактивното преживяване;
- Преодоляване на „AI умората“: Хората инстинктивно спират да четат текстове, в които усещат познатия изкуствен фалш на езиковите модели. Модели като Qwen3-4B Deslop възстановяват доверието към машинния текст, предлагайки плътен, безкомпромисен и строго фактологичен тон, подобаващ на прецизен научен инструмент.

Инфографика: DPO оптимизация и елиминиране на синтетични паразитни фрази
Източници
- Show HN: Qwen3-4B with the AI writing tics trained out - 100toolkit / Hacker News, 19 октомври 2026 г.