Ансамбъл от пет модела Qwen3.8-27B достига резултатите на гигантския Fable 5 чрез спекулативна верификация
Източник: Rama / Wikimedia Commons
В изследователската общност с отворен код беше представен сензационен експеримент, доказващ, че стратегическата оркестрация на компактни невронни мрежи може напълно да обезсмисли монолитните супермодели [1]. Чрез използване на специализирания софтуерен харнес GVS5H Harness, ансамбъл от пет успоредно работещи модела Qwen 3.8 с 27 милиарда параметри успя да изравни и на места да надмине резултатите на флагманския гигант Fable 5 (над 700 милиарда параметри) в най-трудните математически и софтуерни тестове.
Ключът към този пробив е парадигмата на спекулативната верификация (Speculative Verification). Вместо да разчита на един колосален модел, който мисли бавно и струва цяло състояние за инференс, харнесът GVS5H стартира пет независими копия на по-малкия модел с леко вариращи начални параметри (температура и промпт вариации). Моделите генерират паралелни разсъждения, след което консенсусен алгоритъм филтрира грешките и синтезира финалния отговор.
Механизъм на паралелното гласуване и изолиране на халюцинации
Математическата основа на ансамбловите логически разсъждения (Ensemble Reasoning) стъпва върху теоремата на Кондорсе за журито. Тъй като вероятността един модел да допусне случайна халюцинация е независима от останалите, вероятността три от петте независими екземпляра да направят абсолютно една и съща грешка в изчисленията клони към нула:
- Етап на генериране на хипотези: Петте агента паралелно генерират пълни вериги на разсъждение (Chain-of-Thought) за решаване на задачата.
- Кръстосана верификация: Всеки модел получава решенията на останалите четири и извършва стъпка по стъпка логически одит, маркирайки некоректни математически преходи.
- Мнозинствен вот за консенсус: Системата автоматично отхвърля крайните отклонения и сглобява финалния отговор само от верифицираните логически блокове.
Дългосрочни системни и икономически последици
Резултатите от проекта GVS5H представляват тежък удар върху икономическия наратив за непрекъснато уголемяване на моделите. Докато обучението и хостването на гиганти от класа на Fable 5 изисква клъстери за стотици милиони долари, пет модела Qwen-27B могат да се изпълняват едновременно на стандартни потребителски сървъри с ефективност на инференса (Inference Efficiency), съкращаваща общите оперативни разходи с 85%.
В дългосрочен план софтуерното инженерство ще прегърне ансамбловите парадигми за всички критични приложения. В банковия сектор, автопилотите и медицинската диагностика никой няма да се доверява на един единствен гигантски модел, независимо колко висок е неговият бенчмарк. Бъдещето принадлежи на децентрализирани ансамбли от бързи, специализирани модели, които непрекъснато се контролират и верифицират взаимно в реално време.
Четири стъпки за изравняване на резултатите на гигантските модели чрез ансамбъл от пет Qwen модела