Себастиан Рашка представи цялостен технически наръчник за изграждане на reasoning модели от нулата

Публикувано от Svetni.me Editorial на 26 октомври 2026 г. в Изкуствен интелект

Силициева полупроводникова пластина за производство на високопроизводителни изчислителни чипове
Източник: Peellden / Wikimedia Commons

Признатият изследовател и педагог д-р Себастиан Рашка публикува дългоочаквания си отворен практически курс за изграждане на модели за разсъждение (Reasoning Models) от нулата [1]. Материалът демистифицира технологичните основи зад пробивите на системи като OpenAI o1 и разкрива математическите и инженерните тънкости при мащабиране на изчисленията по време на тестване (Test-Time Compute).

Механика на изчисленията по време на тест (Test-Time Compute)

Основният принос на курса на Рашка е детайлното разглеждане на прехода от класическо предварително обучение (Pre-training) към оптимизация на времето за инференс. Вместо просто да се увеличава размерът на невронната мрежа, reasoning моделите генерират скрити вериги от разсъждения (Chain-of-Thought), използват алгоритми за търсене в дърво като Monte Carlo Tree Search (MCTS) и оценяват междинните стъпки чрез специални модели за оценка (Process Reward Models - PRM).

Рашка предоставя чиста Python и PyTorch имплементация, показваща как малък модел с 3 милиарда параметъра може да надмине многократно по-големи базови модели в математиката и логиката, ако му се позволи да изследва множество хипотези преди да върне окончателен отговор.

Алгоритъмът GRPO и групово подсилване

Курсът обяснява алгоритмични иновации като Group Relative Policy Optimization (GRPO), които елиминират нуждата от отделен модел критик (Critic Model) при обучение с подсилване, правейки тренировъчния процес значително по-стабилен и достъпен за индивидуални изследователи.

Демократизация на когнитивните архитектури в отворената наука

Образователният принос на Себастиан Рашка играе решаваща роля за намаляване на информационната асиметрия между затворените комерсиални лаборатории и глобалната академична общност. Докато технологичните гиганти пазят в тайна спецификите на своите конвейери за разсъждение, откритите наръчници позволяват на хиляди независими разработчици да експериментират с нови методи за валидация и самокорекция.

Това ще доведе до вълна от специализирани, леки reasoning модели, персонализирани за научни изследвания, биоинформатика и формална верификация на код.

Инфографика: Изграждане на Reasoning модели от нулата
Четири стълба на архитектурата за разсъждение по време на тест

Източници

  1. Sebastian Raschka's from-scratch video course on building reasoning models – Sebastian Raschka / Hacker News