GLM-5.3-Flash
GLM-5.3-Flash е високопроизводителен мултимодален модел с отворени тегла (open weights), пуснат от компанията Z.ai през август 2026 г. по време на официалното му представяне след период на анонимно тестване под кодовото име „Ox Alpha“.
Архитектура
Моделът разполага с 320 милиарда общи параметри (320B) и 18 милиарда активни параметри на токен (18B active). Той е изграден като Mixture-of-Experts (MoE) и внедрява две ключови иновации:
- Хибридно внимание (Hybrid Attention): Комбинира разредено (sparse) и линейно (linear) внимание, за да сведе до минимум изчислителните нужди и размера на KV кеша при дълги контексти.
- Manifold-Constrained Hyper-Connections (mHC): Заменя традиционните остатъчни връзки (residual connections) за подобрено мащабиране и стабилност на обучението.
Възможности
GLM-5.3-Flash поддържа контекстен прозорец от 1 милион токена и е оптимизиран за мултимодално разбиране (текст, изображения, видео), визуален анализ на документи и автономно програмиране. Моделът се разпространява свободно под MIT лиценз.