Thinking Machines пусна отворения цикличен трансформър Inkling 2 Mini, който разсъждава във вътрешни цикли и работи на лаптоп

Източник: The Decoder / Thinking Machines Lab – Илюстрация на цикличната трансформър архитектура
Изследователската компания Thinking Machines Lab представи Inkling 2 Mini — нов мултимодален модел с отворени тегла под лиценз Apache 2.0, базиран на архитектурата на т.нар. цикличен трансформър (looped transformer), съобщават The Decoder и официалният инженерен блог на лабораторията [1, 2]. Вместо да генерира хиляди думи видими разсъждения, моделът прекарва всеки токен по три пъти последователно през средните 12 от своите 24 слоя, което му позволява да мисли по-дълбоко във вътрешното латентно пространство, да решава сложни задачи с по-малко думи и да работи изцяло локално върху стандартен лаптоп [1, 2].

Инфографика: Ключови стълбове и анализ
24 слоя с трикратен вътрешен цикъл и механизъм Attention Residuals
В архитектурно отношение Inkling 2 Mini е модел от типа смес от експерти (Mixture-of-Experts / MoE) с общо 26,4 милиарда параметъра, получени чрез орязване (pruning) на две трети от експертите спрямо основната скалираща линия на лабораторията, като поради цикличните повторения за всеки токен се активират ефективно 5,4 милиарда параметъра [1, 2]. Моделът обработва както текст, така и изображения, и разполага с контекстен прозорец от 1 милион токена.
Неговите 24 слоя са разделени на четири функционални блока от по 6 слоя [2]. Първият блок (прелюдията, която превежда входните ембединги) и последният четвърти блок (който подготвя изходните токени) се изпълняват само по веднъж. Двата средни блока (общо 12 слоя), където се концентрира абстрактното логическо разсъждение, се изпълняват три пъти последователно в цикъл за всеки токен. За да се предава богата информация между отделните обиколки на цикъла, моделът внедрява механизма Attention Residuals: вместо просто да събира изходите на слоевете в една обща сума, всеки слой чете изходите на предходните блокове и динамично научава собствена оптимална комбинация от тях [2].
Лидер при компактните агенти: 6 пъти по-ниска цена и рекорд по интелигентност за джаул
Вътрешното циклично мислене носи драматичен скок в способността на модела да решава последователни задачи без дълги текстови вериги от мисли (no-CoT): времевият хоризонт на задачите, които моделът решава без външен CoT, скача от 16 секунди при един пас до 37 секунди при три цикъла, а при изследователската версия с променлив брой цикли точността продължава да расте дори при 10 повторения (два пъти повече от тези, с които е трениран) [2]. Според независимия индекс за интелигентност на Artificial Analysis, Inkling 2 Mini постига 20 точки — изравнявайки се с Qwen3.8 27B, но при приблизително 6 пъти по-ниска цена и 4 пъти по-висока скорост на генерация [1, 3].
В бенчмарковете за агентно софтуерно инженерство Inkling 2 Mini оглавява класирането сред всички отворени модели под 100 милиарда параметъра, постигайки 48,2 процента на DeepSWE v1.1 и 46,5 процента на Vals Index v2.2, като води убедително и в тестовете за работа с инструменти и търсене BrowseComp, DeepSearchQA и MCP Atlas [1, 2]. Изследователите от лабораториите Hazy Research и Scaling Intelligence в Станфорд, които оценяват показателя „интелигентност за джаул“ (intelligence per joule) върху компактния суперкомпютър Nvidia DGX Spark, регистрират резултат от 0,703 за Inkling 2 Mini — значително над Qwen3.6-35B-A3B (0,430) и Gemma-4-26B-A4B (0,159) [2].
Нативно NVFP4 обучение и локална работа върху MacBook в самолетен режим
За да се побере моделът в паметта на потребителски устройства, преобладаващата част от теглата на Inkling 2 Mini са обучени и внедрени нативно в 4-битов формат NVFP4, докато последните четири слоя използват прецизност MXFP8 [2]. Това свива общия отпечатък в оперативната памет до около 20 GB, позволявайки локално изпълнение върху компютри Mac с поне 32 GB обединена памет или върху настолни системи Nvidia DGX Spark [1, 2].
По време на демонстрационните тестове инженерите на Thinking Machines стартират модела офлайн върху MacBook Pro (M5 Pro, 48 GB RAM) по време на полет в самолетен режим, където Inkling 2 Mini самостоятелно проектира и компилира работещ 3D авиосимулатор само за няколко минути [2]. В друг експеримент, наречен Thinkyville, един-единствен офлайн лаптоп MacBook управлява едновременно 20 постоянни автономни агенти (жители на виртуално градче), които планират ежедневието си, общуват помежду си и отговарят на бележки в реално време. Теглата на модела и версията с променлив брой цикли вече са достъпни за изтегляне в Hugging Face и за директно тестване в Tinker Playground [1, 4].
Архитектурната революция на латентното мислене: Защо цикличните трансформъри променят локалния ИИ
Появата на Inkling 2 Mini от Thinking Machines Lab атакува едно от най-големите противоречия в съвременните модели за разсъждения. Досегашният индустриален стандарт за повишаване на интелигентността по време на инференс (test-time compute) разчиташе на генерирането на десетки хиляди видими или скрити текстови токени в дълги вериги от мисли. Този подход обаче принуждава модела да декодира всяка междинна мисъл до дискретна дума от речника, да разширява постоянно KV-кеша си и да хаби огромна пропусквателна способност на паметта.
Архитектурата на цикличния трансформър в комбинация със смес от експерти доказва, че дълбокото сериално разсъждение може да се извършва вътре в непрекъснатите многомерни вектори на средните слоеве, преди изобщо да бъде излъчен следващият токен. Макар самите създатели обективно да отбелязват, че циклите не увеличават обема от наизустени енциклопедични факти в теглата (които моделът компенсира чрез отлично използване на външни търсачки и MCP инструменти), почти двукратното превъзходство по „интелигентност за джаул“ в тестовете на Станфорд показва пътя към следващото поколение периферен ИИ. Когато модел с отпечатък от 20 GB може да координира 20 автономни агента или да пише сложен софтуер напълно офлайн на лаптоп при шесткратно по-ниска себестойност, центърът на тежестта при агентните системи започва трайно да се измества от скъпите облачни API-та към локалния потребителски хардуер.
Източници
- New open model Inkling 2 Mini thinks in loops to solve problems with fewer words and still runs on a laptop - The Decoder
- Inkling 2 Mini: Open-Weights Looped Transformer for Efficient Agentic Reasoning - Thinking Machines Lab
- Inkling 2 Mini Benchmark & Cost Efficiency Analysis - Artificial Analysis
- thinkingmachines/Inkling-2-Mini Open Weights Repository - Hugging Face