Nesformer: Пълноценен Nintendo NES емулатор, заучен в 1GB невронни тегла на Qwen
Източник: GitHub / Dan Breunig / Qwen
В един от най-впечатляващите компютърни експерименти на годината, независимият изследовател Дан Бройниг представи проекта Nesformer – пълнофункционален емулатор на легендарната 8-битова конзола Nintendo NES, компилиран и изпълняван изцяло в рамките на приблизително 1 гигабайт матрични тегла на базовия модел Qwen [1]. За разлика от класическите емулатори, които разчитат на твърдо кодирани интерпретатори на езика C или асемблер, Nesformer предвижда следващото хардуерно състояние на конзолата като авторегресивен поток от токени.
Цикъл-точна авторегресия: Симулация на MOS 6502 и графичния чип PPU
Архитектурата на Nesformer превръща състоянието на процесорните регистри (A, X, Y, PC, SP), оперативната памет от 2KB и регистрите на видеоконтролера Picture Processing Unit (PPU) в структурирани вектори на състоянието. Чрез обучение върху милиони цикли на изпълнение на класически игри като Super Mario Bros. и Tetris, моделът се е научил да изчислява адресирането, прекъсванията (NMI, IRQ) и пикселния изход на екрана директно през слоевете на трансформърния механизъм за внимание (Self-Attention).
Дискретна математика срещу вероятностни халюцинации
Най-голямото постижение на проекта е постигането на 100% детерминистична прецизност при изпълнение на логически инструкции. Докато езиковите модели са известни със своята вероятностна природа и склонност към грешки, чрез прецизна квантизация и специфично структурирани токени за паметта, Nesformer изпълнява циклично точни преходи без нито един дефектирал бит, запазвайки логиката на играта стабилна в продължение на часове геймплей.
Невронните мрежи като универсални машини на Тюринг от ново поколение
Успехът на Nesformer преминава далеч отвъд носталгията по 8-битовите игри; той предлага фундаментално научно доказателство за изчислителния капацитет на невронните мрежи. Експериментът доказва, че невронната емулация може да заучи произволна дискретна архитектура на фон Нойман директно от наблюдение на нейното изпълнение, без необходимост от ръчно писане на компилатор или логически правила. Това открива пътя към автоматизирана миграция на стар софтуер от отдавна изчезнали мейнфрейм компютри и военни чипове към съвременни невронни ускорители. В бъдеще процесорите може да не се емулират ред по ред, а да се „сънуват“ и изпълняват паралелно в тензорните ядра на базови невронни модели.
Архитектурни компоненти: състояния на паметта, видео генериране, премахване на халюцинации и бъдеще.