Проектът OpenTPU демонстрира автономен синтез на хардуерни ускорители за изводи чрез езикови модели
Снимка: GitHub / FeSens
Проектът с отворен код OpenTPU реализира качествен пробив в автоматизацията на проектирането на полупроводников хардуер, демонстрирайки как големи езикови модели могат автономно да синтезират коректна микроархитектура за невронни изводи [1].
Инфографика: Светни.ме
Автономен синтез на систолични матрици във Verilog
Платформата използва верига от специализирани агенти, които приемат функционални математически изисквания за тензорни изчисления и генерират пълен набор от модули на хардуерния език Verilog [1].
Генерираният код обхваща систолични матрици за умножение на матрици, междинни буфери за памет и контролери за данни, необходими за изграждането на функционален TPU ускорител. Всяка стъпка се валидира от автоматизиран симулационен тестов стенд (testbench), който улавя грешки в логическия синтез и връща обратна връзка за самокоригиране.
Съкращаване на цикъла за разработка от месеци на часове
Традиционният процес по създаване на специализирани интегрални схеми (ASIC) изисква големи екипи от инженери по цифрова схемотехника и отнема между 12 и 18 месеца. OpenTPU съкращава фазата на първоначално RTL прототипиране до броени часове.
Проектът поддържа модерни формати с ниска точност като FP8 и INT4, позволявайки бързо експериментиране с нестандартни аритметични блокове, съобразени с конкретни невронни архитектури.
Инженерен анализ: Пресичането на алгоритмите със собствения им силиций
Възможността на изкуствения интелект да проектира своя собствен физически хардуер затваря един от най-интригуващите цикли на самоусъвършенстване в компютърните науки. Досега напредъкът на невронните мрежи бе пряко следствие от силициевия напредък, движен от човешки инженери по закона на Мур. С OpenTPU самите алгоритми започват да диктуват и оптимизират физическата схемотехника.
Това открива пътя към свръхспециализирани процесори (Application-Specific Silicon), съобразени не с широк клас задачи, а с конкретен модел или корпоративен работен поток. Демократизацията на EDA процесите чрез отворен код и ИИ ще намали драстично бариерите за навлизане на малки стартъпи в полупроводниковата индустрия.
Източници
[1]: AI is now capable of developing its own inference hardware - OpenTPU / GitHub