Intel представи сървърния ускорител D270 с 480 GB унифицирана LPDDR5X памет

Сървърният AI ускорител Intel D270 с 480 GB памет. Снимка: Intel Official / Svetni.me

В изненадващ и силно прагматичен ход, целящ да преобърне икономиката на корпоративния инференс, Intel официално анонсира новия си дискретен GPU ускорител Intel D270 от D-серията за центрове за данни [1]. Ключовото инженерно предимство на картата е интегрирането на безпрецедентните до 480 GB унифицирана памет LPDDR5X на единична печатна платка.

Решението на Intel е директен отговор на най-острия проблем пред съвременните изследователи и системни администратори: фрагментирането на паметта (memory wall), при което стартирането на модели с над 70 милиарда параметри налага разделяне на теглата между няколко свръхскъпи карти с HBM памет [1].

Преодоляване на паметната стена чрез капацитет пред сурова скорост

Докато пазарните лидери залагат на скъпа и трудна за производство High Bandwidth Memory (HBM3e), предлагаща екстремна пропускателна способност, но ограничен обем (до 96–144 GB на чип), Intel поема по алтернативен инженерен път [1]. Използвайки плътни модули от мобилна LPDDR5X памет с висока енергийна ефективност, D270 предлага гигантски адресен обем при умерена консумация на мощност.

Този архитектурен избор прави ускорителя идеален за обслужване на разредени Mixture-of-Experts (MoE) модели и сесии с екстремно дълъг контекстен прозорец [1]. Модели със стотици милиарди параметри могат да бъдат заредени изцяло в локалната памет на една платка, елиминирайки нуждата от сложни NVLink или InfiniBand междусистемни комуникации за разпределяне на теглата.

Икономическо предимство за локални и корпоративни клъстери

За малки и средни корпоративни центрове за данни D270 предлага драстично намаляване на общата стойност на притежание (TCO) [1]. Вместо да изграждат скъпи сървъри с по осем GPU ускорителя, изискващи специализирано захранване и трифазно охлаждане, IT отделите могат да постигнат пълен локален инференс в стандартни 2U сървърни шасита.

Intel осигурява пълна съвместимост със софтуерните стекове PyTorch, vLLM и OpenVINO, позволявайки мигновен пренос на съществуващи конвейери за enterprise AI без необходимост от пренаписване на софтуерни ядра [1].

Демократизация на капацитета на паметта в ерата на гигантските модели

Появата на Intel D270 отразява фундаментална корекция в приоритетите на полупроводниковата индустрия за хардуерно ускорение. През последните три години фокусът бе изцяло върху суровата пропускателна способност на HBM паметта за обучение на базови модели. В ерата на масовото приложение обаче, истинската пречка пред корпорациите е чистият физически обем памет, необходим за задържане на десетки специализирани експерти и милиони токени работен контекст.

Чрез залагането на LPDDR5X, Intel създава нов пазарен сегмент: икономични масиви от памет с достатъчна пропускателна способност за интерактивен инференс. Това не само намалява монополния натиск върху HBM доставчиците, но и отваря вратата за масово внедряване на фронтир модели в академични лаборатории, болници и финансови институции, за които милионните сървърни клъстери бяха недостижим лукс.

Инфографика: Светни.ме

Източници

[1]: Intel D270 GPU AI Accelerator - Up to 480 GB LPDDR5X - Intel Official