Быстрее и с меньшей площадью кристалла: Marvell представляет cHBM

На мероприятии Analyst Day 2024 компания Marvell анонсировала инициативу по внедрению кастомных чипов HBM (cHBM) в ускорители. Цель этого решения — устранить некоторые недостатки стандартных модулей HBM. Над проектом Marvell работала совместно с тремя крупными производителями HBM — Micron, Samsung и SK hynix.

Сегодня почти все ускорители для ИИ и высокопроизводительных вычислений (HPC) используют память HBM (High Bandwidth Memory). Актуальная HBM3E при ширине шины 1024 бита обеспечивает пропускную способность 1.229 ГБ/с на чип. В 2025 году появятся ускорители с HBM4, способной достигать 1.638 ГБ/с.

Стандарт JEDEC для HBM гарантирует совместимость и единые требования для всех производителей. Но из-за этого стандарты часто сопровождаются компромиссами. Именно их Marvell планирует обойти, внедряя кастомный HBM — cHBM. В частности, существует стандарт для интерфейса HBM на хост-чипе, который занимает довольно много места по краям кристалла.