На конференции Hot Chips компания Samsung представила новую концепцию развития HBM, в рамках которой базовый кристалл памяти перестанет выполнять исключительно вспомогательную роль. В будущем его планируют превратить в полноценный вычислительный элемент для ИИ-ускорителей.
Современная HBM состоит из двух основных типов кристаллов: Core Die, содержащего ячейки DRAM, и Base Die, отвечающего за управление памятью и взаимодействие с GPU или другими ускорителями. Однако дальнейшее увеличение пропускной способности сталкивается с ограничениями TSV, числа интерфейсов и уровня энергопотребления. В связи с этим Samsung намерена перевести Base Die на более передовые техпроцессы и существенно расширить его функциональность.
Компания обозначила три этапа реализации этой стратегии. На первом этапе будет высвобождена дополнительная площадь и внедрены новые функции, после чего Samsung перейдёт к решениям Custom HBM и Advanced HBM. Завершением станет технология ZHBM с полноценной трёхмерной компоновкой, при которой кристаллы DRAM будут располагаться непосредственно над вычислительной логикой. Это позволит заметно сократить расстояние передачи данных и повысить эффективность системы.