存力接棒算力,HBM为什么“脱颖而出”?

随着AI大模型参数量从千亿级向万亿级跃升,算力需求的爆发式增长让传统存储方案成为制约性能的瓶颈,存储技术的升级成为产业突破的关键。高性能GPU核心面积有限,可搭载内存的空间本就十分有限,而大模型训练、推理过程中需要极高的数据吞吐量,传统GDDR等显存方案受限于传输速率、功耗等限制,已无法匹配先进算力的需求,存力接棒算力成为行业共识。

AI大模型狂飙,传统存储难承算力重压

当前全球AI产业正处于大模型迭代的加速期,一次完整的大模型训练需要处理PB级的数据,算力芯片与存储之间的数据交互频率呈指数级上升。传统存储方案普遍采用板级封装,与GPU核心之间的距离较远,不仅传输延迟高,还容易出现功耗过高的问题,难以满足高并发、低延迟的计算需求。与此同时,先进GPU的核心面积被计算单元大量占用,可安装内存的空间被极度压缩,传统需要在PCB板上布置的显存方案完全无法适配,市场急需一款既能靠近核心安装、又能提供超高带宽的存储方案,HBM正是在这样的背景下进入产业视野。

3D堆叠+近核封装,HBM精准击中AI存储痛点

HBM(高带宽内存)的核心优势完全匹配AI场景的需求。首先它采用3D堆叠技术,将多层DRAM die垂直堆叠后与GPU核心共同封装在同一基板上,完全解决了GPU内部空间不足的问题,最大化利用了算力芯片的封装面积。其次,近核封装的设计让HBM与计算核心之间的数据传输距离从传统的厘米级缩短至毫米级,大幅降低了传输延迟和功耗,同时通过硅通孔(TSV)技术实现了远超传统显存的传输速率,目前量产的HBM3E带宽已达1.2TB/s,是GDDR6的3倍以上,功耗却只有后者的三分之一。这种“高带宽、低功耗、小体积”的特性,让HBM成为支撑大模型高性能计算的理想存储方案,也让它从众多存储产品中脱颖而出。

产能成兵家必争,HBM进入产业爆发期

HBM的技术优势得到验证后,全球存储厂商和算力企业迅速展开布局。SK海力士、三星、美光三大存储巨头已将HBM作为核心战略产品,持续投入研发和扩产,SK海力士更是凭借先发优势拿下了英伟达H100、H200系列GPU的大部分HBM订单。下游的英伟达、AMD等算力芯片厂商也将HBM作为旗舰产品的标配,谷歌、亚马逊、微软等云厂商为采购搭载HBM的AI服务器争相竞价,HBM产能一度处于供不应求的状态。由于HBM的封装工艺复杂、良率要求高,产能爬坡速度较慢,进一步加剧了市场的供需缺口,也让HBM成为存储赛道中增长最快的细分品类。

迭代持续加速,HBM将扛起存力升级大旗

当前HBM仍在快速迭代,HBM4已经在研发推进中,预计带宽将突破2TB/s,容量也将进一步提升,更好地适配下一代万亿级大模型的需求。同时HBM也在与先进封装、Chiplet等技术深度结合,未来甚至可能与存算一体技术融合,进一步缩小数据交互的距离,突破算力发展的存储瓶颈。随着AI产业对算力的需求持续增长,存力升级将成为长期趋势,HBM凭借其技术特性,将在未来相当长一段时间内扛起高端存储的大旗,成为AI产业发展的核心硬件支撑。