技术栈
三维集成
张星河zen
4 小时前
存储
·
先进封装
·
三星
·
hbm
·
三维集成
·
美光
·
海力士
下一代 HBM 存储不再只是堆层数：iHBM、vHBM、zHBM 三大厂商三种技术路线之争
AI芯片的性能瓶颈，正在从计算单元转向存储与计算之间的数据通路。GPU单卡晶体管规模持续扩大，矩阵运算的理论峰值不断提高，但大模型在推理阶段需要反复读取的键值缓存，其规模随上下文长度同步增长，数据能否及时供给，决定了计算单元的实际利用率。高带宽存储器HBM作为距离GPU最近的存储层级，其架构调整因此成为AI基础设施演进中最受关注的环节之一。
我是有底线的