三星拟借zHBM将AI加速器响应速度提升10倍

驱动中国9月17日消息，三星电子在“AI 基础设施峰会”上提出，借助上月发布的下一代 AI 内存 zHBM，将 AI 加速器响应速度提升 10 倍。该峰会于当地时间 16 日在美国加州圣克拉拉会议中心举行，AI 内存的未来走向与半导体企业公布的新产品路线图成为讨论重点。

三星电子美国公司（DSA）负责存储产品规划的高管金仁东（音译）表示，现有对话式 AI 系统每秒为每位用户处理 100 个词元（Tokens），三星的目标是提升至每秒 1000 个词元，为智能体提供支持。zHBM 将 HBM 直接垂直堆叠在 AI 加速器上，金仁东将其比作在酒店客房中安装一部直达一楼大堂的专用电梯。该设计可使性能最高达到 HBM5 的 8 倍，能效达到 HBM5 的 3 倍。

三星同时宣布，计划自 2028 年起提供三维存储方案 zNAND-O 的样品。会议期间，常被视为高带宽内存（HBM）补充方案的 CXL（Compute Express Link）技术受到部分与会者质疑。CXL 是下一代内存互连标准，可让计算设备连接更多内存，为服务器扩容，也支持不同服务器共享内存；AI 加速器通过 CPU 访问这些内存。

部分半导体业人士看好 CXL 的普及，认为其有望缓解 HBM 价格高、供应不足的问题，即使减少 HBM 用量，服务器也能保持相近性能，并大幅降低搭建成本。OpenAI 负责 AI 加速器设计的研究员丹尼尔·莫里斯对此持保留态度，其称就 AI 模型实际运行而言，找不到 CXL 能用在哪里；如果一定要找一个用途，那就是存放大型 AI 模型中很少用到的冷数据，外界对 CXL 抱有期待，但尚未看到专门面向模型运行的实际应用。

英特尔 AI 片上系统（SoC）架构负责人维迪娅·蒂亚加拉詹指出，用 CXL 整合内存确实有益，但它补充的是辅助存储，无法替代 HBM；GPU 之间通过 CXL 传输数据，速度远远比不上 HBM。会议讨论显示，CXL 恐难取代 HBM，主导 HBM 市场的三星电子和 SK 海力士有望继续保持良好的发展势头。