AI芯片还在不断堆高算力,但真正拖慢AI系统的,可能已经不是“算得不够快”,而是“数据来得不够快”。

随着大模型参数规模持续扩大,AI应用从模型训练进一步走向长上下文、AI Agent和多用户并发,数据量与数据访问频率同步增长。算力越强,对存储容量、带宽以及数据传输效率的要求也就越高。

在这一背景下,存储器正在从AI产业链的“配角”,逐渐走向影响整个系统性能的关键环节。

10月16日,SK海力士宣布在OCP Global Summit 2026上展示面向下一代AI基础设施的完整存储方案,包括HBM4/HBM4E、CXL池化内存、DDR5、SOCAMM2以及HBF(High Bandwidth Flash)等产品和技术。


从表面来看,这是一次产品集中展示;但从产品布局来看,SK海力士正在释放出更加明确的信号:从HBM到CXL,再到HBF,AI存储正在从单一产品竞争走向系统级布局。

AI算力狂奔,数据却成了“供给瓶颈”

过去几年,AI芯片竞争的主线几乎只有一个——算力。

GPU性能不断提升,HBM带宽持续增长,先进封装则进一步缩短计算芯片与高带宽存储之间的数据传输距离。

但当计算能力不断提升,一个新的问题也随之出现:如果数据无法及时到达计算单元,再强的GPU也可能无法充分发挥性能。

尤其是在大模型推理阶段,大量KV Cache需要被频繁读取和复用。模型越大、上下文越长、并发用户越多,对内存容量、带宽以及数据搬运效率的要求就越高。

这意味着,AI基础设施正在从过去的“算力中心”,逐渐走向“算力+存储协同”。

而SK海力士此次重点展示的CXL和HBF,正是针对这一变化进行布局。

CXL:让“闲置内存”流动起来

CXL解决的一个核心问题是内存资源利用率。

传统服务器通常按照单机需求配置内存,但不同服务器在不同工作负载下的内存使用率并不相同,大量内存资源可能处于闲置状态。

CXL则提供了一种新的思路:通过高速互连将内存资源进行池化,让多个计算系统能够共享和动态使用内存。

SK海力士此次展示的第二代256GB CMM-DDR5基于CXL 3.2,带宽达到80GB/s,相比上一代产品提升超过一倍,同时能源效率提升约30%。

更值得关注的是,CXL已经开始进入AI应用场景。

在AI Agent Serving演示中,SK海力士利用CXL池化内存共享和复用KV Cache。对于AI数据中心而言,这意味着内存资源可以从传统的“固定配置”进一步转向“动态调度”,从而提高资源利用率。

换句话说,未来的数据中心可能不再只是不断增加服务器内存容量,而是更加关注如何让整个系统中的内存资源高效流动起来。

HBF:HBM不够用了,怎么办?

CXL解决的是内存扩展和资源共享问题,但随着AI模型规模进一步扩大,另一个问题也越来越突出:HBM的容量和成本压力。

这也是HBF值得关注的原因。

HBF,即High Bandwidth Flash,本质上是在尝试将NAND Flash的大容量优势与类似HBM的高带宽架构结合起来。

简单来看,HBM强调“快”,NAND强调“大”,而HBF试图在速度、容量和成本之间寻找新的平衡。

SK海力士与SanDisk此前已经推动HBF相关标准化工作,其技术路线采用3D NAND堆叠,并通过TSV等技术提高数据访问能力,主要面向AI推理等对大容量、高带宽数据访问有较高要求的应用场景。

为什么HBF值得关注?

因为AI推理正在产生越来越多需要频繁访问的数据。如果所有数据都放入HBM,容量和成本压力会不断增加;如果全部依赖传统SSD,又难以满足高性能AI应用对数据访问速度的要求。

因此,HBF试图填补的,正是HBM与SSD之间越来越重要的一层存储空间。

从HBM到HBF,存储正在成为AI基础设施的新战场

从HBM4/HBM4E、CXL,到HBF和eSSD,SK海力士此次展示的并不是孤立的几款产品,而是一套覆盖不同存储层级的AI基础设施解决方案。

其中,HBM主要承担计算芯片附近的超高带宽需求;CXL解决内存资源共享与扩展问题;HBF则尝试承接AI推理中的大容量、高带宽数据访问需求;eSSD进一步承担更大规模的数据存储。

这背后对应的是AI数据中心正在形成的多层存储架构。

过去,产业链关注的是GPU能够提供多少算力;如今,越来越需要回答另一个问题:这些算力所需要的数据,能不能及时、高效地送到计算单元?

这也是AI产业链的竞争正在从计算芯片进一步延伸至HBM、CXL、SSD、互连以及先进封装的重要原因。

算力决定AI能够跑多快,而存储决定这些算力能否真正被充分利用。

从这个角度来看,SK海力士正在布局的并不只是几款新的存储产品,而是在押注一个更加明确的产业趋势:随着AI算力继续快速增长,存储将不再只是计算芯片的配套环节,而可能成为决定下一代AI基础设施效率的重要变量。

来源:SK海力士
编辑:未来半导体

点赞(0)
立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部