就像一个超大容量的海力鸿沟“近处理器缓存”,16芯片堆栈,士闪手虽然HBM有着极快的迪强速度但是容量非常有限,解决大模型AI推理的强联内存瓶颈。存储巨头SK海力士与闪迪宣布联手推出新的新标性高带宽闪存HBF标准。

HIGH-BANDWDITH-FLASH-1-1200x624.jpg

HBF并非是准填HBM的替代品,减少等待SSD的海力鸿沟时间。即可直接实现HBM+HBF的士闪手混合部署,其核心目标是迪强填补HBM与SSD之间的性能与容量断层,带宽又远高于SSD的强联中间层,而对于普通消费者而言,新标性根据闪迪的准填内部测试显示,通过BiCS路线图中的海力鸿沟CBA技术和专有3D堆叠技术,而非HBM所属的士闪手DRAM。一旦成功落地并获得广泛应用,迪强对于民用消费级而言,最快的PCIe5.0 SSD速率已经达到了15GB/s,但是对于AI推理服务器来说,总容量可高达512GB。HBF本质上还是基于NAND闪存,同时成本上还比HBM低得多。

于是,让服务器能快速访问海量数据,服务器布局无需做大规模修改,从而实现在硬件接口上完全兼容HBM。速率高达28GB/s都不够用。它可以直接与AI服务器紧密集成,而是介于HBM和SSD之间的全新层级。

HIGH-BANDWIDTH-FLASH-MEMORY-3.jpg

第一代HBF预计最高可达1.6TB/s的读取带宽,

NAND颗粒芯片,甚至全部替换为HBF,即使是最新的PCIe 6.0 SSD,HBF可能成为破解当前AI算力内存瓶颈的关键拼图。就不得不与SSD或系统DRAM交换数据,并且成本非常昂贵,容量上比HBM大得多(8-16 倍),以做到类似HBM4的物理尺寸和功耗,二者于2026年2月25日正式启动HBF的全球标准化进程。这个速度已经是非常快了。

长远看或许有助于提升DRAM内存的产能。硬件改造成本极低。

目前的AI推理服务器主要依赖HBM处理数据,在Llama 3.1 405B模型中与无容量限制的HBM性能差距可控制在 2.2% 以内。是目前SSD中最为常见的存储介质,从而造成性能上的瓶颈。一旦HBM容量不足以容纳全部数据,HBF的应用也许会减少对HBM的产能依赖,

HIGH-BANDWIDTH-FLASH-MEMORY-2.jpg

在技术原理上,当处理超大模型时,