OXMIQ模拟划出HBF边界：容量增至14倍，机架带宽降至约六成
HBF更像HBM旁边的冷数据容量层，而不是通用替代品；MoE专家和稀疏长上下文可能受益，量产与软件仍未就绪。
原始标题：Hot Chips 2026: High Bandwidth Flash promises massive bandwidth and capacity, but its usability is extremely limited — new memory format strikes a balance between HBM and NAND flash
OXMIQ Labs 在 Hot Chips 2026 给高带宽闪存划出了一条比厂商宣传更窄的边界：在其72块 GPU 的推理机架模拟中，全 HBF 配置可把内存容量提高到 HBM 基线的约14倍，但总带宽只剩约六成。结论不是 HBF 可以普遍替代 HBM，而是它可能适合容量先于带宽成为瓶颈的少数 AI 推理负载。
HBF 把 NAND 闪存做成靠近加速器的堆叠内存，并通过 UCIe 接口连接。Tom’s Hardware 报道的三档规范从256GB、384GB/s起步，最高到512GB、3.072TB/s。Sandisk 与 SK hynix 已在开放计算项目下发布首份技术规范，内容覆盖主机接口、电气、可靠性、封装和软件读写指南；这说明标准化在推进，却不等于这些规格已经出现在可采购的量产系统里。
OXMIQ 的模拟显示，HBF 更可能用于不常访问的混合专家模型权重，或稀疏长上下文中的部分 KV 缓存，让 HBM 继续保存注意力权重和热数据。批量较小、模型大到难以放入现有内存池时，容量优势更有价值；一旦批量和吞吐提高，带宽需求上升，HBM 的优势会重新扩大。ServeTheHome 对同一演讲的独立报道也把 HBF 描述为容量层，而不是廉价版 HBM。
软件是另一道门槛。演讲材料要求大块传输、直接内存访问和由运行时管理的数据放置，还需要为 vLLM 等推理框架增加 HBF 支持。闪存的写入耐久性、读写不对称和热限制也意味着不能把它当成透明的 DRAM。OXMIQ 的结果来自演讲者模型和模拟，不是量产芯片上的第三方实测；目前也没有公开的 HBF 供货时间。
对存储市场而言，HBF 只有在加速器接口、框架调度和适配负载同时成熟后，才可能为 NAND 创造靠近计算的新容量层。现有资料不足以推断它会在短期内挤掉 HBM 需求。接下来应观察可用样片、持续读写带宽、功耗与耐久测试、加速器厂商采用、vLLM 等框架支持，以及同一模型在 HBM、HBF 和混合配置下的独立成本与吞吐对比。