OXMIQのシミュレーションが示すHBFの境界、容量14倍でラック帯域は約6割
HBFはHBMの汎用代替より低頻度データ用の容量層に近く、MoEエキスパートや疎な長文脈には合い得るが、ハードとソフトは未成熟だ。
原題：Hot Chips 2026: High Bandwidth Flash promises massive bandwidth and capacity, but its usability is extremely limited — new memory format strikes a balance between HBM and NAND flash
OXMIQ LabsはHot Chips 2026で高帯域フラッシュの適用範囲を狭く示した。72基のGPUを使う推論ラックのシミュレーションでは、全HBF構成はHBM基準の約14倍の容量を得る一方、総帯域は約60％だった。HBFがHBMを広く置き換えるという結果ではなく、帯域より容量が先に制約になる一部の推論処理に合う可能性を示す。
HBFはNANDをアクセラレーター近くに積層し、UCIeで接続する。Tom's Hardwareが報じた3等級は256GB、384GB/sから最大512GB、3.072TB/sまで。SandiskとSK hynixはOCPでホスト接続、電気、信頼性、実装、読み書き指針を含む最初の仕様を公開した。標準化は進んだが、購入可能な量産システムがある証拠ではない。
OXMIQのモデルでは、HBFは参照頻度の低いMoEエキスパート重みや疎な長文脈KVキャッシュの一部を受け持ち、HBMは注意機構の重みとホットデータを保持する。小バッチでモデルが既存メモリープールに収まらない場合に容量が効く。バッチと処理量が増えれば帯域需要も増し、HBMが再び有利になる。ServeTheHomeも同じ講演を別に報じ、HBFを安価なHBMではなく容量層と位置付けた。
ソフトウェアも障壁だ。大きな転送単位、DMA、ランタイムによる配置管理、vLLMなどのHBF対応が要る。書き込み耐久性、読み書きの非対称性、熱制約があり、透明なDRAMとしては扱えない。結果は講演者のモデルとシミュレーションで、量産シリコンの第三者測定ではなく、供給時期も公表されていない。
アクセラレーター接続、フレームワークのスケジューリング、適合する処理が同時に成熟して初めて、HBFはNANDの近接計算容量層になり得る。短期にHBM需要を置き換える根拠はない。試作品、持続読み書き帯域、電力と耐久試験、アクセラレーター採用、フレームワーク対応、同一モデルの独立した費用・処理量比較を確認したい。