OXMIQ 시뮬레이션이 그은 HBF 경계…용량14배, 랙 대역폭은 약60%
HBF는 HBM의 범용 대체재보다 옆에 놓이는 저빈도 용량 계층에 가깝고, MoE 전문가와 희소 장문 맥락에 맞을 수 있지만 하드웨어와 소프트웨어는 준비되지 않았다.
원문 제목: Hot Chips 2026: High Bandwidth Flash promises massive bandwidth and capacity, but its usability is extremely limited — new memory format strikes a balance between HBM and NAND flash
OXMIQ Labs가 Hot Chips 2026에서 고대역폭 플래시의 적용 범위를 좁혀 제시했다. 72개 GPU 추론 랙 시뮬레이션에서 전체 HBF 구성은 HBM 기준보다 용량이 약14배였지만 총 대역폭은 약60%였다. 이는 HBF가 HBM을 일반적으로 대체한다는 결과가 아니라, 대역폭보다 용량이 먼저 병목이 되는 일부 추론 작업에 맞을 가능성을 뜻한다.
HBF는 NAND를 가속기 가까이에 적층하고 UCIe로 연결한다. Tom's Hardware가 전한 세 등급은256GB·384GB/s에서 시작해 최대512GB·3.072TB/s다. Sandisk와 SK hynix는 OCP를 통해 호스트 인터페이스, 전기, 신뢰성, 패키징, 읽기·쓰기 지침을 담은 첫 사양을 공개했다. 표준화 진전은 사실이지만 구매 가능한 양산 시스템을 뜻하지는 않는다.
OXMIQ 모델에서 HBF는 접근 빈도가 낮은 MoE 전문가 가중치나 희소 장문 KV 캐시 일부를 맡고, HBM은 주의 가중치와 핫 데이터를 보관한다. 작은 배치에서 모델이 기존 메모리 풀보다 클 때 용량 이점이 커진다. 배치와 처리량이 오르면 대역폭 수요가 증가해 HBM이 다시 유리하다. ServeTheHome도 같은 발표를 별도로 보도하며 HBF를 저가 HBM이 아닌 용량 계층으로 설명했다.
소프트웨어도 관문이다. 큰 단위 전송, DMA, 런타임 데이터 배치와 vLLM 같은 프레임워크의 HBF 지원이 필요하다. 쓰기 내구성, 읽기·쓰기 비대칭, 열 제한 때문에 투명한 DRAM처럼 쓸 수 없다. 결과는 발표자 모델과 시뮬레이션이며 양산 실리콘의 제3자 측정이 아니고 공급 시점도 공개되지 않았다.
가속기 인터페이스, 프레임워크 스케줄링, 적합한 작업이 함께 성숙해야 HBF가 NAND의 근접 계산 용량 계층이 될 수 있다. 단기 HBM 수요를 대체한다는 근거는 없다. 샘플, 지속 읽기·쓰기 대역폭, 전력·내구 시험, 가속기 채택, 프레임워크 지원, 동일 모델의 독립 비용·처리량 비교를 지켜봐야 한다.