HBF는 쉽게 말해 "낸드 플래시 메모리에 HBM의 패키징 기술을 입힌 혁신 칩"입니다. 기존 HBM이 휘발성 메모리인 D램(DRAM)을 쌓아 올렸다면, HBF는 비휘발성 저장장치인 낸드 플래시(NAND Flash)를 수직으로 적층한 구조입니다.

• 수직 적층과 고속 통로(TSV): 낸드 플래시를 3차원으로 높게 쌓은 뒤, 실리콘관통전극(TSV) 기술로 수천 개의 미세한 데이터 통로를 뚫어 연결합니다.
• 병렬 처리의 극대화: 기존 낸드가 좁은 길로 데이터를 순차 전송했다면, HBF는 수천 개의 통로를 통해 대용량 데이터를 동시에 GPU로 쏟아붓습니다.
• 비휘발성 메모리: 전원이 꺼져도 정보가 날아가지 않는 낸드의 장점을 그대로 유지합니다.

HBF가 급부상하는 배경에는 거대 언어 모델(LLM) 시장의 판도 변화가 있습니다. 대규모 모델을 훈련시키는 '학습' 중심 단계에서, 전 세계 사용자가 실실간으로 답변을 받아보는 '추론' 중심 시장으로 빠르게 확장되고 있기 때문입니다.

• HBM의 용량 한계: HBM은 속도가 압도적이지만 단일 스택당 용량이 최대 36~48GB 수준으로 제한적이며 단가가 극도로 비쌉니다.
• 폭증하는 데이터 보관: 멀티모달 AI나 대규모 추론 서비스 시 발생하는 KV 캐시, 대형 데이터 가중치를 다 담기엔 HBM 용량이 턱없이 부족합니다.
• 중간 다리 역할: 초고속 책상(HBM)과 먼 도서관(SSD) 사이에 위치하며, 자주 꺼내봐야 하는 대량의 중기 기억장치 역할을 HBF가 수행합니다.

📊 한눈에 비교하는 메모리 아키텍처

※ HBF는 HBM과 비교해 대역폭(속도)은 근접하면서도 용량은 10배 이상을 제공하는 압도적 비용 효율성을 자랑합니다.

모든 면에서 완벽해 보이는 HBF 역시 상용화를 위해 해결해야 할 난제들이 남아있습니다.

• 데이터 지연 시간(Latency): 대역폭은 넓지만 셀 자체의 물리적 한계로 인해 최초 데이터 접근 속도가 HBM보다 약 100배 가량 느립니다.
• 소자 수명 문제: 횟수 제한이 거의 없는 D램과 달리, 낸드 플래시는 데이터를 쓰고 지우는 과정이 반복되면 소자의 수명이 감소하므로 정교한 제어 아키텍처가 필수적입니다.
• 발열 및 공정 난이도: 초고층 낸드 플래시 구조 위로 수많은 배선을 연결하다 보니 구동 시 발생하는 열 제어와 높은 패키징 기술력이 요구됩니다.

• SK하이닉스 & 샌디스크(SanDisk): 가장 주도적인 움직임을 보이고 있습니다. 두 기업은 기술 동맹을 맺고 HBF 글로벌 표준화 및 연합 기구 가동에 나섰으며, 시제품 공개 및 생태계 선점을 본격화하고 있습니다.
• 삼성전자: 이미 CMM-H 등 자체 하이브리드 CXL 메모리 카드를 확보한 만큼, 시장 흐름에 발맞춰 글로벌 컨소시엄에 합류하는 투트랙 전략을 고수하며 차세대 초고층 V낸드 기술로 시장 개화를 겨냥하고 있습니다.