Rubin에서는 HBM 컨트롤러와 PHY가 GPU 다이 면적의 약 16%를 차지합니다. 반면 Feynman에서 NVHBM이 적용되면, 이 비중이 약 4%까지 낮아질 것으로 추정됩니다.
어떻게 가능할까요?
기존에는 GPU(XPU) 안에 있던 메모리 컨트롤러를 HBM의 베이스 다이(Base Die) 쪽으로 옮기고, 면적을 많이 차지하는 기존의 표준 HBM PHY 대신 Nvidia의 소형 NV-HBI 다이투다이(Die-to-Die) 인터페이스를 사용하기 때문입니다.
삼성전자의 커스텀 HBM4 인터페이스는 표준 HBM PHY 대비 면적이 약 60% 더 작습니다.
NVIDIA는 이러한 구조를 통해 표준 HBM4E 대비 다음과 같은 개선이 가능하다고 주장합니다.
연산용 다이 면적 최대 25% 증가
메모리 대역폭 최대 30% 증가
HBM 전력 소비 15% 감소
https://x.com/semianalysis_/status/2106217837643575607?s=46