위 주장에 대한 반박:
씨티 - HBM 디스펙(스펙 하향)(X의 SemiAnalysis 출처) - 많은 분들이 문의해주신 내용
이 내용은 이미 잘 알려진 사실이지만, 여전히 최근 메모리 기업 미팅에서 질문의 80~90%를 차지하는 주제가 바로 디스펙입니다. 그리고 오늘 나온 소문은 루빈 울트라(Rubin Ultra)에서 "추가적인 디스펙"이 일어날 것이라는 이야기입니다.
우리는 디스펙을 AI의 메모리 집약도가 낮아지고 있다는 증거가 아니라, 메모리 부족 현상의 결과로 보아야 한다고 생각합니다. DRAM 공급이 점점 더 제약됨에 따라, 업계는 어쩔 수 없이 부족한 비트(bit)를 할당하고 절대로 타협할 수 없는 자원인 대역폭(Bandwidth)을 중심으로 HBM을 최적화해야 하는 상황에 처했습니다. 용량은 줄이거나 풀링(pooling)하거나 하위 계층으로 밀어낼 수 있지만, 대역폭을 대체할 수 있는 수단은 거의 없기 때문입니다. 중요한 점은 이렇게 밀려난 비트들이 사라지는 것이 아니라는 사실입니다. 이들은 일반 서버용 DRAM과 기업용 NAND로 이동하며, 풀링 과정에는 통상적으로 전체 대역폭을 갖춘 HBM을 탑재한 더 많은 가속기가 필요하게 됩니다.