1. AI가 장문맥·추론·에이전트로 진화하면서, 성능 병목이 GPU 연산력에서 메모리 용량과 속도로 이동
2. 수백만 토큰과 KV 캐시를 HBM만으로 감당하기 어려워지면서, NAND를 적층해 용량을 크게 확장한 HBF가 HBM의 보조 메모리 계층으로 부상
3. 향후 AI 서버는 초고속 데이터는 HBM, 대규모 KV 캐시는 HBF, 저빈도 데이터는 eSSD·외부 스토리지가 처리하는 다층 메모리 구조로 재편
4. 메모리 전쟁은 GPU 바로 옆이나 위에 적층해 속도를 높이는 방식과, 대용량 메모리를 외부에 두고 광통신으로 연결하는 방식의 대결
5. 메모리를 GPU에 가까이 붙일수록 대역폭은 높아지지만 발열과 냉각 문제가 커지며, 결국 AI 반도체의 핵심 기술이 칩 설계에서 3D 패키징·열관리·냉각으로 확장됨
6. 고객별 GPU와 공동 설계하는 cHBM이 확대되면 메모리는 범용 상품에서 맞춤형 시스템 반도체로 바뀌며, 가격 경쟁과 메모리 사이클도 약화될 수 있음
7. AI 모델 자체의 격차가 줄어들수록 부가가치는 모델보다 인프라로 이동하며, A데이터센터는 사실상 메모리 팩토리가 됨
✍️HBM 실적과 HBF·cHBM 옵션을 동시에 가진 하이닉스가 코어, 샌디스크는 HBF 고베타, 패키징·광통신·전력·냉각이 후속 수혜 영역