1. 에이전틱 AI = 메모리 블랙홀
- 이제는 잘 답하는 AI보다 나를 기억하고 대신 일하는 AI가 핵심
- 과거 대화, 문서, 이메일, 위치 등 끌어와야 해서 메모리 수요가 구조적으로 커짐
- 컨텍스트 엔지니어링이 붙으면 입력 토큰과 KV 캐시가 수백만 배까지 늘어남
- 즉, AI 성능은 "얼마나 많이 저장하고, 빨리 꺼내오느냐" 싸움이 되어버림
2. 그래서 HBM만 보면 반쪽짜리
- 단기 기억은 HBM/HBF. 추론 속도, 즉답성, 에이전트 체감 품질을 담당하는 쪽
- 장기 기억은 NAND/플래시. 개인 기록, 영상, 로그, 장문 컨텍스트 저장소 역할
- 즉 이번 장은 [고대역폭 메모리 + 장기 저장 메모리]의 동시 서사로 봐야 함
- 메모리 투자도 기억 계층 전체를 보는 시각이 필요함
3. 터지는 수요, 제한된 공급
- 델 CEO는 AI 가속기당 전체 메모리 수요가 625배 폭발한다고 분석함
- 그러나 메모리 공장은 완공하고 양산까지 아무리 빨라도 3년 이상 걸림
- HBM은 증설 버튼 누른다고 되는 산업이 아님. 적층, 수율, 패키징 노하우가 다 필요
- 에이전트 AI 시대엔 메모리 용량과 밴드위스가 더 큰 병목이 될 가능성이 큼
✍️1)메모리 수요는 지속적으로 엄청나게 늘어남 + 2)최소 내년 말까지 유의미한 공급 증가는 불가능