UBS는 올해 핫칩스 2026 컨퍼런스의 여러 세션에 참석한 뒤, 이번 행사의 가장 큰 시사점을 메모리의 부상으로 정리하고 있습니다. 컴퓨트의 가치는 이미 시장이 충분히 인식하고 있으나, AI 모델 크기와 KV 캐시 윈도우가 빠르게 커지면서 하드웨어 로드맵의 초점이 메모리 용량, 메모리 대역폭, 스케일업 인터커넥트로 옮겨가고 있다는 것입니다. UBS는 AI 추론에서 메모리가 컴퓨트만큼, 혹은 그 이상으로 중요해졌다고 평가하며, 동시에 NVDA가 풀스택 AI 팩토리 영역에서 여전히 상당히 앞서 있고 AMD의 하드웨어 로드맵도 매우 강력하다는 점을 재확인했습니다.
업체별로 보면, NVDA는 독립형 GPU 판매에서 약 100MW 규모의 데이터센터급 시스템 판매로 전환하며 가치 지표 자체를 토큰/MW와 첫 토큰 생성 시간, 신뢰성으로 이동시키고 있습니다. 루빈은 블랙웰 대비 MW당 토큰 처리량이 10-30배 높다고 주장되며, 80개가 넘는 MGX 파트너 생태계를 통해 해자가 실리콘을 넘어 네트워킹과 냉각, 전력, 랙 설계로 확장되고 있으나 자본 집약도와 실행 리스크도 함께 커진다는 것이 UBS의 판단입니다. AMD의 MI455X는 HBM4 432GB와 23.3TB/s 대역폭을 갖춘 대형 업그레이드이고 헬리오스 시스템으로 풀스택 경쟁에 나서지만, 이더넷 기반 개방형 패브릭 전략의 성패는 결국 ROCm이 얼마나 성숙하느냐에 달려 있다고 봅니다. INTC의 크레센트 아일랜드는 350W 공랭 PCIe에 LPDDR5X 480GB를 얹은 저전력·추론 우선 대안으로 차별화된 TCO 전략을 제시하나, FLOPS와 메모리 대역폭이 공개되지 않아 26년 하반기 출시 전까지 실제 경쟁력 평가가 어렵다는 평가입니다.
커스텀 실리콘 진영에서는 OpenAI가 AVGO와 함께 개발한 할라페뇨 추론 ASIC이 주목받았습니다. GB200의 약 1.2kW 대비 약 700W로 작동하고 초기 RTL까지 9개월이라는 압축된 개발 기간을 달성했다는 점에서, UBS는 이를 투자자들이 고급 ASIC 설계에서 AVGO의 역량을 과소평가하고 있다는 근거로 해석합니다. 다만 워크로드를 하드웨어에 명시적으로 매핑해야 하는 부담과 생태계 열위 등 ASIC의 오랜 한계는 여전하다고 보며, ASIC이 최종적으로 가속기 시장의 약 30%에 안착하고 GPU가 다수 점유율을 유지할 것이라는 기존 견해를 유지했습니다. MSFT는 마이아 200과 통합 이더넷 스케일업 네트워크로 수직 통합 전략을 재확인했고, META는 MTIA 400으로 HBM3E 288GB와 9.4TB/s 대역폭까지 확장하며 랙당 72칩 아키텍처를 제시했는데, UBS는 이것이 AVGO 매출에는 긍정적이나 META의 GPU 의존도를 낮추지는 않을 것으로 봅니다.
구글 세션의 핵심은 TPU 8 사양 자체가 아니라 학습용과 추론용 실리콘을 분리하는 아키텍처적 논리였으며, 추론 전용 TPU 8i는 메모리 대역폭과 저지연 통신을 우선한 반면 TPU 8t는 대규모 사전 학습에 초점을 맞추고 있습니다. 그록과 NVIDIA의 LPX 세션 역시 에이전틱 AI를 위한 이기종 추론과 워크로드 분해라는 흐름을 보여주었고, 완전 SRAM 기반 설계의 LPX를 루빈과 결합하면 롱컨텍스트 워크로드에서 3-5배의 효율 개선이 가능하다고 제시되었습니다. 디매트릭스는 3D-DRAM 기반 랩터로 컴퓨트 온 메모리 접근법을, 세레브라스는 CS-4와 함께 웨이퍼 스케일 SRAM 위에 3D 적층 DRAM을 얹는 CS-6 구상을 내놓았는데, UBS는 후자를 2028년경 등장 가능성이 높은 중요한 로드맵으로 평가했습니다. 결국 여러 세션을 관통하는 메시지는 AI 인프라의 다음 병목이 순수 FLOPs가 아니라 메모리 이동과 통신이라는 점으로 수렴합니다.