- OpenAI가 자체 설계한 첫 AI 추론용 칩 Jalapeno를 공개했으며 초기 벤치마크에서 NVIDIA의 최신 랙 시스템 대비 전력당 처리량과 지연 속도 면에서 뛰어난 효율을 입증했다.
- 이번 칩은 Broadcom이 ASIC 설계를 맡고 TSMC의 3nm 공정에서 제조하며, 패키지당 6개의 HBM4 스택을 탑재해 216GiB 용량과 15.4TB/s의 대역폭을 구현했다.
- 업계에서는 삼성전자가 Jalapeno에 들어가는 HBM4 메모리의 핵심 공급사 역할을 맡은 것으로 파악하고 있다.
- Jalapeno의 대규모 양산 배치가 본격화할 경우 NVIDIA와의 확보 경쟁이 겹치면서 글로벌 HBM4 공급망 병목 현상이 한층 심화할 전망이다.
- OpenAI는 훈련용이 아닌 추론 워크로드 효율화에 집중하고 있으며 이미 차세대 칩 개발과 테이프아웃 일정을 빠르게 추진하고 있다.