- 루빈급의 새로운 칩 탄생
- 가장 큰 HBM 대역폭 설계
- SemiAnalysis에 따르면 Jalapeño의 MW당 출력 토큰 처리량(output-token throughput/MW)은 이미 7월에 공개된 NVIDIA Vera Rubin 결과를 상회합니다. 특히 Rubin은 multi-token prediction을 사용한 결과라는 점에서 주목할 만합니다.
다만 총비용 대비 성능(performance per total cost) 기준으로 보면 현재 공개된 데이터를 바탕으로는 Jalapeño와 Vera Rubin이 대략 비슷한 수준입니다.
- 하드웨어
TSMC N3P 공정
TDP 700W
HBM4
메모리 대역폭 15.4TB/s
- SemiAnalysis에 따르면 이는 현재 출하 중이거나 출하가 임박한 AI 가속기 가운데 패키지당 가장 높은 메모리 대역폭입니다.
https://x.com/i/status/2092254221458665537