* (중요) 루빈 CPX 부활(밍치궈)

시장에서 Rubin CPX가 Nvidia의 제품 로드맵에서 제외되었다고 믿게 된 직후, 제 최신 산업 확인 결과 Nvidia가 이 프로그램을 부활시켰으며, 2027년 1분기부터 생산이 시작될 예정입니다. 이전 디자인과 비교했을 때, 부활한 Rubin CPX는 더 강력한 프리필 성능을 제공하며 GPU 사양과 랙 아키텍처 모두에 주요 변경 사항을 도입하여 Nvidia가 프리필 솔루션에 부여하는 높은 우선순위를 강조합니다.

1. Rubin CPX GPU 사양

CPX는 Rubin에 가까운 컴퓨트 성능을 제공하며 GPU당 2,300W의 Rubin 최대 전력 등급과 일치합니다. CPX는 168GB의 HBM4로 전환되며, 이는 Rubin의 288GB와 이전 CPX 디자인의 128GB GDDR7과 대비됩니다.

2. 랙 디자인

새로운 CPX는 이전 디자인처럼 Rubin과 랙을 공유하는 대신 독립형 MGX ETL 랙을 사용합니다. 고객들은 필요에 따라 64, 128, 192, 또는 256개의 CPX GPU를 선택할 수 있습니다. CPX 랙 내에서 각 64개의 CPX GPU 그룹은 랙 모듈을 형성하며, 이는 여덟 개의 컴퓨트 트레이(트레이당 여덟 개의 CPX GPU)와 하나의 스위치 트레이로 구성됩니다.

3. 스케일업 및 스케일아웃

NVLink는 각 트레이 내 여덟 개의 CPX GPU 간 스케일업에만 사용되며, CPX당 1~1.5TB/s의 NVLink 대역폭을 제공합니다(반면 Rubin당 3.6TB/s). 각 랙 모듈 내 트레이 간 스케일아웃은 모든 구리 L1 링크를 사용하는 Spectrum-6 이더넷을 통해 실행됩니다. 랙 모듈 간 스케일아웃은 각 모듈의 Spectrum-6 스위치가 OSFP 광학 링크를 통해 처리합니다.

4. 작동 방식

CPX는 Vera Rubin NVL72와 쌍으로 사용되어야 하며, Nvidia는 CPX와 Rubin GPU의 1:1 비율을 권장합니다. CPX는 프리필을 처리하고 KV 캐시를 구축한 후, 이를 이더넷 RDMA를 통해 Rubin으로 전송하여 디코드를 수행합니다.

5. 제품 포지셔닝 : 긴 컨텍스트 프리필에 대한 달러당 최고 성능

오늘날 AI 추론 작업량의 50% 이상이 입력 컨텍스트 처리와 해당 KV 캐시 구축에서 발생합니다. 따라서 CPX는 프리필을 처리하는 더 유연하고 저비용의 방법을 제공합니다. 각 여덟 CPX 트레이는 약 1.34TB의 HBM4를 갖추고 있으며, 이는 대부분의 긴 컨텍스트 프리필 작업과 관련 KV 캐시 요구 사항에 충분합니다.

BESSENT : 부채에서 벗어나는 유일한 방법은 부채를 성장으로 극복하는 것이다.

* HBM 스팟가는 컨트랙 대비 5배 높은 상황

삼성전자 메모리사업부는 2031년까지 공급할 생산능력의 약 70%를 LTA 물량으로 배정한 것으로 알려졌다.

그러나 이들 빅테크조차 계약한 물량을 모두 공급받지 못할 만큼 HBM 확보 경쟁이 치열해 현물 가격은 더욱 치솟고 있다. 메모리시장 조사업체인 메가그리드서플라이에 따르면 HBM3E 36기가바이트(GB) 제품 가격은 2100달러(약 287만 원)다. 약 50만~70만 원으로 알려진 장기공급계약 가격보다 현물 가격이 4~5배 높은 셈이다. 현재 양산을 조율 중인 HBM4 16단 제품은 LTA가 아닌 현물로 구할 경우 3500달러(약 480만 원)에 가격이 형성돼 있다.

삼성전자 반도체(DS) 부문 경영진은 평택캠퍼스에서 유일한 파운드리(반도체 위탁생산) 생산라인인 S5를 이르면 내년부터 메모리 설비로 전환하는 방안을 검토하고 있다.

특히 SK하이닉스는 용인과 호남권 생산 거점 확대에 이어 일본 기업과 현지 합작공장 설립 가능성까지 검토하는 것으로 알려졌다.

모든 AI 생태계를 지배하고자 하는 엔비디아

* 이번주 신규 출시한 맥미니/맥스튜디오 디램 사양 비교

AI 모델을 실행하기 위한 Mac 하드웨어 수요 급증은 전 세계적인 메모리 부족과 맞물려 많은 Mac mini 및 Mac Studio 구성이 몇 달 동안 재고 부족 상태를 초래했습니다. Apple의 고급 구성은 여전히 ​​구하기 어렵기 때문에 일부 기업 고객은 Mac mini와 유사한 폼 팩터로 작년 말에 출시된 소형 AI 데스크톱인 Nvidia의 DGX Spark와 같은 다른 하드웨어로 눈을 돌리고 있는 것으로 알려졌습니다.

31일 업계에 따르면 SK하이닉스는 이르면 HBM4E에 들어가는 베이스 다이부터 TSMC 뿐 아니라 인텔과 협력하는 방안을 추진하고 있는 것으로 전해졌다.

TSMC에 집중된 공급망을 장기적으로 분산하려는 전략적 판단도 깔려있다는 해석도 나온다. HBM4를 기점으로 고객사의 AI(인공지능) 가속기 구조와 요구 성능에 맞춰 베이스 다이 설계를 달리하는 ‘커스텀 HBM’의 중요성이 커지는 만큼, SK하이닉스 입장에서도 특정 고객사와 파운드리에 집중된 생태계에서 벗어나 다양한 AI 칩 업체와 협력할 수 있는 선택지를 넓힐 필요가 있다는 것이다.

향후 인텔과의 협력이 베이스 다이 생산을 넘어 첨단 패키징 분야까지 확대될 가능성도 거론된다. 미국 실리콘밸리에서 열린 고성능 반도체·컴퓨팅 아키텍처 컨퍼런스 ‘핫칩스(Hot Chips)’에서 이재식 SK하이닉스 아메리카 패키지 엔지니어링 부사장은 TSMC의 CoWoS-S·CoWoS-L과 인텔의 EMIB 등 주요 첨단 패키징 방식을 비교·분석하고 있다고 설명한 바 있다.

UBS

27년 HBM은 심각한 공급부족에 직면 예상

OpenAI가 강화 학습과 컴퓨터 사용 에이전트 훈련을 위해 수만 대의 Mac mini와 Mac Studio를 구입한 것으로 알려졌으며, Anthropic은 AWS를 통해 Mac mini를 임대하고 있습니다. - The Information

* 게빈 베이커, 데이터센터 건설 반대론에 대한 반박

(한 문장 요약)

1) 물 사용 : 최신 데이터센터는 폐쇄형 순환·재활용수 시스템을 써 물 문제를 크게 줄였고, 과거 물 사용량 추정치 중 일부는 과장됐음(골프장보다 훨씬 적게 쓴다).

2) 세금 : 판매세 감면만 볼 게 아니라 막대한 재산세 수입을 봐야 하며, 일부 지역은 데이터센터가 지방재정의 핵심 세원이 됨.

3) 일자리 : 전기기사·배관공·용접공·HVAC 등 블루칼라 숙련직 수요를 크게 늘리고, 건설 후에도 증설·업그레이드가 계속돼 지속적 고용 효과가 있음

4) 전기요금 : 데이터센터가 신규 발전설비 비용을 부담하고 장기계약을 맺는 구조라면 기존 주민에게 비용을 전가하지 않고, 일부 지역에서는 오히려 전기요금 인하·동결이 가능

5) 환경 : 천연가스, 재생에너지, 배터리 저장장치가 결합되면서 환경 부담을 줄이고 전력망 안정성에도 도움을 줄 수 있음

6) 지역경제 : 쇠퇴한 농업·산업 소도시에 데이터센터가 들어오며 세수, 학교, 병원, 공공시설 개선과 빈곤율 하락에 기여(워싱턴주 퀸시의 빈곤율은 29%에서 6%로 급감)

결론 : 데이터센터는 단순한 AI 인프라가 아니라 미국의 재산업화, 지방경제 활성화, 블루칼라 일자리 창출 수단이며 중국으로의 데이터센터 아웃소싱은 제조업 아웃소싱과 같은 실수가 될 수 있음