JP모건은 캘리포니아 산호세에서 열린 OCP 2026 1일차에 참석했으며, 기조연설과 경영진 세션 전반을 관통한 핵심 주제는 AI 인프라 확장의 복잡성 증가였다고 전했습니다. 추론 및 에이전틱 워크로드가 빠르게 늘면서 단순히 가속기 용량을 추가하기보다 시스템 수준의 효율성, 네트워킹, 전력 공급, 개방형 아키텍처가 더욱 강조되고 있습니다. 특히 네트워킹이 두드러졌는데, 스케일아웃·스케일어크로스·스케일업 전반에 걸쳐 논의가 이뤄졌고, 스케일업에서의 이더넷 채택 확대와 여러 데이터센터에 걸친 대형 클러스터 연결 필요성이 부각됐습니다. 전력 가용성과 효율성은 여전히 핵심 제약 요인으로 800V DC 아키텍처, 액체 냉각, 소프트웨어 기반 전력 관리 혁신을 이끌고 있으며, 구리·NPO/CPO·신규 광학 기술 등 연결성 분야의 진전과 함께 개방형 표준, 상호운용성, 하드웨어·소프트웨어 공동 설계, 에이전틱 AI를 위한 CPU의 중요성 확대가 공통적으로 강조됐습니다.
NVIDIA는 Vera Rubin이 본격 양산에 들어갔으며, 케이블리스 트레이 설계로 조립 시간이 Grace Blackwell의 약 90분에서 약 1분으로 단축되어 주당 수천 개의 랙 생산이 가능해졌다고 밝혔습니다. 첫 CPO 이더넷 스위치인 Spectrum-X Photonics는 전력 효율이 약 5배 높고 멀티플레인 지원과 하드웨어 기반 링크 장애 감지 기능을 갖췄으며 올해 출하될 예정입니다. 또한 OCP 표준 기반의 첫 800V DC AI 팩토리(구리 사용량 약 45% 절감, 랙당 약 100kW에서 1MW까지 확장)를 공개했고, DSX 레퍼런스 디자인, 구글·메타·마이크로소프트와 공동 개발한 그리드 유연성 사양, 미사용 전력을 활용해 동일한 전력 범위 내에 더 많은 GPU를 탑재하는 오픈소스 전력 관리 소프트웨어를 기여했습니다. 메타는 여러 건물에 걸친 1GW 규모의 Prometheus 학습 클러스터와 5GW 규모로 계획 중인 Hyperion 사이트의 경험을 공유했습니다. 스케일아웃에서는 Broadcom Tomahawk6C 및 Nvidia Spectrum-6 기반 102.4T IceCube 스위치(128×800G, 기존 51.2T 대비 대역폭 2배)를 탑재한 액체 냉각 IcePack 플랫폼과 스위치 계층을 3단에서 2단으로 줄인 8플레인 구조의 Flattened Planar Fabric(FPF)을 소개했으며, 시스템 파트너로 Celestica와 Accton이 언급됐습니다. 스케일업에서는 Broadcom 기반 이더넷을 MTIA에 채택했고, Tomahawk 5 기반 Tahan 스위치 4개로 가속기 16개를 연결하는 구조에서 차세대에는 Tomahawk6C 스위치 8개로 랙당 72개를 연결하고 향후 ESUN을 도입할 계획입니다. 스케일어크로스에서는 딥 버퍼 기반 슈퍼스파인 구조와 함께 Cisco Silicon One을 채택한 셸로우 버퍼 기반 신규 리저널 백본(5개월 내 양산 예정)을 소개했고, RDMA 전송 프로토콜인 Meta RoCE를 오픈소스로 공개했습니다.
Broadcom은 이더넷이 스케일아웃·스케일어크로스·스케일업 전반의 공통 네트워킹 기반이 될 것이라고 강조했으며, 이미 5개 이상의 하이퍼스케일러가 이더넷 스케일업을 실제 운용 중이고 10개 이상의 생태계 파트너가 ESUN, SUE-T 등 개방형 표준 기반 솔루션을 개발하고 있다고 밝혔습니다. 구리는 2m 도달 거리를 유지하면서 향후 2년간 대역폭을 2배로 늘릴 계획이며, 스케일업 규모가 약 1,000개 XPU로 확대되면서 랙 간 연결에서 광학의 중요성이 커질 것으로 봤습니다. AMD의 리사 수 CEO는 데이터센터 AI 가속기 TAM이 2025년 약 2,000억 달러에서 2030년 약 1.4조 달러로 연평균 45% 이상 성장하고, 에이전틱 AI 확산(에이전틱 토큰 사용량 연초 대비 14배 이상 증가)으로 추론이 최대 AI 워크로드가 됐다고 밝혔습니다. 데이터센터 CPU TAM도 2025년 약 260억 달러에서 2030년 약 2,200억 달러로 연평균 50% 이상 성장할 것으로 전망했습니다. AMD는 하이퍼스케일러용 CPU 전용 랙 또는 엔터프라이즈용 CPU·GPU 일체형 랙으로 구성 가능한 ORv3 기반 Helion 에이전틱 AI 랙을 발표했으며, Helios 랙은 9월부터 출하가 시작되어 OpenAI, 메타, Anthropic, 마이크로소프트, 오라클에 첫 시스템이 설치됐고 4분기 이후 램프업이 이어질 예정입니다. ARM은 AI 헤드 노드, 클라우드 네이티브 CPU, 에이전틱 CPU라는 세 가지 용도를 제시하며 관련 TAM이 2026년 520억 달러에서 2030년 3,000억 달러로 연평균 약 55% 성장할 것으로 전망했습니다.
연결성 분야에서 Amphenol은 레인당 400G가 실현 가능하다고 보고, 칩 패키지에서 트윈액스를 직접 인출해 PCB를 우회하는 CPC 방식으로 구리 도달 거리를 약 3.8m까지 늘려 2개 랙에 걸친 구리 스케일업이 가능하다고 밝혔으며, 구리와 광학을 양자택일이 아닌 공동 개발 대상으로 봐야 한다고 강조했습니다. TeraHop은 1.6T 모듈 대비 용량 8배·페이스플레이트 밀도 4배의 12.8T 플러거블을 정의한 XPO MSA, NPO·CPO·IOA로 구성 가능한 Open CPX MSA, 광섬유 종단을 4분의 1로 줄이는 4코어 SDM4 MCF MSA를 소개했으며, 레이저 내장형 6.4T Diablo-1 엔진이 약 5.5pJ/b를 달성해 외부 레이저 방식 대비 우위가 있다고 설명했습니다. TE Connectivity는 800V 사이드카 기반 50V IT 랙용 액체 냉각 버스바(750kW~1MW 이상)와 800V 직결 IT 랙 버스바(250kW~1.6MW), 랙 간 전력 연결 솔루션, 그리고 Senko·US Conec·3M과의 협력을 포함한 3단계 수동 광 경로 솔루션을 제시했습니다. Credo는 microLED와 VCSEL 기반 마이크로 이미터 기술로 수동 구리(5pJ/bit) 대비 60% 이상 전력을 절감한 2pJ/bit 미만을 구현하고, 첫 상용 제품인 1.6T ALC(도달 거리 50m, 케이블 두께·무게 10분의 1, 전력 30% 절감)를 2027년 양산 목표로 하고 있으며, 하이퍼스케일러 1곳과 주요 GPU 제조사 2곳이 참여하는 생태계 구축과 함께 2027년 OCP 승인을 목표로 하는 SRMO 표준화 워크스트림을 출범시켰습니다.
기타 주요 발표로 Arista는 단일 홉으로 최대 144개, 랙 간 최대 1,024개 가속기를 연결하는 이더넷 스케일업 아키텍처 Etherlink SU-144와 ESUN·NVLink·NVLink Fusion·PCIe를 지원하는 랙 스케일 개방형 이더넷 스케일아웃 설계를 공개했으며, 마이크로소프트(Maia 스케일업)와 d-Matrix(Raptor XPU 128개 ESUN 랙)가 스케일업 협력사로, 메타와 AMD는 스케일아웃 협력에 국한된 것으로 나타났습니다. Cisco는 Silicon One P200 기반 51.2T 시스템이 마이크로소프트와 알리바바에서 실제 가동 중이라고 밝혔고, NVIDIA와 함께 200G 레인 광학 대비 대역폭 밀도 4배·전력 효율 1.3배인 레인당 400G 플러거블 폼팩터 USFP를 발표했으며(TE Connectivity, Amphenol과 협력), 102.4T G300 샘플링 및 첫 시스템 출하, 2026년 말 이전 출하 예정인 ToR용 51.2T G302도 소개했습니다. Celestica는 Broadcom Tomahawk 6 기반의 완전 액체 냉각 102.4T CPO 스위치 DS6005를 출시했고, Lumentum은 Astera Labs·Corning과 PCIe-over-optics 시연을 진행했으나 상용 배포가 아닌 기술 시연 단계입니다. 마이크로소프트는 Maia 300을 2027년부터 멀티 기가와트 규모로 배치해 주력 추론 시스템으로 삼을 계획이며, 선도 GPU 시스템 대비 메가와트당 토큰 40% 증가, 96개 가속기 구성에서 Maia 200 대비 최대 7배의 랙 스케일 토큰 처리량을 제시했습니다. 이 밖에 메타·마이크로소프트·알리바바가 주도하고 Arista, Celestica, Cisco, Nvidia가 참여하는 스위치 플랫폼 관리 계층 표준화 사양(OSPA)도 발표됐습니다.