엔비디아의 성장과 AI 컴퓨팅의 미래
수요는 계속 폭발 중: OpenAI/앤스로픽 같은 AI 연구소, 메타/구글 같은 광고 기업, 그리고 수많은 스타트업들의 수요가 계속 증가하고 있습니다.
'가치 포착 문제(Value Capture Problem)': AI가 창출하는 경제적 가치는 이미 투입되는 비용을 넘어섰지만, 정작 모델 개발사(OpenAI 등)는 그 가치의 10%도 제대로 포착하지 못하고 있습니다. AI 서비스의 가격이 저렴해지면서 가치 포착은 더욱 어려워지고 있습니다.
자본은 계속 유입될 것: 그럼에도 불구하고 하이퍼스케일러, 인프라 펀드, 국부 펀드 등 막대한 자본이 AI 인프라에 계속 투입될 것이므로 단기적인 성장은 확실합니다.
엔비디아의 위협: 커스텀 실리콘과 스타트업
가장 큰 위협은 '커스텀 실리콘': 구글(TPU), 아마존(Trainium), 메타가 자체 제작 칩의 주문량을 대폭 늘리고 있습니다. AI 시장이 소수의 거대 기업에 집중될수록 커스텀 실리콘이 유리해지고, 분산될수록 엔비디아가 유리합니다.
구글은 TPU를 외부에 판매해야 한다: 딜런은 구글이 TPU를 외부에 판매한다면 구글 본사보다 더 높은 기업 가치를 인정받을 수 있다고 주장합니다. 다만 이를 위해서는 엄청난 조직 문화 개편이 필요합니다.
실리콘 스타트업의 딜레마: 스타트업들은 현재 유행하는 모델(예: 트랜스포머)에 최적화된 칩을 설계하지만, 칩이 출시될 즈음에는 이미 모델 아키텍처가 변해있어 경쟁력을 잃는 '캐치-22' 상황에 빠지기 쉽습니다. AI 모델은 엔비디아 GPU에 맞춰서 진화하기 때문입니다.
데이터센터의 병목: 전력과 냉각
미국의 진짜 병목은 '전력': 현재 미국 AI 인프라 확장의 가장 큰 제약은 칩 부족이 아니라 데이터센터를 지을 부지와 전력 확보입니다. 전력망 연결, 변전소 건설, 전기 기술자 부족 등이 심각한 문제입니다.
이 때문에 하이퍼스케일러들은 지속가능성 약속을 뒤로하고 전력 확보에 사활을 걸고 있으며, 심지어 암호화폐 채굴 회사의 지분을 인수(전력 부지 확보 목적)하기도 합니다.
데이터센터 비용 구조: 전체 비용의 약 80%는 GPU, 네트워킹 등 자본 비용이며, 전력, 토지, 냉각 등은 20%에 불과합니다. 따라서 데이터센터를 3개월이라도 빨리 가동할 수 있다면, 20%에 해당하는 비용을 더 지불하더라도 이득입니다.
주요 빅테크 기업들에 대한 조언
샘 알트먼 (OpenAI): 당장 사용자가 신용카드를 입력하고 에이전트를 통해 쇼핑, 예약 등을 처리하게 한 후, 거래 수수료를 받는 모델을 출시해야 한다.
젠슨 황 (Nvidia): 1,000억 달러가 넘는 막대한 현금으로 자사주 매입 같은 소극적 행동 대신, 데이터센터 인프라 생태계에 직접 투자하여 엔드투엔드 지배력을 강화해야 한다.
세르게이/순다르 (Google): TPU를 외부에 판매하고, 관련 소프트웨어(XLA)를 더 많이 오픈소스화해야 한다. 데이터센터 건설에 더 공격적으로 투자해 컴퓨팅 리더십을 되찾아야 한다.
마크 저커버그 (Meta): 모델과 인프라에 대한 긴급성은 잘 이해하고 있다. 하지만 자사의 서비스(인스타그램, 페이스북 등) 내에만 AI를 가두지 말고, 독립적인 AI 제품(ChatGPT 경쟁 제품 등)을 더 많이 출시해야 한다.
팀 쿡 (Apple): 컴퓨팅의 인터페이스가 터치에서 AI로 넘어가고 있다는 사실을 직시해야 한다. 수십억 달러를 AI 인프라에 투자하지 않으면 플랫폼 전쟁에서 도태될 것이다.
사티아 나델라 (Microsoft): 한때 공격적이었으나 최근 주춤하고 있다. OpenAI에 대한 통제력을 잃고 있으며, 내부 모델 개발은 실패하고, 애저는 점유율을 잃고 있다. 무엇보다 Github Copilot 같은 제품이 모든 우위(IDE, 소스코드, 영업력, OpenAI 파트너십)를 가졌음에도 불구하고 시장을 선도하지 못하는 등 '제품 실행력'에 심각한 문제가 있다.
일론 머스크 (XAI/Tesla): 뛰어난 인재를 끌어들이지만, 때로는 성급한 결정이 해가 되기도 한다. 제품 자체에 더 집중할 필요가 있다.