🔁AI 시장의 판도 변화: 학습 → 추론 source

AI 시장의 핵심이 누가 더 똑똑하게 만드나(엔비디아)에서 누가 더 싸게 굴리나(추론 칩)로 이동 중

1. 시장의 축 이동: 학습(Training) → 추론(Inference)

• 학습: AI 모델 생성 단계. 엔비디아 독점 영역이나 일회성 비용에 그침
• 추론: 챗GPT 답변, 이미지 생성 등 실제 서비스 단계. 매일 발생하는 지속 비용임

• 모델 생성보다 유지/서비스 비용이 15배 더 큼. 2030년 전체 AI 비용의 75%가 이 추론 시장에서 발생할 전망

2. 엔비디아 독주 체제의 균열 (가성비의 역습)

• 엔비디아 GPU는 범용성 좋으나 고비용, 고전력 구조
• 구글 TPU 같은 전용 칩은 특정 작업만 수행하는 전용 도구로, GPU 대비 가성비 4배, 전력 소모 60% 절감

• 수익성 따지는 기업 입장에서 고비용 GPU를 고집할 이유가 사라지는 중

3. 스마트 머니와 빅테크의 탈 엔비디아

• 미드저니, 앤트로픽, 메타 등 주요 기업들이 비용 절감 위해 구글 칩 도입 및 자체 칩 혼용 시작
• 피터 틸, 소프트뱅크 등 투자 큰손들의 엔비디아 매도/비중 축소

• 이는 향후 압도적 마진율 유지가 어렵다는 판단에서 기인

4. 결론 및 인사이트

• 독점력 희석 및 경쟁 심화로 엔비디아의 고수익 구조 유지 어려움
• 서비스 비용을 낮춰주는 구글(TPU), 클라우드, 자체 칩 설계 기업들의 가치 재평가 (운영 효율화 기업)

• AI 인프라 투자의 기준이 성능 과시에서 실질적 수익성(마진) 확보 단계로 진입