"향후 수년간 컴퓨트는 10배 비싸질 것"
- 드와케시 파텔은 실리콘밸리에서 인정받는 AI 산업 중심 인터뷰어
- 현재 AI 산업을 감싸는 우려(저가경쟁, 마진축소, 투자축소 등)와 정반대편에 놓일법한 뷰를 제시
* 요약
- 프론티어 모델랩의 매출은 YoY 10배씩 성장 중(앤스로픽 연말 $100B~150B 추정), 반면 랩의 컴퓨트 캐파는 연 3배 증가에 그침
- 이 갭이 메워지려면 셋 중 하나 : ① 마진 상승, ② 컴퓨트 가격 상승, ③ 지출에서 추론 비중 확대. 현재 세 가지 모두 실제로 일어나는 중
- 그러나 결국 셋 중 하나로 좁혀짐 :
- ③은 랩들이 원하지 않음(컴퓨트 대부분을 인퍼런스에 쓴다는 건 "더 큰 모델 훈련의 가치가 없다"고 선언하는 셈이고, 사실상 클라우드 사업자로 전락)
- ①만으로 설명하려면 내년 말 마진이 90% 중반이어야 하는데 비현실적
- 따라서 ② 컴퓨트 가격 급등이 남음
- 구글이 SpaceX에 GB200/GB300 혼합 11만 GPU에 월 $9억을 지불하는 건 시간당 현재 스팟가격의 약 2배 수준
- H100 한 장에서 인간 수준 SWE가 돌아간다면, 현재 SWE 시장 임금 기준으로 그 H100은 연 $250K 이상에 렌트되어야 하고, 이는 현 스팟가격의 15배
- 현재 AI가 인간 노동에 비해 상대적으로 저렴한 이유 중 하나는 아직 최고 수준의 인간이 수행하는 많은 일을 할 수 없기 때문
- 하지만 AI가 인간 전문가와 비슷한 수준의 고부가가치 업무를 수행하기 시작하면, 한정된 GPU는 가장 높은 경제적 가치를 만드는 작업에 우선 배분될 것
- 그 결과 저품질 숏폼 동영상 생성, 반복적이고 경제적 가치가 낮은 이미지 생성과 같은 저부가가치 애플리케이션은 컴퓨팅 가격 상승을 감당하지 못하고 퇴출될 수 있음
- 컴퓨팅 가격 상승은 단순히 업계 전체의 비용을 높이는 것이 아니라, 선두 사업자의 진입장벽과 경쟁우위를 더욱 강화