AI 토큰 가격 하락에도 GPU 임대료는 높은 수준 유지
6월 이후 AI 토큰 가격은 지속 하락한 반면, H100 GPU 임대료는 시간당 약 2.70달러 수준을 유지.
AI 사용 비용이 낮아질수록 에이전트·코딩·자동화 등 활용처가 늘어나고, 나아가 모든 소프트웨어로 AI가 확산되면서 효율 개선에도 불구하고 전체 연산 자원 소비가 오히려 증가할 수 있다는 이른바 '제번스 역설'로 해석하는 시각.
관건은 AI 사용량 증가 속도와 GPU 처리 효율 개선 속도 중 어느 쪽이 더 빠를지. 토큰 사용량이 증가하더라도 GPU당 처리 효율이 더 빠르게 개선된다면, 실제 필요한 GPU 자원은 오히려 감소할 수 있다는 시각도 존재.
출처: a16z