9월 데이터센터 워치 보고서에 따르면, LLM 토큰 지출 증가세는 AI 인프라 수요가 여전히 강하다는 점을 보여주지만, GPU 임대 가격과 메모리 현물 가격에서 나타나는 신호는 엇갈리고 있습니다. 토큰 지출은 저렴한 대용량 모델의 채택 확대와 거래량 가중 가격 하락에 힘입은 물량 급증으로 가속화되었습니다. GPU 임대 가격은 A100과 H100이 하락하고 B200이 소폭 반등했으며, 메모리는 DRAM 현물 가격이 5개월 연속 상승 이후 소폭 하락하고 NAND는 보합을 기록했습니다.
OpenRouter 기준 9월 토큰 물량은 전월 대비 71%, 전년 대비 30배 증가하며 8월(+47%)과 7월(+18%)에 이어 성장세가 더욱 가속화되었습니다. 특히 오픈웨이트 모델의 물량이 전월 대비 83%, 전년 대비 101배 급증한 반면, 클로즈드웨이트 모델은 전월 대비 39% 증가에 그쳐 성장세가 둔화되었고 전체 물량 내 비중도 27%로 낮아졌습니다. 다만 OpenRouter는 개발자, 스타트업, 에이전틱 코딩 트래픽에 편중되어 있으며 OpenAI, Anthropic 직접 이용이나 하이퍼스케일러 엔드포인트 물량은 포함되지 않는다는 한계가 있습니다.
거래량 가중 가격(VWAP)은 전월 대비 25%, 전년 대비 55% 하락했습니다. 이는 DeepSeek V4.1 Flash와 GLM 5.3 Flash 두 모델만으로 전체 물량의 약 30%인 약 41조 토큰이 기존 오픈웨이트 평균보다 훨씬 낮은 가격에 추가되는 등 저가 대용량 모델로의 믹스 전환이 진행되었고, Kimi K3, GLM 5.3, GPT-5.6 Sol 등 동일 모델의 가격 인하도 이어졌기 때문입니다. 반면 단순 평균 토큰 가격은 고가 이미지 모델이 카탈로그에 추가되면서 전월 대비 4%, 전년 대비 20% 상승했습니다.
이에 따라 9월 토큰 지출은 전월 대비 28%, 전년 대비 14배 증가하며 7~8월의 전월 대비 7% 성장에서 크게 가속화되었습니다. 전체 지출의 72%를 차지하는 클로즈드웨이트 모델은 전월 대비 18% 증가했고, 오픈웨이트 모델은 전월 대비 64%, 전년 대비 132배 급증했습니다. 사용량 기준 상위 5개 모델은 DeepSeek V4.1 Flash, GLM 5.3 Flash, Tencent Hy4 preview, GPT-5.6 Luna, DeepSeek V4 Flash로 전체 물량의 53% 이상을 차지했으나, 지출 기준 상위 5개 모델은 GPT-6 Astra, Tencent Hy4 preview, Claude Fable 5.1, Claude Opus 5, GPT-5.6 Sol로 두 목록에서 겹치는 모델은 Tencent Hy4 preview 하나뿐이었습니다.
Bloomberg 지수 기준 GPU 임대 가격을 보면, 비하이퍼스케일러 용량에서 A100은 GPU 시간당 평균 1.59달러로 전월 대비 2.8% 하락했고, H100은 2.64달러로 2.6% 하락했습니다. 반면 B200은 8월에 6개월여 만의 첫 하락을 기록한 이후 5.70달러로 1.3% 반등했습니다. 이에 따라 H100 대비 A100 가격 비율은 1.66배, B200 대비 H100 가격 비율은 2.16배로 모두 전월 대비 상승했습니다.
메모리 가격은 상승세가 멈춘 모습입니다. DDR5 16Gb 현물 가격은 49.70달러로 전월 대비 1% 하락하며 5개월 연속 상승 이후 처음으로 하락했으나, 전년 동월(6.96달러) 대비로는 여전히 614% 높은 수준입니다. NAND 1Tb 현물 가격은 30.54달러로 전월 대비 0.1% 오르며 사실상 보합을 기록했고, 전년 동월(5.36달러) 대비 470% 높은 수준을 유지하고 있습니다.