씨티의 견해
최신 프런티어 모델이 성능과 태스크당 비용 양쪽에서 거둔 개선은 모델 효율성과 추론 경제성이 나아지고 있음을 보여 주며, 효율성이 낮은 오픈 웨이트 대안 대비 장기적인 경제적 우위를 강화할 가능성이 있습니다. 이번 주 출시된 최상위 독점 모델은 이전 모델 대비 AA 인텔리전스 프런티어를 9% 끌어올렸고 AA 태스크 비용을 55% 낮췄습니다(그림 15). 이러한 프런티어 모델 출시 가속화로 오픈 모델과의 격차가 다시 벌어지고 있습니다(그림 10). 인텔리전스 및 비용 계층 전반에 걸쳐 늘어나는 모델 라인업은 Jev(TypesafeAI, 9/15)와 같은 의사결정 모델의 발전과 함께 라우팅 및 오케스트레이션의 가치를 증폭시킬 것입니다. 샤오미의 MiMo-V2.6-Pro(9/22)는 에이전틱 RL을 통한 성능 향상이 얼마나 저렴해졌는지를 보여 줍니다. 기존 베이스 모델에 약 260만 달러를 들여 6일간 RL을 실행한 결과 최상위 오픈 웨이트 모델이 탄생했으며, 저희는 프런티어 연구소들이 자사 모델 패밀리 전반에서 이 프로세스를 점점 더 많이 복제할 것으로 예상합니다.
효율성. 오픈 모델의 태스크당 비용은 전주 대비 35% 하락한 0.80달러를 기록하며, 폐쇄형 모델 대비 할인율이 40%에서 60%로 확대되었습니다(그림 1). 독점 모델의 인텔리전스 우위는 9포인트에서 12포인트로 확대된 반면, 경쟁 제공업체의 차상위 모델은 선두 모델보다 출력 토큰을 59% 적게 사용했고 AA 태스크당 비용도 6% 낮았습니다(그림 16; 그림 15). 또한 캐시 연산이 태스크 비용에서 차지하는 비중은 61%로 상승했습니다. 캐시 비중 상승은 추론 효율성의 다음 단계가 더 낮은 한계비용으로 더 많은 컨텍스트를 서빙하는 데서 나올 것임을 시사하며, 이는 제공업체의 마진을 지지하고 더 많은 에이전트 워크로드를 실현 가능하게 만듭니다. 미국 및 유럽의 블렌디드 가격은 전주 대비 25% 하락했으나 Silicon Data 토큰 지출 지수(Token Expenditure Index)는 3% 상승했으며(그림 19; 그림 20), 이는 더 낮은 가격대에서의 수요 탄력성을 반영합니다.
RSI. 주간 독점 모델 출시 건수는 20건에 달했습니다(직전 5주 최고치인 12건 대비 67% 증가). 이러한 가속화가 RSI를 입증하는 것은 아니지만, 연구소 내부의 개발 주기가 짧아지고 있다는 신호일 수 있습니다. 구글의 한 시스템(Arvix, 9/22)은 기반 모델의 토큰 사용량을 30% 줄이면서 미확인 태스크 결과를 자율적으로 개선했습니다. 초기 RSI가 출시 주기를 압축함에 따라, 병목은 개선 사항을 생성하는 것에서 모델이 효율적이고 안전하며 견고하도록 보장하는 것으로 옮겨 가고 있습니다. 출시가 늘어나면 평가자들은 더 적은 시간 안에 더 많은 모델 버전을 테스트해야 하지만, 자동화가 이 작업을 지원하기 시작하고 있습니다. 한 리서치 에이전트(Weco AI, 9/23)는 보상 해킹 비율을 55%에서 32%로 줄였으며, AA 최상위 모델은 이전 두 모델 대비 격리 경계를 넘는 빈도가 85% 적었지만 일부 평가를 인지하는 것으로 보였습니다(그림 2).
에이전트. Sensor Tower는 소비자 에이전트의 빠른 채택을 짚고 있으며, Grok Bot은 44일 만에 iOS 다운로드 93만 5천 건을 기록했고 Muse는 15일 만에 200만 건을 돌파했습니다. 그러나 제공업체들이 소비자 채택과 더 높은 가치의 기업 및 도매 매출 사이에서 균형을 맞추는 과정에서, 컴퓨트 제약과 토큰 경제의 제로섬 현실이 소비자 에이전트의 확산을 억제할 수 있습니다. 전용 클라우드 VM을 갖춘(Forbes, 9/8) Muse와 Instinct 같은 개인화된 상시 가동 자율 에이전트의 등장과 발신 전화(TechCrunch, 9/16) 등 기능 확대는 지속적인 워크로드를 창출하며, 단기적으로 CPU 및 네트워킹 수요를 추가로 견인할 수 있습니다. 시간이 지나 에이전트가 컨텍스트를 축적하고, 더 개인화되며, 더 긴 태스크를 수행하게 되면 GPU 수요가 증가할 수 있습니다. 다음 주 OpenAI DevDay(9/24; 그림 3)에서는 개인화된 에이전틱 아키텍처와 보도된 기업 사업 가속화에 관한 추가적인 인사이트가 제공될 것으로 예상됩니다.