씨티의 견해 (CITI'S TAKE)
AI 랩들이 제기하는 프론티어 AI 개발의 의도적 속도 조절(deliberate pacing) 요구는 진정성이 있을 가능성이 높지만, 당사는 이것이 보다 시스템적으로 중대한 AI 사고가 발생하여 더 광범위하고 기술적으로 덜 정교한 대응을 촉발하기 전에, 표적화되고 역량 기반(capability-based)의 규제 프레임워크를 형성하려는 의도에서도 비롯된 것이라고 판단합니다. 페이싱은 추가적인 역량 향상에 의존하는 기업 도입을 지연시킴으로써 랩들의 매출 성장을 둔화시킬 수 있으며, 동시에 경쟁 오픈웨이트 모델과 뒤처진 클로즈드웨이트 모델에 따라잡을 시간을 제공할 수 있습니다. 또한 AI 인프라 수요와 공급 간의 격차를 좁힐 수도 있으나, 인력·장비·전력 전반의 제약을 실질적으로 완화할 정도는 아닐 것으로 보입니다. 궁극적으로 페이싱은 AI 투자의 전체 규모보다는 그 구성과 시기를 변화시킬 가능성이 크며, 단기 프론티어 학습 수요는 둔화시키되 추론, 배포, 안전성, 인프라에 대한 지출은 계속 뒷받침할 것입니다. 일부 규제 요구의 강도를 감안할 때, 당국을 보다 수용 가능한 해법으로 유도하려는 시도는 논리적인 행보입니다.
프리뷰(Preview). 우리는 6월 고도화된 프론티어 모델의 최초 출시에 대한 정부의 대응(Anthropic, 6/12) 이후, 프론티어 AI 개발 둔화가 가져올 실질적 영향을 미리 엿볼 수 있었습니다. 4월 7일 Mythos 출시부터 9월 1일 Astra 출시에 이르기까지, AI 지능 프론티어 점수는 41점(Opus 4.7)에서 53점(Fable 5.1)으로 상승했습니다. 한편 같은 기간 선도 오픈웨이트 모델의 점수는 28점(Kimi K2.6)에서 45점(GLM-5.3)으로 올랐습니다. 최근 모델들이 지난 2주간 프론티어와 오픈웨이트 간 격차를 7포인트에서 9포인트로 벌려놓기는 했으나, 프론티어 진전이 둔화될 경우 AI 랩들의 증류(distillation) 제한 노력과 정부의 칩 수출 규제에도 불구하고 그 격차는 좁혀질 가능성이 높습니다.
동기(Motivation). 페이싱 필요성에 대한 AI 리더들의 견해가 거의 일치한다는 점(젠슨 황, 9/2)을 감안할 때, 당사는 안전성 우려의 진정성을 의심하지 않습니다. 이 모델들이 할 수 있는 것과 정교한 사용자조차 이를 활용할 수 있는 능력 사이의 역량 격차는 기업 도입을 지연시킬 뿐 아니라, 모델이 제기하는 리스크에 대한 그릇된 안도감을 만들어냅니다. 지금까지 주요 AI발 보안 사고가 없었다는 점 또한, 프론티어 AI 개발의 바깥에 있는 이들로 하여금 적절한 정렬(alignment) 없이 작동하는 조직화된 AI 에이전트 군집(swarms)이 야기할 수 있는 잠재적 문제보다 리스크가 작다고 믿게끔 안심시켜 왔다고 봅니다(METR 및 Redwood Research, 8/26).
AI 제곱(AI Squared). 규제 선점을 넘어, 이러한 행동 촉구에 담긴 절박함은 AI 시스템이 스스로를 자율적으로 개선하는 능력인 재귀적 자기개선(Recursive Self Improvement)의 진전에서 비롯된 것으로, 당사의 업계 대화를 토대로 판단합니다. 당사는 이것이 AI 개발·도입, 그리고 궁극적으로 매출의 가속을 이끄는 핵심 동인 중 하나라는 점을 오래전부터 다뤄왔는데, 최근까지 2028년의 일로 여겨졌던 것(잭 클라크, 5/4)이 이미 "업계 전반에서 일어나기 시작하고 있습니다"(다리오 아모데이, 9/12). 관련된 모든 리스크를 인정하면서도, 당사는 이것이 학습 수요, 기업 도입, 그리고 관련 자본투자에 미치는 영향을 고려할 때 궁극적으로 AI 트레이드 전반에 긍정적이라고 봅니다.