Mutt Technologies
1,348
Subscribers
40
Registered Posts
AI 수요가 두가지로 분화되고 있다고 생각함.
카테고리 1: Fable 로 대표되는, 초고비용 초고성능 프론티어 AI. 가드레일 푼 상태의 Sol/Fable 은 이미 샌드박스를 뚫고 몇가지 사고를 칠 정도로 (https://www.felonybench.com/) 사람을 뛰어넘는 문제해결능력, 실행력을 보여줌. 너무 강력해서 오히려 수출규제를 해야 할 수준. 암호분석 같이 몇가지 용도에서는 파괴적일 것이라고 예측되고 이거 때문에 투자를 믿도끝도 없이 하는 양자컴퓨터가 겹쳐 보임
카테고리 2: DeepSeek(그리고 최근 나온 Qwen4 아키텍쳐, GLM-5.3 Flash) 으로 대표되는 저렴한 오픈웨이트 모델. 한세대 정도 모자란 성능을 보이지만 매우 저렴하며, 지난 몇년간의 연구를 통해(Sparse Attention, GDN, 임베딩 분리 등등) 동일 체급에서도 추론 비용을 엄청나게 절감하고 있음(물론 OpenAI도 이런 최적화를 내부적으로 다 하고 있을거임).
카테고리 2의 현재 수준은 사용방식/체급에 따라 프론티어와 대략 3-6개월 정도 격차를 보임.
400만원 내외 예산에서는 Qwen3.8-27B 를 돌릴 수 있으며 이는 25년도 11월에 출시된 Opus 4.5보다 근소하게 좋다고 평가됨 (medium 기준. xhigh 에서는 4.6을 능가하지만 사고가 너무 장황해서 사람이 쓰라고 있는 수준이 아님)
800만원 내외 예산에서는 DeepSeek V4 Flash (0731) 이나 Qwen3.8-Flash-Next 를 돌릴 수 있으며 이는 26년 2월에 출시된 Opus 4.6과 비슷함
1500만원 내외 예산에서는 GLM-5.3 Flash를 돌릴 수 있고 이는 26년 5월 28일에 출시된 Opus 4.8과 동급임.
로컬 모델은 다중사용자에게서 오는 규묘의 경제, 배칭, 전문가 분산의 효과를 누리지 못해 손해를 봄에도 불구하고 이정도로 격차가 줄어든 것은 시사하는 바가 있음. 이들 모델을 OpenRouter 에서 사용하면 하루에 스벅 커피 한잔 시키는 정도로 자동화된 작업을 하루종일 돌리고도 남을 정도임. (GLM-5.3 OpenRouter $0.25/1M output)
사견으로, 우려가 되는 점은 "돈을 부어서 초지능 프론티어 모델을 개발한다" 에서 오는 기대와 "AI 모델을 만인에게 제공해서 돈을 번다" 에서 오는 기대의 괴리가 커지고 있는게 아니냐는 거임. 전자는 양자컴퓨터와 같은 전략무기로서의 속성을 가지면서 규모의 경제가 중요하지 않게 됨. 후자는 확실히 규모의 경제고 지금도 상당히 치열하게 가격절감 경쟁을 하고 있음. 단적으로 DeepSeek V4 Flash 는 최근까지 가성비 압도적 최강의 모델이었지만 (Pro 구독하고 쓰는 GPT-5.6 Luna 정도가 비빌 수 있음) Qwen3.8-Flash-Next 등이 최신 접근법들을 차용하면서 입지를 위협하고 있음. 초지능 모델을 만들면 알아서 자기를 개선하는 RSI가 되어서 다 씹어먹을 거라는 기대가 있기는 하지만 ROI 와 같이 숫자로 정량화할 수 있는 부분이 아님.