이미 이런 agent를 돌리는데는 엄청난 프론티어 모델이 필요하지 않다. 그보다는 사용량 걱정없이 24시간 돌릴 수 있으면서 일정 수준 이상의 퀄리티 이상만 나오면 되고 그 자리를 중국의 API들이 차지하고 있다.
몰트봇을 쓰는 사람 중에 Claude를 설치해서 쓰는 사람은 거의 없을거다 너무 비싸니까. 어차피 위험해서 개인정보 안넣고 맥미니같은거 사서 격리환경 구축해서 쓰니 중국산 사용에 부담이없다. 그래서 z.ai 같은 중국산 api들이 유행을 타고 있다. (참고로 연간 회원권 레퍼럴 할인 오늘까지입니다. 셀퍼럴 해서 몇십불 싸게 사세요 다들!)
한달에 200불 vs 일년에 200불대+7배사용량, 준수한 성능. 이걸 어케참음? 멍청하고 비싸기만 한 gemini는 아직은 아예 열외..
앞으로 점점 더 그게 심해질거다. 일상 모든 곳에 LLM API를 연동해야 할 일이 많을텐데 거기에 Codex나 Claude API를 연결할까? 아니다 그건 업무를 위한 코딩할때나 쓰는거지 하루종일 가볍게 돌아가야하는데 쓸 수 없다.
상향 평준화, 대중화 => 여기서 중국 API들이 크게 치고 들어올거고 공산품마냥 전세계로 보급될거라 생각. 하드웨어 수요는 대 폭발할거고, 파운데이션 모델 경쟁도 엄청나질거다. 과연 엑사원도 여기 뛰어들 수 있을려나..