최근 중국 모델을 좀 써봤는데, 지능이 매우 저렴해졌다는게 느껴짐. 오픈웨이트 모델이 퍼지면 누구나 자기 서비스를 위해 모델을 띄우게 되고, 이 흐름의 수혜 후보들도 많이 생길것
Erik Voorhees의 kimi k3 글도 같은 흐름인데, 방향성은 좀 다름. 중국 Moonshot이 만든 모델이라고해고, 가중치가 공개되면 Moonshot, Venice, 다른 API 업체, 자체 서버 중 어디서 실행할지 고를 수 있음. 지능을 만든 회사와 실제 추론 / 데이터를 처리하는 회사가 분리됨. 중국 기업이 운영이나 데이터에 관여하지 않는다는건 꽤 중요한 문제
둘을 엮어서 생각해보면 오픈모델이 만드는 변화는 단순히 AI가 싸지는 데서 끝나는게 아니라 모델 자체가 범용화될수록 컴퓨팅 수요는 커지고 동시에 데이터 보존 / 검열 / 속도 / 도구 연결을 결정하는 추론 제공자가 새로운 관문이 될 수 있음
모델 점수 차이가 좁혀진 다음에는 누가 더 똑똑한 모델을 가졌는지보다 같은 지능을 어떤 조건으로 실행시켜주는지가 더 중요해질것.
지능 가격을 낮추는 경쟁이 진행되는 상황에서 잘 뽑아쓰려면 어디서 뽑아쓸지를 잘 고민해야할듯.