한 VC가 소개한 로컬 AI 연구를 바탕으로, 로컬모델의 발전을 클라우드 대체가 아닌 추론의 분산으로 해석했습니다.
1. 가장 좋은 단일 로컬모델의 클라우드 모델 승리·무승부 비율은 2023년 23.2%에서 2025년 71.3%로 상승했습니다. 모델을 질문마다 골라 쓰면 약 88.7%의 단일 질문을 처리할 수 있다는 결과도 나왔습니다.
2. 지능·와트는 2023년부터 2025년까지 5.3배 개선됐습니다. 모델 발전이 3.1배, 가속기 발전이 1.7배를 기여했습니다.
3. 로컬모델과 라우터를 함께 쓰면 모든 질문을 클라우드에서 처리하는 방식보다 에너지 80%, 연산 77%, 비용 74%를 줄일 수 있습니다. 다만 긴 추론과 복잡한 전문 업무에서는 클라우드가 여전히 강합니다.
좋은 AI 기술과 좋은 AI 주식은 다릅니다. 로컬 처리 비중, 작업당 비용과 완료시간, 라우팅 성공률, 가속기의 지능·와트, 실제 고객 사용량과 현금흐름을 확인해야 합니다.
🔗 본문 읽기
🌩 도움되셨다면 🐳 🥰 부탁드립니다!
🌩 블로그에는 다양한 글이 있습니다. 방문하시면 좋은 아이디어를 얻으실 수 있습니다.
🌩 모든 게시글은 투자 판단의 근거로 삼을 수 없으며 투자 판단의 책임은 투자자 본인에게 있습니다.
📱 카카오페이, 네이버페이를 이용한 음료 한 잔 후원하기
🌩 후원하기