Kimi가 클로드를 증류해서 사후학습에 썼는가: 높은 확률로 그럴것이라 생각

Kimi K3의 대성공이 클로드 증류빨인가: 도움은 될 수 있어도 근본적 비결은 될 수 없음

현재까지 알려진 바로 모델의 지능은 체급(파라미터 수)에 의해 주도적으로 결정되는 것이 정론으로 이해됨.

중국 회사들이 초거대 모델의 체급을 훨씬 높여서도 안정적인 학습이 가능하다는 것이 이번 키미 쇼크(있다면)의 본질이라 생각함. 클로드 증류 백날천날 하는건 전교1등 연습장 깜지 따라쓰는 건데 한계가 무조건 있을것(이라는 제 망상입니다)