https://x.com/deepseek_ai/status/1872242657348710721?s=46&t=oeMcOtn2ZCZ8Ysr-XAov5g
- 중국의 AI 회사에서 개발 및 오픈소스로 공개한 연구이자 모델
- “얼마나 적은 비용으로도 성능이 좋은 모델을 만들 수 있는지”를 보여준 연구
- 경쟁 모델인 Llama 3 405B 등에 비해 더 높은 성능을 보이면서 훈련에 필요한 비용을 10배 이상 줄임 (약 $5.6M 소모)
- 즉 가성비를 극대화할 수 있는 새로운 트레이닝 방법론, MoE 등을 공개
*해당 연구를 통해 앞으로 모델들의 학습 비용이 획기적으로 줄어들것 같은데 당장 코인판에서 어떤 영향을 줄지는 잘 모르겠네요. 현재 이런 연구가 있다 인지정도만 하고 있다가 추후 투자에 활용하면 좋을 것 같아 공유합니다