DeepSeek-R1이 NVIDIA Blackwell 아키텍처에서 최적화되어, 기존 H100 대비 25배 높은 수익과 20배 낮은 토큰당 비용을 실현했습니다.
이를 통해 AI 모델의 실행 효율이 무려 500배 증가했습니다!
TensorRT DeepSeek 최적화를 활용한 FP4 연산으로, FP8 대비 99.8%의 정확도를 유지하면서도 비용 절감이 가능합니다.
이제 FP4 최적화된 DeepSeek 체크포인트를 허깅 페이스에서 사용할 수 있습니다!
🔗 허깅 페이스에서 사용해보기: https://huggingface.co/nvidia/DeepSeek-R1-FP4
✍ 요약해보면 DeepSeek-R1 자체가 더 강력해진 것이 아니라, NVIDIA의 최적화 기술(TensorRT + Blackwell + FP4)을 적용하면서 비용을 줄이고 실행 속도를 높인 것입니다.
#딥시크
#허깅페이스