DeepSeek-R1์ด NVIDIA Blackwell ์ํคํ
์ฒ์์ ์ต์ ํ๋์ด, ๊ธฐ์กด H100 ๋๋น 25๋ฐฐ ๋์ ์์ต๊ณผ 20๋ฐฐ ๋ฎ์ ํ ํฐ๋น ๋น์ฉ์ ์คํํ์ต๋๋ค.
์ด๋ฅผ ํตํด AI ๋ชจ๋ธ์ ์คํ ํจ์จ์ด ๋ฌด๋ ค 500๋ฐฐ ์ฆ๊ฐํ์ต๋๋ค!
TensorRT DeepSeek ์ต์ ํ๋ฅผ ํ์ฉํ FP4 ์ฐ์ฐ์ผ๋ก, FP8 ๋๋น 99.8%์ ์ ํ๋๋ฅผ ์ ์งํ๋ฉด์๋ ๋น์ฉ ์ ๊ฐ์ด ๊ฐ๋ฅํฉ๋๋ค.
์ด์ FP4 ์ต์ ํ๋ DeepSeek ์ฒดํฌํฌ์ธํธ๋ฅผ ํ๊น
ํ์ด์ค์์ ์ฌ์ฉํ ์ ์์ต๋๋ค!
๐ ํ๊น ํ์ด์ค์์ ์ฌ์ฉํด๋ณด๊ธฐ: https://huggingface.co/nvidia/DeepSeek-R1-FP4
โ ์์ฝํด๋ณด๋ฉด DeepSeek-R1 ์์ฒด๊ฐ ๋ ๊ฐ๋ ฅํด์ง ๊ฒ์ด ์๋๋ผ, NVIDIA์ ์ต์ ํ ๊ธฐ์ (TensorRT + Blackwell + FP4)์ ์ ์ฉํ๋ฉด์ ๋น์ฉ์ ์ค์ด๊ณ ์คํ ์๋๋ฅผ ๋์ธ ๊ฒ์ ๋๋ค.
