1. AI๋ ์ํํธ์จ์ด์ฒ๋ผ ๋ณด์ด์ง๋ง
- AI Bottlenecks๋ AI ๊ณต๊ธ๋ง์ ๋ณ๋ชฉ์ ์ถ์ ํ๋ ๊ณต๊ฐ ๋ฆฌ์์น ์ฌ์ดํธ
- 112๊ฐ ์์ฅ์ฌ, 15๊ฐ ๋ณ๋ชฉ ํ ๋ง๋ฅผ ๊ณต๊ธ๋ง ๋ ์ด์ด๋ณ๋ก ์ ๋ฆฌํจ
- ์์ฅ์ NVDA, ๋ชจ๋ธ๋ฉ, ๋น ํ ํฌ๋ฅผ ๋ณด์ง๋ง
- ์ค์ ์ ์ฝ์ ๊ธฐํ, ํจํค์ง, ๊ดํต์ , ์ ๋ ฅ๋ง ๊ฐ์ ๋ ์๋ ๋ ์ด์ด์ ์์
2. ๋ณ๋ชฉ์ ์ ์
- ์์๋ ์ํํธ์จ์ด์ฒ๋ผ ํญ์ฆํ๋๋ฐ
- ๊ณต๊ธ์ ๊ณต์ฅ์ฒ๋ผ ์ฒ์ฒํ ๋์ด๋๋ ๊ฒ
- ๋์ ๋ ์ด๋ค๊ณ ๋ฐ๋ก ์ฆ์ค ์ ๋๋ ๋ ์ด์ด๊ฐ ์ง์ง ๋ณ๋ชฉ
- InP ๊ธฐํ, HBM, ํ์ด๋ธ๋ฆฌ๋ ๋ณธ๋ฉ, ๊ฐ์คํฐ๋น, ๋ณ์๊ธฐ ๊ฐ์ ๊ฒ
3. ์ ๋ฉ๋ชจ๋ฆฌ๊ฐ ํต์ฌ์ธ๊ฐ
- AI์ ์ ์ฝ์ ์ด์ ๋จ์ ์ฐ์ฐ๋์ด ์๋๋ผ ๋ฉ๋ชจ๋ฆฌ ๋์ญํญ
- ๊ธด ์ปจํ ์คํธ, ๋ฆฌ์ฆ๋ ๋ชจ๋ธ, ์์ด์ ํธ๋ KV cache๋ฅผ ํค์ฐ๊ณ HBM ํธ๋ํฝ์ ํญ๋ฐ์ํด
- ๊ทธ๋์ AI๊ฐ ๋ฐ์ ํ ์๋ก ๋ฉ๋ชจ๋ฆฌ, ํจํค์ง, ์ธํฐ์ปค๋ฅํธ์ ์ค์์ฑ์ด ์ปค์ง
- ์ฝ๊ฒ ๋งํด ๋๋ํ AI์ผ์๋ก ๋ ๋ง์ ๊ธฐ์ต๊ณผ ๋ฐ์ดํฐ ์ด๋์ ์๊ตฌํจ
4. ํฌ์์ ์ผ๋ก ๋ณด๋ฉด
- ๋ชจ๋๊ฐ ํฑ์ปค๋ฅผ ๋ณผ ๋, ๋ณ๋ชฉ์ ๋ด์ผ ํจ
- NVDA, ๋ชจ๋ธ๋ฉ, ๋น ํ ํฌ๊ฐ ํฑ์ปค๋ผ๋ฉด,
- ๊ธฐํ, ํจํค์ง, ๊ดํต์ , ์ ๋ ฅ๋ง์ ๊ทธ ํฑ์ปค๊ฐ ๋ฐ๋์ ์ง๋๊ฐ์ผ ํ๋ ํดํ
- AI ๋ ๋ฆฌ๊ฐ ๋๋ ๊ฒ ์๋๋ผ, ์ํ ๋ ์ด์ด๊ฐ ๋ ์๋๋ก ์ด๋ํ๋ ๊ตญ๋ฉด
- ์ปดํจํธ์์ ๋ฉ๋ชจ๋ฆฌ๋ก, ๋ฉ๋ชจ๋ฆฌ์์ ๊ดํต์ ์ผ๋ก, ์ ๋ ฅ๋ง์ผ๋ก ๋ด๋ ค๊ฐ๋ ํ๋ฆ
