๐ ํ์ฌ ์ธ๊ณต์ง๋ฅ(AI) ์์ฅ์ ์ฅ์ ํ๊ณ ์๋ ์๋น๋์. 1๋ ์ ์ฃผ๊ฐ๊ฐ 3๋ฐฐ ๋๊ฒ ์์นํ๋ฉด์ ์๊ฐ์ด์ก ๊ธฐ์ค ์ ์ธ๊ณ 3์ ๊ธฐ์ ์ผ๋ก ์ฐ๋ ์ฐ๋๋ฐ์. ์์ฐ์ค๋ฝ๊ฒ ์๋น๋์๊ฐ ๊ฐ์ตํ๋ GTC 2024ํ์ฌ์๋ ์์ฒญ๋ ๊ธฐ๋๊ฐ ์ ๋ ธ์ต๋๋ค.
H100 ์ด์ AI ๋ฐ๋์ฒด๋?
๐ GTC 2024์ ๋ชฐ๋ฆฐ ๋
์ง๋ 18์ผ(ํ์ง ์๊ฐ), ์๋น๋์๋ ๋ฏธ๊ตญ ์บ๋ฆฌํฌ๋์ ์๋์ ์ด์์ ์ธ๊ณ ์ต๋ AI ์ฝํผ๋ฐ์ค์ธ ‘GTC 2024’๋ฅผ ๊ฐ์ตํ์ต๋๋ค. ์ ๊ณ ๋ํฅ๊ณผ ๋ฏธ๋ ๊ธฐ์ ์ ์ดํด๋ณผ ์ ์๋ ํ์ฌ๋ก, ์ ์ธ๊ณ 300์ฌ ๊ฐ์ ๊ธฐ์ ์ด ์ฐธ์ฌํ๋๋ฐ์. ์จ๋ผ์ธ๊น์ง ํฉํ๋ฉด ์ ์ธ๊ณ์ ์ผ๋ก ์ฐธ๊ด๊ฐ์ด 30๋ง ๋ช ์ ์ก๋ฐํ์ต๋๋ค.
๐ก ์๋ก์ด GPU ์ ๋ณด์ฌ
ํ์ฌ ์ฒซ๋ ์ ์จ ํฉ ์๋น๋์ CEO๋ ์๋ก์ด ๊ทธ๋ํฝ์ฒ๋ฆฌ์ฅ์น(GPU) ‘B100’๊ณผ ‘B200’์ ๊ณต๊ฐํ์ต๋๋ค. ๊ธฐ์กด ์ํคํ ์ฒ๋ณด๋ค ์ฑ๋ฅ์ด ํฅ์๋ ‘๋ธ๋์ฐ’์ ๊ธฐ๋ฐ์ผ๋ก ํ ์นฉ์ธ๋ฐ์.
GPU ๋ ๊ฐ๋ฅผ ํ๋๋ก ์ฐ๊ฒฐํ๊ณ , ์ ๊ธฐ ์ ํธ๋ฅผ ์กฐ์ ํ๋ ํธ๋์ง์คํฐ๋ฅผ 2.5๋ฐฐ ๋ง์ด ์ฌ์ฉํ๋ค๊ณ ํฉ๋๋ค. ์ด์ ์ ํ์ธ ‘H100’์ ๋นํด ์ต๋ 30๋ฐฐ ์ ๋ ๊ธฐ๋ฅ์ด ๊ฐ์ ๋๋ค๋ ์ค๋ช ์ ๋๋ค.
๐ ๊ทธ๋ํฝ์ฒ๋ฆฌ์ฅ์น(GPU): ์ปดํจํฐ์์ ๊ทธ๋ํฝ ์ฐ์ฐ์ ์ฒ๋ฆฌํด ๊ฒฐ๊ด๊ฐ์ ๋ชจ๋ํฐ์ ์ถ๋ ฅํ๋ ์ฐ์ฐ ์ฅ์น์ ๋๋ค. ์๋ง์ ๋จ์ ๊ณ์ฐ์ ๋น ๋ฅด๊ฒ ์ฒ๋ฆฌํ ์ ์์ด ๋ง์ ์ฐ์ฐ์ด ํ์ํ AI ํ์ต์ ๋๋ฆฌ ํ์ฉ๋ฉ๋๋ค.
๐ฅ๏ธ ์ํผ์ปดํจํฐ๋ ๊ณต๊ฐ
์๋น๋์๋ ์๋ก์ด ์ํผ์ปดํจํฐ ‘DGX ์ํผํ’๋ ๊ณต๊ฐํ์ต๋๋ค. ์์ ์๊ฐํ B200 ์นฉ ๋ ๊ฐ์ ์์ฒด ๊ฐ๋ฐํ ๊ทธ๋ ์ด์ค ์ค์์ฒ๋ฆฌ์ฅ์น(CPU)๋ฅผ ๊ฒฐํฉํด ์ํผ ์นฉ ‘GB200’์ ๋ง๋ค์๋๋ฐ์. ์ด ์นฉ์ 36๊ฐ ์ฐ๊ฒฐํด ‘DGX ์ํผํ’ ์ด๋ผ๋ ์ํผ์ปดํจํฐ๋ฅผ ๊ฐ๋ฐํ๊ณ , ์ฌํด ๋ง์ ์ถ์ํ ์์ ์ ๋๋ค.
๐ ์ผ์ฑ์ ์๋ ์๊ณ ์๋ค?
์ด๋ฒ ํ์ฌ์๋ ์ผ์ฑ์ ์, SKํ์ด๋์ค ๋ฑ ๊ตญ๋ด ๊ธฐ์ ๋ ์ฐธ์ฌํ์ต๋๋ค. ‘B200’์๋ ๊ณ ๋์ญํญ ๋ฉ๋ชจ๋ฆฌ(HBM)๊ฐ ๋ ๋ง์ด ํ์ฌ๋๋ ๋งํผ ๊ตญ๋ด ๊ธฐ์ ์ด ์ผ๋ง๋ ์ํ๋ฅผ ๋๋ฆด ์ ์์์ง๋ ํฐ ๊ด์ฌ์ ๋ฐ์์ฃ .
์ ์จ ํฉ CEO๊ฐ ์ผ์ฑ์ ์ HBM์ ๋ํด ํ ์คํธ๋ฅผ ์งํ ์ค์ด๋ฉฐ, ๊ธฐ๋๊ฐ ํฌ๋ค๊ณ ๋งํ๋ฉฐ ํนํ ํ์ ๊ฐ ๋๋๋ฐ์. ์๋น๋์ ๋ฉํ์ ๋ํ ๊ธฐ๋๊ฐ์ด ์ปค์ง๋ฉฐ ์ง๋ 20์ผ ์ผ์ฑ์ ์์ ์ฃผ๊ฐ๊ฐ 5% ๋๊ฒ ๊ธ๋ฑํ๊ธฐ๋ ํ์ต๋๋ค.
๐ ๊ณ ๋์ญํญ ๋ฉ๋ชจ๋ฆฌ(High Bandwidth Memory, HBM): ์ ๋ฉ๋ชจ๋ฆฌ์์ ํ ๋ฒ์ ์ ์กํ ์ ์๋ ๋ฐ์ดํฐ์(๋์ญํญ)์ ์ค์ ์ ๋ฌ, ๊ธฐ์กด๋ณด๋ค ๋ง์ ์์ ๋ฐ์ดํฐ๋ฅผ ๋จ๋ฒ์ ์ ์กํ ์ ์๋ ๊ณ ์ฑ๋ฅ ๋ฉ๋ชจ๋ฆฌ์ ๋๋ค.
ํ๋ซํผ ๊ธฐ์ ์ผ๋ก ๋์ฝ ์ ์ธ
โ ์ด๋๋ฒ์ค ํด๋ผ์ฐ๋
์๋น๋์๋ ์นฉ๋ง ๋ง๋๋ ์ ์กฐ์ฌ์์ ๋ฒ์ด๋, ์ํํธ์จ์ด์ AI ์๋น์ค๊น์ง ์ ๊ณตํ๋ ์ข ํฉ ํ๋ซํผ ๊ธฐ์ ์ผ๋ก ๊ฑฐ๋ญ๋๊ฒ ๋ค๋ ํฌ๋ถ๋ฅผ ๋ฐํ์ต๋๋ค. ๊ทธ ์ผํ์ผ๋ก ์ด๋๋ฒ์ค ํด๋ผ์ฐ๋๋ฅผ ์๊ฐํ์ต๋๋ค.
์ด๋๋ฒ์ค ํด๋ผ์ฐ๋๋ ํ์ค ์ธ๊ณ๋ฅผ ๊ฐ์ ํ๊ฒฝ์์ ์ง์ ํ ์คํธํด ๋ณผ ์ ์๋ ์๋น์ค๋ก, ๊ฑด์ถ๋ฌผ์ ๋ฏธ๋ฆฌ ์ง์ด๋ณด๊ณ ๋ฌธ์ ๊ฐ ์๋์ง ์ฒดํฌํ๊ฑฐ๋, ๊ฐ์ ํ๊ฒฝ์์ ์๋์ฐจ๋ฅผ ์ฃผํํด ๋ณผ ์ ์์ต๋๋ค.
๐ป AI ์๋น์ค
๊ธฐ์ ์ฉ ์ํํธ์จ์ด์ธ NIM(NVIDIA Inference Micro service)๋ ํจ๊ป ๊ณต๊ฐํ์ต๋๋ค. ์๋น๋์๊ฐ ๊ฐ๋ฐํ ์ปดํจํ ํ๋ซํผ์ธ ์ฟ ๋ค๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ์๋ํ๋ ํ๋ก๊ทธ๋จ์ธ๋ฐ์. ์ฌ์ ์ ํ๋ จ๋ ์ธ๊ณต์ง๋ฅ ๋ชจ๋ธ์ ์ ๊ณตํด์ ๊ธฐ์ ์ด ๋ค๋ฐฉ๋ฉด์ผ๋ก ํ์ฉํ ์ ์๋๋ก ํ๋ ์๋น์ค์ ๋๋ค.
๐ ์ฟ ๋ค(CUDA): ์๋น๋์์์ ๊ฐ๋ฐํ ์ปดํจํ ํ๋ซํผ์ผ๋ก, ํ๋ก๊ทธ๋๋ฐ ์ธ์ด๋ก ์์ฑ๋ ํ๋ก๊ทธ๋จ์ด ํจ๊ณผ์ ์ผ๋ก GPU ์ฐ์ฐ์ ํ ์ ์๋๋ก ๋์์ค๋๋ค. ์ฟ ๋ค๋ฅผ ํตํด ๋๋์ ๋ณ๋ ฌ ์ฐ์ฐ ๋ฅ๋ ฅ์ ๊ณผํ ์ฐ๊ตฌ, ์ธ๊ณต์ง๋ฅ ํ์ต, ์์ง๋์ด๋ง ๋ฑ ๋ค์ํ ๋ถ์ผ์ ์ฝ๊ฒ ํ์ฉํ ์ ์๊ฒ ๋์ต๋๋ค. ์๋น๋์ GPU๊ฐ ์์ด์ผ ๊ตฌ๋๋๊ธฐ์ ์ฟ ๋ค๋ ์๋น๋์ GPU ๋ ์ฃผ ์ฒด์ ์ ํฌ๊ฒ ๊ธฐ์ฌํ๊ณ ์์ฃ .
๐ข ๋ฐ์ดํฐ์ผํฐ ๊ตฌ์ถ
์๋น๋์๋ AI๋ฅผ ์ํ ๋ฐ์ดํฐ ์ผํฐ๋ฅผ ๊ตฌ์ถํ๊ฒ ๋ค๋ ๊ณํ๋ ๋ฐํ์ต๋๋ค. ์ด 1์กฐ ๋ฌ๋ฌ๋ฅผ ํฌ์ ํ ์์ ์ธ๋ฐ์. ์๋๋ ํด๋ผ์ฐ๋ ์ ์ฒด์ ๋ฐ๋ก ๋น์ฉ์ ๋ด๊ณ ์๋น์ค๋ฅผ ์ ๊ณตํ์ง๋ง, ์ด์ ๋ ์์ฒด ๋ฐ์ดํฐ ์ผํฐ๋ฅผ ์ค๋ฆฝํ๊ฒ ๋ค๋ ๊ฑฐ์ฃ . ๋ค์ํ AI ์์ฉ ์๋น์ค๋ฅผ ๋ท๋ฐ์นจํ๊ธฐ ์ํ ์ค๋น๋ผ๊ณ ๋ณผ ์ ์์ต๋๋ค.
๋ก๋ด ๊ฐ๋ฐ๊น์ง ์์ํ๋ค๊ณ ?
๐ฌ ๊ทธ๋ฃจํธ ํ๋ก์ ํธ
์๋น๋์๋ ๋ก๋ด ์ฐ์ ์ง์ถ๊น์ง ์๊ณ ํ์ต๋๋ค. ๋ก๋ด ํตํฉ ํ๋ก์ ํธ์ธ ‘๊ทธ๋ฃจํธ(GR00T) ํ๋ก์ ํธ’๋ฅผ ๋ฐํํ๋๋ฐ์. ์ธ๊ฐ๊ณผ ํจ๊ป ์์ ํ ์ ์๋ ๋ฒ์ฉ ๋ก๋ด ๊ธฐ์ ์ ๊ฐ๋ฐํ๊ณ , AI ๋ก๋ด์ ์ค๊ณ์ ์๋ฎฌ๋ ์ด์ ์ ์ง์ํ๋ ํ๋ซํผ๋ ๋ง๋๋ ํ๋ก์ ํธ์ฃ .
๐ป ๋ก๋ด ๊ธฐ์ ๊ณต๊ฐ
๊ตฌ์ฒด์ ์ธ ๊ธฐ์ ๋ ๊ณต๊ฐ๋์ต๋๋ค. ๋ก๋ด์ด ๋ฌผ๊ฑด์ ์ง๊ฑฐ๋ ๋ค์ด ์ฌ๋ฆฌ๋ ์ธ๋ฐํ ์์ ์ ์ํด ํ์ ์ ์ดํ๋ ๊ธฐ์ ์ธ ‘์์ด์ ๋งค๋ํฐ๋ ์ดํฐ’์ ์ฃผ๋ณ ํ๊ฒฝ์ ์ธ์ํด์ ์ฅ์ ๋ฌผ์ ํผํ๊ฑฐ๋ ํ์ํ ์ ์๊ฒ ํ๋ ‘์์ด์ ํผ์ ํฐ’๊ฐ ๋ํ์ ์ ๋๋ค.
๐ค ์๋น๋์์ ๋ฏธ๋
๋ค๋ง ์์ฅ์ ์ด๋ฒ ํ์ฌ์ ํฌ๊ฒ ๋ฐ์ํ์ง๋ ์์์ต๋๋ค. ์ง๋ 19์ผ(ํ์ง ์๊ฐ) ์๋น๋์ ์ฃผ๊ฐ๋ 1% ์ค๋ฅด๋ ๋ฐ ๊ทธ์ณค์ฃ . ๊ทธ๋ฌ๋ ์ด๋ฏธ AI ์์ฅ์ ์ฅ์ ํ ์๋น๋์๊ฐ ์ฐ์ ์ ๋ ํ์ฅํด ๋๊ฐ๋ค๋ ์์์ด ํต์ฌ์ด์๋ ๋งํผ, ๋น๋ถ๊ฐ ๋ ์ฃผ ์ฒด์ ๋ ์ด์ด์ง ๊ฐ๋ฅ์ฑ์ด ์ปค ๋ณด์ ๋๋ค.
'NEWSLETTER > ์ฐ์ LETTER' ์นดํ ๊ณ ๋ฆฌ์ ๋ค๋ฅธ ๊ธ
์์ธ๋์๋ ์ผ์ฑ์ ์, ์ด๋ฒ์๋ ๋ค๋ฅผ๊น (2) | 2024.03.22 |
---|---|
๊ตฌ๊ธ๊ณผ ์ ํ, AI ๋๋งน ๋งบ์๊น (0) | 2024.03.22 |
AI ์ดํ์ AI ์๋ฒ ์์ฅ ํญํ์ฑ์ฅ ์ค (1) | 2024.03.18 |
์ผ๋ณธ์ ์ผ์ฑ? ๋ฏธ์ฐ๋น์ ๊ทธ๋ฃน ์์๋ณด๊ธฐ (1) | 2024.03.18 |
์คํ์ด์ค X, ์คํ์ญ ๊ถค๋ ์์ฐฉ ์ฑ๊ณต, ํ์ฑ ๊ฐ๋๋๊น (1) | 2024.03.18 |