๋ณธ๋ฌธ ๋ฐ”๋กœ๊ฐ€๊ธฐ
NEWSLETTER/์‚ฐ์—… LETTER

ๅ ์—”๋น„๋””์•„, ์ธํ…” ๊ตฌ๊ธ€ ๊ฐ™์€ ๋‚  ์ž์ฒด ๊ฐœ๋ฐœ AI์นฉ ๊ณต๊ฐœ

by ์นฒ ์กฐ 2024. 4. 11.
728x90
๋ฐ˜์‘ํ˜•

 

๐Ÿ’พ ์ตœ๊ทผ ๋น ๋ฅด๊ฒŒ ์„ฑ์žฅํ•˜๋Š” AI ์นฉ ์‹œ์žฅ์˜ ์ฃผ์ธ๊ณต์€ ๋‹จ์—ฐ ์—”๋น„๋””์•„์ž…๋‹ˆ๋‹ค. 90%๊ฐ€ ๋„˜๋Š” ์ ์œ ์œจ์„ ์ฐจ์ง€ํ•˜๋ฉฐ ๋…์ฃผ๋ฅผ ์ด์–ด๊ฐ€์ฃ . ์ง€๋‚œ 1์›”, ํ›„์†์ž‘๊นŒ์ง€ ๋‚ด๋†“์€ ์—”๋น„๋””์•„๋Š” ๋…์  ์ฒด์ œ๋ฅผ ์ง€ํ‚ค๋ ค ํ•˜๋Š”๋ฐ์š”. ์—ฌ๊ธฐ์— ์ธํ…”๊ณผ ๊ตฌ๊ธ€์ด ๋„์ „์žฅ์„ ๋‚ด๋ฐ€์—ˆ์Šต๋‹ˆ๋‹ค. ๋‚˜๋ž€ํžˆ ์ž์ฒด ๊ฐœ๋ฐœ AI ์นฉ์„ ๊ณต๊ฐœํ•œ ๊ฒƒ์ž…๋‹ˆ๋‹ค.


๊ตฌ๊ธ€, ํด๋ผ์šฐ๋“œ ์‹œ์žฅ ํ”๋“ ๋‹ค

๐Ÿ™Œ ์ƒˆ๋กœ์šด AI ์นฉ ๊ณต๊ฐœ

์ง€๋‚œ 9์ผ(ํ˜„์ง€ ์‹œ๊ฐ) ๋ฏธ๊ตญ ๋ผ์Šค๋ฒ ์ด๊ฑฐ์Šค์—์„œ ์—ด๋ฆฐ ๊ตฌ๊ธ€ ํด๋ผ์šฐ๋“œ ๋„ฅ์ŠคํŠธ 2024’์—์„œ ๊ตฌ๊ธ€์ด ์ž์ฒด AI ์นฉ ‘TPU v 5p’๋ฅผ ์ •์‹ ์ถœ์‹œํ–ˆ์Šต๋‹ˆ๋‹ค. ์—”๋น„๋””์•„์˜ AI ์นฉ์„ ๋Œ€์ฒดํ•  ์ˆ˜ ์žˆ๋Š” ๋ช‡ ์•ˆ ๋˜๋Š” ๋Œ€์•ˆ ์ค‘ ํ•˜๋‚˜๋กœ ๊ธฐ๋Œ€๋ฅผ ๋ชจ์๋‹ˆ๋‹ค.

 

๐Ÿ” TPU(ํ…์„œ ์ฒ˜๋ฆฌ ์žฅ์น˜): ๊ตฌ๊ธ€์ด ๋ฐ์ดํ„ฐ ๋ถ„์„ ๋ฐ ๋”ฅ๋Ÿฌ๋‹ ๋ชฉ์ ์œผ๋กœ ๋งŒ๋“  ๋ฐ˜๋„์ฒด ์นฉ์ž…๋‹ˆ๋‹ค. ๋ฒกํ„ฐ์™€ ํ–‰๋ ฌ ์—ฐ์‚ฐ์˜ ๋ณ‘๋ ฌ ์ฒ˜๋ฆฌ์— ํŠนํ™”๋ผ ์žˆ์ฃ . ๊ฐ™์€ ์ „๋ ฅ์„ ์‚ฌ์šฉํ–ˆ์„ ๋•Œ ๋‹ค๋ฅธ ์žฅ์น˜์— ๋น„ํ•ด ํ›จ์”ฌ ๋งŽ์€ ์—ฐ์‚ฐ์„ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

 

๐Ÿ’พ ์ž์ฒด CPU ๊ณต๊ฐœ

์ด๋‚  ๊ตฌ๊ธ€์€ ์ง์ ‘ ๊ฐœ๋ฐœํ•œ ์ค‘์•™์ฒ˜๋ฆฌ์žฅ์น˜(CPU) ‘์•…์‹œ์˜จ๋„ ๊ณต๊ฐœํ–ˆ์Šต๋‹ˆ๋‹ค. ํ˜„์žฌ ์„œ๋ฒ„ CPU๋กœ ์‚ฌ์šฉ๋˜๋Š” ์ธํ…” ์ œํ’ˆ ๋Œ€๋น„ ์†๋„๊ฐ€ 50% ๋น ๋ฅด๊ณ  ์—๋„ˆ์ง€ ํšจ์œจ์€ 60% ํ–ฅ์ƒ๋๋‹ค๊ณ  ๋ฐํ˜”์ฃ . ์ด๋ฏธ ๊ตฌ๊ธ€์–ด์Šค, ์œ ํŠœ๋ธŒ ๊ด‘๊ณ  ๋“ฑ ์ž์ฒด ์„œ๋น„์Šค์—์„œ ์‚ฌ์šฉ ์ค‘์ด๋ฉฐ ์ฐจํ›„์—๋Š” ์™ธ๋ถ€์—๋„ ๊ณต๊ธ‰ํ•  ๊ณ„ํš์ž…๋‹ˆ๋‹ค.

๐Ÿ‘€ ์ œ๋ฏธ๋‚˜์ด 1.5 ํ”„๋กœ

๊ตฌ๊ธ€ ํด๋ผ์šฐ๋“œ ์†Œํ”„ํŠธ์›จ์–ด ์—…๋ฐ์ดํŠธ ์†Œ์‹๋„ ๋‚˜์™”์Šต๋‹ˆ๋‹ค. ์šฐ์„  ๊ตฌ๊ธ€์˜ AI ๋ชจ๋ธ์ธ ์ œ๋ฏธ๋‚˜์ด๋ฅผ ์—…๊ทธ๋ ˆ์ด๋“œํ•œ ์ œ๋ฏธ๋‚˜์ด 1.5 ํ”„๋กœ๊ฐ€ ํด๋ผ์šฐ๋“œ์— ์ ์šฉ๋˜๋Š”๋ฐ์š”. 1์‹œ๊ฐ„ ์ •๋„์˜ ์˜์ƒ, 11์‹œ๊ฐ„ ์ •๋„์˜ ์Œ์„ฑ ํŒŒ์ผ, 3๋งŒ ์ค„ ์ด์ƒ์˜ ์ฝ”๋“œ, 70๋งŒ ์ž ์ด์ƒ์˜ ํ…์ŠคํŠธ๋ฅผ ํ•œ ๋ฒˆ์— ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ์„ ์ •๋„๋กœ ์„ฑ๋Šฅ์ด ๊ฐ•๋ ฅํ•˜๋‹ค๊ณ  ํ•ฉ๋‹ˆ๋‹ค.

๐Ÿ‘Š MS-์˜คํ”ˆAI์— ๋งž์„ ๋‹ค

AI ์Šคํƒ€ํŠธ์—…์ธ ์•ค์Šค๋กœํ”ฝ์˜ ์ตœ์‹  AI ์ฑ—๋ด‡ ํด๋กœ๋“œ 3’๋„ ํด๋ผ์šฐ๋“œ์— ํƒ‘์žฌ๋์Šต๋‹ˆ๋‹ค. ์—…๋ฐ์ดํŠธ๋ฅผ ํ†ตํ•ด ์ ์œ ์œจ์„ ๋Š˜๋ฆฌ๋Š” ๊ฒŒ ๋ชฉํ‘œ์ธ๋ฐ์š”. ์ž‘๋…„ 4๋ถ„๊ธฐ ๊ธฐ์ค€, ๊ตฌ๊ธ€์˜ ํด๋ผ์šฐ๋“œ ์‹œ์žฅ ์ ์œ ์œจ์€ 11%๋กœ ์•„๋งˆ์กด(31%), MS(24%)๋ฅผ ์ž‡๋Š” 3์œ„์— ๊ทธ์ณค์Šต๋‹ˆ๋‹ค. ์‹œ์žฅ ๋ฐ˜์‘์€ ๊ธ์ •์ ์ด์—ˆ๊ณ , ๋ฐœํ‘œ ๋‹น์ผ ๊ตฌ๊ธ€์˜ ๋ชจํšŒ์‚ฌ ์•ŒํŒŒ๋ฒณ์˜ ์ฃผ๊ฐ€๋Š” 1.13% ์ƒ์Šนํ–ˆ์ฃ .


์—”๋น„๋””์•„์— ๋„์ „ํ•˜๋Š” ์ธํ…”

๐Ÿ’ก ์ž์ฒด GPU ๊ณต๊ฐœ

๊ฐ™์€ ๋‚  ์ธํ…”์€ ์ธํ…” ๋น„์ „ 2024’๋ฅผ ๊ฐœ์ตœํ–ˆ์Šต๋‹ˆ๋‹ค. ์ž์ฒด ๊ฐœ๋ฐœํ•œ ๊ทธ๋ž˜ํ”ฝ์ฒ˜๋ฆฌ์žฅ์น˜(GPU)์ธ ๊ฐ€์šฐ๋”” 3’์˜ ๊ณต๊ฐœ๊ฐ€ ๊ฐ€์žฅ ํ™”์ œ์˜€๋Š”๋ฐ์š”. ์—”๋น„๋””์•„์˜ ‘H100’๋ณด๋‹ค ์ถ”๋ก  ์„ฑ๋Šฅ์ด 50%, ์ „๋ ฅ ํšจ์œจ์ด ๋‘ ๋ฐฐ ์ด์ƒ ๋†’๋‹ค๊ณ  ๋ฐํžˆ๋ฉด์„œ ์—”๋น„๋””์•„ AI ์นฉ์˜ ๋Œ€์•ˆ์ด ๋  ์ˆ˜ ์žˆ๋‹ค๊ณ  ์ง์ ‘ ์–ธ๊ธ‰ํ–ˆ๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค. ์˜ฌํ•ด 3๋ถ„๊ธฐ๋ถ€ํ„ฐ ์ •์‹์œผ๋กœ ํŒ๋งค๋  ์˜ˆ์ •์œผ๋กœ, ์—”๋น„๋””์•„ ์ œํ’ˆ๋ณด๋‹ค ๊ฐ€๊ฒฉ๋„ ์ €๋ ดํ•˜๋ฆฌ๋ผ ์˜ˆ์ƒ๋ฉ๋‹ˆ๋‹ค.

๐Ÿ“Œ ์„œ๋ฒ„์šฉ CPU๋„

์ธํ…”์€ ์„œ๋ฒ„์šฉ CPU ์ƒˆ๋กœ์šด ๋ชจ๋ธ ์ œ์˜จ 6’๋„ ํ•จ๊ป˜ ๊ณต๊ฐœํ–ˆ์Šต๋‹ˆ๋‹ค. ์ œ์˜จ 6์€ ์ €์ „๋ ฅ ๊ณ ํšจ์œจ ๋ฒ„์ „์ธ ์‹œ์—๋ผ ํฌ๋ ˆ์ŠคํŠธ์™€ ๊ณ ์„ฑ๋Šฅ ์ €ํšจ์œจ ๋ฒ„์ „์ธ ๊ทธ๋ž˜๋‚˜์ดํŠธ ๋ž˜ํ”ผ์ฆˆ๋กœ ๋‚˜๋‰˜๋Š”๋ฐ, ์ €์ „๋ ฅ ๋ฒ„์ „์ธ ์‹œ์—๋ผ ํฌ๋ ˆ์ŠคํŠธ๋ฅผ 2๋ถ„๊ธฐ ์ด๋‚ด์— ๋จผ์ € ์ถœ์‹œํ•˜๊ฒ ๋‹ค๊ณ  ๋ฐํ˜”์ฃ .

๐Ÿ”ฅ ๅ ์—”๋น„๋””์•„?

์ด๋‚  ํ–‰์‚ฌ๋ฅผ ํ†ตํ•ด ์ธํ…”์€ ์—”๋น„๋””์•„์— ๋งž์„œ๋Š” ํ–‰๋ณด๋ฅผ ์ด์–ด๊ฐ”์Šต๋‹ˆ๋‹ค. ์ด๋ฏธ ์ธํ…”์€ ๊ตฌ๊ธ€, ํ€„์ปด, ์‚ผ์„ฑ ๋“ฑ๊ณผ ํ•จ๊ป˜ ์—”๋น„๋””์•„์˜ AI ๊ฐœ๋ฐœ ํ”Œ๋žซํผ ์ฟ ๋‹ค์— ๋Œ€ํ•ญํ•  ์ƒˆ๋กœ์šด ํ”Œ๋žซํผ ๊ตฌ์ถ•์„ ์ถ”์ง„ ์ค‘์ธ๋ฐ์š”. ์ด๋ฒˆ์—๋Š” ์—”๋น„๋””์•„์˜ GPU๋ฅผ ๋Œ€์ฒดํ•  ์ˆ˜ ์žˆ๋Š” ์ €๋ ดํ•œ ์นฉ์„ ๊ฐœ๋ฐœํ•œ ๊ฒƒ์ž…๋‹ˆ๋‹ค. ์ด์— ์—”๋น„๋””์•„์˜ ์ฃผ๊ฐ€๋Š” ์ „ ๊ฑฐ๋ž˜์ผ๋ณด๋‹ค 2.04% ํ•˜๋ฝํ–ˆ์ง€๋งŒ, ์ธํ…”์€ 0.92% ์ƒ์Šนํ–ˆ์ฃ .


์น˜์—ดํ•ด์ง„ ์นฉ ๊ฐœ๋ฐœ ๊ฒฝ์Ÿ

๐Ÿ’ฌ ์—”๋น„๋””์•„์— ๋Œ€ํ•ญํ•˜๋Š” ์ด์œ ๋Š”?

์—ฌ๋Ÿฌ ๊ธฐ์—…์ด ์—”๋น„๋””์•„ ์ƒํƒœ๊ณ„์—์„œ ๋ฒ—์–ด๋‚˜๋ ค๋Š” ์ด์œ ๋Š” ๊ฐ„๋‹จํ•ฉ๋‹ˆ๋‹ค. ์ˆ˜์š”๋Š” ๋„˜์น˜๋Š”๋ฐ ๊ณต๊ธ‰์ด ํ•œ์ •์ ์ด๋ผ ๊ฐ€๊ฒฉ์ด ๋น„์‹ธ์กŒ๊ธฐ ๋•Œ๋ฌธ์ด์ฃ . ์‹ฌ์ง€์–ด ๊ทธ๋งˆ์ €๋„ ๊ณต๊ธ‰์ด ๋ถ€์กฑํ•ด ์ฃผ๋ฌธํ•˜๊ณ  ์ œํ’ˆ์„ ๋ฐ›๊ธฐ๊นŒ์ง€ ์ตœ๋Œ€ 1๋…„ ๊ฐ€๊นŒ์šด ์‹œ๊ฐ„์ด ๊ฑธ๋ฆฌ๊ธฐ๋„ ํ•ฉ๋‹ˆ๋‹ค.

 

๐Ÿค” ๊ฐœ๋ฐœ ์ค‘์ธ ๊ธฐ์—…๋“ค

๋ฉ”ํƒ€์—์„œ๋„ ์ง€๋‚œ 2์›” ์ž์ฒด ๊ฐœ๋ฐœํ•œ AI ์นฉ ์•„๋ฅดํ…Œ๋ฏธ์Šค๋ฅผ ๊ณต๊ฐœํ–ˆ๋Š”๋ฐ์š”. ์˜ฌํ•ด ์•ˆ์œผ๋กœ ๋ฐ์ดํ„ฐ ์„ผํ„ฐ์— ํƒ‘์žฌํ•  ๊ณ„ํš์ž…๋‹ˆ๋‹ค. MS๋„ ์ž‘๋…„ 11์›” ์ž์ฒด AI ์นฉ ๋งˆ์ด์•„ 100’ ๊ฐœ๋ฐœ ์†Œ์‹์„ ์ „ํ–ˆ์Šต๋‹ˆ๋‹ค. ์˜คํ”ˆAI์—์„œ๋„ ์ž์ฒด ์นฉ์„ ๊ฐœ๋ฐœํ•˜๊ธฐ ์œ„ํ•ด 7์กฐ ๋‹ฌ๋Ÿฌ์˜ ์ฒœ๋ฌธํ•™์  ์ž๊ธˆ์„ ํˆฌ์ž…ํ•œ๋‹ค๋Š” ์„ค์ด ๋‚˜์™”์ฃ . ์ƒ˜ ์˜ฌํŠธ๋จผ CEO๋Š” ์ด๋ฅผ ์šฐํšŒ์ ์œผ๋กœ ๋ถ€์ธํ–ˆ์ง€๋งŒ, ๋งŽ์€ ์ž๊ธˆ์ด ํ•„์š”ํ•  ๊ฒƒ์ด๋ผ๋Š” ์ ์€ ์ธ์ •ํ–ˆ์Šต๋‹ˆ๋‹ค.

๐Ÿคท ์šฐ๋ฆฌ๋‚˜๋ผ๋Š”?

์šฐ๋ฆฌ๋‚˜๋ผ์—์„œ๋Š” ์‚ผ์„ฑ์ „์ž๊ฐ€ ๋„ค์ด๋ฒ„์™€ ํ•จ๊ป˜ AI ์ถ”๋ก ์šฉ ์นฉ์ธ ๋งˆํ•˜ 1์„ ๊ฐœ๋ฐœํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋ฐ์ดํ„ฐ ์ง€์—ฐ ํ˜„์ƒ์„ 8๋ถ„์˜ 1๋กœ ์ค„์ด๊ณ  ์ „๋ ฅ ํšจ์œจ์„ 8๋ฐฐ ๋†’์ธ ์ œํ’ˆ์ด๋ผ๊ณ  ๋ฐํ˜”๋Š”๋ฐ์š”. ๋„ค์ด๋ฒ„์˜ ์ดˆ๊ฑฐ๋Œ€ AI ๋ชจ๋ธ ํ•˜์ดํผํด๋กœ๋ฐ”X’๋ฅผ ๊ตฌ๋™ํ•˜๋Š” ๋ฐ์—๋Š” ์ด๋ฏธ ์„ฑ๊ณตํ–ˆ๊ณ  ์˜ฌํ•ด ์„ฑ๋Šฅ ๊ฒ€์ฆ ๋“ฑ ์•ˆ์ •ํ™” ํ…Œ์ŠคํŠธ๋ฅผ ๋งˆ๋ฌด๋ฆฌํ•  ์˜ˆ์ •์ด์ฃ . ๋ฒŒ์จ ๋‹ค์Œ ์„ธ๋Œ€์ธ ๋งˆํ•˜ 2๋ฅผ ๊ฐœ๋ฐœํ•˜๊ฒ ๋‹ค๋Š” ํฌ๋ถ€๋„ ๋ฐํ˜”์Šต๋‹ˆ๋‹ค.

20์ผ ์ฃผ์ฃผ์ดํšŒ์—์„œ ์‚ผ์„ฑ์ „์ž๊ฐ€ ๊ณต๊ฐœํ•œ ์ค‘์  ์ถ”์ง„ ๊ณผ์ œ์— ๋งˆํ•˜1์˜ ์†Œ๊ฐœ๊ฐ€ ๋‹ด๊ฒจ ์žˆ๋‹ค.

 

728x90
๋ฐ˜์‘ํ˜•