HBM만큼 주목받고 있는 기술 CXL

삼성전자가 국제 반도체 콘퍼런스인 ‘멤콘 2024’에서 차세대 메모리 솔루션 CXL(컴퓨트 익스프레스 링크)을 공개하고 생태계 구축에 나섰다, 한경./ 최진혁 삼성전자 미주 메모리연구소장(부사장) 사진 : 삼성전자

 

💡 3줄 요약

 

데이터 처리 역량을 높이기 위해 장치 간 연결성을 높이는 CXL 기술이 주목받습니다.

 

여러 반도체 기업 및 빅테크 기업이 CXL 컨소시엄을 구성해 표준화된 규약과 인터페이스를 만드는 중입니다.

 

인텔은 최근 CXL 2.0을 구현할 수 있는 CPU를 공개했고, 삼성전자와 SK하이닉스는 CXL 2.0이 구현할 수 있는 D램을 상용화할 전망입니다.

---

AI 시대에 많은 데이터를 처리하는 기술이 중요하다는 얘기는 너무 많이 들어 식상할 정도입니다. 여전히 데이터를 효율적으로 처리하는 기술에 대한 연구는 다양한 방향으로 진행 중인데요. 메모리 반도체 기업의 주가를 한껏 끌어올린 고대역폭 메모리(HBM)가 대표적입니다. 그런데 최근 HBM만큼이나 주목받는 기술이 있습니다. 오늘의 주인공, CXL입니다.

삼성전자의 최신 CXL 메모리 익스팬더 모듈.사진제공=삼성전자

 

---

CXL이란?

💽 CXL의 등장 배경

AI가 나날이 거대해지면서 AI를 위해 처리해야 할 데이터의 규모 역시 급격하게 커집니다. 이제는 AI 모델을 어떻게 더 잘 학습시킬 것인가에 대한 고민보다, 데이터를 어떻게 더 효율적이고 빠르게 처리할 것인가에 대한 고민이 AI 발전에 더 큰 영향을 미칠 정도죠.

 

업계는 그동안 데이터를 직접적으로 다루는 메모리 반도체에 집중했는데, 메모리 반도체의 성능을 개선하는 것만으로는 데이터 활용 능력을 원하는 만큼 키우는 데 한계가 있었습니다. 그래서 이를 보완하기 위한 방안으로 주목받는 것이 바로 CXL이죠.

 

🔗 CXL이란 무엇인가

CXL(Compute Express Link)이란 중앙처리장치(CPU), 그래픽처리장치(GPU), 메모리 등 여러 컴퓨팅 시스템을 하나의 시스템 아래에 전부 연결해 각 장치를 더욱 효율적으로 활용할 수 있게 도와주는 PCIe 기반 인터페이스입니다. 쉽게 말하면, 각자 사용하는 언어가 다른 CPU, GPU, 메모리 반도체 등이 하나의 언어를 사용하도록 만들어주는 기술이 바로 CXL인데요.

 

과거의 인터페이스와 비교해 보겠습니다. 보통은 CPU와 GPU, 메모리 반도체가 각각의 인터페이스 아래에서 작동합니다. CPU에서 메모리 반도체에 있는 정보를 불러오려면 메모리 반도체의 인터페이스에 맞게 명령을 바꾸고, 정보를 전달받아 다시 CPU의 인터페이스에 맞게 번역하는 비효율적인 과정이 필요한 식이죠. 그런데 CXL을 도입하면, 각 장치의 인터페이스를 하나로 통일해 더욱 효율적으로 각 장치를 연결할 수 있게 됩니다.

 

🔍 PCIe(Peripheral Component Interconnect Express): 전자 부품 간 고속 데이터 전송에 사용되는 연결 방식입니다. 인텔의 주도로 만들어졌으며, 컴퓨터 등 전자기기 내의 CPU와 메모리 반도체 등 다양한 장치 사이에서 데이터를 고속으로 전송할 때 적용되는 규격입니다.

 

🕸 CXL의 효과, 확장성

CXL의 가장 큰 장점은 확장성입니다. CXL을 적용하면, 여러 장치가 하나의 인터페이스 아래에서 작동하며 메모리 반도체를 공유하게 됩니다. 공간이 남는 메모리를 현재 공간이 부족한 장치에 할당하면 서버 교체 없이도 메모리 용량이 늘어난 효과를 볼 수 있죠. 또한 PC나 스마트폰 등 다른 기종과도 메모리를 공유하게 되면 메모리 용량이 획기적으로 늘어날 수 있습니다.

삼성전자

⚡ CXL의 또 다른 효과, 속도

CXL은 고대역폭 연결을 지원하기 때문에, 한 번에 다룰 수 있는 데이터양이 많습니다. 또한 연산 과정에서 GPU나 AI 가속기가 CPU와 같은 인터페이스에서 함께 활용되기에 연산 속도 자체도 훨씬 빨라지죠.

 

🆚 HBM 반도체와 CXL의 차이

HBM은 기존 D램 메모리를 여러 층으로 쌓아 만든 반도체입니다. D램을 여럿 합쳐 용량을 늘리고, 대역폭도 늘려 처리 속도도 향상한 건데요. 이렇듯 HBM은 메모리 반도체 자체의 성능을 극대화해 데이터 처리 능력을 개선하려는 시도입니다. 반면 CXL은 반도체 자체의 성능이 아니라, 반도체들이 각자 연결되는 방식을 효율적으로 만들어 데이터 처리 능력을 높인다는 점이 다르죠.

---

CXL 발전의 역사

🤝 CXL 생태계를 위한 컨소시엄

2019년 반도체 기업과 빅테크 기업은 CXL 인터페이스를 효과적으로 통일하고자 컨소시엄을 결정합니다. 초기에는 알리바바, AMD, 구글, IBM, 인텔, 메타, 마이크로소프트, 엔비디아, 삼성전자 등 15개 기업이 이사회 멤버로 참여했는데요. 이후 CXL 컨소시엄이 Gen-Z 컨소시엄을 흡수하며 CXL은 업계의 유일한 표준 인터페이스로 자리매김하고, CXL 컨소시엄에 참여하는 기업은 240개로 늘어났습니다.

 

🔍 Gen-Z: 데이터센터를 위해 여러 메모리 노드를 고속으로 연결해 대용량 메모리 풀을 구성하는 아키텍처로, CXL과 유사한 기능을 수행합니다.

 

1️⃣ CXL 1.0

가장 초창기 CXL을 구현하는 규격으로, CXL 컨소시엄이 결성된 2019년에 합의된 규격입니다. CXL 1.0은 기존의 컴퓨터 구조에서 크게 벗어나지 않고, D램이 꽂혀야 할 위치에 CXL D램이 꽂히는 형태로 구현됩니다.

기존에는 CPU에 연결할 수 있는 D램의 개수가 한정적이었지만, CXL 1.0 규격에서는 더 많은 D램을 연결할 수 있었죠. 다만, 다른 CPU와는 메모리를 공유할 수 없다는 점이 CXL 1.0의 한계입니다.

 

2️⃣ CXL 2.0

CXL 2.0은 CPU의 바깥으로 영역을 확장한 것이 특징입니다. 서버 플랫폼에서 여러 CXL 메모리를 묶어서 풀(Pool)을 만들고 여러 호스트가 풀에서 메모리를 필요한 만큼 당겨쓸 수 있는 구조죠. 다른 CPU에 묶인 메모리를 당겨쓸 수 있어서 다룰 수 있는 데이터의 양도 많고 속도도 빨라지지만, CPU 간 정보 공유가 복잡하다는 한계가 남아 있는 방식입니다.

 

3️⃣ CXL 3.0

CXL 3.0은 CPU 간 정보 공유를 더욱 편하게 만들었다는 점이 특징입니다. 여러 CPU와 GPU가 하나의 메모리 안에서 연산을 진행할 수도 있고, 다른 CPU의 메모리를 당겨쓰기도 훨씬 쉽고 빨라집니다. 그리고 자동으로 각 CPU가 가진 정보가 통일되죠.

 

이론상 CXL 3.0이 구현되면 CPU 하나당 4,000개 이상의 메모리 반도체가 붙어 하나의 기기처럼 움직일 수 있게 됩니다. 다만, 아직은 CXL 2.0이 이제 막 구현되기 시작한 단계라 CXL 3.0은 이론상으로만 존재하는 규격입니다.

---

CXL 관련 기업, 현황은

💻 CPU를 담당하는 인텔

CXL이 구현되려면 메모리 반도체뿐만 아니라, CXL을 지원하는 CPU도 함께 개발해야 합니다. CXL 컨소시엄을 주도하는 인텔은 CXL을 지원하는 CPU 개발에 가장 적극적인데요. 인텔은 지난 6월 차세대 데이터센터용 프로세서 ‘제온 6’를 공개했는데, 제온 6은 CXL 2.0을 지원하는 최초의 CPU입니다. 인텔이 이제 막 CXL 2.0을 지원하는 CPU를 공개하면서 2024년 하반기엔 본격적인 CXL 2.0 시대의 개막이 예상됩니다.

🔵 삼성전자

삼성전자는 CXL 메모리 개발에 가장 적극적이면서, 가장 앞서 나가기도 하는 기업입니다. 이미 2023년 5월에 CXL 2.0을 지원하는 128GB짜리 D램을 개발했고, 리눅스 환경에서 정상적으로 작동하는지 테스트도 마쳤죠. 또한, CXL 관련 4개의 상표를 출원하기도 했습니다.

 

인텔이 CXL 2.0을 지원하는 CPU를 개발하기도 전에 만반의 준비를 갖춰놓은 것입니다. 업계는 삼성전자가 HBM 분야에서 SK하이닉스에 주도권을 내줬기 때문에, CXL에서는 주도권을 확실히 잡고자 적극적인 모습을 보여주는 것이라 해석합니다.

 

🔴 SK하이닉스

SK하이닉스도 2024년 CXL 상용화를 위해 노력할 예정입니다. SK하이닉스는 2022년 10월 업계 최초로 CXL 기반 메모리 솔루션 CMS를 개발했습니다. 이후 SK하이닉스는 2023년 CXL 2.0 수준의 기술을 시연했고, 2024년 하반기에 CXL 2.0 수준의 96GB, 128GB D램을 상용화할 것이라 밝혔습니다.

🕹 파네시아

파네시아는 카이스트 출신 스타트업으로, CXL 스위치 분야에서 돋보이는 기업 중 하나입니다. CXL 스위치란 CPU와 그 외부의 메모리 풀을 연결하는 장치인데요. 2023년 9월 CXL 3.0 규약을 기반으로 한 컴퓨팅 솔루션을 구현해 검증했습니다. 또한 가장 최근 규약인 CXL 3.1 IP에 대한 원천 특허를 보유했죠.

 

🇨🇳 몽타주 테크놀로지

CXL 컨트롤러 부분에서는 중국의 팹리스 기업 몽타주 테크놀로지가 돋보입니다. CXL 컨트롤러는 D램이 어떤 CPU의 정보를 어떻게 받고, 다른 D램과 어떻게 연동해 작업할지 판단하는 장치인데요. 몽타주 테크놀로지는 2022년 세계 최초로 CXL 메모리 컨트롤러를 상용화했고, 삼성전자와 SK하이닉스의 CXL 2.0 수준의 D램에는 모두 몽타주 테크놀로지의 CXL 컨트롤러가 탑재될 것으로 예상됩니다.

---

아직은 CXL 2.0이 막 등장하기 시작한 시점이라 CXL 기술이 큰 성과를 거뒀다고 보긴 어려운데요. 그래도 CXL 시장은 2022년 7백만 달러 규모에서 2026년 21억 달러, 2028년 158억 달러까지 성장할 것으로 여겨지는 유망한 시장입니다. CXL, 과연 시장의 기대대로 넥스트 HBM 반도체 역할을 하며 AI 발전을 도울 수 있을까요?