회원소식

회원소식

회원소식

김용석의 IT 월드 <15> "HBM에 이어 CXL AI 메모리 시대 열린다"_고문 김용석 교수(성균관대)

작성자
theise
작성일
2024-03-21 16:15
조회
284
셔터스톡

셔터스톡




인공지능(AI) 시대가 본격화되면서 학습에 주로 쓰이는 클라우드용 AI 반도체 시장이 커지는 가운데 엔비디아의 독주가 이어지고 있다. 이에 맞서서 오픈AI의 최고경영자(CEO) 샘 올트먼이 AI 전용 반도체 공장 건설에 약 1경원을 투자할 것이라고 밝힌 데 이어 손정의 소프트뱅크 회장도 1000억달러(약 133조1000억원)를 투자하겠다는 이야기가 나오고 있다. 이는 엔비디아에 대한 의존에서 탈피하겠다는 의지를 보여준 것이다. AI 열풍으로 시스템 반도체와 함께 메모리 반도체도 새로운 변화가 생기게 되는데, 맞춤형인 초고대역 메모리(HBM·High Band-width Memory)의 등장이 그것이다.

HBM은 D램을 뚫어 붙이는 방식으로 대역폭, 즉 데이터가 지나다니는 길을 크게 넓힌 제품이다. 빅데이터를 빠르게 처리하기 위해서는 필수적이다. SK하이닉스, 삼성전자, 마이크론 등 메모리 반도체 3개 사는 HBM 시장 주도권을 두고 치열한 경쟁을 벌이고 있다.

HBM이 상용화 관점에서 이미 열린 메모리 반도체 시장을 차지하기 위한 경쟁 아이템이라면, 앞으로 2~3년 후 새로운 먹거리는 컴퓨트익스프레스링크(CXL)가 될 것으로 업계는 예상하고 있다. 최근 AI 시대를 맞아 클라우드에서 처리해야 할 데이터양이 급증하면서 기존에 여러 개로 나뉘어 있던 인터페이스를 통합해 시스템 용량이나 대역폭을 확장시킬 수 있는 인터페이스가 필요해졌다. CXL은 메모리 확장성과 공유 두 가지 측면을 고려하고 있다. CXL 기반 메모리는 여러 대의 서버가 메모리를 공유할 수 있기 때문에 서버 구조를 바꾸지 않고도 메모리 용량을 확장할 수 있다. 따라서 가격 부담도 줄어든다. 삼성전자와 SK하이닉스는 모두 세계 최대 정보기술·가전 박람회 ‘CES 2024’에서 AI 시대 메모리 반도체를 선도할 기술 중 하나로 CXL을 꼽았다.

데이터센터가 쏘아올린 CXL

AI 데이터와 같이 막대한 양의 정보를 빠르게 처리하는 데이터센터에서는 수천 개 내지 수만 개의 중앙처리장치(CPU)와 그래픽 처리장치(GPU) 그리고 메모리와 주변 기기들을 모두 연결해 작동할 필요성이 생겼다. 이에 따라 등장한 것이 바로 CXL이다. CXL을 상세히 풀어 쓰면 Compute는 ‘연산하다’ 라는 뜻이고 Express는 ‘고속’, Link는 ‘연결하다’라는 의미다.

CXL은 고속 입출력 인터페이스 표준인 PCIe(Peripheral Component Interface Ex-press)를 기반으로 CPU, GPU, 가속기 등 여러 장치와 메모리를 빠르게 연결해서 계산한 다. AI 연산을 위해선 메모리 용량과 대역폭 확장이 필수인데, 기존 시스템에서는 한계가 있다. CXL을 사용하면 모듈을 추가하는 방식으로 메모리 용량과 대역폭을 크게 늘릴 수 있다. 여러 장치에 CXL 메모리를 효율적으로 나눠 쓸 수 있고, 가속기를 붙여 연산에 활용할 수도 있다.

데이터센터에서 다양한 컴퓨터들과 주변 기기들을 연결해야 하는 필요성은 2010년대부터 시작됐고, 주요 업체마다 다양한 표준을 제시하고 있었다. 예를 들면 IBM은 2014년부터 Open CAPI(Coherent Acceperator Processor Interface)를 제안했고, HP는 2016년 Gen-Z 컨소시엄을 구성해 독자 표준화를 시도했다. ARM과 화웨이(Huawei), 퀄컴(Qualcomm) 등이 제안한 CCIX(Cache Coherent Interconnect for Accelerator) 표준도 2016년부터 논의가 시작됐다. 하지만, 이렇게 여러 표준이 난립하는 상황에서 특히 AI의 발전에 따라 GPU 같은 AI 가속기와 메모리 확장에 대한 필요성이 시급해지자, 마침내 CPU 시장을 주도해 온 인텔(Intel)이 2019년 다양한 표준을 모아 통일된 표준으로 제안한 것이 CXL 1.0이다. 그 후 CXL 2.0이 나왔고 2023년 11월에는 ‘3.1’ 규격까지발표했다.

CXL 응용 D램 메모리부터 본격화

CXL 응용은 D램 메모리부터 본격화될 것으로 예상된다. 핵심 제품은 CXL 스위치(switch)다. 제품은 크게 CXL D램, CXL 스위치, CXL 낸드(NAND) 세 가지로 나눌 수 있다. 첫째, CXL D램은 크게 CPU에 직접 붙는 메모리 확장 모듈(Memory expander)과 메모리 풀에 사용될 것이고, CXL D램 컨트롤러가 필요하다. 현재 삼성전자, SK하이닉스는 중국 팹리스(반도체 설계) 업체인 몬타지 테크놀로지(몬타지)로부터 CXL 2.0 컨트롤러를 공급받고 있다. 몬타지는 CXL 컨트롤러를 메모리 업체에 판매하고, 메모리 업체는 모듈에 자사의 D램과 몬타지의 CXL 컨트롤러를 탑재해 CXL 메모리를 개발하는 방식이다.

둘째, CXL 스위치가 매우 중요한 역할을 수행한다. 이 스위치는 메모리 풀, 가속기 풀 같은 대량의 CXL 장치들을 모아 연결해 주는 허브 기능을 담당하는 일종의 시스템 반도체다. 특히 CXL에서는 CPU를 건너뛰는 대신 다수의 CXL 장치가 서로 연결돼야 하는 만큼, 이 스위치는 CXL 전체 시스템의 가장 중요한 부품이 될 것이다. CXL 스위치 칩 가격이 D램 컨트롤러보다 훨씬 비쌀 것으로 예상된다.

셋째, CXL 낸드는 메모리 풀이 본격화하게 되면 기존의 ‘솔리드 스테이트 드라이브(SSD)’ 역시 CXL을 통해 과거의 블록 기반 보조 저장 장치가 아닌 메모리로서 재정의될 수 있을 것으로 보인다. 이에 따라 기존 SSD 시장은 점차 CXL 낸드로 진화하게 될 것이며, 이를 위해 기존의 SSD 컨트롤러는 보다 고사양의 고부가가치 제품으로 자리매김하게 될 것이다.


김용석 성균관대 전자전기공학부· 반도체융합공학과 교수현 반도체공학회 고문, 전 삼성전자 상무

김용석 성균관대 전자전기공학부· 반도체융합공학과 교수
현 반도체공학회 고문, 전 삼성전자 상무



생태계 구축하는  CXL… 2026년 이후 큰 시장 개화  

지금의 CXL은 상용화 초기 단계로 생태계를 구축하는 단계에 가깝다. 데이터센터를 중심으로 CXL 사용이 시작될 것으로 보고 있다. 당장은 CXL을 지원하는 CPU가 있어야 하므로, 올해 상반기 출시 예정인 인텔 서버용 CPU인 시에라포레스트가 중요하다. 이것은 CXL 2.0 탑재가 가능한 첫 상용 제품으로 CXL 1.1과도 호환된다. 이에 맞춰 삼성전자, SK하이닉스는 CXL 2.0 메모리 생산을 시작할 예정이다. 따라서 CXL 메모리 시장이 올해부터 일부 열릴 것으로 보이지만, 큰 시장은 CXL 3.0 제품이 본격화되는 2026년 이후에 열릴 것이라고 예상한다. 당장의 장밋빛 전망은 금물이다. 더 많은 시간과 노력이 필요하다.

한국이 CXL 시장을 키우고 주도하려면 가장 중요한 것은 CXL 제품들에서의 시스템 반도체를 자체 확보해야 한다. CXL D램과 CXL 낸드에서는 컨트롤러가 중요하고, CXL 메모리 풀을 위해서는 CXL 스위치가 핵심이다. 최근 삼성전자와 SK하이닉스가 발표한 CXL 2.0 D램 모듈 제품에는 아쉽게도 한국이 아닌 외국의 컨트롤러가 탑재됐다. 지금부터라도 CXL의 핵심인 시스템 반도체들을 한국 팹리스들이 선도적으로 이끌어갈 필요가 있다. 마침 한국의 벤처 업계에서도 CXL에 대한 관심이 높아지고 있고 투자가 이뤄지고 있다. 국내 팹리스 업체 파두는 기존 사업 영역인 SSD 컨트롤러뿐 아니라 CXL 컨트롤러, CXL 스위치 등의 기술 개발에 투자를 시작한 것으로 알려졌다. 신생 스타트업인 파네시아 역시 CXL 반도체 지식재산권(IP) 개발에 오랫동안 공을 들여왔다. 이 밖에도 메틱스엑스, 프라임마스 같은 국내 업체들이 CXL 기술 개발에 매진하고 있다. 삼성전자, SK하이닉스와 이러한 팹리스들 간 적극적 협업을 기대한다. CXL을 통해 펼쳐질 큰 세상을 한국이 한발 먼저 시작할 수 있도록 정부에서부터 학계까지 통합적인 노력이 이뤄질 필요가 있다.


기사 바로가기(링크)