삼성전자와 SK하이닉스가준비하는 CXL이 뭘까?

​ ​ CXL이 최근 언급되고 있어서 정리해 봅니다. ​ ​ ​ ​ ​ ​ ​ ​ CPU 하나에 꽂을 수 있는 D램 슬롯수는 정해져 있음. ​ ​ 2. 메인보드를 오가는 전용도로 개수가 고정되어 있는 것임. ​ ​ 3. CXL(Compute Express Link)은 이미 깔려 있는 일반도로(PCIe)에 메모리 창고를 연결하는 방식임. ​ ​ 4. 로컬 D램(전용도로)을 읽을 때 80~100ns(나노초)가 걸린다면, CXL 메모리(일반도로)를 다녀오면 170~250ns 정도가 소요됨. ​ ​ 5. 전용도로 대신 일반도로를 타고 돌아가니, 왕복이 살짝 느려지지만 메모리 창고를 원하는 만큼 무제한으로 지을수 있는 장점이 있음. ​ ​ ​ 6. 느린 메모리를 섞어도 시스템이 생각만큼 느려지지 않게 만들 수 있음. ​ ​ 7. 데이타가 모두 똑 같은게 아니기 때문임. ​ ​ 8. 수시로 쓰는 데이터가 있고, 하루에 몇번 보는 데이터, 거의 사용하지 않고 보관만 하는 데이터로 나눌 수 있음. ​ ​ 9. 수시로 쓰는 데이터는 빠른 로컬 D램에, 나머지는 값싼 CXL 창고에 두면, 시스템이 생각보다 느리지 않을 수 있는 것임. ​ ​ 10. CMM-D나 CMM-DDR5가 바로 CXL을 D램에 입힌 모듈임. ​ ​ ​ 11. 삼성은 CMM-D(CXL Memory Module–DRAM), SK하이닉스는 CMM-DDR5라고 부르는데 같은 종류의 제품임. ​ ​ 12. CXL은 버전이 올라갈수록 기능이 좋아짐. ​ ​ 13. 2019년에 나온 CXL 1.1은 단순하게 메모리를 확장하는 수준임. ​ ​ 14. 서버 한대에 메모리 모듈 하나를 연결해서 용량을 늘리는 방식임. ​ ​ 15. CXL 2.0은 여러 서버가 메모리를 나눠 쓰는 '풀링(pooling)'을 도입함. ​ ​ 16. 수십개의 메모리 모듈을 창고에 두고, 서버들이 필요할때 CXL 스위치라는 장치로 꺼내 쓸 수 있게 만들어 줌. ​ ​ ​ 17. 여러 택배사가 물류창고를 공유하는 개념과 비슷함. ​ ​ 18. 택배사들이 성수기를 기준으로 창고를 준비하면, 성수기가 아닌 때에는 창고가 노는 경우가 많음. ​ ​ 19. 공유 물류창고가 있으면, 택배사들은 평상시에 필요한 만큼만 전용창고를 돌리고, 성수기에는 공유 물류창고를 빌려쓰게 됨. ​ ​ 20. CXL 3.x는 스위치를 여러개 묶는 구조임. ​ ​ 21. 2.0의 풀링이 택배사들이 공유 물류창고에 칸막이를 쳐서 전용으로 쓰는 것이라면, 3.0은 칸막이도 없애고 완전 공용으로 활용함. ​ ​ 22. 출시를 앞두고 있는 신상은 CXL 3.2임. ​ ​ 23. CXL 3.2는 데이터 분류기능을 소프트웨어가 아니라 하드웨어에 심는 방식임. ​ ​ 24. 어떤 데이터가 얼마나 자주 쓰이는지 하드웨어가 직접 감시해서 분류를 하게 됨. ​ ​ 25. 지금까지 소프트웨어로 관리하던 것을 하드웨어가 해주니 최적화 성능이 올라간다는게 3.2의 세일즈 포인트임. ​ ​ 26. 삼성전자는 CXL 3.1(CMM-D 3.0)을 개발하고 있었음. ​ ​ 27. CXL 3.1의 양산을 앞두고, CXL 3.2로 업그레이드해서 연말까지 양산하겠다고 발표함. ​ ​ 28. SK하이닉스는 HPED 2026에서 CXL 3.2 적용 2세대 CMM-DDR5 샘플을 공개했고, 구체적 양산일정은 아직 나오지 않았음. ​ ​ 29. 마이크론은 2023년 CXL 2.0 제품 이후 차세대를 개발하고 있는데, 구체적인 일정이 공개되지는 않고 있음. ​ ​ 30. CXL의 강점은 D램 물량이 비싸고 부족한 상황에서 값싸게 용량을 늘릴 수 있다는 점임. ​ ​ 31. CXL이 초고대역폭이 필요한 HBM을 대체하지는 못함. ​ ​ 32. 보완재의 성격임. ​ ​ 33. AI 대형모델은 긴 대화나 문서를 처리할때 중간 계산 결과를 쌓아두는 KV캐시가 GPU당 80~120GB까지 불어남. ​ ​ 34. 비싼 HBM이 이것을 통째로 가지고 있는 것은 가성비가 안나오는 영역임. ​ ​ 35. "잘 안 읽는 부분을 CXL 메모리로 내리면, 토큰당 처리량과 비용이 크게 개선된다 "고 보고있음. ​ ​ 36. HBM을 알뜰하게 쓰게 해주는 기능임. ​ ​ 37. 수요에 영향을 줄 수 있는 부분은 재활용임. ​ ​ 38. 메타는 수명이 다한 서버에서 DDR4 메모리를 뽑아내서 CXL을 활용하는 새 DDR5 서버에 붙여 대규모로 실전에 배치함. ​ ​ 39. 수명이 다한 서버의 메모리를 버리는게 아니라 CXL을 활용해서 재활용하는것임. ​ ​ 40. 저렴한 D램을 활용할 수도 있음. ​ ​ 41. 128GB의 D램 가격은 64GB 2개보다 훨씬 비싸게 나오고 있음. ​ ​ 42. 128GB가 들어간 모듈이 아니라, 64GB에 CXL로 구성된 조합으로 같은 용량을 25%~50% 절감된 비용에 맞출수 있다고 함. ​ ​ 43. CXL 모듈안에는 저렴한 D램이 들어가고, CXL 컨트롤러 칩이 이것을 가지고 쓸만한 성능을 내주는 것임. ​ ​ ​ ​ 44. CXL 컨트롤러 칩은 Astera Labs, Marvell, 중국 Montage, Rambus, Microchip, Renesas 등이 만들고 있고, 선두주자는 마벨임. ​ ​ 45. 삼성은 CXL 컨트롤러 칩을 고객사가 선택할 수 있게하는 방법으로 진행하고 있음. ​ ​ 46. 자체 개발한 컨트롤러 칩에 중점을 두지만, 마벨이나 몬타지의 컨트롤러와도 호환이 가능하게 만드는 것임. ​ ​ 47. SK하이닉스가 지난해 공개한 CMM-DDR5에는 중국 몬타지테크놀로지의 CXL 컨트롤러가 들어갔음. ​ ​ 48. 현재는 몬타지테크놀로지의 CXL 컨트롤러를 사용하지만, SK하이닉스도 컨트롤러 자체 생산을 계획하고 있음. ​ ​ 49. 자체 컨트롤러는 수익을 온전하게 가져갈 수 있지만, 개발 부담과 실패 리스크가 있음. ​ ​ 50. 타사의 컨트롤러를 활용하는 것은 안전하지만, 수익의 일부를 컨트롤러 업체(몬타지,마벨,Astera)등에게 나눠줘야 함. ​ ​ 51. 현재 신상 CXL 3.2의 문제는 CPU임. ​ ​ 52. CXL 메모리 모듈은 스스로는 아무것도 할 수가 없음. ​ ​ 53. 모듈 안엔 평범한 DRAM과 통역기(컨트롤러)만 있을 뿐, CPU가 없음. ​ ​ 54. CPU는 삼성이나 SK하이닉스가 아니라 인텔과 AMD가 만들고 있음. ​ ​ 55. CPU가 신상 CXL 메모리 모듈을 연결할 수 있게 나와야지 사용이 가능해짐. ​ ​ 56. 이것이 가능한 차세대 CPU가 AMD 에픽 베니스(Zen 6, 2026 하반기)와 인텔 다이아몬드 래피즈(Xeon 7, 2027)임. ​ ​ 57. CXL 3.2가 지원되는 CPU가 2026년말(AMD)~2027년(인텔)에서 나올 예정이라, 일정을 맞춰야 함. ​ ​ 58. 삼성이 CMM-D 3.0를 연말에 양산해도, CPU의 일정이 늦어지면 같이 늦어지게 됨. ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ 한줄 코멘트. 삼성전자와 SK하이닉스가 컨트롤러까지 직접 만들면서 CXL로 돈을 버는지, 컨트롤러 업체나 재활용 메모리에 마진 일부를 내주는지가 CXL이 메모리 3사에 플러스냐 마이너스냐를 가르는 분기점이 될듯함. CXL시장은 아직 HBM의 10분의 1도 안되는 초기시장이라, 2026~2027년까지는 매출에 큰 기대를 할 상황은 아닌것 같음.