(Tech)Micron FY2Q26 컨콜과 LPX에 탑재되는 DDR5 12TB?

https://blog.naver.com/lepain-/224221771789 (Tech) 엔비디아 GTC에서 보는 기회(ft. LPX, SOCAMM, Optics) https://blog.naver.com/lepain-/224159280174 AI 씬에서 가장 Upstream에 있는 엔비디아의 GTC 2026... blog.naver.com 오늘 위와 같이 엔비디아의 루빈 아키텍쳐가 메모리에 어떻게 영향을 미치는지 작성했다. ​ 그리고 마이크론 컨콜을 보다보니 아래와 같은 언급이 계속 나왔다. ​ LPU architecture는 Vera Rubin과 함께 동작하며, Vera Rubin 자체도 대량의 HBM과 DRAM을 사용. NVIDIA Groq LPX rack-scale architecture도 rack당 12TB DRAM을 사용 CPX랙에서는 딱히 디램에 대한 언급이 없어서 LPU에 맞춰서 SRAM만 제공이 되는 것으로 알고 있었다. ​ 다시 엔비디아가서 스펙시트를 뜯어보니 LPX랙에도 1.2TB수준의 DDR5가 탑재되고 있다. (256GB+128GB) x 32 Tray = 12TB ​ 계산도 딱 맞아 떨어진다. ​ 그러면 아까 Citi 추정으로 내년 기준 6250 Pod가 출하되는 것으로 가정해보면.... LPX 랙은 Pod당 10개가 있으니 ​ 12TB x 10 rack x 6250 pod = 750,000 TB의 메모리가 추가 수요로 작용하게 된다. 대략 8GB 모바일로 환산하면 또 1억대가 잠식당하게 되는 것. ​ 전자, 닉스, 마이크론이 디램 위주로 캐파를 계속 늘리는 이유도 다 납득이 된다. 높은 GPM, 전방 수요 모든게 더 파괴적인 것 같다. ​ 왜 LPDDR5 대신 DDR5를 LPX에는 사용했을까? Vera는 CPU 메모리 서브시스템 자체가 Rubin GPU와 이어지는 핵심 호스트 메모리 계층이라서, NVIDIA가 LPDDR5X/SOCAMM의 전력·대역폭·서비스성 장점을 전면에 내세웁니다. 반면 LPX는 공식 문서에서 **LPU 자체를 “SRAM-only LPU”**로 설명하고, rack 차원의 추가 메모리는 host/fabric 쪽의 대용량 보조 메모리 tier 처럼 묘사합니다. 그래서 표기도 LPDDR5X가 아니라 rack-level에서는 DDR5 , tray-level에서는 generic DRAM 으로 나오는 것으로 보입니다. 읽어도 무슨말인지 모르겠다^^ 어쨋거나 메모리 수요 좋아진다로. 마이크론 컨콜에서 인상깊었던 것은 FY24 Revenue $25bn FY25 Revenue $37.4bn ​ FY3Q26 Revenue Guidance $33.5bn. ​ 이제부터 분기 실적이 과거 1년치 매출을 상회하게 되었다. ​ 그 외에 인상깊었던 것을 몇개 나열하면 메모리와 스토리지는 AI 혁명의 핵심. 메모리는 더 긴 Context window, 더 깊은 리즈닝 체인, 멀티 에이전트 오케스트레이션을 가능하게 함. AI 진화와 함께 컴퓨트 아키텍쳐는 더 메모리 집약적으로 변할 것. AI 수요로 인해 데이터센터 디램 및 낸드 Bit TAM이 26년 최초로 전체 산업 TAM 50% 초과 예상 회사가 보는 현재 margin 구조의 배경은 AI가 유도하는 multi-year investment cycle이며, 대부분의 기회는 아직 앞에 있음 .(사이클의 초기다) AI는 더 많은 메모리와 더 높은 성능의 메모리를 요구하며, 메모리는 token cost와 energy cost per token을 낮추고 token 수와 AI intelligence를 높여 추가 메모리 수요를 재유발하는 구조 데이터센터뿐 아니라 PC, 스마트폰, 자동차, robotics까지 memory content가 동시에 확대되는 multi-vector demand thesis 제시 ​ 메모리가 시클리컬 이냐 아니냐에 대한 시장에서의 합의가 한번에 이뤄지지 않고 있다. https://www.uncoveralpha.com/p/every-memory-cycle-ends-the-same?hide_intro_popup=true Every Memory Cycle Ends the Same. Until It Doesn't. I’ve studied every major memory cycle of the last 30 years. In this article, we look at them and the numbers. But then I am going to make a case for why the AI era may fundamentally break that pattern. www.uncoveralpha.com 이 아티클을 굉장히 인상깊게 읽었는데 요약하자면, 디램의 ASP는 당연히 빠질 것 이지만 수요의 동인이 사람에서 AI로 전환됨에 따라 과거의 사이클과 다르게 갈 가능성이 높다. 즉, 메모리 수요 함수가 근본적으로 변화한 것. ​ 과거 PC사이클때 디램 컨텐츠 증가와 1가구 1PC로 갔지만 모든 가구가 PC를 소유하게 되며 사이클이 종료가 되었고, 모바일 역시 마찬가지였다. ​ 메모리는 이제 에너지다. 에너지와 비유해보면 유가가 떨어지면 더 저렴한 에너지가 더 많은 경제활동을 야기함. 그래서 수요가 다시 증가. 에너지 수요곡선은 우하향하는 형태임. 가격이 낮아지면 소비가 촉진. AI 추론 수요도 이와 유사. 메모리 비용 하락 → 추론 비용 저렴 → 추론 수요 줄지 않고 증가. 더 많은 애플리케이션이 경제적으로 실행 가능해지고, 더 많은 AI 에이전트가 배포되고, 더 많은 모델이 활용되고, 더 넓은 컨텍스트 창이 확장됨. 지능이 저렴해지면 지능 소비가 줄어드는 것이 아니라 오히려 늘어남. ​ 시장은 메모리 수요 수준과 마진이 지속 가능하다고 보지 않고 있음. 과거 사이클의 기억 때문. 과거의 순환이 반복될 것이라는 가정을 깔고 있기 때문. ​ 나는 아직도 스텔스 수요가 엄청 많다고 생각한다. 디램의 가격이 안정화되고 수급이 풀리면 지금 잠재적으로 숨어있는 수요들이 팍팍 튀어나올 것 같다. 이 아티클의 논리대로 메모리 가격이 하향 안정화되고 그것으로 인해 메모리 TAM이 다시 커지면서 수요가 붙는게 보이게 되면 그때 비로서 시클리컬이 아닌 구조적 성장 섹터로 리레이팅이 될 것 같다. ​ 마지막으로 마이크론의 워딩으로 마무리... AI는 단지 메모리 수요만 증가시킨 것이 아닙니다. AI는 메모리를 AI 시대를 규정하는 전략적 자산으로 근본적으로 다시 자리매김 시켰습니다. 결국, 이 모든 것은 메모리가 AI에 얼마나 전략적인 자산인지를 보여줄 뿐 입니다. 더 많은 메모리, 더 빠른 메모리가 없으면 AI는 결코 확장될 수 없습니다 . AI는 학습이든 추론이든 그 역량을 결코 구현할 수 없습니다. - 본 블로그의 게시물은 단순 의견 및 기록용이며, 매수매도를 비롯한 어떤 투자권유도 의미하지 않습니다. - 본 블로그의 게시글은 부정확할 수 있으며 매수, 매도에 대한 의견을 제시하지 않습니다. - 본 블로그의 게시글 내용은 어떤 경우에도 법적 근거로 사용될 수 없습니다. - 본 블로그의 게시글 작성자는 작성하는 기업을 보유했을 수도, 보유하지 않았을 수도 있습니다. - 보유하고 있다고 해도 게시 다음날 바로 매도할 수 있습니다. ​