마이크론 300%, AMD 130% 오를 때 엔비디아는 3%, 왜 혼자만 소외됐을까?

안녕하세요, 카레라입니다. 사진 출처: 구글 엔비디아(NVDA)에 이제 누가 관심이 있을까요? 지난 3년 AI 붐의 한복판에서 가장 큰 수혜를 입은 회사는 올해 동안 단! 3% 올랐습니다. 다시 말하지만 마이크론이 300% 오르고 AMD가 130% 오르고 삼성전자, SK하이닉스도 마찬가지로 100~200% 오를 때 엔비디아는 딱 3% 올랐습니다. 사진 출처: 구글 엔비디아: 엉 엉 엉 ​ 엔비디아는 올해 내내 왜 혼자서만 소외됐을까요? 이 질문을 파다 보면 AI 산업 전체가 지금 어디로 움직이고 있는지를 볼 수 있습니다. 사진 출처: 유튜브 백문이 불여일견이라고, 지금 당장 파 봅시다. 가장 먼저 우리가 알아야 할 것이 있습니다. ​ 이제 GPU 회사인 엔비디아는 CPU도 만들어서 열심히 팔기 시작했습니다. ​ GPU는 원래 게임 화면의 그래픽을 그리려고 만든 칩인데 한 번에 수많은 계산을 동시에 처리하는 능력이 AI에 딱 맞아떨어지면서 AI 연산의 핵심 부품이 됐습니다. 사진 출처: 엔비디아 그런데 2026년 들어 엔비디아가 Vera(베라)라는 이름의 CPU를 들고나왔습니다. CPU는 컴퓨터의 두뇌 역할을 하는, 우리가 흔히 인텔이나 AMD를 떠올리는 그 칩입니다. ​ GPU 회사가 왜 갑자기 남의 영역에 발을 들였을까요? 이유는 AI 서버의 구조에 있습니다. ​ AI 서버는 GPU 혼자 돌아가지 못함 옆에서 CPU가 데이터를 정리해 GPU 입에 떠먹여 주고 여러 작업을 교통정리하는 역할을 함 그동안 이 CPU 자리는 인텔과 AMD가 가져갔는데 엔비디아 입장에서는 자기 GPU 서버에서 나오는 매출의 일부를 경쟁사에 계속 넘겨주는 셈이었죠. 그래서 그 자리까지 직접 만들어 차지하기로 한 겁니다. Vera에 대해 기술적 설명을 하자면 한도 끝도 없으니 두 가지만 알고 계시면 됩니다. ​ 인텔과 AMD는 원래 x86이라는, 수십 년간 PC와 서버의 표준이던 방식을 쓰는데 Vera는 이 방식을 때려치우고 원래 스마트폰 칩에서 출발해 전력 효율이 좋은 ARM 방식을 씁니다. ​ 그리고 인텔, AMD의 CPU가 뭐든 두루 잘하는 범용 일꾼이라면 Vera는 처음부터 GPU를 보조하고 AI 작업을 빠르게 처리하도록 특화되어 있습니다. 그런데 GPU 회사가 어떻게 CPU도 뚝딱 만들 수 있나? CPU가 그렇게 만들기 쉬운가? 사실 엔비디아는 CPU를 바닥부터 발명할 필요가 없습니다. 사진 출처: ARM Holdings ARM이라는 회사가 CPU 설계도를 만들어 팔면, 애플(AAPL), 아마존(AMZN), 엔비디아 같은 회사들이 그걸 빌려다 자기 입맛대로 다듬습니다. 애플의 M칩이 바로 이 방식이죠. ​ 게다가 엔비디아는 원래 TSMC라는 훌륭한 하청이 있었으니 설계도만 ARM 것을 갖다가 다듬어서 TSMC에게 그대로 넘기면 됩니다. Vera의 전 세대인 Grace라는 CPU도 이미 있었으니 사실 처음도 아니었고요. ​ 엔비디아는 이제 H200 같은 GPU에서 벗어나 이제 CPU로도 사업 영역을 넓히고 있는 겁니다. ​ 다만 시장은 이것에조차 그렇게 호의적이지 않았습니다. ​ 시장: 엔비디아 GPU도 ASIC(구글, 아마존, 메타, 마이크로소프트 같은 기업들이 브로드컴 등에 외주줘서 만드는 전용 칩)한테 밀리니까 이제 CPU까지 집적거리는구나? 사진 출처: 경향신문 다른 무슨 이유를 갖다 붙이든, 이게 핵심입니다. 엔비디아가 이제 GPU에서는 예전만큼의 장악력을 못 내니까 새로운 CPU를 출시해서 CPU 시장에 진입해도 시장 입장에서는 도망치는 걸로밖에 안 느껴지는 겁니다. 사진 출처: thelec.kr 이제 ASIC이 뭔지는 다들 잘 아시죠? 미주사 콘텐츠에도 여러 차례 설명드렸습니다. GPU가 뭐든 두루 처리하는 만능 일꾼이라면 ASIC은 딱 한 가지 일만 미친 듯이 잘하는 전문가입니다. ​ 빅테크들이 이걸 만드는 이유는 세 가지입니다. ​ 돈. 돈. 돈. 엔비디아 GPU에는 70~80%에 달하는 높은 이윤이 붙어 있는데 직접 칩을 만들면 그 비용을 아낄 수 있음 효율. 효율. 효율. ASIC은 GPU에서 AI에 안 쓰는 회로를 다 떼어내고 필요한 계산만 남겨서 같은 전력으로 훨씬 많은 일을 함 통제권. 통제권. 통제권. 모든 걸 엔비디아 한 곳에 의존하면 칩을 몇 달씩 기다려야 하는 상황에 휘둘리게 되니 AI 시장이 커질수록 이 상황을 벗어나려고 하는 것 ​ 여기서 중요한 질문. 그 ASIC은 정확히 무엇에 맞춰 만들어졌을까요? ​ 답은 "트랜스포머의 행렬 곱셈" 입니다. 조금 풀어보면 요즘 AI 모델, 그러니까 챗봇이든 이미지 생성이든 거의 다 트랜스포머라는 설계를 바탕으로 합니다. 사진 출처: polo club 뭐 이런 건데... 이 트랜스포머가 하는 계산의 대부분은 거대한 숫자표(행렬)끼리 곱하는 작업입니다. ​ 글이든 그림이든 전부 숫자로 바꿔서,학습된 또 다른 숫자표와 곱하고 또 곱하는 과정을 반복합니다. ​ 그래서 빅테크들은 "이 행렬 곱셈만 빠르게 하는 하드웨어를 박아 넣자" 고 베팅했습니다. 구글의 전용 칩은 행렬 곱셈만 전담하는 특수 회로를 칩 한가운데 심어놨고 최신 칩은 트랜스포머의 핵심인 어텐션(Attention)이라는 계산에 맞춰 설계됐습니다. ​ 이 베팅은 사실 꽤 합리적이었습니다. ​ 트랜스포머는 2017년 등장 이후 거의 10년째 AI를 지배하고 있고 우리가 아는 유명한 AI는 다 트랜스포머거든요. 챗GPT도, 클로드도, 제미나이도 다 트랜스포머 기반입니다. ​ 이 정도로 표준이 굳었으면 하드웨어를 걍 여기 맞춰서 만들어도 괜찮겠다는 판단이었죠. 다만, ASIC은 한 번 만들면 설계를 바꿀 수 없습니다. 그래서 AI 알고리즘이 그 칩의 수명보다 빨리 바뀌면 그 효율의 무게가 거꾸로 자기 발등을 찍습니다. 칩 하나 설계하고 만드는 데 몇 년이 걸리는데, AI 알고리즘은 1~2년마다 갈아엎히거든요. ​ 실제로 최근에는 트랜스포머의 독주가 흔들리기 시작했습니다. 차근차근 단계를 밟아 생각하는 추론 모델, 여러 도구를 갈아타며 일하는 에이전트, 확산(Diffusion) 방식이라는 새로운 생성 기법까지 등장하면서 계산 패턴이 점점 다양하고 예측하기 어려워지고 있습니다. ​ "행렬 곱셈만 빠르면 된다" 는 전제가 흔들리는 거죠. ​ GPU는 사실 AI 트렌드가 어떻게 바뀌든 이 모든 작업에 적합합니다. ​ GPU의 비밀은 정해진 일을 하도록 회로를 만들지 않았다는 데 있음 GPU 안에는 작은 계산기(코어)가 수천 개 들어 있는데 이것들은 그때그때 시키는 대로 움직이는 일꾼 그래서 무슨 계산을 어떤 순서로 시킬지를 소프트웨어, 즉 프로그램으로 바꿔 끼울 수 있음 새로운 AI 방식이 등장하면 칩을 새로 만들 필요 없이 그 수천 개의 일꾼에게 이번엔 이렇게 일하라고 명령만 다시 내려주면 되는 것 ​ GPU는 똑같은 하드웨어 위에서 명령만 갈아 끼우면 추론 모델이든 에이전트든 확산 방식이든 다 소화할 수 있습니다. 범용적인 대신 사아아알짝 느릴 뿐이죠. ​ 조금 더 들어가면 AI 계산이 제아무리 다양해 보여도 그 밑바닥은 결국 수많은 숫자를 동시에 계산하는 작업입니다. ​ 트랜스포머의 행렬 곱셈도, 확산 방식의 이미지 생성도 속을 까보면 똑같이 대량의 병렬 계산입니다. 사진 출처: geek blight GPU는 애초에 게임 화면의 수백만 개 픽셀을 한꺼번에 그리려고 태어난 칩이라서 바로 이 "한 번에 우르르 계산하기" 에 천부적으로 강합니다. 그래서 AI의 유행이 어느 쪽으로 튀든 그 바닥에 깔린 병렬 계산이라는 본질은 변하지 않으니 GPU는 늘 적합한 도구로 남는 겁니다. ​ A. 한 번 정해지면 잘 안 바뀌는 성숙한 대량 작업은 ASIC이 싸고 효율적으로 이김 B. 끊임없이 변하는 최전선과 실험의 영역은 GPU 차지 그런데 AI 세계는 등장 극초기에는 B의 양상이었다가(초창기 AI 붐) → 다시 2023~2024년에는 A의 양상이었다가(GPT류 모델들 발전시키기) → 2025~2026년에는 B의 양상으로(AI 에이전트, 온갖 신기한 기능 구현) 점차 변화하고 있음 ​ 이 부분을 꼭 기억하셔야 하겠고요. ​ 다음으로 엔비디아 약세론의 단골 메뉴 중 하나가 감가상각 폭탄입니다. ​ 엔비디아가 매년 더 빠른 신제품을 내니까 작년에 산 칩이 금방 구식이 돼서 결국 빅테크들이 그 비싼 GPU 사느니 더 싼 ASIC을 사려고 할 거다! 라는 논리입니다. ​ 실제로 일정 부분은 말이 되는 논리입니다. 다만, 핵심은 "한물간 칩이 그래도 쓸모가 있느냐" 입니다. 엔비디아 GPU는 최신이 아니어도 다 써먹을 데가 있습니다. 사진 출처: modal 새 칩은 가장 어려운 최신 작업에, 2~3년 된 칩은 속도가 덜 중요한 실시간 작업에, 더 오래된 칩은 비용이 우선인 단순 작업에 내려보내는 식입니다. 사진 출처: 매일경제 마치 새 차가 중고차가 되고, 그게 다시 팔리고, 더 낡으면 중동으로 수출 나가서 더 싼 중고차 시장으로 내려가며 계속 누군가에게 팔리는 것과 비슷합니다. 사진 출처: CNBC 실제로 코어위브는 계약이 끝난 구형 GPU를 거의 원래 가격 그대로 곧바로 재임대했다고 밝혔습니다. 중고 GPU도 값을 유지한다는 뜻이죠. 왜? 누구나 사서 아무 작업이나 돌릴 수 있으니까요. ​ ASIC은 이게 안 됩니다. 특정 회사가 특정 작업만 하려고 만든 칩이라 중고로 팔 시장 자체가 없습니다. 구글의 구형 전용 칩은 구글 말고는 쓸 데가 없겠죠. ​ 이걸 가장 극단적으로 보여주는 사례가 비트코인 채굴 칩입니다. 사진 출처: antminer 비트코인 채굴기도 ASIC의 일종입니다. ​ SHA-256이라는 딱 한 가지 암호 계산만 하도록 만들어진 칩인데 한때 비트메인의 Antminer S9이라는 채굴기는 비트코인 전체 채굴력의 70%를 담당할 만큼 잘 나갔습니다. ​ 그런데 더 효율적인 신형이 나오고 채굴 보상이 줄어들자 이 칩들의 가격은 그야말로 폭락했습니다. ​ 한때 수천 달러 하던 채굴기가 전기료도 못 건지는 처지가 되면서 중고 시장에서 사실상 팔리지 않는 고철 신세가 됐습니다(...). ​ 비트코인 채굴 말고는 할 줄 아는 게 없는 칩은 쓸모가 사라지는 순간 잔존가치가 0으로 수렴합니다. ​ 전용 칩의 운명이 보통 이렇습니다. 자기가 베팅한 작업이 사라지거나 더 효율적인 후계자가 나타나는 순간 다른 데로 도망칠 길이 없습니다. 잠깐, ASIC이 그렇게 쓸모가 사라지면 걍 죽어야 하는 칩이라면 빅테크들은 왜 그렇게 ASIC에 전사적 역량을 몰빵하고 있는 건데? 빅테크의 워크로드는 "안 바뀌는" 영역이 거대하게 존재하기 때문입니다. 새로운 AI가 진화하거나 알고리즘이 바뀌면 ASIC이 족쇄가 된다고 했는데, 이건 최전선 신모델 얘기입니다. ​ 그런데 빅테크가 이제 ASIC을 돌리는 곳의 상당 부분은 이미 굳어버린 대량 반복 작업입니다. ​ 예를 들어 메타를 보면 콘텐츠 추천(인스타, 페이스북 피드), 광고 타겟팅, 사용자 행동 예측 같은 작업을 하루 2조 건 넘게 추론으로 돌린다는 추정이 있습니다. ​ 이런 건 그냥 똑같은 추천 알고리즘을 하루에 수십억 번 돌리는데 여기에 만능 GPU를 쓰는 건 과잉입니다. 딱 이 작업만 하는 전용 칩이 압도적으로 싸고 효율적이라는 거죠. 그러니까 GPU가 하는 역할(최전선에서 새로운 먹거리 발굴), ASIC이 하는 역할(이미 확보한 먹거리 생산)이 그냥 서로 다른 겁니다. ASIC이 GPU를 밀어내는 게 아니라요. 그래서 엔비디아 칩처럼 아무거나 할 수 있는 GPU는 AI 시장이 사람들의 모든 예상보다도 훨씬 더 커지고 있는 상황에서 아무리 구형 GPU도 어딘가에선 줏어가서 쓰는 일이 나타나고 있습니다. ​ ASIC은 극소수 빅테크의 안 바뀌는 작업 전용이고 그 밖의 세계 전체는 여전히 GPU가 필요한 겁니다. AI 시장이 커질수록 "그 밖의 세계 전체" 가 할 일이 더 많아집니다. ​ 당장 저도 A100 한 장 주면 그걸로 뭐든 할 겁니다(...). ​ 현대차가 신차 → 중고차 → 중동 수출 → 아프리카 수출 → 폐차장 부품으로까지 라이프 사이클이 확장되는 것처럼요. 그러면 엔비디아의 진짜 해자는 어디 있을까? 저는 이렇게 생각합니다. ​ 지금까지 칩 이야기를 했지만 사실 엔비디아의 가장 강력한 무기는 칩 그 자체가 아닐지도 모릅니다. 어떤 시대가 와도 다 받아낸다는 유연함, 그게 핵심일 거라 봅니다. 사진 출처: 스타크래프트 ???: 프로토스 함대 컴퓨터는 몇 단 HBM을 쓰는가? ​ 앞에서 본 A/B 국면을 다시 떠올려 봅시다. AI는 극초기엔 B(최전선을 더듬는 시기), 그리고 A(굳어진 모델을 대량생산하는 시기), 지금은 다시 B로 넘어가고 있습니다. ​ 여기에 힌트가 있습니다. 시장이 ASIC에 열광한 건 사실 A 국면의 관성입니다. ​ 모델이 트랜스포머로 굳고 그걸 더 크게 더 많이 찍어내던 시기, ASIC이 가장 빛나는 환경이었습니다. 빅테크 입장에서는 ASIC을 찍어내도 1년이면 엔비디아한테 줄 돈을 아껴서 전체 자금을 회수할 수 있던 꿈의 시기였습니다. ​ 그런데 시선이 거기 머무는 사이 AI는 이미 B로 턴했고 B의 주인공은 늘 GPU였습니다. ​ 그래서 다음 세 가지 중 하나만 분명해져도 엔비디아는 다시 부각될 거라고 봅니다. ​ (1) 또 무슨 신박한 AI 패러다임의 혁명이 나타난다! 이게 제일 강력합니다. 한때 챗GPT나 뭐 챗봇 같은 것들로 사람들이 "오오 신기하다" 이럴 때가 있었는데 이제는 AI로 영상도 만들고 에이전트도 만들어서 알아서 일을 시킵니다. 앞으로 이런 변화가 또 오지 말란 법이 없습니다. 피지컬AI도 그 중 하나라고 봅니다. ​ 트랜스포머가 흔들리고 새 구조가 올라오면 ASIC은 칩을 처음부터 다시 설계해야 합니다. 그래봤자 1~2년이면 되겠지만 그 공백을 메우는 건 뭐든 돌아가는 GPU뿐입니다. ​ (2) AI 에이전트가 진짜 주류가 된다! 에이전트는 계산, 도구 호출, 검색, 코드 실행이 뒤죽박죽 섞여 있는 총체적인 무언가입니다. 이 시장이 커질수록, "이 작업만 하면 된다"는 전제가 깨질수록 GPU가 다시 중요해질 거라고 보입니다. ​ 게다가 엔비디아의 Vera CPU가 정확히 이 에이전트 시대를 노린 물건이라서 이때 GPU와 CPU가 한꺼번에 빛날 수도 있겠네요. ​ (3) AI 시장이 계속 우상향한다! 아까도 말씀드렸듯 ASIC은 빅테크가 자기 내부 작업에만 쓰는 전용 칩입니다. ​ 하지만 AI가 전 세계 수백만 기업, 개발자에게 더...더 아랫단으로 퍼지면 그 신규 수요는 전부 ASIC을 못 만드는 사람들 몫이고 곧 GPU로 가게 됩니다. ​ 시장이 커질수록 ASIC이 닿지 못하는 나머지 세계 전체가 폭발하고 그게 엔비디아의 땅이 되겠죠? 사진 출처: 세계일보 시장은 ASIC이 엔비디아를 밀어낸다고 보고 있지만 실제로는 정해진 땅의 절반을 가져갈 뿐입니다. 매일 새로 생기는 땅은 여전히 GPU 차지입니다. 지금 엔비디아의 부진은 그냥 새로 생기는 땅이 직관적이지 않게 생겨서 그럴지도 모릅니다. 단, 이 모든 건 AI 에이전트가 실제로 주류가 된다는 전제 위에 있습니다. AI가 A 국면에 오래 머문다면 ASIC의 시간이 길어지고 엔비디아는 계속 눌릴 수도 있겠죠. ​ 결국 AI가 더 격변할 것인가, 현재 기술 수준에서 안정될 것인가에 대한 판단이 갈림길이겠네요. ​ 읽어주셔서 감사합니다. ^^