엔비디아와 마이크로소프트가 이미 움직였다: 4일 만에 238개의 별을 받은 DeepSeek-Bot, 30배의 Token 청구서를 태워냈다

10월 7일에 출시된 DeepSeek-Bot은 여러 AI Bot이 그룹 채팅에서 협업할 수 있게 해주는 작은 플러그인에 불과하며, 나흘 만에 238개의 스타를 받았지만 그 자체로 심층 기사를 뒷받침하기는 어렵습니다. 주목할 만한 것은 또 다른 사안입니다. 그것은 AI 하드웨어 가격 책정을 재편하고 있는 하나의 추세를 정확히 짚었는데, 멀티 에이전트 협업이 Token 소비에 자릿수 단위의 도약을 일으키고, 그 도약의 청구서는 결국 CPU와 메모리에 떨어진다는 것입니다. 이 글은 이 작은 플러그인에서 출발해 Token 배수, CPU 부족, 메모리 대체, 그리고 두 거대 기업의 움직임을 하나의 선으로 엮어봅니다.

1. 30배는 선형적 두 배가 아니라, 비용이 예산 가능에서 예산 불가능으로 바뀌는 것

먼저 규모를 봅시다. Anthropic의 엔지니어링 데이터를 인용한 바에 따르면, 단일 Agent가 일반적인 작업 하나를 완료할 때의 Token 소비는 일반 대화의 약 4배이고, 멀티 Agent 협업 시스템은 15배에 달합니다. 학계가 제시하는 숫자는 더 극단적입니다. 앞서 언급한 공동 논문에 따르면, Agentic 프로그래밍 작업에서 Agent가 실행하는 Token 소비는 표준 대화의 약 1000배이며, 외부 시스템을 조작하는 단순 도구도 5배에서 30배 사이입니다.

같은 논문에는 더 쉽게 간과되는 발견이 하나 더 있습니다. 동일한 Agent를 실행하고 동일한 작업을 수행해도 Token 청구서의 변동 폭이 30배에 달할 수 있다는 것입니다. 즉, 같은 사용자가 같은 버튼을 클릭해도 그 이면의 모델 호출 횟수가 30배 차이 날 수 있으며, 매 호출마다 누적된 대화 기록을 다시 전송해야 합니다. Gartner는 2026년 3월 보고서에서 절충적 추정치를 제시했습니다. Agentic 워크플로는 작업당 표준 챗봇의 5배에서 30배의 Token을 소비하는데, 이는 한 번의 사용자 요청이 10회에서 20회의 순차적 모델 호출을 유발할 수 있기 때문입니다.

골드만삭스 리서치 부서의 5월 예측은 더 공격적입니다. 2030년까지 Token 소비량이 24배 증가해 월 사용량 기준으로 약 12경 개에 달할 것이라고 합니다. Token 단가의 하락은 이 추세를 뒤집지 못했습니다. Gartner는 2030년 추론 비용이 2025년보다 90% 이상 하락할 것으로 예상하지만, 사용량 증가 속도가 가격 하락 폭을 훨씬 초과합니다. 단일 호출은 점점 저렴해지지만, 호출 횟수는 점점 많아지고 매번 점점 커지면서 총지출은 사용량 폭발로 인해 증가합니다.

호출 데이터와 하드웨어 수치를 종합하면, Token 경제의 주요 모순은 이미 단가에서 호출 횟수와 단일 소비의 곱으로 이동했습니다. 이것이 하드웨어에 주는 함의는 다음과 같습니다. GPU 활용률의 병목은 더 이상 단일 전방 계산의 속도가 아니라 메모리 대역폭과 스케줄링에 있습니다. 이것이 바로 CPU와 메모리가 다시 가격 책정의 시야에 들어오는 이유입니다.

2. CPU가 조연에서 주연으로 돌아오다

멀티 에이전트 시스템에서 작업 스케줄링, 도구 호출, 논리 판단, 컨텍스트 관리는 모두 CPU가 잘하는 일입니다. 상하이증권보 리서치 보고서에 따르면, 에이전트 워크로드에서 오케스트레이션 단계만으로도 전체 지연의 50%에서 90%를 차지할 수 있습니다. CPU 성능이 부족하면 아무리 강력한 GPU도 스케줄링을 기다리느라 유휴 상태가 됩니다.

수요는 이미 가격과 납기에 드러났습니다. 공개 보도에 따르면, 인텔은 일부 서버 CPU 가격 인상을 확인했으며, 고급 Xeon은 전체적으로 7%에서 12% 올랐고, 소비자용 CPU는 연내 세 차례 가격 조정을 거쳐 Plus 시리즈 누적 상승폭이 30%에 가까워졌습니다. AMD는 하반기 중고급 서버 CPU 가격을 4%에서 7% 추가 인상할 것으로 예상되며, 서버 CPU 납기는 일반적인 1주에서 2주에서 8주에서 12주로 연장되었고, 일부는 최대 6개월에 달합니다.

규모 추정치는 두 곳이 있습니다. Arm의测算에 따르면, 전통적인 AI 데이터센터는 기가와트당 약 3000만 개의 CPU 코어가 필요한데, 에이전트 시대에는 1억 2000만 개로 증가해 3배 늘어납니다. 모건스탠리의 프레임워크에 따르면, 2030년까지 Agentic AI가 325억에서 600억 달러의 CPU 증분 시장을 가져오며, 이는 1000억 달러를 초과하는 서버 CPU 전체 시장의 약 60%를 차지합니다. AMD가 1분기 실적 발표 콘퍼런스 콜에서 제시한 방향도 일치합니다. AI 인프라에서 CPU와 GPU의 비율이 1:4에서 1:8에서 1:1로 수렴하고 있으며, 에이전트 밀집 배포 시나리오에서는 CPU 구성 수량이 GPU를 역전할 수 있습니다.

더 살펴보면, CPU라는 축의 탄력성은 총량 증가가 아니라 비율 변화에서 나옵니다. 서버 CPU 시장 자체의 성장 속도는 완만하며, 변화는 각 GPU 옆에 서 있는 CPU 수에 있습니다. 비율이 1:8에서 1:1로 가는 것은 동일한 GPU 지출에 대해 몇 배의 CPU 지출이 대응된다는 의미이며, 이는 CPU가 처음으로 AI 하드웨어 서사에서 독립적인 증분 논리를 갖게 된 것입니다. 이 판단의 전제는 에이전트 워크로드가 실제로 현재 경로대로 확대된다는 것이며, 오케스트레이션 단계가 소프트웨어 최적화로 현저히 압축되면 비율 곡선은 둔화될 것입니다.

3. 메모리: 부족의 근원은 수요 변동이 아니라 생산능력 대체에 있다

멀티 에이전트 시스템은 장기 기억에 의존하며, 선호도, 이력, 작업 진행 상황을 기억하고 서로 다른 시점에 호출합니다. 기술적으로, 매 내부 추론마다 계속 증가하는 전체 KV 캐시를 GPU 메모리에서 읽어야 하며, 추론은 메모리 대역폭 집약적인 작업입니다. 개인 투자자에게 익숙한 말로 하면, GPU가 얼마나 빨리 계산하느냐는 점점 메모리가 얼마나 빨리 공급하느냐에 달려 있습니다.

마이크론의 경영진은 공개 석상에서 이 점을 매우 직설적으로 말했습니다. 수석 부사장 Sumit Sadana는 KeyBanc 기술 포럼에서 Agentic AI 워크로드의 Token 소비가 동종 채팅 작업의 5배에서 30배에 달할 수 있으며, 심층 추론은 더 높다고 밝혔습니다. CEO 산제이 메로트라는 CNBC 인터뷰에서 훈련 시대는 지났고 추론 시대가 막 시작되었으며, 에이전트 AI는 아직 진정한 대규모 도입조차 이루어지지 않았다고 말했습니다.

마이크론의 재무제표가 이 추세를 검증하고 있습니다. FY26Q3 매출은 414억 5600만 달러로 전년 대비 345.7% 증가했고, 데이터센터 사업 매출은 115억 2000만 달러로 전년 동기는 15억 3000만 달러에 불과했습니다. FY26Q4 매출은 542억 2900만 달러로 더 상승했습니다(회사 재무제표, 재무 데이터 인터페이스 검증 완료). Sadana는 포럼에서 두 가지를 덧붙였습니다. 2027년의 수급은 2026년보다 더 타이트할 것이며, DRAM 고객은 "높은 가격을 내더라도 원하는 절반 이상을 확보하지 못할 것"이고, 제품 측면에서는 HBM4 36GB 12-high가 테스트 조건에서 LLM 추론 처리량을 2.6배 향상시킬 수 있다는 것입니다.

더 핵심적인 세부 사항은 대체 비율입니다. HBM 100비트를 생산할 때마다 DDR 산출량이 약 300비트 줄어들며, HBM4E가 진행되면 4:1에 가까워질 수 있습니다. 이는 메모리 부족의 구조적 근원이 수요 측이 아니라 생산능력의 물리적 대체에 있음을 의미합니다. HBM을 한 몫 확장할 때마다 전통적인 DRAM 공급은 세 몫에서 네 몫 압축됩니다. HBM이 여전히 AI를 위해 확장되는 한, DDR의 부족은 수요 냉각으로 해소되기 어려우며, 이 수급 논리의 검증 지점은 마이크론 등 제조사가 이후 발표할 생산능력과 가격 가이던스입니다.

4. 소프트웨어의 공포와 하드웨어의 증분은 같은 제품 출시에서 비롯된다

2026년 1월 중순, Anthropic은 Claude Cowork를 출시했고, 1월 30일에는 법무, 재무, 영업 등 직능을 위한 업종 플러그인을 선보였으며, 이후 Claude Opus 4.6이 큰 작업을 하위 작업으로 분할해 서로 다른 에이전트에 병렬로 맡겼습니다. 시장의 반응은 두 갈래로 나뉘었습니다. 소프트웨어 측에서는 공개 보도 및 Wedbush 리서치 보고서에 따르면, 그 매도세로 사라진 소프트웨어 주식 시가총액이 8000억 달러에서 1조 달러 사이였으며(통계마다 포함된 주식 범위가 다름), FactSet은 하루에 10% 하락했고 Wedbush는 이를 "Software-mageddon"이라고 불렀습니다. 우려의 핵심은 에이전트가 계약 검토, 재무 분석을 자율적으로 완료할 수 있게 되면 인원수 기준 과금 SaaS 모델이 잠식될 것이라는 점이었습니다.

하드웨어 측은 같은 시점에 반대되는 수치를 내놓았습니다. 모건스탠리는 AI가 생성형에서 에이전트로 전환하면서 투자 범위가 GPU에서 CPU와 메모리로 확장될 것이라고 지적했으며, 반도체의 S&P 500 내 비중은 이미 20%를 돌파했습니다. 같은 동전의 양면은 이것입니다. 에이전트의 대체 능력이 강할수록 기반 연산력, CPU, 메모리 소비는 커집니다. 소프트웨어의 점유율 불안과 하드웨어의 수요 증분은 같은 제품 주기에 의해 주도되며, 이를 두 개의 이야기로 분리해 가격을 매기는 것은 현재 AI 섹터의 가장 큰 가격 책정 괴리 중 하나일 수 있습니다.

5. 마이크로소프트와 엔비디아는 무엇을 하고 있는가

현지 시간 10월 7일, 마이크로소프트는 샌프란시스코에서 엔비디아와 협력한 Surface Laptop Ultra를 발표했습니다. NVIDIA RTX Spark 플랫폼, Blackwell RTX GPU 최대 6144개 코어, Grace CPU 최대 20코어, 통합 메모리 최대 128GB를 갖추어 로컬에서 1200억 개 이상의 파라미터 모델을 실행할 수 있으며, 가격은 2599달러부터 시작해 10월 16일 출하됩니다. 젠슨 황이 현장에 왔고, 그의 발언은 널리 인용되었습니다. "40년 동안 당신은 앱을 실행하고, 클릭하고, 타이핑했습니다. 이제 당신은 질문하고, 컴퓨터가 대신 일합니다."

하드웨어보다 더 중요한 것은 운영체제의 개조 방식입니다. 마이크로소프트 공식 블로그에 따르면, Windows는 "하이브리드 인텔리전스"를 중심으로 재설계되었습니다. 권한을 얻으면 Copilot이 로컬 파일을 읽고, 대신 정리하고, 문제를 진단하고, 워크플로를 실행할 수 있으며, 보안 측면에서는 시스템 수준 컨테이너를 통해 에이전트가 접근할 수 있는 파일과 네트워크 범위를 제한하고, 작업에 따라 로컬 모델과 클라우드 모델 사이를 스케줄링합니다. 엔비디아는 9월 28일 Open Agent Safety Platform을 발표해 테스트부터 배포까지 에이전트의 보안 계층을 커버했습니다. 젠슨 황은 동시에 Blackwell과 Vera Rubin 시스템의 주문 금액이 이미 1조 달러에 달하며 2027년까지 커버한다고 공개했습니다(회사 기준).

두 움직임의 논리는 일관됩니다. 마이크로소프트는 운영체제 계층에서 에이전트 시대를 위한 진입점을 재구축하고, 엔비디아는 칩과 플랫폼 계층에서 에이전트의 대규모 배포를 위한 재고를 준비합니다. 이들이 멀티 에이전트 협업의 도래를 예상한다기보다는, 이미 그것을 위한 기반을 구축하고 있다고 하는 편이 맞습니다. 일부 추론을 로컬 기기에 넣는 것은 본질적으로 에이전트의 연산력 소비가 너무 커서 반드시 계층적으로 처리해야 함을 인정하는 것이며, 에이전트를 돌리는 모든 PC는 새로운 상시 연산력 노드입니다.

6. Token 청구서: 인원수 기준 과금에서 소비 기준 과금으로

Gartner의 2026년 기업 조사는 진지하게 받아들일 만한 수치를 제시합니다. 거의 4분의 1의 기술 리더가 이미 개발자 1인당 월 200달러에서 500달러의 AI 코딩 Token을 지불하고 있으며, 약 6%는 2000달러를 초과합니다. 이 기관은 AI 코딩 Token 비용이 2028년에 개발자 평균 임금을 초과할 것으로 예측합니다. 이는 과금 방식의 전환을 예고합니다. 챗봇 시대에는 좌석 수 기준으로 예산을 잡았지만, 에이전트 시대에는 실행 횟수 기준으로만 예산을 잡을 수 있으며, 실행 횟수는 모델 자신조차 정확히 추정하지 못합니다. 앞서 언급한 공동 논문은 모델이 자신이 소비할 Token 수량을 지속적으로 과소평가한다고 명확히 지적합니다.

서두의 238개 스타를 받은 작은 플러그인으로 돌아갑시다. Main Bot은 기본적으로 독점 응답하고 필요에 따라 다른 Bot을 호출하는데, 개발자가 한 일은 사실 가장 소박한 Token 예산 관리입니다. 이 미시적 행동을 기업급 배포에 놓으면 함의는 확대됩니다. CPU, 메모리, 네트워크에 대한 강성 수요는 더욱 강해질 뿐입니다.

마지막으로

DeepSeek-Bot의 238개 스타는 중요하지 않습니다. 중요한 것은 그것이 시연한 비용 구조입니다. 멀티 에이전트가 협업할 때마다 Token 청구서는 한 단계씩 도약하며, 그 도약