Rubin Ultra 대폭 스펙다운, 엔비디아도 메모리 가격 상승을 버티지 못했나?

原创 | Odaily 星球日报（@OdailyChina）

作者｜Azuma（@azuma_eth）

지난 주말, 유명 투자 리서치 기관 SemiAnalysis의 기관 보고서가 AI 업계 전반에 큰 논란을 불러일으켰다.

보고서의 핵심 내용은, SemiAnalysis가 6월 말 엔비디아(NVIDIA)의 원래 4-die Rubin Ultra 설계가 절반으로 축소될 것이라고 밝힌 데 이어, 이 투자 리서치 기관이 다시 한번 엔비디아가 주요 고객에게 Rubin Ultra 프리뷰를 제공했지만, 그 사양이 기존 예상보다 더 낮아졌다고 전했다는 점이다.

SemiAnalysis 보고서에서 유출된 Rubin Ultra 관련 정보 스크린샷은 다음과 같다:

• Rubin Ultra는 Rubin과 동일한 이론적 최고 연산 성능을 유지한다, 둘 다 35 PFLOPs;
• 메모리 용량이 대폭 축소되었다, 사양이 8-Hi 192GB로 낮아져, 12-Hi 288GB인 Rubin보다도 낮다;
• 메모리 대역폭 변화는 미미하다, 단 1 TB/s만 향상되어 실제 고처리량 연산에서는 사실상 무시할 수준이다;
• 칩 레벨 전력 소비는 오히려 약간 증가했다, 최소 전력은 Rubin과 동일(1800W)하지만, 최대 전력은 오히려 더 높아졌다(2600W);
• 유일한 주요 개선점은 "확장 인터커넥트 규모"(Scale-up world size)다, 72개 GPU에서 576개 GPU로 증가했다. 이는 엔비디아가 진정한 판매 포인트를 클러스터 네트워크로 옮겼다는 것을 의미하며, NVLink 네트워크를 통해 최대 576개의 Rubin Ultra를 하나의 거대한 "슈퍼 로직 GPU"로 연결할 수 있다(일반 버전은 최대 72개 카드만 인터커넥트 지원).

엔비디아가 올해 GTC 2026에서 대대적으로 발표한 Rubin 최상위 플래그십 버전으로서, Rubin Ultra의 원래 포지셔닝은 더 많은 칩 다이와 고대역폭 메모리를 통합하여 극한 규모의 AI 모델 학습 및 추론 요구를 해결하기 위한 것이었다. 그러나 SemiAnalysis가 최근 공개한 사양 세부 사항을 보면, 엔비디아는 분명히 Rubin Ultra의 설계 방향을 조정했음을 알 수 있다.

HBM 가격 급등, 엔비디아의 원가 재계산

지난 2년간 AI 산업 확장에서 가장 중요한 구성 요소 중 하나는 의심할 여지없이 HBM이다.

Nvidia H100, H200, Blackwell 등 AI 가속기에 대한 수요가 폭발하면서, 고대역폭 메모리는 이전의 상대적으로 틈새 시장이던 고성능 스토리지 제품에서 AI 인프라 전체에서 가장 부족한 부분이 되었다. SK하이닉스, 삼성, 마이크론은 실적을 갱신하면서도 HBM 투자를 확대하고 있으며, 시장 수급 불균형은 여전히 HBM 가격 상승을 계속해서 부추기고 있다.

AI 칩 제조사에게 HBM의 중요성은 말할 필요도 없다 — GPU는 연산을 담당하고, HBM은 고속 데이터 처리량을 담당하며, 둘 다 AI 모델 학습 및 추론 효율을 함께 결정한다. 하지만 문제는 현재 HBM이 너무 비싸져 AI 시스템의 전반적인 경제성에 영향을 미치기 시작했다는 것이다. HBM3를 예로 들면, HBM3 하나의 가격은 2025년 2분기 저점에 불과 180-220달러였지만, 올해 1분기(계약가)에는 600-700달러로, 2분기(현물가)에는 700-850달러로 급등했다.

SemiAnalysis의 추산에 따르면, HBM 가격 상승으로 Rubin Ultra 단일 랙의 순수 자재비(BOM)는 한때 약 660만 달러에서 800만 달러로 상승했지만, 설계 사양을 조정한 후에는 약 640만 달러로 낮출 수 있다.

엔비디아에게 이렇게 큰 비용 차이는 매우 현실적인 문제를 의미한다 — 원래 설계대로 HBM 용량을 계속 늘린다면, 그 비용에 걸맞은 성능 향상을 가져올 수 있을까? 더 나은 대안은 없을까?

SemiAnalysis는 보고서에서 이에 대한 답을 제시했다. Rubin Ultra의 조정은 본질적으로 엔비디아가 제한된 자원 내에서 AI 시스템의 비용 구조를 재최적화한 것이다. 즉, 상대적으로 비싼 HBM 구성을 줄이고(비용 비중이 약 40%에서 28%로 감소), 그 자원을 더 높은 가치의 확장 인터커넥트 능력에 투입한 것이다(비용 비중이 4%에서 12%로 증가).

앞서 언급했듯이, Rubin Ultra의 핵심 업그레이드 방향은 이제 "시스템 레벨의 확장 인터커넥트 능력"으로 전환되었다. Rubin Ultra가 지원하는 NVL576 아키텍처는 NVLink를 통해 최대 576개의 GPU를 하나의 통합 컴퓨팅 도메인으로 연결할 수 있으며, 더 큰 규모의 시스템 확장을 통해 단일 칩 사양의 조정을 보완하는 것을 목표로 한다.

메모리 주가 급락, 시장의 수요 정점 우려

이 소식의 영향으로, 오늘 아침 한국 증시가 개장하자 메모리 관련 종목이 일제히 하락했다. 한국 시간 11:45 기준, SK하이닉스, 삼성 등 HBM 양대 강자 모두 약 8% 급락했으며, KOSPI 지수도 약 5% 하락했다.

시장은 만약 SemiAnalysis가 전한 Rubin Ultra 사양 조정이 사실이라면(엔비디아는 아직 공식적으로 관련 정보를 확인하지 않음), 이것이 — AI 인프라에서 가장 핵심적인 구매자인 엔비디아가 HBM 수요를 줄이고 있다는 의미인지 우려하기 시작했다.

지난 2년간 AI 확장 수요가 빠르게 증가하면서, HBM은 AI 인프라에서 가장 부족한 부분이 되었다. 엔비디아, AMD 등 칩 제조사들은 AI 가속기의 HBM 구성을 지속적으로 늘려 SK하이닉스, 삼성, 마이크론 등 메모리 제조사의 실적 폭등을 견인했고, 후자들의 공급망 내 가격 결정력을 지속적으로 강화했다.

그런데 엔비디아의 선택은 AI 칩 제조사들이 하드웨어 설계 최적화를 통해 단일 칩의 고용량 HBM 의존도를 낮추는 방안을 고려하고 있음을 의미할 수 있다. 이 경로가 실현 가능하다는 것이 입증된다면, HBM 제조사들의 지속적인 가격 인상 여지가 크게 제한될 가능성이 있다.

AI 인프라 구축은 언젠가는 "무분별한 부품 적재와 맹목적 가격 인상"의 시대와 작별할 수밖에 없다. 그리고 지금, 연산 능력의 철왕좌에 앉아 있는 엔비디아조차도 이미 허리띠를 졸라매고 계산에 들어가기 시작했다.