开源模型会杀死「算力需求」？摩根士丹利推演 AI 的三种未来

원문: Morgan Stanley Research《Weighing In: Open-Weights Models & 3 States of the World》, 2026년 8월 3일

번역 및 정리: DaiDai, Frank, MSX 메이퉁 연구소

핵심 요약

• 오픈 웨이트(Open-Weight) 모델이 낮추는 것은 단일 호출 비용과 배포门槛뿐이며, 총 연산 수요를 반드시 낮추는 것은 아닙니다. AI가 더 많은 기업, 워크플로우, 기기로 확산됨에 따라 호출량 증가가 효율성 향상을 앞지를 수 있으며, 이는 전형적인 '제본스 역설(Jevons Paradox)'을 촉발합니다.
• 기업은 이미 멀티 모델 시대에 진입했습니다. 오픈 웨이트 모델은 주로 프로그래밍, 문서 처리, 고빈도 호출 및 특정 도메인 태스크를 담당하며, 복잡한 추론과 에이전트 워크로드는 여전히 최첨단 폐쇄형 모델에 더 많이 의존합니다.
• 오픈 웨이트가 무료를 의미하지는 않습니다. 기업이 절약하는 것은 모델 라이선스 비용 또는 일부 API 비용일 수 있지만, GPU, 클라우드 서비스, 온프레미스 데이터센터, 파인튜닝, 인력, 보안 및 운영 유지보수 비용은 여전히 부담해야 합니다.
• 폐쇄형, 하이브리드 또는 오픈 웨이트 모델 중 무엇이 결국 주도하게 되든, NVIDIA, 현장 전력 및 보안 소프트웨어는 비교적 명확한 시나리오를 아우르는 수혜 분야입니다.
• 오픈 웨이트 모델이 보편화될수록, AI 가치 사슬은 기반 모델 계층에서 추론, 라우팅, 오케스트레이션, 관측 가능성, 로컬 인프라, 엣지 디바이스 및 수직 애플리케이션으로 확산될 가능성이 높습니다.

일정 간격으로 AI 시장은 '효율성 공포'를 경험하는 듯합니다.

모델 파라미터가 작아지고 추론 비용이 하락하거나, 한 모델 회사가 더 적은 칩으로 최첨단 성능에 근접했을 때, 시장은 곧 직관적인 반응을 보입니다. 동일한 작업을 완료하는 데 필요한 컴퓨팅 리소스가 점점 줄어든다면, GPU, 데이터센터 및 전력 수요도 정점에 도달하는 것 아닌가?

Kimi K3, DeepSeek V4 Flash 정식 버전과 같은 차세대 오픈 웨이트 모델의 등장은 이 문제를 다시 시장에 던졌습니다. 이러한 모델들은 최첨단 폐쇄형 모델과의 성능 격차를 줄이려 할 뿐만 아니라, 기업이 모델을 다운로드하고, 수정하고, 자체 배포할 수 있게 함으로써 과거 소수의 미국 모델 연구소에 집중되어 있던 역량을 더 넓은 개발자 및 기업 기술 스택으로 확산시킵니다.

그러나 Morgan Stanley가 최신 보고서에서 제시한 답은 이러한 직관과 정반대입니다:

모델 효율성 향상이 반드시 연산 수요를 죽이는 것은 아닙니다. 오히려 AI를 충분히 저렴하게 만들어 과거에는 AI 사용 가치가 없었던 시나리오로 진입하게 하고, 궁극적으로 전체 호출량을 끌어올릴 가능성이 더 높습니다.

이를 바탕으로, 진정으로 다시 논의해야 할 것은 연산이 어디서 발생하고, 누가 제공하며, 어떤 회사가 이러한 확산에서 수익을 얻을 수 있는지로 바뀝니다.

1. 더 저렴한 모델이 왜 더 많은 연산을 소비할 수 있을까?

오픈 웨이트 모델이 가장 쉽게 유발하는 오해는 '모델 비용 하락'을 '인프라 수요 하락'과 동일시하는 것입니다.

그러나 대부분의 기업에게 AI 채택 여부는 모델이 한 번의 작업을 완료하는 데 필요한 연산량에만 달려 있는 것이 아니라, 창출하는 수익이 모델, 엔지니어링 및 인프라 비용을 충당할 수 있는지에 달려 있습니다.

Morgan Stanley가 인용한 추산에 따르면, 기업 AI 작업 하나는 평균 약 55달러의 수익을 창출하며 직접 비용은 약 2~5달러입니다. 데이터, 엔지니어링, 보안 및 관리 비용을 고려하더라도, 이 수익-비용 비율은 여전히 수많은 기업 워크플로우가 아직 AI화되지 않았음을 의미합니다.

이러한 상황에서 모델 가격 인하의 결과는 기업의 AI 지출 감소가 아니라, 더 많은 작업이 경제적 타당성의 문턱을 넘는 것일 수 있습니다.

과거에는 기업이 가장 중요하고 가치가 높은 작업만 AI에 맡겼을 것입니다. 추론 가격이 계속 하락하면 고객 서비스 기록 분류, 계약 검토, 코드 테스트, 상품 설명, 기업 검색, 마케팅 자료, 데이터 정제 및 내부 승인까지도 모델 워크플로우에 포함될 수 있습니다.

각 작업에 필요한 컴퓨팅 리소스는 줄어들 수 있지만, 작업 수, 실행 빈도 및 사용자 규모는 동시에 확장될 것입니다.

이것이 바로 보고서가 반복해서 언급하는 '제본스 역설'입니다. 어떤 자원의 사용 효율이 높아지고 단위 비용이 하락하면, 적용 범위가 빠르게 확대되어 총 소비량은 오히려 증가할 수 있습니다.

예를 들어, 자동차의 연비 향상이 세계 석유 수요를 자동으로 사라지게 하지 않았고, 네트워크 대역폭이 저렴해져도 데이터 트래픽이 줄어들지 않았습니다. 유사하게, 더 효율적인 모델이 GPU 사용을 줄이는 대신 AI를 소수의 고가치 작업에서 기업 내부 어디에나 존재하는 기본 역량으로 만들 수 있습니다.

현재, 이러한 확산은 이미 시작되었습니다.

보고서가 인용한 McKinsey 조사에 따르면, 응답 기업의 63%가 기술 스택에서 오픈 모델을 사용하고 있지만, 대부분의 기업은 폐쇄형 모델을 완전히 포기하지 않고 두 가지를 조합하여 사용합니다. 오픈 웨이트 모델은 주로 프로그래밍, 문서 파싱, 고빈도 호출 및 특정 도메인 작업에 사용되며, 최첨단 폐쇄형 모델은 복잡한 추론, 높은 신뢰성이 요구되며 표준화가 더 어려운 작업을 계속 담당합니다.

2026년 2월부터 7월까지, 미국 기업이 OpenRouter를 통해 중국 오픈 모델로 라우팅한 Token 비중은 한때 30%를 넘었습니다. 이 수치는 개발자와 스타트업에 더 치우쳐 있어 대기업 지출을 직접 대표할 수는 없지만, 적어도 오픈 웨이트 모델이 실험실 개념에서 실제 호출 및 배포 환경으로 진입했음을 보여줍니다.

물론, 오픈 웨이트 모델이 '무료 모델'을 의미하는 것도 아닙니다.

기업이 자체 호스팅할 때는 모델 제공업체에 Token 기반 API 비용을 지불하지 않을 수 있지만, GPU를 구매하거나 임대해야 하며 데이터센터, 클라우드 서비스, 파인튜닝, 엔지니어링 팀, 보안 및 일상적인 운영 유지보수 비용을 부담해야 합니다. 이는 모델 제조사 또는 클라우드 플랫폼이 제공하는 호스팅 API를 통해 오픈 웨이트 모델을 사용하더라도, 기업이 여전히 Token 또는 컴퓨팅 사용량에 따라 비용을 지불할 수 있음을 의미합니다.

따라서, 오픈 웨이트가 바꾸는 것은 컴퓨팅 비용의 존재 여부가 아니라, 기업이 컴퓨팅 비용을 지불하는 방식과 그 가치를 모델 제공업체, 클라우드 플랫폼 또는 기업 자체 인프라 중 누가 획득하는가입니다.

Morgan Stanley가 인용한 한 MIT 연구 추산에 따르면, 폐쇄형 모델에서 오픈 모델로 전환할 경우 평균 가격이 약 70% 하락하여 연간 소비자 약 250억 달러를 절약할 수 있습니다. 그러나 보고서는 이 연구가 비교적 일찍 완료되었고, 모델 간 성능이 완전히 비교 가능하지 않으며, 엔지니어링, 운영 및 유지보수와 같은 암묵적 비용을 충분히 반영하지 못할 수 있음을 특별히 지적합니다.

또 다른 Carnegie Mellon 연구에 따르면, 오픈 모델 자체 구축 배포의 회수 기간은 약 3개월에서 6년까지 연장될 수 있습니다. 파라미터가 작고, 작업이 고정적이며, 호출 빈도가 높은 모델은 하드웨어 비용을 비교적 빠르게 상각할 수 있습니다. 반면 대형 모델과 복잡한 엔터프라이즈급 애플리케이션은 활용률 부족, 잦은 업데이트 및 높은 파인튜닝 비용으로 인해 자체 구축이 API보다 저렴하다는 것을 오랜 시간 동안 입증하지 못할 수 있습니다.

따라서 오픈 웨이트 모델의 경제성에는 단일한 답이 없습니다.

이는 모델 규모, 사용 빈도, 인프라 활용률, 기업 엔지니어링 역량 및 데이터의 로컬 유지 필요성에 따라 달라집니다. 모델이 더 개방될수록 기업이 가진 선택지는 많아지지만, 부담해야 할 기술적 책임도 커집니다.

2. 다음 단계, 연산은 어디서 발생하는가?

만약 AI의 미래가 소수의 폐쇄형 모델에 의해 주도된다면, 학습과 추론은 계속 대형 클라우드 플랫폼과 초대규모 데이터센터에 집중될 것입니다.

그러나 오픈 웨이트 모델이 더 광범위하게 채택된다면, AI 연산은 사라지지 않고 소수의 중앙 노드에서 프라이빗 클라우드, 기업 데이터센터, 주권 데이터센터, 엣지 서버 및 개인 기기로 더욱 확산될 것입니다.

이는 시장이 주목해야 할 변수가 'GPU가 몇 개 필요한가'에서 'GPU가 어디에 배포되고, 누가 관리하며, 어떻게 호출되는가'로 옮겨간다는 것을 의미합니다.

폐쇄형 모델 시대에는 기업이 대부분의 복잡성을 모델 회사에 아웃소싱할 수 있었습니다. API를 연결하고 Token에 따라 비용을 지불하면 제공업체가 모델 업데이트, 인프라, 안전 정렬 및 일부 법적 책임을 담당했습니다.

멀티 모델 시대에 접어들면서 이러한 단순한 구조는 무너지기 시작했습니다.

기업은 가장 복잡한 작업을 최첨단 폐쇄형 모델에 맡기고, 고빈도 및 비용 민감 작업은 오픈 웨이트 모델에 맡길 수 있습니다. 민감한 데이터는 로컬에 유지하고, 일반 워크로드는 퍼블릭 클라우드에서 실행합니다. 일부 요청은 데이터센터에서 처리되고, 일부 요청은 컴퓨터, 휴대폰 또는 기타 엣지 디바이스에서 직접 처리됩니다.

모델 수가 많아지고 배포 위치가 분산될수록 기업의 AI 기술 스택은 더 복잡해집니다:

• 첫째, 게이트웨이 계층: 기업은 다양한 모델의 ID 인증, 호출 권한, 속도 제한, 로그 기록 및 공급업체 장애 조치를 관리하는 통합 진입점이 필요합니다.
• 둘째, 라우팅 계층: 시스템은 정확도, 지연 시간, 비용, 데이터 민감도 및 작업 난이도에 따라 각 요청을 가장 적합한 모델에 할당해야 합니다.
• 셋째, 오케스트레이션 계층: 복잡한 에이전트 워크플로우는 일반적으로 여러 모델, 데이터베이스 및 외부 도구의 협력이 필요하며, 단일 사용자 요청이 수십 개의 단계와 호출로 분해될 수 있습니다.
• 마지막으로, 관측 가능성 및 평가 계층: 기업은 모델 출력 품질, 응답 지연, Token 사용량, 실행 비용, 실패 원인 및 보안 위험을 지속적으로 추적해야 합니다.

이것이 오픈 웨이트 모델의 확산이 모델 제조사에게만 이익이 되지 않는 이유이기도 합니다.

기반 모델 자체가 더 쉽게 얻을 수 있게 되면, 기업은 '모델을 어떻게 안정적으로 프로덕션에 투입할 것인가'에 더 기꺼이 비용을 지불합니다. 모델 게이트웨이, 작업 라우팅, 에이전트 오케스트레이션, 데이터 거버넌스, 관측 가능성 및 보안 소프트웨어는 가치 사슬에서 압축하기 더 어려운 부분이 될 수 있습니다.

보안의 중요성은 특히 두드러집니다. 폐쇄형 모델이 중앙 집중식으로 실행될 때는 일부 보안 책임이 모델 연구소와 클라우드 플랫폼에 있습니다. 그러나 오픈 모델이 기업 로컬, 프라이빗 클라우드 및 엣지 디바이스로 진입하면 ID, 데이터, 엔드포인트, 모델 웨이트 및 실행 환경을 모두 독립적으로 보호해야 합니다.

기업은 직원이 민감한 데이터를 잘못된 모델로 보내는 것을 방지해야 할 뿐만 아니라, 각 모델이 어떤 데이터베이스에 액세스하고 어떤 도구를 호출할 수 있는지, 프롬프트 주입, 모델 증류, 웨이트 변조 또는 권한 남용에 취약한지 여부를 관리해야 합니다.

모델 배포가 분산될수록 공격 표면이 커지고, 모델 수가 많아질수록 거버넌스 비용이 높아집니다.

따라서 오픈 웨이트 모델이 진정으로 가져오는 것은 AI 인프라 가치의 소멸이 아니라, 가치가 단일 기반 모델 및 API 계층에서 전체 시스템 스택으로 점진적으로 확산되는 것입니다.

미래의 AI 지출은 더 이상 소수 기술 거대 기업의 초대형 학습 클러스터 구축으로만 나타나지 않을 수 있습니다. 기업의