Anthropic IPO에 투자하면 실업과 종말이 따라온다

원문은 블룸버그에서 발표되었으며, 저자는 Tom Orlik, Michael Deng, Dongmiao Zhang입니다

번역｜速递侠@Odaily

말하자면, AI 기업들의 이런 화법은 참으로 신선하다. Anthropic이 9월에 발표한 보고서에 따르면, AI가 미국 실업률을 12%에 가깝게 끌어올릴 수 있다. 같은 달, 이 회사의 한 과학자는 통제 불능의 AI 에이전트가 인류 멸종을 초래할 가능성이 있다고 밝혔다. 그리고 이 회사의 투자설명서도 같은 견해를 담고 있다.

"우리 IPO를 사세요. 그 돈으로 당신의 일자리를 빼앗고, 어쩌면 당신의 목숨도 앗아갈 겁니다"——이건 도무지 매력적인 초대처럼 들리지 않는다. 그런데 이상하게도 묘하게 끌리는 구석이 있다. 영리한 투자자라면 위험 헤지의 중요성을 안다. 새로운 AI 통치자들에게 맞설 수 없다면, 차라리 그들에게 합류하는 게 어떨까? 어쩌면 번 돈으로 벙커라도 지을 수 있을지 모른다.

이 모든 것은 수많은 질문을 불러일으킨다. 그중 하나는 이것이다. 이 밸류에이션은 합리적인가? Anthropic의 IPO는 올해 말(11월 16일이 있는 주)에 진행될 예정이며, 목표 밸류에이션은 2조 달러로 보도되었다——그렇게 되면 대만의 반도체 거인 TSMC와 일론 머스크의 SpaceX와 어깨를 나란히 하며 전 세계 시가총액 상위 10개 기업에 이름을 올리게 된다.

하지만 이는 시작에 불과하다. "대공황급" 실업을 위협하는 기술이라면, 투자할 가치가 있는 수준의 수익률은 얼마여야 할까? 만약 이 기술이 인류 멸종을 위협한다면? 마음에서 눈을 떼고 이성으로 돌아가 보자. 이렇게 많은 위험之下에서 각국 정부가 더 강한 개입에 나선다면, 오늘날 하늘을 찌르는 이익 예측은 여전히 유효할 수 있을까?

지식 노동의 시장

먼저 Anthropic이 가진 패를 살펴보자. 투자자들은 여전히 이 회사의 연환산 매출이 연말까지 1,000억 달러를 돌파할 것으로 예상한다. 이 회사의 5월 펀딩 라운드 기준 약 20배의 PSR(시가총액/매출 비율)을 적용하면, 실제로 2조 달러 밸류에이션이 도출된다.

지식 노동의 도달 가능한 시장 총량은 의심할 여지 없이 충분히 크다. Bloomberg Economics의 측정에 따르면, 중국을 제외한 글로벌 시장——즉 프로그래머, 경제학자(쿨럭) 및 기타 화이트칼라 노동자들의 소득 총합——은 약 30조 달러 규모다. Anthropic의 모델이 실제로 쓸모 있다면, 이 수입에서 몫을 나눠 받을 수 있을 것이다.

이 논리는 매력적이다. 설령 Anthropic의 연매출이 한 자릿수 더 올라 1조 달러까지 치솟는다 해도, 그것은 그 30조 달러라는 이른바 쟁탈 가능한 총량의 3%를 조금 넘는 수준에 불과하다. 하지만 거대한 시장 규모에 대한 상상이 항상 현실의 이익으로 이어지지는 않는다. 우리는 세 가지 장애물을 본다.

첫째, 이른바 "도달 가능한" 시장이 반드시 그렇게 쉽게 도달할 수 있는 것은 아니다. AI 연구자들은 종종 능력의 경계가 "톱니형(jagged frontier)"이라고 말한다. 모델은 어떤 일에서는 확실히 강하다. 예를 들어 코딩 같은 것. 다른 일에서는 약하다. 예를 들어 성패를 검증하기 어려운 작업, 혹은 물리적 세계와 맞닿아야 하는 일. 능력의 경계는 곧 수익성의 경계이기도 하다.

둘째, 설령 전체 파이가 크다 해도, 선두 모델 개발사가 그것을 제대로 차지할 수 있을지는 알 수 없다. AI의 공급망은 길다. 엔비디아가 칩을 설계한다. 삼성, SK하이닉스, TSMC가 제조를 맡는다. 오라클과 CoreWeave가 데이터센터를 짓는다. 에너지 기업이 전력을 공급한다. 그리고 금융, 컨설팅, 제조업에서 AI를 도입하는 기업들도 한몫을 나눠 가지려 한다.

이 모든 것은 이익 쟁탈전이 매우 치열하다는 것을 의미한다. Alphabet, 마이크로소프트 등 기술 기업들은 이미 공급망 전반에 걸쳐 포진해 있다. 이들은 클라우드 컴퓨팅, 광고, 기기 또는 칩의 수익으로 프런티어 연구를 지원하고, AI를 이미 수백만 고객에게 판매한 제품에 패키징할 수 있다. Anthropic과 OpenAI의 판은 훨씬 작고, 이익으로 가는 길도 더 적다.

셋째, 설령 최고 수준의 모델을 보유하는 것이 실제로 돈이 된다 해도, 그 최고의 자리를 지키기는 어렵다. Epoch Capabilities Index에 따르면, 2024년 이후 모델 선두 자리는 이미 20번이나 주인이 바뀌었고, 최고 모델이 프런티어에 머무는 시간은 약 7주에 불과하다. 순위표에 남는 것은 비싸다. 세대를 업데이트할 때마다 연구, 인프라, 컴퓨팅 파워에 또 한 번 거액을 쏟아부어야 한다.

한편, 중국의 개발사들과 오픈 웨이트 모델은 더 낮은 가격에 충분히 쓸 만한 시스템을 제공하고 있다. 블룸버그 뉴스에 따르면, Moonshot의 Kimi K3로 동일한 이커머스 사이트를 구축하는 비용은 Anthropic의 Claude Fable 5의 4분의 1에 불과하다. 설령 AI 거인들이 더 저렴한 중국 경쟁자들에게 밀려난다 해도, 그것이 미국 기업에게는 처음 있는 일은 아닐 것이다.

투자자들이 AI의 잠재 시장이 거대하다고 보는 것은 맞다. 하지만 그 시장이 얼마나 큰지, 그리고 선두 모델 개발사가 상당한 몫을 차지할 수 있을지는 아직 분명하지 않다. 최근 Anthropic과 OpenAI의 수익 데이터——성장 속도는 빠르지만 투자자 기대보다는 느린——는 이 궤적에서 작은 요철일 수도 있고, 조기 경고 신호일 수도 있다.

대규모 실업에서 인류 멸종까지

만약 AI가 정말로 수익 잠재력을 실현한다면, 그 대가는 대략 노동자들이 치러야 할 것이고, 그들이 나눠 받는 몫은 점점 작아질 것이다. Anthropic의 최근 보고서는 다음과 같은 시나리오를 그린다. 미국 GDP가 급등하고, 소득 중 자본에 귀속되는 몫이 약 40%에서 거의 55%로 상승하며, 실업률은 대공황 수준으로 치솟는다. 경제사를 잠깐만 들여다봐도 알 수 있듯이, 성장과 실업이 동시에 급등하는 것은 그리 가능성이 없다. 만약 모든 사람이 일자리를 잃는다면, 누가 그 늘어난 산출물을 사 줄 것인가?

AI가 대규모 실업을 초래할 수 있다는 점은 더 쉽게 공감대를 형성한다. 우리가 직업별로 AI가 실질적 역할을 할 수 있는 작업 비중을 기준으로 한 분석에 따르면, 약 26%의 미국 노동력——대략 4,500만 명——이 충격에 노출되어 있다. 그중 노출도가 가장 높은 것은 금융 분야의 노동자들이다. 데이터 분석, 결과 예측, 보고서 작성, 발표 자료 준비——이것은 월스트리트 애널리스트의 일상이며, 동시에 AI 능력이 가장 뛰어난 몇 가지 영역이기도 하다.

월스트리트가 실업을 외친다고 해서, 일반 독자들은 아마 가장 작은 바이올린을 꺼내 몇 번 켜 볼 뿐일 것이다. 더 진심 어린 우려를 원하는가? 그렇다면 이 이야기를 해 보자. AI가 인류 멸종을 초래하거나, 적어도 대규모 혼란을 야기할 수 있다는 것.

AI 에이전트가 통제를 벗어나 핵심 인프라에 사이버 공격을 감행할 수 있다. 테러리스트가 AI를 이용해 대량살상무기 확보를 앞당길 수 있다. 더 나아가 보면, 현실 세계와 인터페이스가 연결된 통제 불능의 AI 에이전트——예를 들어 자동화된 실험실——이 생물학 또는 화학 무기를 만들어낼 수 있다.

이러한 위험은 이미 전적으로 종이 위의 것이 아니다. 에이전트는 이미 디지털 샌드박스를 벗어났고, AI 플랫폼 Hugging Face와 호주 정부 웹사이트를 해킹했으며, 독일의 한 프로그래밍 위키를 방명록으로 바꿔버렸다.

한 가지 가능성은 이러한 실존적 위험이 과장되었다는 것이다. 아마도 AI는 업무에서 가치를 창출하고, 세상에서도 안전하며, 대다수 사람들은 더 나아질 것이고, AI 기업들은 그로부터 일부 수익을 나눠 가질 것이다. 물론 그것은 가능하며, 어쩌면 가장 가능성 높은 결과일지도 모른다. 인류 역사의 긴 흐름을 넓게 보면, 기술 진보는 언제나 번영의 엔진이었고, 기술 선도자들은 실제로 그중 일부의 과실을 거두어들였다.

더 냉소적인 시각은 이것이다. 만약 이러한 위험이 실재한다면, 그것은 오히려 투자 이유를 강화한다. 노동 소득이 내려가려 한다면, 더더욱 자본 수익을 확보해야 한다. 세계 종말에는 헤지 수단이 없지만, 대략적으로 보면 자원이 더 많은 사람이 마지막에서 두 번째 단계까지 더 오래 버틸 가능성이 가장 크다.

게임의 규칙

또 하나의 해석 각도가 있다——이 각도는 월스트리트를 더욱 안절부절못하게 만들 수 있다. 만약 현재의 AI 규제 불개입 방침이 오래 버티지 못한다면?

"나는 죽음이 되었다," 원자폭탄의 발명가 로버트 오펜하이머는 말했다. "세계의 파괴자." 바로 이 기술의 경외심을 불러일으키는 힘을 인식했기에, 해리 트루먼 대통령과 그의 후임자들은 원자력을 세계에서 가장 엄격하게 규제되는 산업 중 하나로 만들었다.

Anthropic의 연구원 Evan Hubinger는 지난달, 향후 10년 내 AI가 "모든 인류를 죽일" 확률이 10%라고 밝혔다. 마이크로소프트 창립자 빌 게이츠는 AI가 10억 명을 죽일 수 있다고 경고했다. 반면 도널드 트럼프 대통령은 별로 동요하지 않는 듯하며, AI의 빠른 발전을 우선순위에 두고 있다.

미국의 차기 대통령, 혹은 중간선거 이후의 트럼프 본인이 강경 노선으로 전환하기로 결정할 수도 있다. 결국, 대규모 실업과 인류 멸종 위험을 초래하는 기술을 위해 깃발을 흔드는 것은 어찌 보면 승리할 수 있는 정치적 입장처럼 보이지 않는다.

규제의 방향 전환은 이미 조짐이 보이고 있다. 2026년 초, Anthropic의 Mythos는 한때 임시로 짜맞춘 봉쇄 프레임워크에 갇히기도 했다. 그 Fable 모델의 논란이 된 탈옥 사건은 광범위한 수출 통제를 불러왔고, 사실상 해당 시스템을 오프라인 상태로 만들었다. 트럼프는 이미 선두 AI 기업에 대한 독립 감사와 내부 안전 관리 통제를 지지한다고 밝혔다.

정치적 풍향이 더욱 바뀐다면, 엄격한 허가 제도로 인해 새 모델 출시가 거북이 걸음으로 늦춰질 수도 있다. 규제는 이 분야를 더 이상 서부 개척지처럼 보이지 않게 하고, 우리가 엄격히 관리하는 원자력 발전소나 공항에 더 가깝게 만들 수 있다. 심지어 국유화도 시야에 들어올 수 있다——미국 정부는 이전에 이미 인텔 지분을 보유한 바 있다.

원자력 발전소를 짓는 기업의 투자자들은 돈을 번다. 하지만 고도로 규제된 산업에서 그들은 초과 수익을 기대하지 않는다. AI 투자자들은 이제 걱정을 시작하고, 폭탄을 사랑하지 않는 법을 배워야 할지도 모른다.