“Token 도용”이 AI 상업화의 새로운 위험으로 떠오르고 있다

지난 1년 동안, AI 에이전트는 기술 시연 단계를 넘어 실제 상업 현장에 점차 진입하고 있습니다. 다양한 "랍스터"의 폭발적인 등장과 함께, 점점 더 많은 AI 제품이 자율적으로 작업을 완료할 수 있는 능력을 갖추기 시작했습니다. 정보 검색, 도구 호출, 서비스 연결은 물론, 사용자를 대신해 복잡한 워크플로우를 수행할 수 있게 된 것입니다. Stripe의 글로벌 데이터 및 AI 책임자인 Emily Glassberg Sands가 관찰한 바와 같이, AI는 도구에서 인터넷 속 새로운 형태의 경제 참여자로 진화하고 있습니다. 즉, 에이전트는 더 이상 콘텐츠를 생성하는 데 그치지 않고, 구매자 역할을 수행하거나 심지어 거래를 주도하기 시작했습니다. 그러나 이러한 새로운 패러다임은 새로운 문제, 즉 토큰 도용을 낳고 있습니다. Emily는 이것이 현재 AI 업계에서 가장 과소평가된 문제 중 하나일 수 있다고 강조합니다.

AI 시대의 새로운 유형의 도난: 노리는 것이 돈이 아닌 토큰

전통적인 인터넷 시대의 블랙 해커(Black-hat) 및 그레이 해커(Grey-hat) 조직은 궁극적으로 사용자의 신용카드 정보를 탈취하여 불법 현금화하는 것을 목표로 삼았습니다. 그러나 오늘날 많은 AI 기업의 경우, 공격자의 목표는 변화했습니다. 그들이 탐내는 것은 더 이상 계좌의 자금 잔액이 아니라, 그 이면에 있는 고가의 추론 리소스, 모델 성능, 그리고 토큰 할당량입니다. 이와 관련된 사기 방식은 일반적으로 두 가지입니다. 첫째는 무료 체험 할당량 남용, 즉 반복적으로 신규 사용자 혜택을 청구하는 것이고, 둘째는 계정 남용, 즉 대량으로 가짜 계정을 등록하여 이익을 극대화하는 것입니다. Stripe의 공식 데이터에 따르면, Stripe에서 운영되는 AI 서비스 중 무료 체험 남용 사례는 6개월 만에 두 배 이상 급증했으며, 매 6번의 가입 시도 중 1번은 악의적인 행위자에 의한 것입니다.

Stripe 글로벌 데이터 및 AI 책임자 Emily Glassberg Sands가 가입 시도의 악의적 행위 데이터 공유

전통적인 SaaS 기업과 달리, 에이전트가 거래에 참여하고 작업을 수행하기 시작하면서 토큰 도용의 파괴력은 더욱 커질 것입니다. 핵심 이유는 에이전트의 컴퓨팅 리소스 소모 속도가 실제 사용자보다 훨씬 빠르기 때문입니다. 악성 스크립트 하나가 몇 시간 만에 과거 몇 주 동안 발생했을 토큰 비용을 소모할 수 있습니다. 공격자가 자동화 도구를 이용해 지속적으로 새 계정을 만들고, 무료 토큰 할당량을 무차별적으로 소진시킨 후, 실제 청구서가 생성되기 전에 "사라질" 수 있다면, AI 기업이 잃는 것은 유휴 서버 리소스뿐만 아니라, 실제 현금 흐름과 수익 마진입니다. Stripe는 무료 체험 남용 증가 추세에서 AI 기업이 가장 큰 비중을 차지한다는 것을 관찰했습니다. SaaS 기업에 비해, 셀프 가입을 제공하고 API를 개방한 AI 스타트업이 직면한 남용 상황은 무려 10배나 더 높았습니다.

셀프 가입 및 개방형 API를 제공하는 AI 스타트업이 경험하는 무료 체험 남용이 기업용 AI 솔루션보다 현저히 높음

이러한 위험은 글로벌 진출을 적극적으로 추진 중인 중국 AI 기업에게도 치명적입니다. 지난 몇 년간, 처음부터 글로벌 전략을 취해온 AI 창업자들과 해외 진출 팀이 가장 관심을 가졌던 것은 모델 역량과 글로벌 사용자 기반 성장이었습니다. 그러나 점점 더 많은 기업이 무료 체험, 사용량 기반 과금, 그리고 에이전트 서비스 모델을 채택함에 따라, 토큰 남용, 리소스 도용 등의 악의적 행위를 방지하는 방법은 상업화 과정에서 반드시 직면해야 할 문제가 되었습니다. 글로벌 시장 환경에서 공격은 종종 지역, 신원, 지불 방식을 넘나드는 자동화된 네트워크의 형태를 띠며, 그 복잡성은 전통적인 신용카드 불법 복제 행위보다 훨씬 높습니다. 제품 설계 초기 단계에서 미리 방지하지 못하면, 기업의 글로벌화 발걸음은 "성장이 곧 출혈"이라는 난국에 빠지기 쉽습니다.

사기 대상이 자금에서 리소스로 바뀌면서, 리스크 관리 업그레이드도 시급해지다

끊임없이 변화하는 사기 방식에 대응하기 위해, Stripe의 사기 방지 제품 Radar는 역사상 가장 큰 규모의 업그레이드를 단행했습니다. 이번 업그레이드는 단순히 몇 가지 규칙을 추가하는 것이 아니라, 근본부터 에이전트 경제에 진정으로 적합한 새로운 리스크 관리 체계를 구축하는 것입니다. 데이터의 피드백은 매우 직관적입니다. 단 한 달 만에 Stripe Radar는 고성장 단계에 있는 8개의 AI 기업이 330만 건이 넘는 고위험 가입 시도를 성공적으로 차단할 수 있도록 지원했습니다.

제품 설계에 있어 Radar는 먼저 방어선을 전방으로 배치하여, 계정 생성 단계에서부터 다중 계정 남용 행위를 식별하기 시작합니다. 시스템은 Stripe 글로벌 네트워크에 축적된 기기 지문, IP 주소, 이메일 도메인 등의 과거 리스크 신호를 실시간으로 결합하여, 새로 등록된 모든 계정을 실시간으로 평가합니다. 무료 할당량이 소모되기 전에 잠재적인 남용 위험이 이미 차단되는 것입니다. 유명 음성 AI 기업 ElevenLabs는 바로 이 전방 대응 능력을 활용하여 매일 약 2,000개의 무료 요금제를 남용하려는 가짜 계정을 정밀하게 차단함으로써 기업의 핵심 컴퓨팅 리소스를 크게 보호하고 있습니다.

둘째, AI 업계에서 널리 채택되고 있는 "사용량 기반 과금" 시나리오를 겨냥하여, Radar는 악성 미납 리스크에 대한 예측 기능을 새롭게 추가했습니다. 과거에는 기업이 월말에 연체된 청구서를 확인해야만 "먹튀" 사기꾼을 발견할 수 있었습니다. 그러나 이제 시스템은 리소스가 지속적으로 소모되는 과정에서 해당 사용자에게 지불 거절 위험이 있는지 사전에 예측할 수 있습니다. 이상 징후가 발견되면, 기업은 자동으로 선불 요구를 트리거하거나, 동시 요청 한도를 동적으로 낮추거나, 서비스 인터페이스를 직접 중단시켜 손실을 최소화할 수 있습니다.

또한, 에이전틱 커머스(Agentic Commerce)의 가속화된 확산에 따라, Stripe는 사용자로부터 승인을 받은 에이전트와 악성 "혜택 챙기기" 봇을 구분하기 위해 더 정교화된 리스크 척도를 구축하기 시작했습니다. Radar는 기계 거래 행동에 대한 리스크 점수를 생성하여, 기업이 자동화 능력을 이용해 리소스를 선점하거나, 프로모션 정책을 남용하거나, 거래 규칙을 우회하려는 악의적 행위를 식별할 수 있도록 돕습니다.

AI의 진화 과정을 살펴보면, 에이전트가 가져온 가장 큰 변화는 인간을 대신해 얼마나 많은 복잡한 작업을 수행하는지에 있는 것이 아니라, 기계 자체가 독립적으로 리소스를 소비하고, 상업적 가치를 창출하며, 심지어 거래의 발생에 직접 참여하고 주도하기 시작했다는 점에 있을 수 있습니다. 에이전트가 거래에 참여하고 구축하기 시작하면, 위험도 필연적으로 따라 이동하게 됩니다.

자금 탈취에서 리소스 도난으로, 전통적인 지불 사기에서 은밀한 토큰 도용으로, AI 시대는 근본적인 상업 규칙을 재구성하고 있습니다. 글로벌 경쟁의 소용돌이 한가운데 있는 AI 기업에게 새로운 세대의 리스크 관리 인프라를 활용하여 이러한 규칙을 수호하는 방법을 아는 것은 AI 기술의 경계를 탐구하는 것만큼이나 중요해졌습니다. Stripe는 방대한 글로벌 운영 규모와 AI 분야에 대한 지속적인 관찰 및 투자를 바탕으로, 글로벌 진출 기업이 AI 시대에 장기적인 성장을 이어갈 수 있도록 지원할 수 있습니다.

Stripe 소개

Stripe는 전 세계 수천만 기업에 프로그래밍 가능한 금융 서비스를 제공합니다. 수천만 개의 기업이 Stripe를 통해 온라인 및 오프라인 결제 채널을 구축하고, 자체 플랫폼 내에 금융 서비스를 임베드하며, 혁신적이고 유연한 수익 모델을 만들고, 더 수익성 높은 비즈니스를 발전시키고 있습니다.

Stripe는 샌프란시스코와 더블린에 본사를 두고 있으며, 연간 처리하는 결제 총액은 1조 9천억 달러를 넘어 전 세계 GDP의 1.6%에 해당합니다. Stripe의 사용자는 거의 모든 주요 AI 기업, 다우존스 산업평균지수 기업의 90%, 그리고 포브스 AI 50 선정 기업의 86%를 포함합니다.

Stripe는 방대한 글로벌 운영 규모와 연구 개발(특히 AI 및 블록체인 분야)에 대한 지속적인 투자를 바탕으로, 최첨단 기술이 글로벌 경제에 실질적으로 적용되는 것을 가속화하고 있습니다.