“トークン横領」がAI商用化における新たなリスクになりつつある

昨年、AIエージェント（AI Agent）は技術デモの段階から徐々に本格的なビジネスシーンへと移行しつつあります。様々な「ロブスター」の爆発的な登場に伴い、情報検索、ツール呼び出し、サービス連携、さらにはユーザーに代わって複雑なワークフローを完遂できるなど、自律的にタスクをこなすAI製品が増えています。Stripeのグローバルデータ・AI責任者であるEmily Glassberg Sands氏が指摘するように、AIはツールからインターネット上の新たな経済プレーヤーへと進化しています。つまり、エージェントは単にコンテンツを生成するだけでなく、買い手や取引を主導する役割を担い始めているのです。しかし、この新しいモデルは新たな問題、すなわちトークンの悪用も引き起こします。Emily氏は、これが現在のAI業界において最も過小評価されている問題の一つであると強調しています。

AI時代の新たな盗難：標的はお金ではなくトークン

従来のインターネット時代におけるサイバー犯罪の最終目標は、ユーザーのクレジットカード情報を盗み、不正に現金化することでした。しかし、今日の多くのAI企業にとって、攻撃者の標的は変化しています。彼らが狙うのはアカウントの残高ではなく、その背後にある高価な推論リソース、モデル能力、そしてトークン枠です。これに関連する不正行為には通常、無料トライアル枠の乱用（新規ユーザー特典の繰り返し取得）とアカウントの悪用（不正アカウントの大量登録による利益拡大）の2種類があります。Stripeの公式データによると、Stripe上で稼働するAIサービスにおける無料トライアルの乱用は、6ヶ月で倍以上に急増しており、登録試行6回に1回は悪意のある行為によるものです。

Stripeのグローバルデータ・AI責任者Emily Glassberg Sands氏が、登録試行に含まれる悪意ある行為のデータを共有

従来のSaaS企業とは異なり、エージェントが取引に参加しタスクを実行するようになると、トークン悪用による破壊力はさらに拡大します。その核心的な理由は、エージェントの計算リソース消費速度が実ユーザーをはるかに上回ることにあります。悪意のあるスクリプトは数時間で、従来数週間分のトークンコストを消費する可能性があります。攻撃者が自動化ツールを利用して次々と新しいアカウントを作成し、無料トークン枠を搾り尽くし、実際の請求が発生する前に「姿を消す」ことができれば、AI企業が被る損失は単なる遊休サーバーリソースだけではありません。それは確実なキャッシュフローと利益の喪失に直結します。Stripeは、無料トライアル乱用の増加傾向において、AI企業が最大のシェアを占めていると報告しています。SaaS企業と比較して、セルフ登録とAPI公開を提供するAIスタートアップが直面する乱用の規模は、実に10倍にも上ります。

セルフ登録とAPI公開を提供するAIスタートアップの無料トライアル乱用は、エンタープライズ向けAIソリューションよりも著しく高い

このリスクは、グローバル展開を積極的に進める中国のAI企業にとっても致命的です。ここ数年、生まれながらにしてグローバル路線を歩むAI起業家や海外進出チームは、モデル能力とグローバルなユーザーベースの成長に最も注力してきました。しかし、無料トライアル、従量課金制、エージェントサービスモデルを採用する企業が増えるにつれ、トークンの乱用やリソースの不正使用といった悪意ある行為への対策は、収益化プロセスにおいて直面せざるを得ない課題となっています。グローバル市場では、攻撃はしばしば地域、身分、支払い方法を横断する自動化されたネットワークとして現れ、その複雑さは従来のクレジットカード不正利用をはるかに凌ぎます。製品設計の初期段階で事前に防御策を講じなければ、企業のグローバル化は「成長すなわち出血」というジレンマに陥りやすくなります。

不正の標的が資金からリソースへと移行する中、リスク管理体制もアップグレードが必要

絶えず変化する不正の手口に対応するため、Stripeの不正対策製品Radarは過去最大のアップグレードを実施しました。このアップグレードは、単にルールを追加するだけではなく、エージェント経済に真に適応した新しいリスク管理体制を基盤から構築することを目的としています。その効果は顕著で、わずか1ヶ月の間に、Stripe Radarは高い成長段階にある8つのAI企業において、330万回以上のリスクの高い登録試行の阻止に成功しました。

製品設計において、Radarはまず防御ラインを前方にシフトし、アカウント作成段階から複数アカウントの悪用を特定します。システムは、Stripeのグローバルネットワークに蓄積されたデバイスフィンガープリント、IPアドレス、メールドメインなどの過去のリスクシグナルをリアルタイムで組み合わせ、新規登録アカウントごとに即座に評価を行います。無料枠が消費される前に、潜在的な乱用リスクは既に遮断されています。著名な音声AI企業ElevenLabsは、まさにこの前方防御能力を活用し、毎日約2,000の無料トライアルを悪用しようとする不正アカウントを正確にブロックし、企業のコアとなる計算リソースを保護しています。

次に、AI業界で広く採用されている「従量課金制」の課金シナリオに対応して、Radarは悪意のある未払いリスクの予測機能を新たに追加しました。以前は、企業は月末の請求が滞って初めて「ただ乗り」の不正利用者に気づくことができました。しかし現在では、システムがリソースの消費が続く過程で、そのユーザーに支払い拒否のリスクがないかどうかを予測できます。異常が検出されると、企業は自動的に前払い要求をトリガーしたり、同時リクエスト数の上限を動的に引き下げたり、サービスインターフェースを直接停止したりすることで、損失を最小限に抑えることができます。

さらに、エージェントコマース（Agentic Commerce）の浸透が加速するにつれ、Stripeはユーザーから承認を得た正当なエージェントと、悪意のある「お得目当て」のボットを区別するため、より精緻なリスク指標の構築も試みています。Radarは、機械による取引行動に対してリスクスコアを生成し、企業が自動化機能を利用してリソースを買い占めたり、プロモーションを悪用したり、取引ルールを回避しようとする悪意ある行為を特定するのを支援します。

AIの進化の流れを俯瞰すると、エージェントがもたらす最大の変化は、人間に代わっていかに多くの雑務を処理できるかという点だけではないかもしれません。むしろ、機械自体が自律的にリソースを消費し、経済的価値を生み出し、さらには取引に参加し主導するようになった点にあります。エージェントが取引に参加し、あるいは取引そのものを構築し始めると、必然的にリスクもそこに移行します。

資金の盗難からリソースの盗難へ、従来の支払い詐欺から巧妙なトークンの悪用へ。AI時代は、ビジネスの根底にあるルールを再構築しつつあります。グローバル競争の嵐の只中にあるAI企業にとって、これらのルールを守るために次世代のリスク管理基盤を活用する方法を理解することは、AI技術の限界を探求することと同様に重要になっています。Stripeは、その巨大なグローバル運営規模とAI分野における継続的な観察と投資を基盤に、グローバル企業のAI時代における長期的な成長を支援します。

Stripeについて

Stripeは、世界中の何百万もの企業にプログラム可能な金融サービスを提供しています。何千万もの企業がStripeを利用して、オンラインおよびオフラインの決済手段を構築し、自社プラットフォーム内に金融サービスを組み込み、革新的で柔軟な収益モデルを構築し、より収益性の高いビジネスを展開しています。

Stripeはサンフランシスコとダブリンに本社を置き、年間の取扱高は1.9兆米ドルを超え、これは世界のGDPの約1.6%に相当します。Stripeのユーザーは、ほぼすべての主要なAI企業、ダウ平均株価構成銘柄の90%、フォーブスAI 50の86%をカバーしています。

Stripeは、その巨大なグローバル運営規模と、特にAIおよびブロックチェーン分野における研究開発への継続的な投資により、最先端テクノロジーの世界経済における応用と実装を加速させています。