Coinbase CEO：デフォルトモデルとルーティングメカニズムの最適化によりAIコストを制御、トークン使用量の増加と支出削減を両立

Odaily　Odaily星球日报訊 Coinbaseの最高経営責任者（CEO）であるブライアン・アームストロング氏はXプラットフォームへの投稿で、Coinbase社内において、チームはトークン使用量が指数関数的に増加する一方でAI関連支出を安定させる方法を模索しており、その実現方法は利用制限や頻繁なコスト通知ではなく、より優れたシステム設計に依存していると述べた。

同氏は、Coinbaseが主に5つの側面からAI利用コストを最適化していると指摘する。まず第一に「より優れたデフォルトモデル」であり、エンジニアが自由にモデルを選択できるようにしつつも、システムはデフォルトでより低コストなオープンソースの重みモデル（GLM 5.2、Kimi 2.7など）へと誘導するが、それでもタスクごとに適切なモデルを選択することを推奨している。第二に「スマートルーティング」であり、人間による選択ではなく、タスクの種類、キャッシュヒット率、モデル価格に基づいて最適なモデルを自動的に割り当てる自動化システムによるものである。

第三に「キャッシュ最適化」であり、キャッシュヒット率を向上させることで重複計算コストを大幅に削減する。第四に「コンテキストの簡素化」であり、タスク切り替え時に無駄なトークン消費を削減し、不必要なツール呼び出しを制限する。第五に「視覚的な透明性」であり、エンジニアが自身の利用状況を明確に把握できるようにするが、利用を抑制するための制限は設けない。

ブライアン・アームストロング氏は、目標はAIの利用を抑制することではなく、指数関数的な成長を支えられるインフラを構築することだと述べている。その実践結果として、トークン使用量が継続的に増加する中で、全体的なAI支出はほぼ半減していることが示された。