AnthropicのIPOを買う、それは失業と終末を買うことだ

原文はBloombergより、著者 Tom Orlik、Michael Deng、Dongmiao Zhang

翻訳｜速递侠＠Odaily

言うまでもなく、AI企業のこの種の売り文句は確かに目新しい。Anthropicが9月に発表したレポートによると、AIは米国の失業率を12%近くまで押し上げる可能性がある。同月、同社の科学者は、制御不能になったAIエージェントが人類の絶滅を引き起こす可能性があると述べた。そしてこの会社の目論見書も同じ見解を示している。

「私たちのIPOを買ってください。その資金で私たちはあなたの仕事を奪い、もしかしたらあなたの命も奪うかもしれません」——とても魅力的な誘い文句には聞こえない。しかし不思議なことに、そこにはねじれた吸引力がある。賢明な投資家はリスクヘッジの重要性を理解している。新しいAIの支配者に勝てないのなら、彼らに加わればいいではないか？もしかしたら稼いだ金で地堡（バンカー）を建てられるかもしれない。

これらすべてから多くの疑問が生じる。その一つは、この評価額は妥当なのかということだ。AnthropicのIPOは今年後半（11月16日の週）に予定されており、目標評価額は2兆ドルと報じられている。それが実現すれば、世界の時価総額上位10社に名を連ね、台湾のチップ大手TSMCやイーロン・マスクのSpaceXと肩を並べることになる。

しかしこれはまだ始まりに過ぎない。「大恐慌級」の失業を脅かす技術には、投資する価値があるほどのリターンが必要なのか？もしこの技術が人類の絶滅を脅かすものだったら？心から頭に目を移そう。これほど多くのリスクがある中で、各国政府がより強い介入に踏み切ったとしたら、今日高くそびえる利益予測は持ちこたえられるのか？

知識労働の市場

まずAnthropicが持つカードについて。投資家は依然として、同社の年率換算売上が年末までに1,000億ドルを突破すると予想している。同社の5月の資金調達ラウンドにおける約20倍の市販率（PSR）に基づけば、確かに2兆ドルの評価額が導き出せる。

知識労働の到達可能な市場総量は疑いなく十分に大きい。Bloomberg Economicsの試算によると、中国を除く世界市場——つまりプログラマー、エコノミスト（咳）、その他のホワイトカラー労働者の収入の合計——は約30兆ドルに達する。Anthropicのモデルが実際に機能する限り、この収入の一部を手にすることはできるだろう。

この論理は魅力的だ。たとえAnthropicの年率売上がさらに一桁上がって1兆ドルに達したとしても、それはあの30兆ドルという「争奪可能な総量」の3%強に過ぎない。しかし、壮大な市場規模の想像が必ずしも現実の利益になるとは限らない。私たちは3つのハードルを見ている。

第一に、「到達可能」と言われる市場が、必ずしもそれほど容易に実際に到達できるとは限らない。AI研究者は能力の境界を「ギザギザの frontier（jagged frontier）」とよく表現する。モデルはコードを書くことなど、ある事柄では確かに強いが、成否の検証が難しいタスクや、物理世界と関わる必要がある作業など、他の事柄では弱い。能力の境界は、同時に収益性の境界でもある。

第二に、たとえ全体のパイが大きくても、 leading なモデル開発企業がそれを確実に手にできるかは分からない。AIのサプライチェーンは長い。NVIDIAがチップを設計する。Samsung、SKハイニックス、TSMCが製造を担う。OracleとCoreWeaveがデータセンターを建設する。エネルギー企業が電力を供給する。そして金融、コンサルティング、製造業では、AIを採用する企業自身も分け前を狙っている。

これらすべては、利益争奪戦が極めて激烈であることを意味する。AlphabetやMicrosoftなどのテクノロジー企業はすでにサプライチェーン全体に布陣している。彼らはクラウドコンピューティング、広告、デバイス、あるいはチップの収益で最先端研究を養い、AIをすでに数百万の顧客に販売している製品に組み込むことができる。AnthropicとOpenAIの基盤ははるかに小さく、利益への道も少ない。

第三に、たとえ最先端モデルを提供することが確かに儲かるとしても、その最先端の座を守り続けることは難しい。Epoch Capabilities Indexによると、2024年以来、モデルの首位はすでに20回交代しており、最先端モデルがフロンティアにとどまる期間は約7週間に過ぎない。ランキングにとどまるにはコストがかかる。世代を更新するたびに、研究、インフラ、計算資源に巨額を再投入する必要がある。

一方、中国の開発者とオープンウェイトモデルは、より低い価格で十分に使えるシステムを提供している。Bloomberg Newsが発見したところによると、MoonshotのKimi K3で同じEコマースサイトを構築するコストは、AnthropicのClaude Fable 5の4分の1に過ぎない。たとえAI巨人がより安価な中国の競合他社に打ち負かされたとしても、それは米国企業にとって初めてのことではない。

投資家がAIの潜在市場は巨大だと考えるのは正しい。しかし、この市場が実際にどのくらいの大きさなのか、そして leading なモデル開発企業が相当な部分を切り取れるのかは、まだはっきりしない。最近のAnthropicとOpenAIの収益データ——成長は速いが投資家の予想よりは遅い——は、この軌道上の小さな凸凹なのか、それとも早期警告のシグナルなのかもしれない。

大規模失業から人類絶滅まで

もしAIが本当にその収益ポテンシャルを実現したら、その代償はおそらく労働者が払うことになり、彼らが受け取るパイはますます小さくなるだろう。Anthropicの最近のレポートは、米国のGDPが急上昇し、収入のうち資本に帰属する割合が約40%から55%近くに上昇し、失業率が大恐慌水準に跳ね上がるというシナリオを描いている。経済史を一目見れば分かる通り、成長と失業が同時に急上昇することはあまりあり得ない。もし全員が仕事を失ったら、誰があの余剰生産物を買うのか？

AIが大規模失業を引き起こす可能性があるということについては、より容易にコンセンサスが得られる。私たちが、AIが実質的な役割を果たせるタスクの職業別割合に基づいて行った分析によると、米国の労働力の約26%——約4,500万人——が影響にさらされている。最も露出度が高いのは金融分野の労働者だ。データを分析し、結果を予測し、レポートを書き、プレゼン資料を準備する——これはウォール街のアナリストの日常であり、まさにAIが最も得意とする分野のいくつかでもある。

ウォール街が失業を叫んでも、一般の読者はおそらく最小のバイオリンを取り出してちょっと弾くだけだろう。もっと心に響く心配が欲しい？ならばこれを試してみてほしい。AIは人類の絶滅、あるいは少なくとも大規模な混乱を引き起こす可能性がある。

AIエージェントが制御不能になり、重要インフラに対してサイバー攻撃を仕掛ける可能性がある。テロリストはAIを利用して大量破壊兵器の入手を加速させる可能性がある。さらに先を見れば、現実世界とのインターフェースを持つ制御不能なAIエージェント——例えば自動化された実験室——が生物兵器や化学兵器を製造する可能性がある。

これらのリスクはもはや完全に紙の上のものではない。エージェントはすでにデジタルサンドボックスから抜け出し、AIプラットフォームのHugging Faceやオーストラリア政府のウェブサイトにハッキングし、ドイツのプログラミングWikiを掲示板に変えてしまった。

一つの可能性は、これらの存亡的リスクが誇張されているということだ。おそらくAIは仕事で価値を生み出し、世界においても安全であり、大多数の人々はより良い生活を送り、AI企業はそこから収益の一部を手にするだろう。これはもちろん可能であり、おそらく最も可能性の高い結果ですらある。人類史の長い流れを見渡せば、技術の進歩は常に繁栄のエンジンであり、技術の先導者たちは確かにその恩恵の一部を収穫してきた。

よりシニカルな見方はこうだ。もしこれらのリスクが本当なら、それらはかえって投資の理由を強化する。労働収入が下がるなら、なおさら資本収益を確保すべきだ。世界の終末にはヘッジ手段はないが、概して言えば、より多くの資源を持つ人が「倒数第二阶段」でより長く持ちこたえられる可能性が最も高い。

もう一つの解釈の角度がある——この角度はウォール街をより落ち着かなくさせるかもしれない。もし現在のAI規制に対する不干渉のアプローチが長く続かないとしたら？

「私は死となった」と、原子爆弾の発明者ロバート・オッペンハイマーは言った。「世界の破壊者。」まさにこの技術の畏怖すべき力を認識したからこそ、ハリー・トルーマン大統領とその後継者たちは原子力を世界で最も厳しく規制された産業の一つに変えたのだ。

Anthropicの研究者Evan Hubingerは先月、今後10年間にAIが「すべての人類を殺す」確率は10%あると述べた。Microsoft創業者のビル・ゲイツはAIが10億人を殺す可能性があると警告した。一方、ドナルド・トランプ大統領は動じる様子もなく、AIの急速な発展を優先事項に位置づけている。

米国の次期大統領、あるいは中間選挙後のトランプ自身が、強硬路線に転じることを決めるかもしれない。何しろ、大規模失業と人類絶滅のリスクを引き起こす技術のために旗を振ることは、どう見ても勝てる政治的立場とは思えない。

規制の揺り戻しはすでに兆しを見せている。2026年初頭、AnthropicのMythosには一時的に間に合わせの封じ込め枠組みが適用された。そのFableモデルの一連の論争的なジェイルブレイク事件は広範な輸出規制を招き、事実上そのシステムをオフラインにした。トランプはすでに、大手AI企業に対する独立監査と内部安全統制を支持する姿勢を示している。

政治風向きがさらに変化すれば、厳格な許可制度によって新モデルのリリースが亀の歩みになる可能性がある。規制はこの分野をもはや西部の荒野ではなく、私たちが厳しく管理する原子力発電所や空港のようなものにするかもしれない。国有化すら視野に入る可能性がある——米国政府はすでにIntelに株式を保有している。

原子力発電所を建設する企業に、投資家はお金を払う。しかし高度に規制された産業では、彼らは超過リターンを期待しない。AI投資家はそろそろ心配し始めるべきかもしれない。そして爆弾を愛さないことを学ぶべきだ。