一位匿名研究者による46の暴論：AIがすべてを覆す、核抑止力と人類の支配を含めて

原文著者：bayeslord

原文翻訳：深潮 TechFlow

イントロダクション： bayeslord（@bayeslord）は、AI×暗号通貨界隈で匿名ながら影響力のあるアカウントであり、商品販売やトレンド追跡はせず、スケーリング則やアルゴリズムの深さといった技術的核心を追求している。

このブロガーは最近、46項目からなるリストを発表し、テクノロジー、AI、および関連技術の将来の発展について推測している。誰もが過去の効率曲線でAIを理解しており、真の飛躍はまだ訪れておらず、知能生産にはあと4～10桁分の余地が残っている可能性があると述べている。

彼はアルゴリズムの加速からロボット、資本、永続的下層階級に至るまで話を進め、最後に最も鋭い点に到達する：相互確証破壊（MAD）が無効になり、軍や警察が自動化され、AIラボが国有化される可能性について語る。

元の投稿はすでに約100万回閲覧されている。見解は極端だが、各項目は比較的自己整合的であり、テクノロジー全般に関心のある読者にとって一読の価値がある。

このリストは、私が6月4日に投稿したツイートスレッドに基づいており、修正と追加を加えたものだ。何人かが元の投稿は読みにくいと言ったので、このバージョンに整理した。

知能

1. アルゴリズムの進歩は皆を不意を突くことになるだろう。世界全体——市場、政府、軍、企業、個人——は、ここ数年の生産効率と法則を用いてAIの影響を理解し、物事がどのように進むかを判断している。再帰的自己改善を信じていると公言する新しいラボでさえ、これは単にループ内でエージェントが回転する従来のやり方だと考えている。そうではない。私は、知能生産にはまだ多くの桁数の余裕があり、おそらく最大10桁、より可能性が高いのは4～7桁の余地が残っていると推測している。原則として10桁を超えることも不可能ではないが、それは物理法則が実際に許容する上限に激しく衝突するだろう。可能性は低いが、排除はされていない。もしこの判断が正しければ、物事の実際の展開は表面的な見方とは異なり、大きな飛躍が迫っている。この方向で起こるいかなる出来事も、世界をほとんどの人が価格付けしているものよりもはるかに異質なものにするだろう。

2. 私たちは離陸の初期段階にいる。AIがAIを改善することは、最終的には歴史上最も影響力の大きい一歩になるかもしれない。これは確約できることではない。なぜなら、私たちは知能の物理的限界と計算上の限界からどれだけ離れているかを知らないからだ。しかし、私はまだ遠いと賭ける（先述の通り、単位計算あたりの知能出力をさらに4～10桁絞り出すことは可能と思われる）。

3. 離陸段階に入った以上、アルゴリズム研究は加速している。計算能力は依然として希少なリソースだが、研究者の時間の機会費用は低下している。なぜなら、どんなタスクでも、たとえ無駄なことであっても、エージェントを直接派遣して実行させることができるからだ。それが何かを持ち帰ってくるかもしれない。すべての新しいアイデアには「最適化負債」が伴い、今やこの負債は監視されないトークン消費で返済できる。膨大な研究スケーリング則の曲線が、一つ一つ踏破されていくことになる。

4. AIモデルは、特に最先端モデルにおいて、継続的に強化されていく。唯一の真の壁は物理である。モデルはますます自律的で賢くなり、常に改善され続けている。数学とコードは規模拡大による強化学習によって攻略されつつあり、残りはその後ろに続いている。「検証可能」と「検証不可能」の区別は、意味のある境界として徐々に消えていく。今後、自動化されたAI研究とAI学習はますます同一のものになっていくだろう。モデルをうまく訓練することは、本質的にモデル自身がうまく学習することと密接に関連している。サンプル効率、創造性、その他すべての制約は解決され、任意の規模でアルゴリズム最適に近づいていく。

5. 長時間タスクのエージェントには同等の長さの訓練データが必要だという考えは間違いである。なぜなら、時間軸に沿った汎化が存在するからだ。長時間タスクは、「長い」という属性の積み重ねによって形成されるわけではない。これはLeCunの（1-e）^n誤差蓄積の誤謬に関連している。実際に起こっているのは誤り訂正である。誤り訂正は複数のスケールで同時に行われ、個々のトークン生成のレベルから、長時間タスクの各ステップに至るまで及ぶ。METRのグラフが上昇している理由の一つは、エージェントが誤り訂正の脱出速度に達し始めていることにある。

6. 工学的レベルの深層学習科学が間もなく登場するだろう。それは私たちをAIのアルゴリズム成熟期へと、ほとんどの人の予想よりもはるかに速い速度で押し進めるだろう——先述の通り、この道が原則としてどこまで行けるかは不明だが。例えば、スケール不変性を研究する科学は、有用な実験の規模とリターンを大幅に向上させるだろう。なぜなら、1つのGPUでの実験が、10万個のGPUで何が起こるかを教えてくれるからだ。

7. 技術的な人間活動のあらゆる分野に、独自の「第37手」の瞬間（AlphaGoが李世石に対して打った、人間の直感を超えた一手）が訪れ、そしてすぐに、「第37手」自体が時代遅れになるだろう。私はすべての分野について言っている。

8. 計算能力は向上し続ける。今日の最高の行列乗算マシンでさえ、AIアクセラレータの物理的限界には程遠い。デジタルシリコンにはまだ大きな改善の余地がある。新しい基板にも多くの候補があり、それらが負うアルゴリズム負債は自動化によって限界まで搾り取られるだろうが、AIにとって、空間、エネルギー消費、時間、製造可能性、コストの面で最適なものが何かはまだわかっていない。フォトニクスとランダムシリコンは興味深い候補だが、特異点そのものが人々を驚かせることも予想している。

9. ラボがどれだけリードできるかは、一部は自動化と規模のリターンに依存し、これにはより深いアルゴリズム深度から得られるリターンも含まれる。もし深層学習の実践（と理論）が常に浅いものであれば、長期的には堀は主にアルゴリズム面にはならないだろう。なぜなら、秘密は比較的発見されやすいからだ。最終的には、蒸留とデータと時間を組み合わせることで、計算規模に追いつくことができ、おそらく多少遅くなる。現在、私たちは部分的にこの状態にあるように見えるが、仮にそうだとしても、それが永久に続くという保証はない。

10. もし規模が拡大するにつれて深層学習が浅くなくなれば、自動化と規模の増分ごとに、他者がますます到達できなくなるアルゴリズムの秘密を手に入れることができる。この状態も現在、私たちは部分的に当てはまっているように見える。どちらのシナリオも、最終的には規模拡大と研究の飽和に伴い限界効用が逓減する点に到達する。その点がどこにあるかはわからない。今日から2桁先かもしれないし、20桁先かもしれない。誰にもわからない。

知能サプライチェーン

11. 少なくとも今後数年間は、計算能力は激しく争奪されるリソースであり続けるだろう。しかし、その期間中にコモディティ化が始まり、私たちは2020年代の貧弱さを笑って振り返ることになるだろう。規模は拡大しており、効果を上げている。資本が追随し、何度も何度もフライホイールを回転させる。より多くの行列乗算マシン、より多くの半導体工場、より多くのエネルギーが準備されている。知能生産のボトルネックは一時的なものである。潜在的な経済的な減速要因はここでは考慮しない。

12. 知能サプライチェーンの性質は変わりつつある。現在、それはラボに高度に集中している。しかし、ラボはそれらを強力にしている中核——研究者とアルゴリズム上の優位性の発見——を自動化しつつある。このプロセスが始まり、オープンソースがそれほど遅れずに追随し、特にラボがAI研究者モデルをロックダウンしなければ、ラボの優位性はより容易な資金調達、より多くの計算能力、独占的なデータ、ビジネス上の関係、優れた製品へとシフトするだろう。これは確かに、上述のアルゴリズム深度の問題がどのように解決されるか、およびその他の要因に依存する。

13. 分散型トレーニングは、単一のデータセンターの大規模建設への需要を減らし、超大規模企業以外の事業者にいくつかの優位性をもたらすだろう。しかし、単一の最大規模トレーニングという純粋な次元では、超大規模企業を凌駕することはないだろう。

14. 自動化されたAI実験により、アルゴリズムの秘密は広く発見されるようになるだろう。なぜなら、これらの秘密は本質的にフルサイズのトレーニングよりも配布が容易だからだ。この道がどこまで行けるかは不明だが、私はかなり遠くまで行くと予想している。先述の通り、深層学習の根本的な深さは未だ未知数であり、この判断の上限はその未知数に依存する。

15. これらの力は表面的には学界とオープンソースに有利に働くように見えるが、計算能力のコストと機会費用のために、それらは縮小する可能性もある。例えば、GB300はGLM5.2やFableのサービスに使う方が価値があるのか、それとも学術ラボでの非最先端研究やAnthropic内部でのMythos 2の作成に使う方が価値があるのか？市場は最も需要の高い場所を計算するだろうが、現時点ではその場所は確かにラボである。これは、オープンソースラボが、たとえ資金があっても、計算能力の生産能力を事前に確保していなければ、さらに計算能力に飢える可能性があることを意味する。たとえ確保していたとしても、研究を行うことと計算能力を貸し出すことの機会費用を考慮する必要がある。ColossusとAnthropicの協力を参照のこと。

16. AIの能力が刺激的になり始める環境（今後0～18ヶ月）では、オープンソースは社会的にも困難になる可能性がある。特に、私たちが安全性を加速する速度が遅い場合——これまでのところ確かに遅い——にはなおさらだ。

17. 資本がラボに殺到するにつれて、オープンソースは縮小し始めるかもしれない。ここには協調問題がある：ラボ（そしておそらく政府）を除けば、トークンの独占を望む者はいない。しかし、この問題が解決でき、規制環境が良好であれば、結果はまあまあになるかもしれない。

ロボット

18. ロボットには、2022年11月のChatGPTのような瞬間が訪れ、そして2025年11月のOpus 4.5のような瞬間が再び訪れるだろう。どちらもまだ起こってはいないが、来るだろうし、人々が考えるよりも速い。これは急速なAIの進歩、AIによって加速される物理システム工学の結果である。ロボットのこれら二つの瞬間の間隔は、3年にはならないように思われる。

19. しかし、世界中のロボットの数を物理的に実際に積み上げるには、おそらく2030年以降まで待たなければならないかもしれない。私たちは年間約1億台の車を製造しているが、人型ロボットは車よりもはるかに小さい。私たちは年間10億台のスマートフォンも製造していることを考えると、資本とアルゴリズムが十分に速く回れば、2030年までに年間1億台のロボットという規模は合理的である。年間1000万台は確実に達成できるだろう。ドローン市場はすでにその方向にある。ソフトウェアが小規模で人型ロボットに投資する価値を証明できれば、無限の資本を引き出すことができ、その量は証明の質に比例する。

20. 今日、ロボットのハードな上限のように見えるものは消え去るだろう。これには、サンプル効率の悪さ、データの相対的な希少性、手やモーターのハードウェア設計の高コストと難しさ、物理世界のフラクタル的な複雑さ、そして私たちがどのように世界で作業するかに関する記録されていない暗黙知（例えば配管工のそれ）が含まれる。世界モデルは有用に見えるが、具体的にどの要素が重要かは問題ではない。研究スケーリング則は、効用が逓減する点まで磨き上げられるだろう。

21. 世界のロボットに対する需要は、特に様々な形態を合計すれば、軽く数百億台に上る。自動化する価値のある肉体労働が多すぎる。市場はこの問題を解決する方法を見つけるだろうし、人々はおそらく邪魔をしないだろう。

進歩

22. 科学は自動化され、仮想化されつつある。これは、世界が必要とする多くの進歩が、自動化されたラボとシミュレーションからもたらされることを意味する。仮想化の完全な計算限界はわからないが、生物学や材料科学などの分野におけるロボット駆動のラボは、多くのボトルネックを除去し、その過程で「検証済み仮想化」の境界を押し上げ、サンプル効率と「現実化」の正味リターンを向上させるだろう。基本的にあらゆる分野で、私たちは神経モデル、明示的シミュレーション、実世界実験の何らかの組み合わせを持ち、生物学や材料科学などの分野における1ドル、1単位の時間のリターンを共同で向上させるだろう。

23. 進歩の法則は至る所にある。深層学習では、それらはスケーリング則と呼ばれる。どの曲線においても、S字曲線がいつ飽和するかを判断するのは難しく、地平線の先に新しいS字曲線があるかどうかも判断しづ