AIの勢力図を変えた決裂：OpenAIとAnthropicの秘められた確執の歴史

原文作者：龙玥

原文来源：华尔街见闻

2020年12月、OpenAIの全社会議の最後の数分間が、AI業界の勢力図を根本から変えた。

当時OpenAIの政策責任者だったJack Clarkがチャット欄に「I love you all（君たち全員を愛している）」と打ち込むと、スクリーンはたちまち暗転した——OpenAIの中核メンバー7名が同時に会議から追放され、メール権限は剥奪され、Slackアカウントは削除され、ノートパソコンはリモートでロックされた。これは事故ではなく、長く準備されてきた決裂の終着点だった。

この7人を引き連れて去ったのがDario Amodeiだった。当時彼はOpenAIの研究担当副社長であり、GPT-2とGPT-3の核心的な推進者であり、社内で26ページの論文を書き大規模モデルの技術路線を打ち立てた人物でもあった。彼が去った理由は、金でも役職でもなく、OpenAIの経営陣——とりわけSam Altman——は到底信頼できないという確信だった。

9月29日、『アトランティック』誌の記者Kevin Rooseが数年をかけ、150名を超える関係者に取材した末に明らかにしたところによれば、この決裂の根源は2017年に「Countries Plan」と呼ばれた社内方案、そしてその後3年間に蓄積されていった猜疑、口論、裏切りの感情に遡ることができる。

5年後、その7人が設立したAnthropicは数千名の従業員を抱え、OpenAIと並び立ってAGIへと突き進んでいる。しかしDarioとAltmanの関係は、複数の関係者によれば、今なお「互いに軽蔑し合う」ものだという。

あの26ページの論文と、Amodeiの野望

2016年、Dario AmodeiはGoogleを辞め、OpenAIに加わった。

彼は丸縁の眼鏡をかけ、茶色の巻き毛を頂き、緊張したり考え込んだりするときは指で髪のカールを弄る癖があった。同僚たちは彼を「天才だが頑固」と評した。

Dario Amodei 動画スクリーンショット

彼が意見を表明する方法は、長文を書くことだった。

2017年、彼は『計算的大塊』（Big Blob of Compute）と題する26ページの社内文章を書いた。その中でこう提唱した：機械知能は本質的に規模の関数である——モデルが大きければ大きいほど、賢くなる。

この判断は、OpenAIの研究方向を大規模言語モデル（LLM）へと直接導き、後のGPT-2とGPT-3の基礎を築いた。

本来なら、Amodeiのキャリアは絶頂期にあった。彼のチームはモデル性能向上を予測する「スケーリング則（Scaling Laws）」を提唱しただけでなく、モデルを有害な出力から遠ざける「人間のフィードバックによる強化学習（RLHF）」技術も開拓した。

しかし彼はますます、自分はGPT-4の開発にとどまらないだろうと確信するようになっていた。

「Countries Plan」：彼を完全に失望させたあの方案

Amodeiは会社の指導部への信頼を失った。

彼はSam Altmanを「二枚舌の操作者」と見なし、社長のGreg Brockmanは「権力に貪欲で無謀」だと考えた。彼らがOpenAIを商業化する決定に反発し、「財務的リターンを生み出す必要性に制約されない」という当初の理念に背くと主張した。

さらに彼を反発させたのは、内部の派閥闘争だった。

かつてAmodeiと交流したある人物によれば、Amodeiは当時OpenAIを「茶番劇」であり、「誠実さを欠く人物によって運営されている」と考えていた。この人物はこう語った：「毎日のように新しい危機が起きる。Darioが絶対的な怒りを爆発させなければ、Samは24時間以内に新たな狂った行動に出るだろう」と。

引き金は2017年にすでに仕込まれていた。

当時マスクはOpenAIから撤退しつつあり、会社は資金を切実に必要としていた。5名の関係者によれば、BrockmanとIlya Sutskeverは「国家計画」（「Countries Plan」）と呼ばれる資金調達方案を構想した：アメリカを含む大国政府間でオークションを行い、OpenAIの未来のAGI技術の権利を売却するというものだった。

BrockmanとSutskeverの論理はこうだった：AGIは極めて強い国家安全的意義を持ち、遅かれ早かれ政府によって民間企業の手から奪われる。どうせいつかは渡すのなら、今売って開発資金に変えない手はない。

「これはまるで、テック関係者が狂ったスタートアップを売り込んでいるように聞こえる。彼らには奇抜な計画があり、最後のステップはなんと『政府に支払わせる』というのだ」と、この計画の説明を聞いたある人物は回想する。

Amodeiは驚愕した。政府にAGIを売り込むことはOpenAIの使命に反すると彼は考えた。

2017年12月、彼はBrockman、Sutskeverおよび他の幹部にメールを書き、直接的表現でこう述べた：

「私の見るところ、この計画は軍拡競争を減少させるどころか激化させ、人権的暴虐を引き起こす可能性があり……OpenAIの道徳的正当性を損なうだろう。」彼はOpenAIが「人類の利益」のために最適化されるべきだと主張した。

OpenAIの広報は後に『アトランティック』誌に対し、会社は「OpenAIを国際協力プロジェクトに転換するかどうかを一時的に検討したことはある」が、「いかなる国にAGIを売ることも検討したことはない」と述べた。

この方案は最終的にMicrosoftの参入により棚上げされた。しかしDarioは忘れなかった——BrockmanとSutskeverが、彼が「道徳的に吐き気を催す」と考えたアイデアを真剣に議論していたことを。

信頼が少しずつ尽きていく：隠された名簿、否決された買収条項とカニエ事件

その後2年間、亀裂は広がり続けた。AmodeiはAltmanに誤導されたと感じた瞬間を記録し始めた。

例えば、GPT-3の私的内測期間中、AmodeiはAltmanに承認済み顧客リストを求めた。Altmanは1通送ってきた。しかしAmodeiはその後、より長い別の承認済みリストを発見し、Altmanはそれについて一言も触れなかったと主張した。

また例えば、Microsoftとの10億ドル投資交渉の際、AmodeiはOpenAI定款の「合併・支援条項」——より安全なAGIプロジェクトが出現した場合、OpenAIは競争を停止し相手を支援すべきという条項——の保持を強く求めた。彼はMicrosoftにOpenAIの将来的な買収（合併支援を実現する最も可能性の高い方法）を拒否する権利がないと主張した。

AltmanはMicrosoftがこの条項に同意しないと彼に告げた。しかしAmodeiは、Altmanが取引を急ぐあまり譲歩し（あるいは全く触れず）、そして自分に嘘をついたと固く信じた。

さらに、Amodeiには到底耐えられない、一見荒唐無稽な商業判断もあった。2020年、AltmanはラッパーのKanye Westと面会し、GPT-3の内測に参加させることを提案した。当時Kanyeはグラミー賞のトロフィーに向かって放尿していると思われる動画を公開したばかりで、精神的に極めて不安定だった。政策責任者のJack Clarkが最終的に表に出てこの危険なアイデアを潰した。

これらを個別に見れば辞職を促すほどではないかもしれない。しかしAmodeiの頭の中では、それらは一つの結論を形成した：AGIのような強力な技術を、このような人物の手に委ねてはならない。

「ぬいぐるみ顧問団」と、ますます孤立する安全派の小サークル

Amodeiの妹、Daniela AmodeiもOpenAIにうんざりしていた。

政界で働いた経験を持ち、高いEQを持つ管理者であるDanielaは、兄の技術的熱狂を補完する存在となった。しかし彼女がより多くの技術チームを引き継ぐにつれ、経営陣との衝突は日増しに増えていった。

Daniela Amodei 動画スクリーンショット

興味深いことに、Danielaには独特の衝突処理メカニズムがあった——ぬいぐるみ顧問団である。

彼女と取締役のHolden Karnofskyは大量のぬいぐるみを集め、それぞれに役割を割り当てた：Jinjiは怠け者の猫で、会議をキャンセルし仕事を減らすよう彼女を促す；ピンクの熊Mauraは細部にこだわるA型管理者；パンダのBeary Bondsは「寛容と共感の守護熊」である。彼女はこの半ば冗談めかした方法で管理のロールプレイを行った。

2020年になると、Amodei兄妹はOpenAI内部で自分たちの中核サークルを築き始めた。

彼らは私的なSlackチャンネルを設け、非技術者には理解できない「安全スラング」を並べ立てた。元同僚は回想する：「Darioには当時、こう直接言う癖があった：我々はXをやらねばならない；これは道徳的に正しいことだ。これはあらゆる議論に勝つ近道のようなものだった——『安全だから』という理由で。これには非安全チームが非常に苛立っていた」と。

19年、Amodeiは一時諦めようとし、DeepMindへの転職まで考えた。しかしスケーリング則の研究を担当する物理学教授Jared Kaplanが、より破壊的なアイデアを提出した：理念が合わないのなら、安全を重視する全員を連れて自分たちで会社を作ればいいのではないか？

2020年、GPT-3が発表されたのと同じ年、Amodeiは7名の共同創業者を揃えた。

完全に手を切る前に、AmodeiはAltmanに一連の留任条件を提示した。安全チームに新製品リリースに対する「一票否決権」を与えることなどである。彼はそれがほぼ拒否されることを知っており、これによってAltmanに妥協を迫ることだけを望んだ。

交渉期間中、この7人は「BATNA」という秘密のSlackチャンネルを設けた——これはビジネススクール用語で「交渉合意の最良代替案」を意味し、いつでも去る準備をしていた。

LANケーブルを抜かれ、画面が突然暗転

Altmanが要求を満たさないことを確認すると、「BATNA」チームは弁護士を雇い、「離婚」と呼ばれる条件の交渉を始めた。

双方は合意に達した：退職チームは数週間以内に欲しい従業員を引き抜けること、その代わりその後1年間の引き抜き禁止を約束すること；一部の内部研究文書を持ち出せること；双方は互いに貶めない協定に署名し、公開の場で相手の悪口を絶対に言わないこと。

2020年12月、運命を決めるOpenAIの全社会議がオンラインで開催された。

Altmanはいつものように冒頭で研究の進展を報告した。その後、彼は発言権をAmodeiに譲った。

Amodeiは冷静に、自分と他6名の経営陣が辞任し、安全に特化したAI組織を設立することを宣言した。会議のチャット欄は瞬時に驚きの絵文字と感嘆符で埋め尽くされた。誰もがこう推測した：GPT-4は誰が訓練するのか？私の新しい上司は誰か？

画面いっぱいの驚愕の中で、Jack Clarkはチャット欄に最後の言葉を打ち込んだ：「I love you all.（君たち全員を愛している）」

直後、一瞬にして、この7人のスクリーンはすべて暗転した。

OpenAIは彼らを会議から直接追い出し、メールとSlackの権限を剥奪し、ノートパソコンをリモートでロックした。

数時間後、新たに失業したばかりの創業者たちは最初のビデオ会議を開いた。パソコンもGPUもデータもなく、会社のドメイン名さえまだ決まっていなかった（当初はSparrow Systemsにしようと考え、最終的にAnthropicに変更した）。しかし彼らはスクリーンの前で杯を掲げて祝い、過去数か月で最も嬉しそうに笑った。彼らは自由になったのだ。

兆ドル評価と、止められない怨恨

5年が過ぎ、現実と当初の志は大きな皮肉を生んだ。

2021年にAmodeiが書いた設立ビジョンの中で、彼は約50人の小規模なAI安全研究ラボを想定し、AGIの構築には約100億ドルあれば十分だと予測していた。

2023年の夏、ここはまだ繁栄したカルト教団の本部か大学の植物実験室のようだった。160名の安全に執着する従業員がひしめき合ってヴィーガンサンドイッチを食べ、Liquid Death（スパークリングウォーター）の空き缶で高く積み上げた王座を作っていた。

しかし2025年の冬になると、Anthropicはすでに指揮センターへと変貌していた。

従業員は数千人に膨れ上がり、厳重な警備の高層ビルに移転した。入口には十数名の屈強なボディガードが立ち、新版Claudeを訓練するフロアは社内従業員にも特別な権限を要求するほどだった。

Amodeiはチャーター機に乗り、ボディガードに囲まれたテック巨大企業のトップとなった。かつては