『ニューヨーカー』の深度調査記事を読み解く：なぜOpenAIの内部関係者はAltmanを信頼できないと確信しているのか？

原文著者：小餅、深潮 TechFlow

2023年の秋、OpenAIの最高科学責任者イリヤ・スツクヴェールはコンピュータの前に座り、70ページに及ぶ文書を完成させた。

この文書はSlackのメッセージ記録、人事部門とのコミュニケーション記録、内部会議の議事録からまとめられたもので、ただ一つの問いに答えるためだった：人類史上最も危険な技術を掌握する可能性のあるサム・アルトマンは、果たして信頼に足る人物なのか？

スツクヴェールが導き出した答えは、文書の最初のページの最初の行に記されていた。リストのタイトルは「サムは一貫した行動パターンを示している…」

最初の項目：嘘をつくこと。

それから2年半後の今、調査ジャーナリストのローナン・ファローとアンドリュー・マランツが『ザ・ニューヨーカー』誌に超長編の調査報道を発表した。100人以上の関係者への取材、これまで公開されたことのない内部メモ、そしてAnthropicの創業者ダリオ・アモデイがOpenAI在籍時に残した200ページ以上の私的ノートを入手。これらの文書が描き出す物語は、2023年のあの「権力闘争」よりもはるかに醜いものだった：人類の安全のために生まれた非営利組織が、どのようにして商業マシンへと変貌し、ほぼすべての安全ガードレールが、たった一人の人物の手によって取り外されていったのか。

アモデイはノートの中で、より率直な結論を記している：「OpenAIの問題はサムその人だ。」

OpenAIの「原罪」という設定

この報道の重みを理解するには、まずOpenAIという企業がいかに特殊であるかを説明しなければならない。

2015年、アルトマンとシリコンバレーのエリートたちは、商業史上ほぼ前例のないことを行った：人類史上最も強力な技術を開発するために、非営利組織を設立したのだ。理事会の責務は明確に記されていた。安全性は会社の成功、さらには会社の存続よりも優先される。つまり、もしある日OpenAIのAIが危険なものになったら、理事会は自らの手でこの会社を閉鎖する義務があるのだ。

この全体の構造は、一つの仮説に賭けられていた：AGIを掌握する者は、極めて誠実な人物でなければならない。

もし賭けが外れたら？

報道の核心となる爆弾は、あの70ページの文書だ。スツクヴェールはオフィス・ポリティクスを弄するような人物ではない。彼は世界で最も優れたAI科学者の一人だ。しかし2023年までに、彼はある事実をますます確信するようになった：アルトマンは経営陣と理事会に対して、継続的に虚偽の報告をしている。

具体的な例：2022年12月、アルトマンは理事会会議で、まもなくリリースされるGPT-4の複数の機能がすでに安全性審査を通過したと保証した。理事会メンバーのトナーが承認文書の提出を求めたところ、最も議論を呼んだ2つの機能（ユーザーによるカスタムファインチューニングとパーソナルアシスタントのデプロイ）は、安全性パネルの承認をまったく得ていなかったことが判明した。

さらに法外なことがインドで起きた。ある従業員が別の理事会メンバーに「あの違反行為」を報告した：マイクロソフトが必要な安全性審査を完了していないにもかかわらず、インドでChatGPTの初期バージョンを早期にリリースしたのだ。

スツクヴェールはメモの中で別の事柄も記録している：アルトマンはかつて前最高技術責任者（CTO）のミラ・ムラティに、安全性承認のプロセスはそれほど重要ではなく、会社の法務責任者はすでに認可したと語った。ムラティが法務責任者に確認を取ると、相手はこう返答した：「サムがどこからその印象を得たのか、私にはわかりません。」

アモデイの200ページの私的ノート

スツクヴェールの文書は検察官の起訴状のようだ。アモデイが残した200ページ以上のノートは、むしろ事件現場で目撃者が書いた日記に近い。

アモデイがOpenAIで安全責任者を務めていた数年間、彼は会社が商業的圧力のもとで一歩ずつ後退していくのを目の当たりにした。彼はノートに、2019年のマイクロソフト投資案件に関する重要な詳細を記している：彼はかつてOpenAIの定款に「合併と支援」条項を挿入した。大意は、もし他の会社がより安全なAGIへの道筋を見つけたなら、OpenAIは競争を止め、その会社を支援すべきだというものだ。これは彼が取引全体で最も重視した安全保障だった。

取引が調印されようとしていた時、アモデイはある事実に気づいた：マイクロソフトはこの条項に対する拒否権を獲得していた。どういう意味か？たとえ本当にある日、ある競合他社がより良い道を見つけたとしても、マイクロソフトの一言でOpenAIの支援義務は塞がれてしまう。条項は紙の上には残っているが、調印されたその日から無効なものだった。

アモデイは後にOpenAIを去り、Anthropicを設立した。両社の間の競争は、根本的には「AIはどのように開発されるべきか」という根本的な相違に基づいている。

消えた20%の計算資源の約束

報道の中には、読むと背筋が寒くなるような詳細がある。OpenAIの「スーパーアライメントチーム」に関するものだ。

2023年半ば、アルトマンはメールで、バークレーで「欺瞞的アラインメント」（AIがテスト中はおとなしく振る舞い、実際のデプロイ後は自分勝手な行動をとること）を研究する博士課程の学生に連絡を取り、この問題を非常に懸念しており、100億ドルのグローバル研究賞の設立を検討していると伝えた。学生は大いに鼓舞され、休学してOpenAIに加入した。

その後、アルトマンは考えを変えた：外部の賞は行わず、会社内部に「スーパーアライメントチーム」を設立する。会社は高らかに宣言した。「既存の計算資源の20%」をこのチームに割り当てると。潜在的な価値は100億ドルを超える。発表の文言は極めて厳粛で、もしアラインメント問題が解決されなければ、AGIは「人類が権力を奪われ、さらには人類の絶滅」につながる可能性があると述べた。

このチームを率いるよう任命されたヤン・ライケは後に記者に、この約束自体が非常に効果的な「人材維持ツール」だったと語った。

現実はどうか？このチームで働いた、または密接に関わった4人の関係者によれば、実際に割り当てられた計算資源は会社全体の計算資源の1%から2%に過ぎず、しかも最も古いハードウェアだった。このチームは後に解散し、使命は果たされなかった。

記者がOpenAIの「実存的セキュリティ」研究を担当する人員への取材を要求した時、会社の広報の反応は苦笑いを誘うものだった：「それは…実際に存在するものではありません。」

アルトマン本人はむしろ坦然としている。彼は記者に、自分の「直感は多くの伝統的なAIセキュリティのものとあまり合わない」と語り、OpenAIはそれでも「セキュリティプロジェクト、あるいは少なくともセキュリティに関連するプロジェクト」を行うだろうと述べた。

骨抜きにされたCFOと迫り来るIPO

『ザ・ニューヨーカー』の報道は、この日の悪いニュースの半分に過ぎない。同じ日、The Informationが別の重大ニュースをスクープした：OpenAIのCFOサラ・フライヤーとアルトマンの間に深刻な意見の相違が生じている。

フライヤーは同僚に私的に、OpenAIは今年の上場準備がまだ整っていないと感じていると語った。二つの理由：完了すべき手続き的・組織的な作業量があまりにも大きく、アルトマンが約束した5年間で6000億ドルに及ぶ計算資源支出がもたらす財務リスクがあまりにも高い。彼女はOpenAIの収益成長がこれらの約束を支えられるかどうかさえ確信していない。

しかしアルトマンは今年の第4四半期にIPOを急ぎたいと考えている。

さらに法外なことに、フライヤーはもはやアルトマンに直接報告していない。2025年8月から、彼女はフィジ・シモ（OpenAIのアプリケーションビジネスCEO）に報告するようになった。そしてシモは先週、健康上の理由で病気休暇を取ったばかりだ。この状況を考えてみてほしい：IPOを急ぐ会社で、CEOとCFOに根本的な意見の相違があり、CFOはCEOに報告せず、CFOの上司は休暇中だ。

マイクロソフト内部の幹部でさえ我慢ならず、アルトマンは「事実を歪曲し、前言を翻し、合意に達した協議を覆し続けている」と述べた。あるマイクロソフト幹部はこうさえ言った：「彼はある確率で、最終的にはバーニー・マドフやSBFクラスの詐欺師として人々の記憶に残るだろうと私は思う。」

アルトマンの「二面性」の肖像

あるOpenAIの前理事会メンバーは記者に、アルトマンに備わる二つの特性について描写した。この言葉はおそらく記事全体で最も辛辣な人物描写だろう。

この理事は言う。アルトマンには極めて稀な特性の組み合わせがある：彼は対面での交流のたびに、相手を喜ばせ、相手に好かれたいという強い欲求を持つ。同時に、他人を欺くことによって生じるかもしれない結果に対して、社会病的と言えるほど無頓着だ。

二つの特性が一人の人物に同時に現れることは、極めて稀だ。しかしセールスマンにとって、これは最も完璧な才能である。

報道の中には、うまい比喩がある：スティーブ・ジョブズは「現実歪曲フィールド」で有名で、彼は世界に自分のビジョンを信じさせることができた。しかしジョブズでさえ、顧客に「私のMP3プレーヤーを買わなければ、あなたの愛する人は死ぬ」と言ったことは一度もない。

アルトマンは、AIについて、似たようなことを言った。

一人のCEOの人柄の問題が、なぜすべての人々のリスクなのか

アルトマンがただの普通のテクノロジー企業のCEOであれば、これらの告発はせいぜいが興味深いビジネスゴシップに過ぎない。しかしOpenAIは普通ではない。

自らの主張によれば、彼らは人類史上最も強力な技術を開発している最中だ。世界経済と労働市場を再構築できる（OpenAI自身が、AIによる失業問題に関する政策白書を発表したばかりだ）一方で、大規模な生物化学兵器の製造やサイバー攻撃の発動にも利用できる可能性がある。

すべての安全ガードレールは形骸化した。創業者の非営利の使命はIPOへの突進に道を譲った。前最高科学責任者と前安全責任者は、ともにCEOを「信用できない」と断定した。パートナーはCEOをSBFに例えた。このような状況下で、このCEOは何を根拠に、人類の運命を変える可能性のあるAIモデルをいつリリースするかを一方的に決定できるというのか？

ゲイリー・マーカス（ニューヨーク大学AI教授、長年のAIセキュリティ提唱者）は報道を読んだ後、こう書いている：もし将来のOpenAIのモデルが大規模な生物化学兵器を製造したり、壊滅的なサイバー攻撃を発動したりできるなら、あなたは本当にアルトマン一人にリリースするかどうかを決断させることに安心できるのか？

OpenAIの『ザ・ニューヨーカー』への回答は簡潔だった：「この記事の大部分は、すでに報道された出来事を蒸し返したものであり、匿名の主張と選択的な逸話を通じて、情報源は明らかに個人的な目的を持っている。」

まさにアルトマンらしい回答の仕方だ：具体的な告発には応答せず、メモの真実性も否定せず、動機だけを疑う。

非営利の屍体の上に、金のなる木が生えた

OpenAIの10年を、物語のあらすじとして書くとこうなる：

AIのリスクを憂慮する理想主義者たちが、ミッション駆動型の非営利組織を設立した。組織は非凡な技術的ブレークスルーを成し遂げた。ブレークスルーが巨額の資本を惹きつけた。資本はリターンを求めた。ミッションは道を譲り始めた。セキュリティチームは解散した。疑問を呈する者は粛清された。非営利の組織構造は営利事業体に変更された。かつて会社を閉鎖する権限を持っていた理事会は、今やCEOの味方で満たされている。かつて人類の安全を守るために計算資源の20%を提供すると約束した会社の、現在の広報担当者は「それは実際に存在するものではありません」と言う。

物語の主人公には、100人以上の関係者が同じレッテルを貼った：「真実に束縛されない。」

彼は今、この会社を8500億ドル以上の評価額でIPOに導こうとしている。

本記事の情報は、『ザ・ニューヨーカー』、Semafor、Tech Brew、Gizmodo、Business Insider、The Informationなど、複数メディアの公開報道を総合したものです。