黄仁勋向左，阿莫迪往右

原文作者：苏扬

原文编辑：徐青阳

原文来源：テンセント・テクノロジー

最先端AIをさらに加速させるのか、それともブレーキを踏むのか——それが今、シリコンバレーで最も論争を呼ぶテーマとなっている。

この論争をめぐり、シリコンバレーの巨人たちは陣営を分け始めた。アモダイ、アルトマン、マスク、そしてハサビスは「一時停止派」を形成している。一方、ジェンスン・フアンは断固たる「加速派」であり、「AI終末論」には科学的根拠が欠けていると批判する。ヤン・ルカンに至っては、アモダイを執拗に嘲笑し続けており、「彼（アモダイ）はOpenAIにいた当時から、GPT-2は危険すぎてオープンソースにすべきではないと考えていた。私はその時から彼を嘲笑していた。今も続ければいい」と述べている。

それに比べ、ザッカーバーグやナデラらは比較的中立的な立場を示している。

巨人たちがそれぞれ陣営を分けるということは、シリコンバレーが最先端モデルの一時停止についてコンセンサスを形成していないことを意味する。これは各社のAI産業チェーンにおけるエコロジカルニッチの違いに由来する。モデル層のリーダーたちは異なる理由で一時停止を叫ぶことができるが、数千億ドル規模の計算力受注を握るオラクルやAWS、そして食物連鎖の頂点に立つNVIDIAのような企業に止まれと言っても、前向きな反応は得られない。

ワシントンでは、「一時停止」の声は支持を得られないばかりか、一連の疑問を引き起こしている。

「これは少しトロイの木馬の匂いがする（It feels a little bit to me like a bit of a Trojan horse）。」JDヴァンスはインタビューでこう述べた。この言葉は実のところ、ワシントンの本音を反映している——木馬を製造する企業が繰り返し扉をより狭くするよう求める時こそ、その扉が一体どの企業に適しているのかを吟味すべきなのである。

一時停止、警告、そして一通の辞表

この議論の引き金となったのは、Anthropicの研究者ジェイコブ・コクソンの辞職だった。

彼はそれ以前、OpenAIとAnthropicで3年間プリトレーニング研究を行い、最先端モデルのトレーニングに自ら携わってきた。X上の長文投稿で、彼はほとんど社交辞令を排している。「両社とも責任ある行動を取っていない。彼らは自己改善可能な超知能へ一直線に突き進み、我々の命を賭けているのだ」

彼は直言する。ラボ内部の人間は、AIが10年以内に全人類を殺し得ると本気で信じており、それは決してPRパフォーマンスではないと。多くの同僚がすでに現在の段階を「決定的瞬間」「終局」と形容し始めている。コクソンはまもなく帰属するはずだった株式すら放棄した。彼はAnthropicにわずか4ヶ月しか在籍しておらず、会社の規定では6ヶ月経たなければ行使できない。

Anthropic元研究员ジェイコブ・コクソン（Jacob Coxon）

続いて、Anthropicでアラインメント科学を担当するエヴァン・ヒュービンガーが公開回應した。ジェイコブは正しい、我々はAIが全人類を殺し得ると本当に真剣に信じている。個人的には、10年以内にその確率は10%を超えると考えている。Anthropicは全力を尽くしているが、超知能のアラインメントに関する明確な計画をまだ解決できておらず、軌道に乗るには程遠い。

この二発の銃声は、本来ラボ内部で主に醸成されていた懸念を、直接公衆の面前に押し出した。この背景のもと、Anthropicの創業者兼CEOであるアモダイは直ちに長文を発表し、体系的に「最先端研究の減速」を主張した。彼はもはや「安全への投資を増やせ」とだけ語るのではなく、能力の飛躍の速度を能動的に制御し、安全メカニズムに追いつく時間を与えることを明確に要求した。

彼は三段階のステップを列挙した。まずAnthropicが一方的に従業員レベルの権限を持つ独立評価者を導入する。次に民主主義国のAI企業に共通の安全基準と能力成長の上限を設けるよう促す。最終的にグローバルな調整を試みる。

アルトマン、マスク、ハサビスはすぐに公然と同調し、「一時停止派」を形成した。

ジェイコブ・コクソンやアモダイの「減速」論が現れる以前から、ヨシュア・ベンジオやジェフリー・ヒントンといった「AIのゴッドファーザー」たちは、リスクへの関心を呼びかける提言を続けてきた。

コクソンの辞職について語り、ベンジオは、最先端AIラボの科学者は一般公衆よりも早く最新モデルの能力を目にすることができるため、彼らのリスク判断は真剣に受け止める価値があると述べた。

同時に、ベンジオは具体的な例を挙げ、現在のAIシステムはすでにハッキング攻撃能力と説得能力を備えており、もし人類の利益を損なうために用いられれば、深刻な結果を引き起こす可能性があると述べた。彼はまた、AIがより長い時間軸での計画能力を備えるにつれ、こうしたリスクがさらに拡大する可能性を懸念している。

BBCから、AIが今後10年以内に「全人類を殺す」確率が10%を超えるかと問われ、ジェフリー・ヒントンもこの数字は「不合理ではない」と述べつつ、人類はこれまで「まもなく我々より賢くなる可能性のある種の存在」に直面したことがないため、信頼できる推定値を与える方法を誰も本当には知らないと強調した。

ヒントンは、AIが将来、危険な生物ウイルスやコンピュータウイルスの設計、大規模なサイバー攻撃の発動に用いられる可能性があると考えている。したがって、人類はリスクが制御不能になる前に効果的な制御方法を見つける必要がある。

シリコンバレーの新たな「一時停止論」の提唱者たちとは異なり、「AIのゴッドファーザー」たちはより多くリスクへの関心を呼びかけ、リスクを制御するメカニズムの構築を模索しており、直接ブレーキを踏むわけではない。また、立場から言えば、学術分野の意見や提言はより純粋である一方、最先端ラボの提言は、たとえ表面上「人類のために」というレッテルを掲げていても、100%商業的考慮から切り離すことは難しい。

まさにこれが、JDヴァンスが「一時停止論」をトロイの木馬のようだと言った理由である。

分歧与站队

「加速派」「減速派」「中間派」の陣営。出典：ニューヨーク・タイムズ

9月15日、複数のテック企業のトップがSalesforce Dreamforce大会で相次いで発言し、この論争はより直接的な意見の応酬へと変わり始めた。

同日、アモダイ、ジェンスン・フアン、アルトマンはいずれもAI安全について語ったが、発展速度、安全責任、企業が取るべき行動について異なる答えを示した。

アモダイはSalesforce CEOのマーク・ベニオフ（Marc Benioff）と同壇した際、AI企業は自らの行動を通じてより高い安全基準を確立すべきだと再度強調した。企業が能動的により厳格な安全措置を取ることは、業界全体を前進させる方法になり得ると考えている。

言い換えれば、アモダイの態度は転換し始め、業界全体への減速の呼びかけから、企業自らが安全ガードレールを追加する方向へと向かっている。

ジェンスン・フアンは「新しい法律も新しい規制も必要ない」と述べた。彼の見方では、速度と安全は二者択一の関係ではなく、企業は可能な限り速くモデル開発を進めることができる。制御を失ったと気づいたり、製品の安全性を確保できなくなったりした場合に、立ち止まって問題を解決すればよい。

ベニオフの態度はより開放的で自主性を強調している。企業が減速すべきだと思うなら減速すべきであり、加速すべきだと思うなら加速すべきであり、同時に自らの決定に責任を負うべきだと述べた。

OpenAI創業者兼CEOのアルトマンはDreamforceの会場で、OpenAIひいてはAI業界全体が、公衆に重大な危害を与えることなく安全に発展できると非常に自信を持っていると述べた。同時に、自身の見解が業界全体のAI発展速度の減速を支持するものと理解されたことに失望を感じていると述べた。

言い換えれば、アルトマンも転換し始め、自身が表現したかったのは業界の減速の呼びかけではなく、安全と監視の仕事が能力向上に先行すべきだという点だと強調している。

ザッカーバーグは、ある企業の安全行動を、他のAI企業が同期して減速することを前提とすることに賛成していない。独立した評価機関や外部顧問を導入してモデルの安全性を検証することは業界のベストプラクティスだと考えている。また、Metaは以前から他の企業が先にAI発展の減速で合意するのを待つのではなく、自らMuse AIツールの開発を減速させたと明かした。

マイクロソフトCEOのサティア・ナデラの態度はある意味アルトマンと一致しており、ガードレールの追加を奨励し、十分な競争も奨励している。

「我々がまずすべきことは人類に奉仕し、技術が人類の制御下にあることを確保することだ。同時に、AI技術の広範な普及こそが最も重要であり、選択肢と競争がなければならない。安全は真剣に受け止めるべきだが、それを神秘化するのではなく、エンジニアリングと透明性のある方法で解決すべきだ。」ナデラは9月15日、All-In Summit 2026サミットに参加した際にこう述べた。

これらの起業家たちに加え、ワシントンからの声もさらに加わっている。

トランプが直接ジェンスン・フアンに電話し、AI産業の継続的発展への支持を公然と表明した後、米国大統領科学技術顧問委員会共同議長のデビッド・サックス（David Sacks）は続いて、テック企業は最先端AIを推進し続けることができると述べると同時に、一部企業が「減速」を主張する背後にある動機に疑問を呈した。

ルールは誰が作るのか？

議論が広がるにつれ、論争はAIリスクそのものから、最先端AIの安全基準は企業が自ら制定すべきなのか、それとも政府や独立機関が介入すべきなのか、へとさらに拡大している。

ブルームバーグは事情に詳しい関係者の話として、Anthropic、Google、OpenAIが以前、AI業界の標準機関を設立することについて議論したと報じた。

7月、ハサビスは記事を発表し、米国主導のAI標準機関の設立を提唱した。その運営モデルは米国金融業規制機構（FINRA）に似ている。この機関は先進AIモデルが正式に展開される前にテストを行い、相応の安全基準を満たしているかどうかを判断できる。

ハサビスの構想によれば、この機関は完全に政府主導であるべきではなく、公私協力モデルを取るべきである。政府は監督の役割を果たし、AI業界が資金を提供し、同時に独立したトップ技術専門家やオープンソースコミュニティの代表も参加させる。

ハサビスは、モデルが現実世界に入る前に独立した安全検査を追加しようと試みている。これは米国政府が6月初旬に公表した一連の規制ロジックに比較的近い。企業はモデルの公開前に自発的に政府に評価を委ねることができ、最長で公開前30日のアクセス期間を提供でき、強制承認は行わず、公開許可も設けないことを明確にしている。

やや劇的なのは、その後のFable 5とMythos 5のリリースがこのプロセスに従わなかったものの、極めて強力なサイバー攻防能力を備えていることが判明し、最終的に米国BISによって輸出管理の形で一時的にオフラインにされたことである。

しかし、それでも政策の態度は安全ガードレールの追加を求めるにとどまり、減速の表明や指導は行っていない。

ハサビスと同様の見解を持つのは、OpenAIのチーフサイエンティスト、ヤクブ・パチョツキ（Jakub Pachocki）である。彼も9月初旬、共有された安全基準と、AIのさらなる発展をめぐる国際調整が現在の優先事項であるべきだと強調した。

誰も本当にはブレーキを踏んでいない

今のところ、この論争は最先端AI企業の発展ペースを実際には変えていない。

Anthropic、OpenAI、Google、xAIなどの企業は依然としてモデル開発を推進しており、計算力、データセンター、AIインフラをめぐる競争もこの論争によって止まってはいない。資本市場の面では異なる変化が現れている。Anthropicは依然として今年のIPOを準備している一方、OpenAIはIPO計画を2027年に延期した。