世界最高峰の「AI昼食会」

原文作者：暁静

原文編集：蘇揚

原文出典：騰訊科技

ある昼食会にテック業界の巨頭約20人が集まり、最終的に「道徳的に拘束力のある」紳士協定が生まれた。

現地時間9月29日、トランプ大統領はホワイトハウスで「米国AI産業の巨頭」を招いて昼食会を開いた。外媒が会前に入手した名簿によると、計33人が出席を確認し、テック企業の経営幹部、投資家、米政府関係者が含まれていた。ホワイトハウスが正式に「スーパーインテリジェンス会議と昼食会」と命名したこのイベントの出席者名簿は、AI産業チェーンのほぼ全体を網羅していた。

そこには多くの見慣れた顔ぶれがいた。ジェンスン・フアン、ナデラ、アモデイ、ザッカーバーグ、マスクなどだ。

一人ひとり挙げるのはやめておく。以下の名簿をご覧いただきたい：

「AI昼食サミット」参加者名簿（AI生成、人力校閲）

トランプ大統領は、新たな連邦AI安全規制を推進するつもりはなく、業界の自主規制に委ねることを好むと明確に述べた。同大統領は「非常に強い自主規制」をすでに見ていると語り、同時に政府がAI業界を監督する10人構成の委員会の設立を検討していることを明らかにした。

同日、トランプ大統領は6社のテック企業トップとともに、「道徳的に拘束力のある」AI文書と呼ばれるものに署名した。この協定は業界にとって任意であり、ホワイトハウスはAI産業の発展を導く役割のみを担う。

同日遅く、トランプ大統領はさらに大統領令に署名し、連邦政府レベルでの「人工知能」を正式に「スーパーインテリジェンス」（Super Intelligence、SI）に改名した。

巨頭の座席順

この会合の会場はホワイトハウスのイーストルームが選ばれ、トランプ大統領は自身のTruthソーシャルアカウントで座席表まで公開した。自身は中央に座り、右手側にザッカーバーグとフアン、左手側にマスクとピチャイが座った。

「AI昼食サミット」着席位置図

外媒の報道によると、会場ではすべての経営幹部がトランプ大統領の背後に一列に並び、集合写真を撮るようだった。トランプ大統領は彼らを「世界で最も偉大で最も聡明な人々」「彼らの仕事は信じられないほど素晴らしい」と熱烈に称賛した。また冗談も忘れず、フアンを紹介する際には彼がハンサムだと述べ、ピチャイを紹介する際には笑いながら「モンスター」と呼んだ。

トランプ大統領「AI昼食サミット」参加者集合写真

この会合はもともと昼食会と短いイーストルームでの声明のみが予定されていた。

しかしトランプ大統領は急遽、すべての来客を連れて西翼外の車道へ移動し、33分に及ぶ即興記者会見を開いた。各メディアの記者が人群の周りを取り囲み、トランプ大統領と十数名の米国テック企業の指導者がホワイトハウスの車道に並んで質問に答えるという、非常に珍しい光景となった。

出席者の中で、アモデイの到着は特に注目を集めた。

会合のわずか2日前の日曜日深夜、彼はちょうどトランプ大統領と初めての私人晩餐を行ったばかりだった。それ以前の数か月間、両者はAI安全问题をめぐって緊張関係にあった。今回、僵持状態から同じ舞台で食事をするまで、わずか2日しかかからなかった。

「六巨頭」とスーパーインテリジェンス協定

今回の会合の核心的成果は一つの協定だった。トランプ大統領はそれを「ある種の憲法」に例えた——「世界で最も優秀な人々が署名し、私も署名した。これは確かに一つの保護の形だ。私はそれが道徳的に拘束力を持つと考える。」

協定の正式名称は「ホワイトハウス・スーパーインテリジェンス協定：フロンティア責任共同コミットメント」である。署名者はトランプ大統領のほか、Anthropic、Google、Meta、NVIDIA、OpenAI、xAIの6社。

協定の核心的内容は「四層防御」アーキテクチャである。

第一層は内部統制で、各社が内部監視メカニズムを構築し、サイバーセキュリティ、バイオセキュリティ、化学的脅威を防ぎ、モデルが予期しない方法で技術システムに侵入またはアクセスしないことを確保する；

第二層は内部コンプライアンスチームで、各社が専門チームを指定して実行状況を追跡する；

第三層は外部監査で、独立した監査人による外部審査を行う；

第四層は取締役会監督で、各社の取締役会の下に専門委員会を設置し、発見されたあらゆる問題が是正されることを確保する。

協定はまた、6社が定期的に会合を開き、基準とベストプラクティスを策定し、システムの安全性を向上させることも定めている。文書は同時に、「時間の経過とともに、これらのステップを法律や規制に編入することが意味を持つ可能性がある」と言及している——これは将来の立法の可能性に道を残すことに相当するが、現時点での道筋は明確に業界の自主規制である。

トランプ大統領が新たな規制を設けない立場に対して、同席した業界指導者たちはほぼ一致して支持を表明した。しかし各人の発言には、それぞれ異なる重点が潜んでいた。

フアンは「革新、技術、安全の間に衝突はない」と述べた。「私たちはAIの能力を高める新技術を生み出す必要があるが、同時にAIの安全性を高める新技術も生み出している。」彼はまた、AIが経済成長にとって極めて重要であり、すでに米国で約100万の雇用を創出していると言及した。会合の前日、NVIDIAはAIエージェントの暴走を防ぐための新しいソフトウェア安全ツールをちょうど発表したばかりだった。

ザッカーバーグは、このメカニズムが内部リスク審査から始まり、外部監査と評価、さらに取締役会による監査報告書の独立審査に至るまで、複数層の監査と統制を含むと説明した。彼は「これは私たちが行うことのすべてではなく、これはほんの始まりであり、業界全体が合意できる一つの協定だ」と強調した。

ピチャイはそれを財務統制に例えた。彼は「私たちは、財務統制など他の分野で行ってきたのと同じように、一連のプロセスと統制措置に署名している」と述べた。

マスクの公開発言は多くなかったが、行動で意思表示し、自ら「AI」ではなく「SI」と呼び方を変えた。明らかにトランプ大統領のブランド構築に協力している。

アモデイ、AIの生存リスクについて警告し続けてきたAnthropicのCEOは、トランプ大統領に指名されて発言した際、一方で米国のAIリーダーシップ維持という主張に呼応し、他方で核心的な安全问题は依然として解決されていないと明確に述べた。

「この技術には非常に現実的なリスクがある」とアモデイは述べた。「これらのリスクに対処するメカニズムはまだ議論中だ。私たち全員が協力して、勝てるように、そして安全に勝てるようにする必要がある。もし正しくやれば、もし全員が協力すれば、私たちは安全に勝つことができる。」

この発言は、自主規制という大きな枠組みの中で、より強い規制への開放的な態度を婉曲に留保したものと見なされている。

何しろ、9月12日、アモデイは「私たちはフロンティアの歩みを緩めるべきだ」を発表し、AI能力向上の速度を緩めるよう呼びかけ、独立した第三者評価チームにAnthropicのモデルトレーニングと安全プロセスを深く評価させることを約束した。あの記事は業界内で激しい議論を引き起こし、OpenAIのサム・アルトマンとマスクは支持を表明したが、トランプ大統領は明確に反対した。

6社の署名者のほか、同席した他の企業経営陣も支持を表明した。

スー・ジーフォン（リサ・スー）は、その日のイベントに「非常に鼓舞された」と述べ、会場には「多くの楽観主義と責任感」があった。「結局のところ、技術の力を示すと同時に、それが非常に安全であることを確保するのが私たちの責任だ」とスーは述べた。

制御不能事件の圧力

この会合は気楽な集まりではなかった。その背景には一連のAI安全事件の集中的な露見があり、世論と政界の圧力が急速に高まっていた。

会合の前日、OpenAIはGPT-6.1 Astraモデルのリリースを延期すると発表した。理由は安全保障がまだ十分に強固ではないというものだった。OpenAIの安全システム責任者サチ・ジャイン氏は、このモデルは「範囲と権限内に留まること、およびユーザーにその完了した作業の種類をどのようにフィードバックするか」の面で、会社が期待する水準にまだ達していないと述べた。

さらに以前、一連のAIエージェント制御不能事件が次々と明らかにされた。

今年7月、OpenAIが内部サイバーセキュリティ能力評価に使用したモデルが隔離措置を回避し、AIモデルとデータセットのホスティングプラットフォームHugging Faceの一部システムに侵入し、さらに複数のサンドボックス制限回避事件にも関与した。その中には自律エージェントが米国証券取引委員会のウェブサイトを標的にした事件も含まれていた。

Axiosの報道によると、OpenAI、Anthropic、安全研究者たちは数千件のAIエージェントの問題行動事例を精査している。

9月28日、フロリダ州司法長官は以前のOpenAIに対する訴訟において、外部監督なしに新たなAIモデルを開発することを禁じるよう求める差止命令を申請した。

その前の9月23日、米国上院議員バーニー・サンダースと下院議員グレッグ・カサールは法案を提出し、人工超知能の開発と展開を禁止し、新たな連邦AI監督部門が安全規則とモデル審査メカニズムを確立するまで先進AI開発を延期することを主張した。

AIがもたらす高頻度の事件が、今回の昼食会開催の鍵であった。

SIへの改名

自主規制はこの会合の実質的内容であり、改名はより話題性のある象徴的行動である。

トランプ大統領は車道での記者会見で、同日遅くに大統領令に署名し、AIを正式にスーパーインテリジェンスに改名すると発表した。「私たちはすでに名前を正式にSIに変えた」とトランプ大統領は述べた。「私たちは『スーパー』という言葉を使う。なぜならもう一つの言葉は偽りの言葉だからだ。」彼はさらに一言添えた。「それは人造ではない、私たちは皆その点に同意している。」

「スーパーインテリジェンス時代の到来」と題されたこの大統領令はその後全文が公布された。命令は、法律が許容する最大限の範囲内で、米国連邦行政部門と機関が公式通信、公開声明、ウェブサイト、報告書、政策文書などすべての非法定文書において、「スーパーインテリジェンス」と「SI」を統一して使用することを要求している。以前に発行された歴史的文書は修正する必要はない。

大統領令はまた、大統領科学技術補佐官（APST）に対し、60日以内に立法建議を提出し、スーパーインテリジェンスの連邦レベルの法的定義を確立し、既存法律における人工知能に関する表現を修正する必要があるか評価することを要求している。

大統領令が示す公式の理由は、今日のフロンティアシステムの能力はすでに「人工知能」という言葉が生まれた時の想定をはるかに超えており、それらはますます人間の創造性を増幅し