扎克伯格AI开源宣言：蒸留は合法、独占こそ最大のリスク

原文作者：小饼

8月10日、ザッカーバーグはMeta公式サイトに6500字に及ぶ長文を公開した。タイトルは「The Future is for Everyone」。同じ日、MetaはApache 2.0ライセンスの下、300億パラメータのエージェントモデル「Muse Glimmer」をオープンソース化した。

FTの解釈はこうだ：ザッカーバーグはクローズドソースの競合他社を攻撃する一方で、再びオープンソースの旗を掲げた。

この宣言文には終始、特定の企業名は一切挙げられていないが、どの段落も暗に対象を指し示している。OpenAI、Anthropic、そしてGoogleは、文中で「企業や政府向けにAIを構築する研究所」として描かれており、ザッカーバーグはオープンソースの旗を掲げてこう主張する：もし超知能が最終的に一部の機関に支配されるなら、全人類が敗者となる。

三つの原則、一つの主線

宣言の骨格は三つの原則によって支えられている。

個人のエンパワーメントは繁栄の源である。ザッカーバーグは思考実験を提示する：もし世界でたった一人だけが超知能弁護士を持てるとしたら、その人は裁判で常に勝つだろう、たとえ自分が間違っていても。しかし、もし全ての人が持てるなら、司法はむしろより公平になる。彼は同じ論理をサイバーセキュリティやビジネス競争にも拡張する：全ての人が同等のAI能力を獲得できれば、攻防のバランスは改善され、競争の核心は「誰が優れたツールにアクセスできるか」から「誰が優れた実行力を持つか」へと移行する。

発明は自動化に優先する。彼は「AIが人間の仕事を奪う」という物語を退け、産業革命以前は労働力の90%が農業に従事していたが、農業の機械化は大規模な失業を引き起こさず、むしろ全く新しい産業を生み出したと指摘する。彼はAIが多くの新しい職業カテゴリー（一人プロダクトスタジオ、個人生物学者）を創出すると予測し、企業規模は小さくなるが、企業数は増加すると言う。

権力の均衡は安全の基盤である。これは全文の中核をなす論点だ：超知能の安全保障は、単一の企業が完璧なアライメントを達成して技術を独占することではなく、複数の研究所が同時にフロンティア能力に到達し、互いに牽制し合うことによって達成される。彼は率直に言う：「超知能が少数の個人、企業、政府、あるいはAI自身によって支配されれば、他の全ての人にとって不利な結果が自然と生じるだろう。」

三つの原則は同じ結論を指し示している：AIは集中すればするほど危険であり、分散すればするほど安全である。Metaがオープンソースを選ぶのは、オープンソースが本質的に分散に資するからだ。

刃を隠す

宣言の中で本当に鋭い部分は、一見穏やかに見える表現の中に隠されている。

「他のほとんどの研究所は、企業、政府、その他の機関向けにAIを構築することに注力している。もしこれらの研究所が業界をリードすれば、権力の天秤は個人ではなく大規模な機関に傾くだろう。」

名前は挙げられていないが、その指し示す先は明確だ：OpenAIの企業向けAPI戦略、Anthropicの政府契約、GoogleによるGeminiの閉鎖的な管理。ザッカーバーグは、これらの企業は口では安全性を語りながら、実際には独占を生み出していると考えている。

彼はこうも書いている。「蒸留を有害な行為として描写しようとする人もいるが、『あなたが観察できるあらゆるものから学習できる』という原則を守ることは極めて重要である。」この発言は、OpenAIが商業契約条項において、自社モデルの出力を使用して競合他社のモデルを訓練することを禁止している慣行を直接的に指摘している。ザッカーバーグは知識獲得を基本権利と定義し、蒸留の封鎖を反競争的行為と定義している。

「米国のモデル公開を遅らせる政策は、それがたとえ1ヶ月の遅延であっても、米国のリーダーシップに重大なリスクをもたらし、同時に外国のモデルが加速的にリードすることを許す可能性がある。」この発言の標的は、米国内のAI規制派である。ザッカーバーグの論理はこうだ：中国のオープンソースモデルは、米国が自らを制限したところで止まることはない。自らの手足を縛ることは、オープンソースの競争を手放すことに他ならない。

オープンソースの境界線はどこか

宣言の中には、微妙な方向転換が隠されている。

ザッカーバーグは一貫してAIオープンソースの最も声高な提唱者だった。しかし、この記事では限定付きの一文が使われている：「我々は、超知能の恩恵は可能な限り広く世界と共有されるべきだと信じている。とはいえ、超知能は新たな安全保障上の問題を引き起こすだろう。我々はこれらのリスクを厳格に緩和し、何をオープンソース化するかについて慎重である必要がある。」

TechCrunchの解釈はこうだ：ザッカーバーグは、将来最も強力なモデルをオープンソース化しないための逃げ道を残しているのである。Llamaシリーズはこれまで全てオープンウェイトだったが、もしMetaのモデルが本当に超知能レベルに近づけば、全面オープンソース化はもはやデフォルトの選択肢ではなくなる可能性がある。

彼が提示した代替ガバナンス案はこれだ：Metaの独立した取締役会が、モデル公開の安全基準を承認する権限を持ち、各公開がその基準を満たしているかどうかを審査する。これは検証可能な制度的コミットメントであり、Metaが安全基準と審査記録を公表するならば、だ。現時点では、コミットメントのみで詳細は存在しない。

完全プライバシーモード

宣言は一つの未来像を描いている：全ての人が、あなたの目標、好み、関心ごとを理解する、極めて強力な個人用AIエージェントを持つ。それは7x24時間稼働し続け、あらゆるデバイスからアクセス可能で、「あなたのメガネを含む」、これはMetaのRay-BanスマートグラスとOrion ARヘッドセットへの布石である。

それに付随するプライバシーへのコミットメントは、この文書における最も大胆な単一の技術的声明である：完全プライバシーモード。このモードでは、Metaでさえもあなたの情報を閲覧したり、アクセスを許可したりすることができない。これはWhatsAppのエンドツーエンド暗号化に直接類似している。

広告で収益を上げている企業が、ユーザーデータを自分自身でも見ることができないAIアシスタントの提供を約束する。もしそれが本当にエンドツーエンド暗号化アーキテクチャで実装されれば、これは顕著な技術的かつ商業的な決定となるだろう。しかし、宣言はエンジニアリングの詳細を一切提供しておらず、現時点では単なる意向表明に過ぎない。

10億ドルのコミュニティ基金とデータセンター政治

新しく登場した内容は、コミュニティ・コンパクト（Community Compact）である。Metaは各データセンターが所在するコミュニティへの投資を約束しており、その中には「未来はみんなのもの」と名付けられた10億ドルの基金の設立、無料の技術トレーニングの提供、2030年までにウォーターポジティブ（消費量以上の回復）を達成することなどが含まれる。

彼はルイジアナ州リッチランド郡の例を挙げている：地元の教師たちは、近隣のMetaデータセンターによる税収増加のおかげで、5万ドルのボーナスを受け取った。この例は、AIデータセンターによる水と電力の大量消費に対する米国各地の反発感情に応えるものだ。

誰に向けて書かれたのか？

この宣言は、同時に3つの異なるオーディエンスと対話している。

規制当局に対して：米国のAIオープンソースを制限しないでください。制限は中国を利するだけです。安全保障の問題は、分散と牽制によって解決されるべきであり、集中管理はむしろ危険です。

開発者コミュニティに対して：Metaはオープンソースを続けます。Muse Glimmerがその証拠です。Metaのエコシステムを選ぶことは、一つの企業のAPIに閉じ込められないことを意味します。

競合他社に対して：クローズドソース路線の行き着く先は独占です。Metaは「誰がよりオープンか」を新たな競争軸にしようとしています。この軸において、OpenAIとAnthropicは本質的に有利ではありません。

X上で最もよく見られるコメントはこれだ：これは競争戦略が哲学宣言を装っている、と。

Metaはフロンティアモデルの能力競争において、現時点ではOpenAIやAnthropicに遅れを取っている。そこで彼らは、競争の舞台を「誰のモデルがより強力か」から「誰がよりオープンか」へと移行させようとしている。後者の舞台では、Metaは本質的な優位性を持つ。

とはいえ、動機はともあれ、より多くのオープンソースモデルが開発者エコシステムに利益をもたらすという事実は、それがMetaの商業競争によるものであるからといって、成立しなくなるわけではない。