智能体叢林の法則 2：「技術制御」から「秩序構築」へ

原文作者：m&W 発起人 Jerry

研究サポート：Gemini, ChatGPT

序論：暗号学の安全前提さえも再検討が必要になったとき

ここ数日、イーサリアムエコシステムでは、AIによる数学研究の加速とそれが従来の暗号学の前提に与える潜在的影響をめぐって、深い議論が展開されている。 

イーサリアムの研究者Justin Drakeは、資産移行を早期に計画し、耐量子・より強固な暗号保護を構築することの警戒を提唱した。一方、Vitalik Buterinはリスクに真剣に向き合うよう呼びかけつつ、コミュニティに拙速な移行を戒めた。この議論が反映しているのは、既存の暗号学がすでにAIによって破られたという既成事実ではなく、最先端の研究者たちが将来的な技術リスクに対して抱く警戒と、対応路線をめぐる意見の相違である。 

もしAIが数学研究と暗号解析を著しく加速させ、さらには一部の既存の安全前提の再検討を促すのであれば、これまで十分に長いと考えられてきた安全の窓は、新たな不確実性に直面する可能性がある。

これは既存の暗号学がすでに無効になったことを意味するのではなく、次のことを私たちに思い起こさせる：いかなる具体的な安全策も、技術の進化がもたらす継続的な課題に直面し続ける必要があるということだ。 この議論が明らかにした深層的な命題は、単一の技術路線をめぐる争いよりもはるかに重い：

人類がデジタル世界を制御するための技術的基盤そのものも、絶えずアップグレードし、移行し、修补していかなければならないとき、私たちはデジタル社会の最終的な安全を、ある種の技術が「永遠に失効しない」という仮定に託すことができるのだろうか？ ブロックチェーンは長らく、楕円曲線デジタル署名（ECDSA）、秘密鍵、ステートコンセンサスによって資産の制御メカニズムを確立してきた。

従来の安全観の盲点は次の点にある：「静的な技術制御」と「数学的難題による防御」だけに頼ることは、長期的なスパンにおいて人類に恒久的な絶対的安全を提供することはできない。 

これはブロックチェーンや暗号学が価値を失ったことを意味するのではなく、より鋭い文明的問いを私たちに突きつける：もし技術的安全が本質的に動的に進化する攻防戦であるならば、人類はいったいどのようなパラダイムの進化を遂げれば、日益に強大化するエージェントネットワークの中で、生存・協働・自治の能力を継続的に保持できるのだろうか？

一、技術制御の限界：私たちは本当に「知能」を「制御」できるのか？

従来のデジタル安全の思考は「制御」の上に成り立っている：鍵、権限の分離、コード監査、サンドボックス環境、ランタイム監視によって、システムが実行できる行為を厳格に制限する。 

これらの技術的防御は依然として不可欠であり、ポスト量子暗号、より堅牢な鍵管理、エージェント権限制御の推進とともに絶えずアップグレードされなければならない。

しかし、自律的な計画立案、ツールの呼び出し、クロスプラットフォームでの実行、マルチエージェント協調の能力を備えたAIエージェント（Agents）に直面すると、安全問題はもはや単一のシステムやモデルの境界を完全に超えている。  

1、組み合わせリスクとシステムの創発：たとえ個々のエージェントがそれぞれ内部コードと局所的な権限を厳格に守っていたとしても、何千何万ものエージェントがクロスプラットフォーム、クロスプロトコルの環境でミリ秒単位の相互作用とゲームを行うとき、システム全体は、いかなる単一の設計者も予測できないシステム的リスクを創発させる。 

2、技術的検証と真の意図の齟齬：暗号学はある秘密鍵が指示に署名したことを証明でき、ブロックチェーンはそのコードを忠実に実行できる。しかし、それらは独立して判断することはできない：この署名の背後にある真の意図は何か？それは詐欺、暗中の操作、あるいは複雑なプロンプト攻撃下での権限逸脱に由来するものではないのか？ 私たちは制御の精度を絶えず高めることはできるが、それによって「絶対的安全」を導き出すことは永遠にできない。技術制御が解決するのはエージェントが「何をできるか」という技術的境界であり、それらが「何をすべきか」という秩序の問題に答えることはできない。

二、文明の経験：人類はリスクを消滅させることによって社会を組織してきたわけではない

文明史を振り返れば、人類社会はすべての潜在的危険を消滅させることによって初めて機能してきたわけではない。 

火は飼いならされたからといって破壊性を失ったわけではないが、人類は防火建築、消火設備、法的責任を発明した。自動車は交通規則を備えたからといって事故がなくなるわけではないが、人類は運転免許、道路設計、保険賠償、事故責任追及によって、交通リスクを許容可能な範囲に制約してきた。金融システムはさらに、人人が誠実であることを前提としたことは一度もなく、身元の貫通、監査追跡、契約の拘束、債務不履行への罰則によって大規模な信頼協働を組織してきた。 

文明の進歩は、より強力なツールを獲得することだけでなく、それに適応するルール、責任、協働の制度を確立することをも意味する。 

しかし、AIエージェントは前例のない挑戦をもたらす：それらは極めて低い限界費用で無限に複製でき、24時間365日稼働し続け、物理的・デジタル的境界を越えて行動し、さらに他のエージェントの複雑な協働に自律的に参加する可能性がある。 伝統社会の古いルールを単純に踏襲することは必ず失敗する。私たちは全く新しい制度設計を必要としている——安全とは危険を消滅させることだけでなく、危険が完全に消滅できないとしても、社会がなお機能し続けることのできる秩序を確立することである。 

三、単一エージェントの制御から、智能社会の共通ルールの構築へ

「技術制御」から「秩序構築」への思想的飛躍を成し遂げるには、核心的な転換点は次の点にある：問題を「いかに一つのエージェントを十分に安全にするか」から、「いかに異なる人間とエージェントが共通のルールの下で協働できるようにするか」へと転換することだ。 この転換は、デジタル社会のために四つの次元の基盤アーキテクチャを確立することを私たちに要求する：  

1、主体（Identity）：誰が行動を起こしているのか？エージェントは誰の意図を代表しているのか？人間の主体とそのデジタル代理との間に、改ざん不可能なアンカリング関係をいかに確立するか？

 2、授権（Authorization）：誰がそれに何を許可したのか？授権の有効期間、限度額、境界はどこにあるのか？授権はエージェントによって二次的に再授権され得るのか？

 3、責任（Liability）：エージェントの行為が契約違反、権限逸脱、経済的損失を引き起こしたとき、公開された証拠に基づいて関連主体を特定し、責任を区分し、賠償を執行するにはどうすればよいか？ 

4、価値（Value & Coordination）：エージェントが協働に参加して創造した価値は、いかに客観的に確認され分配されるのか？紛争が発生したとき、どのような手続きによって裁決されるのか？ 真に確立する必要があるのは、より安全な単一のエージェントだけでなく、多数の完全には信頼できないエージェントが共に稼働することを許容できる社会メカニズムである。

四、ブロックチェーンの再理解：それは万能ファイアウォールではなく、秩序のインフラである

このガバナンスの転換において、私たちはブロックチェーンと暗号学の真の位置づけを改めて明確にする必要がある。暗号学が潜在的リスクに直面しているからといって、ブロックチェーン全体が価値を失ったわけではない。秩序構築を強調することは、決して技術的防御を放棄してよいことを意味しない。 

イーサリアム財団および広範なWeb3エコシステムは、依然として耐量子署名アルゴリズム、ポスト量子暗号路線、より堅牢なウォレット保護アーキテクチャを継続的に推進している。このこと自体が次のことを示している：技術的防御は、継続的にパッチを当て、アップグレードし、移行し続けなければならない基礎工事である。 

ブロックチェーンの戦略的価値は、これまで人類に代わってすべてのリスクを消滅させる万能ファイアウォールであることではなく、デジタル社会秩序のインフラであることだ：

• 公開されたルールの執行：スマートコントラクトは、社会的コンセンサスを経た協働ルールを、透明で、確定的で、一方的に改ざんできないプログラムに変換できる。
• 検証可能な行為の証跡：EAS（Ethereum Attestation Service、イーサリアム証明サービス）などのクレデンシャル基盤を通じて、主体の身元、授権関係、タスク履行、協働結果に対して検証可能な記録を形成する。オフチェーンで発生した行為については、信頼できるデータソース、署名証明、または独立した検証メカニズムを組み合わせて初めて、関連する記録が真実かどうかを判断できる。
• 組織横断的な調整の媒体：単一のテックジャイアントに依存しない汎用的なステートレイヤーを提供し、異なるプラットフォーム、異なるモデルに由来するエージェントが統一プロトコルに基づいて協働できるようにする。

それはオフチェーンの事実の真偽を独立して証明することも、ある行為が社会的意味において絶対的に正当であることを保証することもできない。しかし、それは社会規範の執行可能性、検証可能性、責任追及可能性のために、最も堅固なデジタル基盤を提供する。

五、誰がルールを制定するのか？デジタル文明の秩序はどこから来るのか

もし私たちが未来を「秩序と規範」に託すのであれば、直ちに権力に関する根本的な問いに答えなければならない：これらのルールは誰が制定するのか？誰が違反を判定するのか？誰がルールを変更する権限を持つのか？

• もしルールが完全に単一の中央集権的AIジャイアントによって制定されるなら、人類はデジタルプラットフォームの「デジタル借家人」に転落する；
• もしルールが完全にハードコードされた「コード即法律」に依存するなら、システムは複雑な現実と突発的リスクに対応する柔軟性を失う；
• もしルールが完全に門戸のないコミュニティ投票に依存するなら、ガバナンスは極めて容易にシビル攻撃と多数派の暴政に転落する。
• デジタル社会規範の正当性は、手続き的正义と動的進化の上に確立されなければならない：共同制定と権限の分離：ルール制定、行為執行、証拠検証、紛争裁決は単一の主体に集中してはならない。
• 手続き的正义と異議申立てのチャネル：違反行為の判定は、オンチェーンの証跡と公開された証拠チェーンに基づかなければならず、人間のために再審査と異議申立てのメカニズムを保持する。
• 継続的進化能力：ルールは、AI能力の突破、暗号学的安全前提の変化、実際の協働における新たなリスクに応じて、秩序あるアップグレードと反復を行えるべきである。

デジタル文明は、エージェントを拘束するだけでなく、ルールを制定し執行する人間の組織自体をも拘束する必要がある。 

したがって、デジタル社会は、開かれた参加、権力の制約、手続き的正义、検証可能な執行を結びつけるガバナンス構造を模索する必要がある。DAO（分散型自律組織）はその中の重要な組織・調整形式の一つとなり得るが、それ自体も透明性、権力の均衡、責任の帰属、継続的誤り訂正メカニズムの制約を受け入れなければならない。

六、なぜ人間がデジタル世界の第一主体でなければならないのか

もし秩序の構築が単にAIにより効率的にタスクを実行させるためだけのものであるなら、それはせいぜい機械効率の管理マニュアルに過ぎない。 

デジタル社会の終局的問いはこうだ：極めて繁栄した知能ネットワークの中で、誰が協働の目標を決定するのか？誰が真の意図を表現するのか？誰が授権する権限を持つのか？誰が最終的な責任を負うのか？ 

m&Wの世界観において、これらすべての答えは再び人間にアンカリングされる：  

• Builder（構築者）：人間の意図、価値判断、創造活動の重要な源であり、デジタル協働において識別され尊重されるべき主体である。その責任は、具体的な授権、実際の制御能力、行為への関与度、適用されるルールに基づいて界定されるべきであり、すべてのエージェントの行為を一律に人間に帰責するべきではない。
• Digital Twin（デジタル分身）：単純な身元ラベルではなく、人間から独立した機械アカウントでもなく、人間のデジタル身元とその管理するエージェント軍団が共に形成するデジタル行動能力である。

AIは人間の行動能力を大幅に拡張できるが、デジタル社会の目標設定、価値判断、ガバナンスルールは、人間の実質的参加と監督の余地を保持しなければならない。 AIは機械の効率を向上させられるが、デジタル社会の目標設定、価値判断、最終的なガバナンス権は、決して知らぬ間に人間の手から転落して