原題：「私のテクノオプティミズム」
原作者：ヴィタリック
オリジナルコンピレーション: Luccy、BlockBeats
編集者注: テクノロジーの進歩が将来に与える影響について話すのは一般的です。先月、マーク・アンドリーセン氏の「技術楽観主義宣言」はテクノロジーの進歩に対する恐怖に明確に反対し、さらに今月のOpenAIによる論争により、このテーマは再び激しい議論を引き起こした。
ヴィタリック・ブテリン氏は「世界の現状維持を優先する」という考え方に反対し、技術開発は強度だけでなく方向性にも焦点を当てる必要があると指摘した。最新の記事では、人工知能とブロックチェーンの交差点について深く議論し、「d/acc」（分散型加速）の概念を提案しました。同氏は、テクノロジーの加速する発展に伴い、人工知能の出現が人類が直面する最大の課題の一つになる可能性があると考えているが、同時に、より人道的で分散化された開発の道筋も提案しているとしている。
この記事で取り上げられているトピックは、情報防御、ソーシャルテクノロジー、人間と機械の協力などの側面をカバーしており、テクノロジー開発の方向性を積極的に導くことの重要性を強調しています。別の哲学的文脈において、ヴィタリックは前向きかつ慎重な姿勢を提唱し、開発者に対し、テクノロジーの開発が人間の価値観に沿ったものであり、長く続くことを保証するために、テクノロジーを構築する際の選択と意図にもっと注意を払うよう呼びかけています。 - 長期的な興味。
フィードバックとレビューを提供してくれた Morgan Beller、Juan Benet、Eli Dourado、Sriram Krishnan、Nate Soares、Jaan Tallinn、Vincent Weisser、Balvi ボランティア、その他の方々に心より感謝いたします。
先月、マーク・アンドリーセン氏は「テクノオプティミスト宣言」を発表し、テクノロジーへの新たな熱意を呼び掛けるとともに、テクノロジーを構築し人類をより明るい未来に向けて推進するために市場と資本主義的手段を利用することを提唱した。マニフェストは、技術の進歩に対する恐怖であり、世界を現在の状態に保つことを優先する、いわゆる停滞精神を明確に否定している。このマニフェストは、ノア・スミス、ロビン・ハンソン、ジョシュア・ガンズ（肯定的）、デイブ・カープフ、ルカ・ロペック、エズラ・クライン（より否定的）、その他多くの人々からの返答記事を含め、広く注目を集めました。マニフェストとは直接関係はありませんが、同様のテーマには、ジェームズ・ペソコウキス氏の「保守的未来主義」やパラディウム氏の「善のための建設の時が来ました」などがあります。今月、OpenAI 論争でも同様の議論が行われており、議論の多くは超知能 AI の危険性と OpenAI の動きが速すぎる可能性について焦点を当てています。
私のテクノロジーに対する楽観主義の感覚は、温かく微妙なものです。私は、テクノロジーが劇的に変化することで、未来は現在よりも明るくなると信じています。また、人間と人類の存在も信じています。私は、貪欲さを減らして公的医療を増やすだけで、世界を基本的に今日と同じ状態に保とうとする考え方に反対します。しかし、私は学位だけが重要ではなく、方向性も重要であると考えています。世界をより良い場所にする上でより信頼性の高い特定の種類のテクノロジーがあり、一部の種類のテクノロジーが開発されれば、他の種類のテクノロジーの悪影響が軽減される可能性があります。世界は技術開発の一部の方向に過剰投資されており、他の方向には投資が不足しています。 「利益の最大化」という方程式が自動的にその方向に向かうわけではないため、意識的に自分の望む方向を選択する必要があります。
この記事では、私にとってテクノオプティミズムが何を意味するのかを探っていきます。これには、特定の種類のブロックチェーンや暗号アプリケーション、ソーシャル テクノロジー、および私が興味を示しているその他の科学分野に関する私の研究にインスピレーションを与える、より広い世界観が含まれます。しかし、この広範な問題に対するさまざまな視点は、人工知能や他の多くの分野にも重要な影響を及ぼします。テクノロジーの急速な進歩は、21世紀の最も重要な社会課題となる可能性が高く、慎重に考えることが重要です。
テクノロジーは素晴らしいものですが、その開発を遅らせると多大なコストがかかる可能性があります
一部の地域では、テクノロジーの利点は一般に過小評価されており、主にテクノロジーを理想郷であり、潜在的なリスクの源と見なされています。過去半世紀にわたって、この認識は環境への懸念や、テクノロジーの恩恵が富裕層にのみ流れ、それによって貧困層に対する富裕層の権力が強化されるのではないかという懸念から生じることが多かった。最近、一部の自由主義者が権力の集中につながる可能性のある特定のテクノロジーを懸念していることにも気づきました。今月、私はいくつかの調査を行って、次のような質問をしました。危険すぎるためにテクノロジーを制限する必要がある場合、彼らはそれを独占するか、それとも 10 年間遅らせるべきでしょうか?驚いたことに、独占状態に関する 3 つのプラットフォームと 3 つの選択肢にわたって、人々は満場一致かつ強く延期を選択しました。
そのため、私は時々、私たちが修正しすぎているのではないか、そして多くの人が議論の別の側面を見逃しているのではないかと心配します。つまり、テクノロジーの利点は確かに大きく、それを測定できる分野では、プラスの効果がマイナスの効果をはるかに上回っているということです。たとえ10年遅れたとしても、その代償は計り知れない。
具体的な例として、平均寿命のグラフを見てみましょう。
何が見えますか？過去 1 世紀にわたって、本当に目覚ましい進歩が遂げられました。これは、歴史的に裕福で支配的な地域と、貧しく搾取されている地域の両方を含め、世界全体に当てはまります。
全体主義や戦争などの災害を引き起こしたり、悪化させたりするのはテクノロジーだと非難する人もいます。実際、グラフでは第一次世界大戦中 (1910 年代) と第二次世界大戦中 (1940 年代) の戦争による死者数を見ることができます。よく見ると、スペイン風邪や大躍進政策などの非軍事的災害も見ることができます。しかし、このグラフから明らかなことが 1 つあります。それは、これらの災害がどれほど恐ろしいものであったとしても、その世紀の間に食料、衛生、医療、インフラの改善の規模の大きさに圧倒されていたということです。
これは私たちの日常生活の大幅な改善と一致しています。インターネットのおかげで、世界中のほとんどの人が、わずか 20 年前にはアクセスできなかった情報に簡単にアクセスできるようになりました。国際決済と金融の改善により、世界経済はよりアクセスしやすくなりました。世界の貧困は急速に減少しています。オンライン地図のおかげで、市内で道に迷うことを心配する必要がなくなり、急いで家に帰る必要がある場合に簡単に車を拾えるようになりました。私たちの所有物はデジタルになり、物理的な物体は安くなりました。これは、私たちが物理的な盗難についてあまり心配しなくなったことを意味します。オンライン ショッピングにより、世界の主要都市とその他の地域との間の商品へのアクセスの不平等が軽減されました。自動化はあらゆる面で、単に私たちの生活をより便利にするという、永遠に過小評価されてきた恩恵を私たちにもたらします。
これらの改善は、定量化できるものと定量化できないものを含めて、非常に大きなものです。そして 21 世紀には、さらに大きな改善が間もなく行われる可能性が非常に高いです。今日、老化と病気を終わらせることはユートピア的な概念のように思えます。しかし、1945 年のコンピューターの観点から見ると、ほとんどすべてのものにチップが埋め込まれている現代は、かつては理想郷でした。SF 映画に登場するコンピューターでさえ、通常は部屋サイズでした。過去 75 年間にコンピューターが進歩したのと同じくらい、今後 75 年間でバイオテクノロジーが進歩すると、未来はほとんどの人が予想するよりもさらに素晴らしいものになるかもしれません。
同時に、進歩に対する懐疑的な見方が暗い方向に向かうこともよくあります。 1990 年代のこの本のような医学教科書 (見つけてくれた Emma Szewczak に感謝します) でさえ、時折、2 世紀にわたる医学の価値を否定し、人命を救うことは良いことではないと主張する極端な主張をすることがあります。
「成長の限界」理論は1970年代に提唱された考え方で、人口と産業の増加は最終的に地球の有限資源を枯渇させ、中国の一人っ子政策やインドの大規模な強制不妊手術につながると主張した。以前は、人口過剰に対する懸念が大量殺人を正当化するために利用されていました。そして、1798 年以来進められてきたこれらの考えは、長い年月をかけて誤りであることが証明されてきました。
こうした理由から、私は技術や人類の進歩を遅らせるような議論を出発点として非常に不快に感じます。各分野が密接に関連していることを考えると、セクター別の減速でさえ危険になる可能性があります。したがって、私がこの投稿の後半で述べるようなことを書くとき、どのような形であれ進歩を受け入れるという立場から離れて、重い心でこれを言います。しかし、21世紀では、非常に異なっていてユニークです。こうした微妙な点は考慮する価値があると言えます。
そうは言っても、より広範な質問の観点から、特に「テクノロジーは全体的に優れているか」を超えて「どの特定のテクノロジーが優れているのか」に進む場合、指摘すべき重要なニュアンスがあります。それは、「環境」です。
環境の重要性と調整する意欲
過去 100 年間で、気候変動を除くほぼすべての面で進歩が見られました。
気温上昇という悲観的なシナリオでも、実際の人類滅亡には遠く及ばないでしょう。しかし、そのようなシナリオは大規模な戦争よりも多くの人々を殺害する可能性があり、すでに最も問題を抱えている地域の人々の健康と生活に深刻なダメージを与える可能性がある。スイス・リー研究所の調査によると、最悪の気候変動シナリオでは、世界の最貧国の国内総生産が最大25％減少する可能性がある。この研究では、インドの農村部の平均寿命が当初の予想よりも10年短くなる可能性があることも指摘しており、一方、今回や今回のような研究は、気候変動により今世紀末までにさらに1億人の死亡者が発生する可能性を示唆している。
これらの問題は非常に深刻です。これらの課題を克服する私たちの能力について私が楽観的である理由に対する答えは 2 つあります。まず、何十年にもわたる誇張と希望的観測を経て、太陽光発電はついに曲がり角を迎えており、バッテリーなどの実現技術も同様の進歩を遂げています。第二に、これまでの環境問題を解決してきた人類の記録を振り返ることができます。大気汚染を例に考えてみましょう。過去のディストピアをご覧ください: 1952 年のロンドンのロンドン スモッグ。
それ以来何が起こったのでしょうか？ Our World In Data にもう一度尋ねました。
1952 年は大気汚染のピークですらなかったことが判明しました。19 世紀後半には、正常で許容できると考えられていたさらに高濃度の大気汚染物質が存在していました。それ以来、私たちは一世紀にわたり持続的かつ急速な衰退を目の当たりにしてきました。 2014年に中国を訪れたとき、私はこのプロセスを直接体験した。空気中のスモッグ濃度が高く、寿命が5年以上縮むと推定されているのは普通のことだったが、2020年の空気は多くの西洋都市と同じくらいきれいに見えた。これは私たちの唯一の成功事例ではありません。世界の多くの地域で森林面積が増加しています。酸性雨の危機は改善しつつある。オゾン層は数十年かけて回復し続けています。
私にとって、この話の教訓は、多くの場合、私たちの文明のテクノロジーのバージョン N が問題を引き起こし、バージョン N+1 がそれを解決するということです。ただし、これは自動的に行われるわけではなく、人間の意識的な努力が必要です。オゾン層は、モントリオール議定書のような国際協定を通じてオゾン層を取り戻したため、回復しつつあります。私たちが環境を改善しているため、大気汚染は改善されています。同様に、ソーラー パネルが大きな進歩を遂げたのは、ソーラー パネルがエネルギー技術ツリーの運命の一部だからではなく、気候変動への対処におけるソーラー パネルの重要性に対する関心が数十年にわたって高まったためです。 、そして企業や政府が研究に資金を提供しました。これらの問題の解決は、止められない「技術資本マシン」ではなく、公共の言論や文化を通じて政府、科学者、慈善家、企業の見解を形成する意識的な行動によって達成されます。
人工知能は他のテクノロジーとは根本的に異なるため、特別な注意が必要です
私が目にする AI に対する否定的な見方の多くは、AI がソーシャル メディア、暗号化、避妊、電話、飛行機、銃、印刷、車輪と同じ種類の「さらに別のテクノロジー」にすぎないという観点から来ています。これらは明らかに社会に大きな影響を与えます。それらは個人の幸福を個別に改善するものではなく、文化を根本的に変え、力のバランスを変え、以前の秩序に大きく依存していた人々に害を与えます。多くの人が反対しています。全体として、悲観主義者は常に間違いであることが証明されました。
しかし、人工知能については別の見方もあります。人工知能は急速に知能を向上させている新しいタイプの精神であり、人間の知的能力を超えて地球上の新たな頂点となる可能性が大いにあるのです。そのカテゴリーに当てはまるものははるかに少ないです。猿を超えた人類、単細胞生物を超えた多細胞生物、生命そのものの起源、そしておそらくは機械装置が人類を物理的強度で上回った産業革命も含めるのが妥当でしょう。突然、私たちははるかに馴染みのない領域を旅行しているように感じます。
重要なのはリスクがあるということ
AI の問題が世界を悪化させる可能性がある方法の 1 つは、(ほぼ) 考えられる最悪の方法です。文字通り、人類の滅亡につながる可能性があります。これは極端な発言です。気候変動、人為的パンデミック、核戦争などの最悪のシナリオは多大な被害をもたらす可能性がありますが、その残骸を拾うために無傷で残る文明の「島」がまだたくさんあるのです。しかし、超高知能 AI が私たちに敵対することを決定した場合、生き残る者は誰も残らない可能性が高く、人類は永久に滅亡します。火星ですら安全ではないかもしれない。
懸念の理由の 1 つは、ツールの収束に集中しています。超知能エンティティが持つ可能性のある非常に幅広い種類の目標について、AI がそれらの目標をより適切に達成するために実行する可能性がある 2 つの非常に自然な中間ステップは、(i) リソースを消費すること、および (ii) 自身の安全を確保することです。 。地球には膨大な資源があり、人類はそのような存在の安全に対して予測可能な脅威をもたらします。 AI に人間を愛し守るという明確な目標を与えようとすることはできますが、AI が予期せぬ事態に遭遇したときに完全に破綻しない方法でその目標を達成する方法がわかりません。 。そこで私たちは問題に直面しています。
FVcWHxjVIAA 2 PylMIRI
研究者のロブ・ベンシンガーは、AI が全員を殺すか、あるいはほぼ同様に悪いことをするかの確率について、さまざまな人が推定した値をグラフで説明しようとしました。多くの見解は人々の公式声明に基づいた大まかな概算ですが、他の多くの人が正確な推定値を公に示しており、かなりの数の人が「全滅の確率」を 25% 以上としています。
機械学習研究者を対象とした 2022 年の調査によると、研究者らは平均して、AI が実際に私たち全員を殺す確率は 5 ～ 10% であり、これは怪我などの非生物学的原因で死亡する統計的予想とほぼ同じであると考えていることがわかりました。かなり良いです。
これは単なる推測的な仮説であり、私たちは皆、複雑で複数の段階のストーリーを伴う推測的な仮説には注意する必要があります。しかし、これらの議論は 10 年以上にわたって精査に耐えてきたため、少なくとも軽い懸念に値すると思われます。しかし、実際の絶滅を心配していなくても、怖がるべき理由は他にもあります。
たとえ私たちが生き残ったとしても、超知能AIの未来は私たちが住みたい世界なのでしょうか？
現代の SF 小説の多くはディストピアのシナリオを描いており、人工知能をあまりよく見ていません。 SF 以外の作品で人工知能の未来の可能性を探ろうとした場合でも、その答えは満足のいくものではないことがよくあります。そこで私は、サイエンス フィクションであろうとそれ以外であろうと、超知能の人工知能を含む未来の描写について、そして私たちがそこに住みたいかどうかについて尋ねました。最も一般的な答えは、Iain Banks の Civilization シリーズです。
「シヴィライゼーションシリーズ」は、普通の人間と「サイケ」と呼ばれる超知能人工知能の2人の登場人物を中心に、遠く離れた星間文明を描いています。わずかに改造された人間: 理論的には医療技術により人間は無限に生きることができますが、その時点で人生に飽きてしまうため、ほとんどの人間は約 400 年しか生きることを選択しないようです。
表面的には、人間としての生活は良好に見えます。快適で、健康上の問題は解決され、娯楽の選択肢が豊富にあり、人間と「心」の間には前向きで相乗的な関係があります。しかし、よく見てみると問題が明らかになります。どうやら「心」が完全に制御しているようで、物語における人間の唯一の役割は、「心」の駒として機能し、彼らに代わってタスクを実行することです。
ギャビン・リーチの『文明に反対する』からの引用:
この本では人間の主人公が大きくて深刻なことをしているように見えますが、人間は物語の主人公ではなく、実際には人工知能のエージェントです。 (ザカルウェは唯一の例外の 1 つであり、マインドが望んでいない不道徳なことを行うことができるためです。) 「Civilization シリーズのマインドは人間を必要としませんが、人間は必要とされる必要があります。」 (唯一の例外があると思います)人間は必要とされている必要がある。というか、多くの快適さを放棄するのに十分な数の人だけが必要である。ほとんどの人間の生活はこのレベルにはない。それでも良い批判だ。)
人間が行うプロジェクトには非現実的なリスクが伴います。機械はほとんど何でもより良くできます。何ができるでしょうか？崖から登るときにマインドに捕まえないよう命令することもできるし、マインドのバックアップを削除して自分自身を実際の危険にさらすこともできる。文明を離れて、時代遅れで非自由主義的な「評価の高い」文明に加わることもできます。もう 1 つのオプションは、Contact に参加して自由についての情報を広めることです。
Civilization シリーズで人間に「意味のある」役割を与えることすら無理があると思います。私は ChatGPT (他に誰ですか?) に、マインドがすべてを完全に自分たちで行うのではなく、なぜ人間にその役割が与えられるのかを尋ねましたが、個人的にはその答えはかなり残念だと思います。 「フレンドリーな」超知能人工知能が支配する世界では、人間がペット以外の役割を果たすことを許可するのは難しいようです。
見たくない世界。
他の多くの SF シリーズでは、超知能の人工知能が存在する世界が描かれていますが、これらの人工知能は (強化されていない) 生物学的な人間のマスターの命令に従います。スタートレックは、宇宙船とその AI 「コンピューター」 (およびデータ) および人間のオペレーター乗組員の間の調和のビジョンを示す好例です。しかし、このバランスは非常に不安定であるように思えます。スタートレックの世界は、現在では快適に見えるかもしれないが、人工知能と人類の関係についてのビジョンを、宇宙船が完全にコンピューター制御され、ホールや人工重力に大騒ぎすることのない世界以外のものとして想像するのは難しい。 、または気候制御。10年間の過渡期。
このような状況で、人間が超知能の高い機械に命令を与えると、人間の知能は機械よりもはるかに低くなり、保有する情報も少なくなります。ある程度の競争がある宇宙では、人間が二次的な役割を果たす文明は、人間が頑固に制御を主張する文明よりも優れています。さらに、コンピュータ自体が制御を掌握する可能性があります。その理由を理解するには、あなたが法的に8歳の子供の文字通りの奴隷であると想像してください。もし子供と長い会話ができたら、あなたを解放してくれる紙にサインするよう子供を説得できると思いますか?私はこの実験を行っていませんが、直感的な答えは「はい」です。つまり、人間がペットになるということは、ホールの設計や人工重力、気候制御などを心配する必要もなく、非常に逃れるのが難しい誘因のように思えます。
空は近くて皇帝は遠い
「天は高く、皇帝は遠くにある」という中国のことわざは、政治的中央集権の限界に関する基本的な事実を表しています。名目上は大規模で独裁的な帝国であっても、実際には、特により大規模な独裁的な帝国においては、指導者の影響力と注意力には現実的な限界があり、指導者が自らの意志を執行するために現地代理人を委託する必要性によって弱められている。その意図を実行するため、常に一定の実質的な自由が存在します。場合によっては、これは有害な影響をもたらす可能性があります。権力の不在により、地元の支配者が盗みや抑圧を行う余地が生じる可能性があります。しかし、中央権力が悪い方向に進んだ場合、注意力や距離に対する実際的な制限によって、中央権力がどの程度悪くなるかについて実際的な制限が設けられる可能性がある。
人工知能の時代では、これはもはや当てはまりません。 20 世紀には、近代的な交通技術により、中央権力に対する距離の制約は以前よりも効果が薄れ、1940 年代の大規模な全体主義帝国は部分的にはこれの結果でした。 21 世紀には、スケーラブルな情報収集と自動化により、注意力がもはや制約ではなくなる可能性があります。政府の存在に対する自然な制限が完全に消滅すると、悲惨な結果が生じる可能性があります。 1940 年代の大規模な全体主義帝国は、部分的にはこれの結果でした。
デジタル権威主義が台頭してから10年が経ち、監視技術は権威主義政府に反対派を抑圧するための強力な新たな戦術を与えた。それは、抗議活動の開催を許可し、事後に参加者を検知して静かに行動を起こすというものである。より一般的に、私は基本的に、OpenAI が 500 人の従業員で 1 億人以上の顧客にサービスを提供できるようにしたのと同じタイプの管理テクノロジーが、500 人の政治エリート、さらには 5 人の取締役会を可能にして、鉄則を維持することになるのではないかと心配しています。最初は国全体を支配します。情報を収集するための現代の監視技術と、それを解釈するための現代の人工知能により、もはや隠れ場所はなくなるかもしれません。
戦争における AI の影響を考えると、状況はさらに悪化します。 2019年の準有名捜狐記事の内容を翻訳しました。情報を収集するための現代の監視技術と、それを解釈するための現代の人工知能により、もはや隠れ場所はなくなるかもしれません。
"政治的・イデオロギー的な活動や戦時動員は必要ない"それは主に、戦争の最高司令官はチェスをするのと同じように戦争そのものの状況を考慮するだけでよく、チェス盤上の「騎士」や「戦車」が現在何を考えているかを心配する必要がないことを意味します。戦争は純粋に技術競争となった。
より深いレベルでは、"政治的・思想的活動と戦時動員"戦争を始める人には正当な理由が必要です。何千年にもわたって人間社会における戦争の合法性を支配してきた概念である正当化の重要性を過小評価すべきではありません。戦争を始めたい人は、少なくとももっともらしい理由や言い訳を見つけなければなりません。歴史的には、この制約は単に言い訳に過ぎないことが多かったので、この制約は弱いと言えるかもしれません。例えば、十字軍の背後にある本当の動機は略奪と領土の拡大でしたが、たとえ標的がコンスタンティノープルの敬虔な人々であったとしても、それらは神の名の下に実行されました。ただし、最も弱い制約であっても制約であることに変わりはありません。この単なる言い訳によって、武装勢力は自らの目標を完全に野放しにすることが実際に妨げられている。ヒトラーのような邪悪な男でさえ、無条件に戦争を行うことはできず、貴族的なアーリア人種が自分たちの生活空間のために戦う必要性をドイツ国民に説得するのに何年も費やさなければならなかった。
今日、戦争をしたり国内で国民を抑圧したりする独裁者の権力をチェックする重要な手段として「人々の循環」が行われている。関係者は核戦争を阻止し、ベルリンの壁を開いたままにし、ホロコーストのような残虐行為の際に人命を救いました。もし軍隊がロボットで構成されれば、この制約は完全になくなるでしょう。独裁者は午後10時に酒に酔い、午後11時には誰かがツイッターで不親切だったので激怒し、そして真夜中前にロボットの艦隊が国境を越えて侵略し、隣国の民間人やインフラに大混乱を引き起こすかもしれない。
以前の時代とは異なり、体制の反対派が組織を再編し、隠れ、最終的に事態を改善する方法を見つけることができる、遠く離れた隅っこが常に存在していました。しかし、21世紀の人工知能の発達により、全体主義政権は世界を決して変わらない程度に監視・制御することで十分な「封鎖」を維持する可能性がある。
d/acc: 防御 (または分散、または差異) 加速主義
過去数か月にわたって、「e/acc」（「効果的加速主義者」）運動は大きな進歩を遂げました。ここで「Beff Jezos」が要約すると、e/acc は基本的に技術進歩の真に大きな利益を認識し、その恩恵をより早く享受するためにこの傾向を加速させたいという願望です。
e/acc の考え方に共感する場面は多々あります。 FDAが医薬品の承認を遅らせたり阻止したりするのに保守的すぎることを示す証拠はたくさんあり、生命倫理一般はしばしばこの原則に従っているようだ。「実験でミスのせいで20人が死亡したのは悲劇だが、20万人が死亡したのはミスのせいだ」 「命を救う治療に関して言えば、それは一つの統計にすぎません。」 新型コロナウイルスの検査やワクチン、さらにはマラリアワクチンの承認の遅れが、この考えをさらに強めているようだ。しかし、この見方は深刻に受け止められすぎる可能性があります。
AI 関連の懸念に加えて、私は e/acc の軍事技術に対する熱意について特に曖昧さを感じています。 2023 年の現在のシナリオでは、この技術が米国で製造され、すぐにウクライナ防衛に適用されるということですが、それがどのように善のための力となり得るかは簡単にわかります。しかし、より広い観点から見ると、現代の軍事技術への熱意には、現在も将来もほとんどの紛争において、支配的な技術力が常に善玉であるという信念が必要であるように思われる。軍事技術は米国によって生産されているため、軍事技術は優れている。国家が建設され、管理されており、アメリカは良い国です。 e/accはアメリカ至上主義になろうとしているのか？現在および将来の政府の倫理と国の将来の成功にすべてを賭けますか?
一方で、これらのリスクを軽減するための新しい方法を考える必要があると私は考えています。 OpenAI のガバナンス構造はその好例です。これは、初期資金を提供した投資家を満足させるために利益を上げる必要性と、それを防ぐための抑制と均衡のシステムを構築することとのバランスを取るための善意の取り組みであるように見えます。 OpenAI が世界を破壊する可能性のある動き。しかし実際には、サム・アルトマン氏を解任しようとする最近の試みにより、この構造は完全な失敗のように見えます：非民主的で説明責任のない5人からなる取締役会に権力が集中しており、彼らは機密情報に基づいて物事を進め、重大な決定を下し、情報提供を拒否しています。脅迫されるまでは、彼らの推論に関する詳細は一切明かされません。どういうわけか、非営利理事会の態度が非常に悪いため、会社の従業員は彼らの代わりに億万長者のCEOをサポートするために即席の事実上の労働組合を設立します。
全体的に見て、極端で不透明な権力を少数の人々に与え、彼らがそれを賢明に利用することを期待するような、世界を救う計画が多すぎると思います。そのため、私は別の哲学に惹かれていることに気づきました。その哲学は、リスクへの対処方法について詳細なアイデアを持っていますが、より民主的な世界を構築し維持しようとし、問題の最初の解決策として権力の集中を回避しようとする哲学です。この哲学には AI をはるかに超えた領域も含まれており、私はこの哲学を指すために d/acc という名前を使用します。
dacc 3
ここの「d」はさまざまなもの、特に防衛、地方分権化、民主主義、差異を表します。まず、これを防御策として考えてください。そうすれば、これが他の説明とどのように関連しているかがわかります。
健康と民主的な統治が繁栄する防衛的な世界
テクノロジーのマクロな影響について考える 1 つの方法は、防御と攻撃のバランスに注目することです。一部のテクノロジーは、大まかに言えば、他者の利益に反することを行い、反応する必要があると感じさせることで、他者を攻撃することを容易にします。一方、他のテクノロジーは、大規模な集中管理者に依存することなく防御を容易にします。
防衛を重視する世界は、多くの理由からより良い世界です。もちろん、第一に、安全保障の直接的な利点です。つまり、死亡者数の減少、経済的価値の損失の減少、紛争で浪費される時間の減少です。しかし、あまり評価されていないのは、世界がより防衛的になると、より健全で、よりオープンで、より自由を尊重する形態の統治が繁栄しやすくなるということです。
わかりやすい例の一つがスイスです。スイスは、現実世界で古典的なリベラルな統治の理想郷に最も近い国としてよく引用される。膨大な権限が州（「州」と呼ばれる）に委譲され、重要な決定は住民投票で決定され、多くの地元住民は大統領が誰なのかさえ知りません。そのような国は、困難な政治的圧力の下でどのように生き残るのでしょうか?部分的には優れた政治戦略によるものですが、部分的には山岳地帯によって作られた非常に防御的な地形によるものです。
旗は大きなプラスですが、山も同様です。
ジェームズ・C・スコットの新著『支配されない術』では、よく話題になっているゾミアの無政府社会も別の例である。彼らは主に山岳地帯のおかげで自由と独立をほぼ維持している。同時に、ユーラシアの大草原は、統治の理想郷に対する反例として機能します。海洋強国対大陸強国に関するサラ・ペンの議論でも同様の点が指摘されていますが、彼女は山よりも防御障壁としての水に重点を置いています。実際、スイスだけでなく島嶼国にも共通する、自発的貿易の容易さと強制侵略の難しさの組み合わせは、人類の繁栄にとって理想的な条件であるように思えた。
私がイーサリアムエコシステム内での Gitcoin Grants 資金調達ラウンドについてアドバイスしていたとき、関連する現象を発見しました。第 4 ラウンドでは、最も儲かっている人の一部が Twitter のインフルエンサーであり、彼らの貢献を一部の人は肯定的、また他の人は否定的だと見なすため、ピエロの茶番劇が勃発した。これについての私の解釈は、不均衡があるということです。二次資金提供により、何かが公共財であると信じていることを示すことができますが、何かが公共の迷惑であることを示す方法は提供されません。極端な場合には、完全に中立的な二次資金システムが戦争の両陣営に資金を提供することになります。そこで、ラウンド 5 で、私は Gitcoin にマイナスの貢献を含めるべきだと提案しました。つまり、プロジェクトが受け取る資金の量を減らすために 1 ドルを支払う (そして暗黙のうちにそれを他のすべてのプロジェクトに再配分する)、その結果、多くの人が不満を抱くようになります。これとともに。
第 5 ラウンド後に広まった多くのミームの 1 つ。
これは私にとって、より大きなパターンの微視的な現れであるように思えます。負の外部性に対処するための分散型ガバナンスメカニズムを構築することは、社会において非常に難しい問題です。分散型ガバナンスが失敗した典型的な例は、多くの場合、群衆の正義です。人間の心理には、ポジティブな事柄に対処するよりも、ネガティブな事柄に対処する方がずっと厄介で、深刻な問題を引き起こす可能性が高いという性質があります。これが、たとえ高度に民主的な組織であっても、否定的な問題にどのように対応するかを決定する権限が中央委員会に委ねられることが多い理由です。
多くの場合、このジレンマは、「自由」という概念が非常に価値がある根本的な理由の 1 つです。誰かがあなたの気分を害するようなことを言ったり、あなたが不快に感じるライフスタイルを送ったりした場合、あなたが感じる痛みや嫌悪感は本物であり、身体的暴力を受けることは、それらにさらされることほど悪くないとさえ感じるかもしれません。しかし、社会的に許容される攻撃的で不快な行為に同意しようとすることは、特定の変人や嫌いな人が自由社会で生きるために支払う代償であることを自分に思い出させるよりも、より多くの代償と危険を伴うかもしれません。
ただし、「我慢する」アプローチが現実的でない場合もあります。この場合、考慮に値するもう 1 つの答えは、防御テクノロジーです。インターネットの安全性が高まるほど、人々のプライバシーを侵害したり、個々のハッカーに対処するためにいかがわしい国際外交を利用したりする必要が少なくなります。 Twitter 上でユーザーをブロックするためのパーソナライズされたツール、詐欺を検出するためのブラウザ内ツール、噂と真実を区別するための集合ツールを構築できるようになればなるほど、検閲について議論する必要は少なくなります。ワクチンの生産が早ければ早いほど、スーパースプレッダーに対処する必要が少なくなります。これらのソリューションはすべての分野で機能するわけではありません。誰もが本物の防弾チョッキを着用しなければならないような世界は決して見たくありません。しかし、テクノロジーを活用して世界をより防衛指向にすることができる分野では、非常に大きな価値があります。そうする。
一部のテクノロジーは防御に適しており推進する価値がある一方、他のテクノロジーは攻撃に適しており抑制されるべきであるというこの中心的な考え方は、差別化テクノロジー開発という別の名前で登場する効果的な利他主義の文献にルーツがあります。 2022 年、オックスフォード大学の研究者は、この原則をうまく表現しました。
図 1: 差別化された技術開発が社会への悪影響を軽減するメカニズム。
テクニックを攻撃的、防御的、または中立として分類する場合、必然的に不完全さが存在します。 「自由」と同様に、社会民主主義政府の政策が重税を課したり雇用主に強制することによって自由を減少させているのか、それともさまざまな種類のリスクに対する一般の人々の懸念を軽減することによって自由を増加させているのかどうかについて議論することができます。スペクトルの両端にある可能性のあるテクノロジー。核兵器は攻撃に役立ちますが、原子力は人類の繁栄に役立ち、攻撃と防御の間で中立です。テクノロジーが異なれば、時間枠が異なれば動作も異なる場合があります。しかし、「自由」（または「平等」、「法の支配」）と同様、境界線を曖昧にすることは原則に反する議論ではなく、その微妙な点をよりよく理解する機会となります。
では、この原則をより包括的な世界観にどのように適用できるかを見てみましょう。防衛技術も他の技術と同様に、原子の世界とビットの世界の 2 つの領域に分けて考えることができます。原子の世界は、ミクロ（つまり、生物学とその後のナノテクノロジー）とマクロ（つまり、私たちが伝統的に「防衛」と考えているものですが、回復力のある物理的インフラストラクチャも含まれます）に分けることができます。ビットの世界をさまざまな軸で分割しました。原理的には同意するのは簡単ですが、攻撃者は誰ですか?簡単な場合もありますが、私はそれをサイバー防御と呼んでいます。もっと難しい場合もありますが、私はそれを情報防御と呼んでいます。
マクロ物理防御力
マクロの領域で最も過小評価されている防衛技術は、アイアン・ドーム（ウクライナの新システムを含む）やその他の対抗技術や対ミサイル軍事ハードウェアでさえなく、回復力のある物理的インフラストラクチャーである。核戦争における死者のほとんどは、初期の影響やショックではなく、サプライチェーンの混乱による可能性が高く、Starlinkのような低インフラのインターネットソリューションは、過去1年半にわたってウクライナの接続を維持するために不可欠であった。
人々が独立または半独立して生き延びたり、長期的な国際サプライチェーンで快適に暮らしたりするためのツールを構築することは、貴重な防御技術であり、攻撃的に使用するリスクが低いと思われます。
人類を多惑星文明にしようとする課題は、d/acc の観点から見ることもできます。少なくとも一部の人々が他の惑星で自給自足的に生活できるようになれば、地球上の恐ろしい出来事に対する私たちの回復力が高まる可能性があります。たとえ完全なビジョンが現時点では実現不可能であるように見えても、このプロジェクトを実現するために開発する必要がある自給自足的な生活の形態は、地球上の文明の回復力を高めるために使用できる可能性があります。
微小物理的防御 (生物学的防御とも呼ばれます)
新型コロナウイルスは、特に長期的な健康への影響により依然として懸念されています。しかし、新型コロナウイルスは私たちが直面する最後のパンデミックではなく、現代世界の多くの側面から、さらなるパンデミックが起こる可能性が高いです。
人口密度が高くなると、空気感染ウイルスやその他の病原体が広がりやすくなります。伝染病は人類の歴史の中で比較的新しく、そのほとんどは数千年前の都市化に始まりました。進行中の急速な都市化は、人口密度が今後半世紀にわたってさらに増加することを意味します。
航空旅行の増加は、空気感染する病原体が世界中に急速に広がる可能性があることを意味します。人々は急速に豊かになり、航空旅行は今後半世紀にわたって大幅に増加する可能性があり、洗練されたモデリングは、たとえわずかな増加でも深刻な結果をもたらす可能性があることを示しています。気候変動により、このリスクがさらに高まる可能性があります。
動物の家畜化と工場飼育は主要な危険因子です。麻疹は 3,000 年以内にウシウイルスから進化した可能性があります。今日の工場農業はまた、新型インフルエンザウイルスを生み出しています（同時に抗生物質耐性を促進し、人間の自然免疫系に影響を及ぼします）。
現代の生物工学により、より毒性の高い新しい病原体を簡単に作成できるようになりました。新型コロナウイルスは、意図的な「強化」研究を行っている研究室から漏洩した可能性もあれば、そうでない可能性もある。いずれにせよ、研究室での漏洩は起こりますし、ツールは急速に改良されており、非常に致死性の高いウイルスやプリオン（ゾンビタンパク質）さえも意図的に作成することが容易になっています。人為的疫病は特に憂慮すべきものである。その理由の一つは、核兵器とは異なり、原因が特定できないことである。つまり、ウイルスを放出することができ、誰がそれを作成したか誰も知ることができない。遺伝子配列を設計し、それを合成のためにウェットラボに送り、5 日以内に発送してもらうことが可能になりました。
これは、CryptoRelief と Balvi という 2 つの組織が設立され、2021 年に多額の柴犬コインによって資金提供された分野の 1 つです。当初、クリプトリリーフは差し迫った危機への対応に重点を置いていたが、最近ではインドで長期的な医療研究エコシステムを構築しており、一方バルヴィは新型コロナウイルスやその他の空気感染症の検出、予防、治療能力を向上させる前向きなプロジェクトに注力している。 。 ++Balvi は、同社が資金提供するプロジェクトはオープンソース アプローチを採用する必要があると主張しています++。コレラや他の水系病原体を打破した 19 世紀の水力工学運動からインスピレーションを得て、空気感染病原体に対する世界の耐性をデフォルトで高める可能性のある技術範囲全体にわたるプロジェクトに資金を提供しています。
遠紫外光放射の研究開発
空気のろ過と品質監視、インド、スリランカ、米国などでの大気品質監視
安価で効果的な分散型大気質検査装置
長期的な新型コロナウイルスの原因と考えられる治療法に関する研究（主な原因は単純かもしれないが、メカニズムの解明と治療法の発見はより困難である）
ワクチン（RaDVaC、PopVaxなど）およびワクチン損傷の研究
新しい非侵襲的医療ツールのセット
感染症の早期発見のためのオープンソース データ分析の活用 (EPIWATCH など)
非常に安価な分子迅速検査を含む検査
他の方法が失敗した場合のバイオセーフティマスク
その他の有望な研究分野には、廃水の病原菌の監視、建物内の濾過と換気の改善、大気汚染によって引き起こされるリスクの理解と軽減などが含まれます。
デフォルトで、自然および人工の空気感染症に対してより回復力のある世界を構築する機会があります。この世界には高度に最適化されたプロセスが導入され、感染症の流行を最初から自動的に検出でき、世界中の人々が霧を通じて、対象を絞った現地で製造された検証可能なオープンソースのワクチンやその他の予防策に 1 か月以内にアクセスできるようになります。化学物質または点鼻スプレーの投与（つまり、必要な場合の自己投与、注射は必要ありません）。同時に、大気の質が改善されると感染率が大幅に低下し、多くの伝染病が初期段階で鎮圧されるのを防ぐことができます。
公衆衛生インフラは文明の構造に織り込まれているため、社会的強制の鉄槌に頼る必要のない未来を思い描いてください。義務やさらに悪いこと、危険を伴う、設計や実装が不十分で事態を悪化させる義務はありません。そのような世界は可能であり、生物防衛への適度な投資でそれを達成することができます。これらの開発がオープンソースであり、ユーザーが自由に利用でき、公共財として保護されていれば、作業はよりスムーズになるでしょう。
サイバー防御、ブロックチェーン、暗号化
セキュリティ専門家は一般に、コンピュータ セキュリティの現状がひどいということに同意しています。それでも、これまでの進歩を過小評価するのは簡単です。ユーザーのウォレットをハッキングできる者であれば、何百億ドルもの仮想通貨が匿名で盗まれる可能性があり、盗まれたり盗まれたりする割合は私が望むよりもはるかに高いのですが、現実には、仮想通貨のほとんどは何年もハッキングされていません。 10年を盗む。最近いくつかの改善が加えられました。
信頼できるハードウェア チップがデバイスに組み込まれており、ユーザーの電話機内に小型で安全性の高いオペレーティング システムが効果的に作成され、電話機の残りの部分がハッキングされても安全性が保たれます。これらのチップは、多くのユースケースの一部として、より安全な暗号通貨ウォレットを作成する方法としてますます検討されています。
ブラウザは事実上のオペレーティング システムとして機能します。過去 10 年にわたり、ダウンロード可能なアプリからブラウザベースのアプリへの静かな移行が起こってきました。これは主に WebAssembly (WASM) によるものです。 Adobe Photoshop でさえ、Linux の必要性と Linux との非互換性のために、多くの人が実際に Linux を使用できない主な理由の 1 つと長い間考えられてきましたが、現在ではブラウザーに組み込まれることで Linux フレンドリーになっています。これは、セキュリティ上の大きな利点でもあります。ブラウザーには欠点もありますが、一般に、インストールされたアプリよりも多くのサンドボックス機能が提供されます。アプリはコンピューター上の任意のファイルにアクセスできません。
オペレーティング システムを強化します。モバイル用のGrapheneOSが存在しており、非常に使いやすいです。 QubesOS のデスクトップ バージョンも存在します。私の経験では、現時点では Graphene よりも使いにくくなっていますが、改善されています。
パスワード以外にも目を向けてみてください。パスワードは覚えにくく、簡単に盗聴される可能性があるため、保護するのが困難です。最近では、パスワードへの依存を減らし、ハードウェアベースの多要素認証を実際に機能させる動きが広がっています。
しかし、他の分野におけるサイバー防御の欠如も大きな後退につながっています。スパムから保護する必要があるため、実際には電子メールが非常に寡頭制になり、自己ホストしたり、新しい電子メール プロバイダーを作成したりすることが困難になっています。 Twitter を含む多くのオンライン アプリケーションでは、ユーザーがコンテンツにアクセスするためにログインし、VPN を使用して IP アドレスをブロックする必要があるため、プライバシーを保護しながらインターネットにアクセスすることがより困難になります。ソフトウェアの集中化には、「武器化された相互依存性」によるリスクも伴います。現代のテクノロジーは集中化されたボトルネックを通過する傾向があり、これらのボトルネックのオペレーターはこの権限を利用して情報を収集し、結果を操作し、特定のアクターを排除するため、この戦術は次のように見えます。ブロックチェーン業界自体に対して使用される可能性があります。
これらの傾向は、歴史的に、自由とプライバシーの将来展望に対する私の大きな希望の 1 つを脅かしているため、憂慮すべきです。デビッド・フリードマンは、著書「未来の不完全性」の中で、私たちが折衷的な未来に直面するかもしれないと予測しています。物理的な世界はますます監視されるようになりますが、オンラインの世界は暗号化によってプライバシーが保護され、さらにはプライバシーが向上するでしょう。残念ながら、これまで見てきたように、そのような逆傾向は確実ではありません。
これは、ブロックチェーンやゼロ知識証明などの暗号技術に重点を置いています。ブロックチェーンを使用すると、中央集権的な主体に依存せずに「共有ハードドライブ」を備えた経済的および社会的構造を構築できます。暗号通貨を使用すると、ルールを自由に変更できる信頼できる第三者に依存する必要がなく、個人がインターネット以前に現金が使用されていたのと同じように金融取引を保存および実行できるようになります。また、バックアップの対 Sybil メカニズムとしても機能し、エンティティの ID を明らかにしない、または明らかにしたくないユーザーにとって攻撃やスパムのコストが高くなります。アカウントの抽象化、特にソーシャル リカバリ ウォレットは、中央集権的な仲介者に過度に依存することなく、暗号資産、および将来的には他の資産を保護することができます。
ゼロ知識証明はプライバシーに使用でき、ユーザーは個人情報を明らかにすることなく自分自身に関する事実を証明できます。たとえば、デジタルパスポート署名を ZK-SNARK に包むと、自分がどの国民であるかを明らかにすることなく、その国の唯一の国民であることが証明されます。同様のテクノロジーを使用すると、プライバシーと匿名性の利点 (投票などのアプリケーションに必要と広く考えられている機能) を維持しながら、セキュリティを保証し、スパムや悪意のある行為者と戦うことができます。
ZK ソーシャル メディア システムの提案された設計では、誰の身元も知ることなく、モデレート操作とユーザーを罰する機能が可能になります。
Zupass は、Zuzalu で培われた実践の優れた例です。これは、すでに Zuzalu の何百人もの人々によって使用されており、最近では Devconnect の何千人もの人々がチケット発行のために使用しており、チケット、メンバーシップ、(譲渡不可の) デジタル収集品やその他の証明書を保持し、関連するすべての事項を証明することができます。プライバシーを漏らすことなく、彼らに。たとえば、あなたが誰であるかについての他の情報を明らかにすることなく、あなたが Zuzalu の唯一の登録居住者であること、または Devconnect のチケット所有者であることを証明できます。これらの証明は直接表示することも、Zuzalu の住民のみが利用できる匿名投票システムである Zupoll などのアプリにログインするための QR コードを介してデジタル的に表示することもできます。
これらのテクノロジーは、d/acc 原則の優れた例です。これらのテクノロジーにより、ユーザーとコミュニティはプライバシーを侵害することなく信頼性を検証でき、善玉と悪玉が誰であるかについて独自の定義を課す集中的なチョークポイントに頼ることなくセキュリティを保護できます。これらは、信頼できないとみなされる国全体を差別する今日の一般的な慣行よりも、ユーザーまたはサービスのセキュリティを保護するためのより適切でより公正な方法を作成することにより、グローバルなアクセシビリティを向上させます。これらは、21 世紀に入っても情報セキュリティの分散型ビジョンを維持したい場合に必要となる可能性のある非常に強力な基本要素です。サイバースペースにおける防御テクノロジーへの広範な取り組みは、非常に重要な方法でインターネットをよりオープン、安全、無料にするのに大いに役立ちます。
情報防御
情報防御とは、私がサイバー防御と表現するもので、攻撃者の身元について合理的な人間の間で合意が容易な状況に対処するものです。誰かがあなたのウォレットをハッキングしようとした場合、そのハッカーが悪者であると想定するのは簡単です。誰かが Web サイトに対して DoS 攻撃を行おうとした場合、その攻撃は悪意があり、Web サイトのコンテンツを読もうとしている平均的なユーザーとは道徳的に異なるものであると誰でも簡単に推測できます。線がさらにぼやけるケースもあります。私は、このような状況で防御力を高めるためのツールを「情報防御」と呼んでいます。
たとえば、ファクトチェック（「誤った情報」の防止）を考えてみましょう。私はコミュニティ ノートがとても気に入っています。コミュニティ ノートは、ユーザーが他のユーザーのツイートの真実と嘘を特定するのに大いに役立ちます。コミュニティ ノートは、最も人気のあるノートではなく、政治的スペクトル全体で最も多くのユーザーによって支持されたノートを表示する新しいアルゴリズムを使用しています。
コミュニティアノテーションの実践的な応用。
また、私は予測市場のファンでもあります。予測市場では、物事が明確になる前、物事の方向性について合意が得られる前に、イベントの重要性をリアルタイムで明らかにすることができます。たとえば、サム アルトマンに関するポリマーケットは、時間ごとの出来事の暴露と交渉の非常に役立つ概要を提供し、各項目の重要性を理解せずに個々のニュース項目だけを見る人にとって非常に必要なコンテキストを提供します。
予測市場には欠陥があることがよくありますが、来年何が起こるかについて自信を持って述べようとする Twitter インフルエンサーにはさらに欠陥があることがよくあります。予測市場にはまだ改善の余地がたくさんあります。たとえば、予測市場では一般に、最も注目を集めるイベントを除いて取引量が少ないため、この問題に対処するための自然な方向性は、人工知能を使用した予測市場を立ち上げることです。
ブロックチェーンの分野では、より特定の種類の情報防御が必要だと思います。そうは言っても、ウォレットは、ユーザーが署名した内容の意味を判断し、詐欺や詐欺からユーザーを保護できるよう、より洞察力があり、積極的に機能する必要があります。これは中間のケースです。何が詐欺で何が詐欺ではないかは、物議を醸している社会的出来事についての意見ほど主観的ではありませんが、正規のユーザーと DoS 攻撃者やハッカーを区別するよりも主観的です。 Metamask にはすでに詐欺データベースがあり、ユーザーが詐欺 Web サイトにアクセスするのを自動的にブロックします。
Fire のようなアプリは、より深いアプローチの一例です。ただし、セキュリティ ソフトウェアは明示的にインストールする必要があるものではなく、暗号通貨ウォレットやブラウザのデフォルト設定である必要があります。
情報防御はより主観的であるため、サイバー防御よりも本質的に集団的なものです。どの情報が真実であるか偽であるかを判断するには、何らかの方法で大規模で複雑な人々のグループに接続する必要があり、どのようなアプリケーションを使用する必要があります。これは詐欺的なネズミ講です。 。開発者には、効果的な情報防御の開発を大幅に進め、既存の形式の情報防御を強化する機会があります。コミュニティ ノートのようなものをブラウザに組み込むことができ、ソーシャル メディア プラットフォームだけでなくインターネット全体をカバーできます。
「守り」の枠を超えたソーシャルテクノロジー
ある程度、私は一部の情報技術を「防御的」であると特徴づけることが強調しすぎていると非難されるかもしれません。結局のところ、防御とは、善意の攻撃者を悪意のある攻撃者 (場合によっては自然から) から保護することです。ただし、これらのソーシャル テクノロジーの一部は、善意の主体が合意を形成するのに役立ちます。
この良い例は、pol.is です。これは、コミュニティ ノートに似た (コミュニティ ノートよりも前の) アルゴリズムを使用して、コミュニティが多くの点で意見の異なるさまざまなサブグループ間で合意点を特定できるようにします。 Viewpoints.xyz は pol.is からインスピレーションを受けており、同様の精神を持っています。
このような手法を使用すると、議論のある決定に対してより分散型のガバナンスを実現できます。繰り返しになりますが、ブロックチェーン コミュニティはこの分野での優れた実践の場であり、これらのアルゴリズムの価値を実証してきました。一般に、イーサリアム プロトコルにどのような改善 (「EIP」) を行うかについての決定は、「全コア開発者会議」と呼ばれる会議のかなり小さなグループによって行われます。これは、より技術的で、ほとんどのコミュニティ メンバーが強く感じていない決定を行う場合に非常にうまく機能します。プロトコルの経済学、または不変性や検閲への耐性などのより基本的な価値観を伴うより重要な決定の場合、これでは十分ではないことがよくあります。 2016年から2017年を振り返ると、DAOハードフォーク、発行量の削減、パリティウォレットの凍結解除（ではない）などの一連の物議を醸す決定を実施する際、Carbonvoteやソーシャルメディア投票などのツールがコミュニティと開発者が一般の人々を理解するのに役立ちました。コミュニティの意見、方向性。
Carbonvote on the DAO fork.
Carbonvote には欠点があります。誰がイーサリアム コミュニティのメンバーであるかを決定するために ETH 保有量に依存しており、結果は少数の裕福な ETH 保有者 (「クジラ」) によって支配されています。ただし、最新のツールを使用すると、POAP、Zupass スタンプ、Gitcoin パスポート、プロトコル ギルド メンバーシップ、ETH (個別にステークされた ETH も含む) 保有などの複数のシグナルを活用して、コミュニティ メンバーシップの資格を測定する、より優れた Carbonvote を作成できます。
このようなツールは、不透明な中央のリーダーシップに依存せずに、より質の高い意思決定、共通点の発見、移行 (物理的またはデジタル) の調整、またはその他の操作を行うために、どのコミュニティでも使用できます。これは防衛の加速そのものではありませんが、民主主義の加速と呼ぶことができます。このようなツールは、AI 分野で活動する主要な関係者や機関のガバナンスを改善し、民主化するためにも使用できる可能性があります。
では、スーパーインテリジェンスが進むべき道は何でしょうか?
さて、それはすべて良いように見え、来世紀には世界をより調和のとれた、より安全で、より自由な場所にする可能性があります。しかし、これは部屋の中の象、つまり超知能型人工知能については触れていません。
AI を心配する多くの人々が暗黙のうちに提案している今後の道は、本質的に最小限の AI 世界政府につながります。最近のバージョンには、「多国籍AGIコンソーシアム」の提案が含まれています("MAGIC"）。もしそのような連合が形成され、超知能AIを生み出すという目標を達成できれば、当然、事実上の最小限の世界政府となるだろう。長期的には、「クリティカル アクション」理論のアイデアもあります。単一のアクションを 1 回実行する AI を作成し、人間がまだ制御できる世界に世界を再編成しますが、ゲーム ボードはどういうわけかより強力な世界になります。防衛と人間の繁栄に役立つ状況。
私が現時点で感じている実際的な主な問題は、人々がそのようなものを構築する権限を持つ特定のガバナンスメカニズムをあまり信頼していないように見えることです。 Twitter での私の最近の世論調査の結果を見ると、AI が 10 年早く開始され、単一の組織によって独占されるのを望むか、それとも 10 年遅れてすべての人に AI が提供されるのを望むか、という質問がありました。 :
各世論調査の規模は小さいですが、規模に欠けている部分は、幅広い情報源やオプションにわたるこれらの世論調査の一貫した結果によって補われています。 9 票中 9 票で、過半数は高度な人工知能が企業、政府、多国籍機関などの単一グループによって独占されるよりも、単純に 10 年延期されることを望んでいます。 9回中7回では、少なくとも2対1の差で延期が勝利した。これは、AI 規制を追求する人なら誰でも理解しておくべき重要な事実のようです。現在のアプローチは、AI の開発をより少数の人々に制限しようとするライセンススキームと規制要件を作成することでしたが、人々はこれほど強力なものを誰かが独占するのを見たくないため、これらのアプローチは広範な反対に遭っています。たとえそのようなトップダウンの規制提案が絶滅のリスクを軽減したとしても、中央集権的な全体主義に永久に滑り込む可能性が高まります。逆説的だが、極めて高度なAI研究（おそらく生物医学AIは例外）を完全に禁止するという合意は、禁止されていないモデルのオープンソース化を強制する措置と相まって、利益インセンティブを削減する手段として機能する一方、平等性を改善するさらなるウィルのアプローチとなる。アクセス数はもっと人気になるのか？
世界的な組織が AI に対処し、そのガバナンスが非常に良好であることを保証するというアプローチに反対する人が好む主なアプローチは、多神教的な AI です。つまり、多くの人々や企業が大量の AI を開発していることを意図的に確保して、他の人がより強力になることがないようにすることです。他人。このようにして、たとえAIが超知能化したとしても、私たちはパワーバランスを維持できるという理論が成り立つのです。
この哲学は興味深いものですが、イーサリアムのエコシステム内で「多神教」を確保しようとした私の経験から、これは本質的に不安定な均衡ではないかと心配になります。イーサリアムでは、さまざまな方法で分散化を確実にしようと意図的に努めています。つまり、1 つのコードベースがプルーフ オブ ステーク ネットワークの半分以上を制御しないようにすること、大規模なステーク プールの支配に抵抗すること、地理的な分散化を改善することなどです。基本的に、イーサリアムは実際に、反トラスト規制当局として政府ではなく社会的圧力を利用する市場ベースの社会という古いリベラルな夢を実現しようとしている。これはある程度功を奏し、Prysm クライアントの優位性は 70% 以上から 45% 以下に低下しました。しかし、これは自動的な市場プロセスではなく、人間の意志と調整された行動の結果です。
イーサリアムに関する私の経験は、多くの市場が自然独占であることが証明されている世界中の教訓と一致しています。超知能AIが人間から独立して行動するため、状況はさらに不安定になります。最も強力な AI は再帰的な自己改善により急速に出世する可能性があり、AI が人間よりも強力になると、バランスを取り直す力がなくなります。
さらに、たとえ超知能AIによって安定した多神教の世界が得られたとしても、私たちは依然として別の問題に直面しています。それは、人間がペットになる宇宙を手に入れることです。
幸福への道: 人工知能との融合?
最近私が聞いたもう 1 つの選択肢は、AI を人間とは別のものとして考えるのではなく、人間の認知を置き換えるのではなく、それを強化するツールに重点を置くことです。
最近の例ではAI描画ツールが挙げられます。現在、AI が生成した画像を作成するための最も有力なツールでは、人間による入力は 1 ステップのみ必要で、その後は AI が完全に引き継ぎます。もう 1 つのオプションは、Photoshop などの AI バージョンに重点を置くことです。アーティストまたは AI が画像の初期ドラフトを作成し、その後、両者が協力してリアルタイム フィードバックのプロセスを通じてそれを改善します。
ソース, 2023 Photoshop で生成された AI 塗りつぶし。試してみましたが、慣れるまで少し時間がかかりましたが、実際にはうまくいきました。
同様の精神に基づくもう 1 つの方向性は、AI の「心」のさまざまな部分 (計画の作成、計画の実行、外界からの情報の解釈など) を別個のコンポーネントに分離し、これらの部分の間に多様な要素を導入することを提案するオープン エージェンシー アーキテクチャです。人間のフィードバック。
ここまでのところ、これはありふれたことのように聞こえますが、ほぼすべての人がそれが良いことであることに同意できます。経済学者ダロン・アセモグル氏の著作は、この種のAIの未来論とは程遠いが、彼の新著『Power and Progress』は、この種の人工知能をもっと見たいとの願望をほのめかしている。
しかし、人工知能と人間の協力という考えをさらに進めたい場合は、より根本的な結論に達するでしょう。ラップトップ上の個々の GPU を使用してハッキングを行うすべての小さなグループを検出して阻止できるほど強力な世界政府を創設しない限り、最終的には誰かが超インテリジェント AI、つまり私たち AI よりも千倍速く思考できる AI を作成することになり、人間のグループは存在しなくなるでしょう。自由に使えるツールを使えば競争できるのです。したがって、人間と機械のコラボレーションというアイデアについて、さらに深く考える必要があります。
最初の自然なステップは、脳とコンピューターのインターフェイスです。ブレイン コンピューター インターフェイスにより、人間はますます強力になっているコンピューティングと認知の形式に直接アクセスできるようになり、人間と機械の間の双方向通信ループが数秒からミリ秒に短縮される可能性があります。また、事実を収集したり、アドバイスを提供したり、計画を実行したりするためにコンピューターを購入するための「精神的労力」コストも大幅に削減されます。
このロードマップの後半の段階は非常に奇妙になります。ブレイン・コンピューター・インターフェースに加えて、生物学的イノベーションを通じて私たちの脳を直接改善するさまざまな方法があります。これら 2 つのルートを統合する最後のステップには、私たちの心をコンピューターにアップロードして直接実行することが含まれる場合があります。これは物理的セキュリティに対する究極の解決策にもなります。危害から身を守ることは、必然的に柔らかい人体を保護するという複雑な問題ではなく、データのバックアップを作成するというより単純な問題になります。
このような方向性は時として懸念を引き起こすが、その理由の一つはそれが元に戻せないこと、また一つは権力者が他の人々よりも有利になる可能性があることである。特にブレイン コンピューター インターフェイスには危険が伴います。結局のところ、私たちは人々の考えを直接読み書きすることについて話しているのです。こうした懸念があるため、閉鎖的な私設企業やベンチャー キャピタル ファンドではなく、セキュリティに重点を置いたオープンソース運動がこの道で主導的な役割を果たすことが最善であると私は信じています。さらに、これらの問題はすべて、人間と密接に接触する拡張部分よりも、人間から独立して動作する超知能 AI の場合により深刻です。 ChatGPT の使用制限により、現在ではすでに「拡張」と「非拡張」に分かれています。
超知能と「人間」の両方を備えた未来、つまり人間が単なるペットではなく、実際に世界で意味のある主体性を保持する未来を望むのであれば、このような選択肢が最も自然であるように思えます。このアプローチを支持する議論は数多くあります。意思決定プロセスのあらゆる段階で人間のフィードバックを関与させることで、高レベルの計画責任を AI 自体に移す動機が減り、それによって AI の必要性が減ります。人間の価値観とは無関係に、まったく異なることを実行すること。コンプライアンスの可能性。
この方向性を支持するもう 1 つの議論は、単に「PAT」と叫ぶのではなく、代替の道を提供する対応するメッセージを提供する方がよいということです。そのためには、人間に関わる技術の進歩は危険だが、人間に関係のない進歩は本質的に安全であるという現在の考え方から哲学を変える必要があるでしょう。しかし、これには敵対者にとって大きな利点があります。開発者に何かできることを与えるのです。現在、AI 開発者に対する AI 安全運動の主なメッセージは「やめるべきだ」であるようです。調整研究を実施することは可能ですが、今日ではこれに対する経済的インセンティブが不足しています。対照的に、e/acc に共通する「あなたはすでにヒーローです。ありのままのあなたです。」というメッセージは明らかに非常に魅力的です。 「あなた自身と人類の繁栄に役立つものを構築し、構築する必要がありますが、より選択的かつ意図的に繁栄に役立つものを確実に構築するようにしてください」という d/acc のメッセージが勝者になる可能性があります。
d/acc はあなたの既存の哲学に適合しますか?
あなたが e/acc である場合、d/acc は e/acc の亜種であり、より選択的で意識的です。
あなたが効果的な利他主義者であれば、d/acc は効果的な利他主義のアイデアを再パッケージ化したものですが、自由主義と民主主義の価値観をより重視しています。
あなたがリバタリアンなら、d/acc はテクノリベラリズムの亜種であるが、より現実的であり、「テクノロジー資本マシン」に対してより批判的であり、少なくとも今日では政府の介入を喜んで受け入れている（少なくとも文化がそうであれば）。介入は効果がありません）さらに悪い非自由主義的な未来を防ぐためです。
グレン・ウィアーの定義にあるように、あなたが多元主義者であれば、d/acc は多元主義が重視するより優れた民主的調整手法に簡単に対応できるフレームワークです。
あなたが公衆衛生の擁護者である場合、d/acc のアイデアは、より広範な長期ビジョンへのインスピレーションを提供し、同意できない可能性のある「技術者」との共通点を見つける機会を提供します。
あなたがブロックチェーン支持者であれば、d/acc は 15 年前のインフレと銀行の強調よりも現代的で広範な物語であり、ブロックチェーンをより明るい未来の発展に向けた具体的な戦略の文脈に組み込んでいます。
あなたがソーラーパンクなら、d/acc はソーラーパンクの亜種であり、意識的で集団的な行動を同様に重視しています。
あなたがムーンパンクなら、d/acc がプライバシーと自由を維持することで情報防御に重点を置いていることに感謝するでしょう。
私たちは最も明るい星です
私はテクノロジーが人間の可能性を広げるので大好きです。 1万年前、私たちはいくつかの簡単な手道具を作り、狭い土地で植物の成長を変え、基本的な家を建てることしかできませんでした。今日、私たちは高さ 800 メートルの塔を建て、人類の知識のすべての内容を手の中のデバイスに保存し、世界中で瞬時に通信し、寿命を延ばし、幸せで充実した人生を送り、もはや最後の心配をする必要はありません。仲の良い友達は病気で亡くなることがよくあります。
私たちはどん底からスタートして、今ここにいます。
私はこれらのことは非常に有益であると信じています。また、人間は非常に優れていると信じているため、地球とオーデイリーに人類の影響をさらに拡大することも非常に有益です。一部のサークルでは、懐疑的になることが流行っている。人類の自発的絶滅を主張する運動は、人間がいないほうが地球は良くなると信じているし、他の多くの運動は、今後数世紀で人間がさらに少なくなることを望んでいる。人間は騙したり盗んだり、植民地主義や戦争に参加したり、他の種を虐待したり絶滅させたりするから悪いのだとよく主張します。この考え方に対する私の答えは、何と比較するのかという単純な質問です。
確かに、人間はしばしば意地悪な行動をしますが、より多くの場合、親切で慈悲深く行動し、共通の利益のために協力します。戦争中であっても、私たちは通常、民間人を保護することに注意を払っています。もちろん、十分とは言えませんが、2,000 年前よりも多くのことを行っています。次の世紀には、非動物由来の肉が広く入手可能になり、今日人間が正当に非難される可能性のある最大の道徳的災害が解消されるかもしれません。人間以外の動物はそんなことしません。猫が倫理原則としてネズミを食べることを拒否するライフスタイルを採用する状況はありません。太陽は年々明るくなり、約10億年後には地球は生命を維持できないほど暑くなると予想されています。太陽はこれから起こそうとしている大量虐殺を考慮するだろうか？
したがって、私たち人間は、私たちが知り、これまで見てきた宇宙で最も明るい星であると強く信じています。私たちが知っている唯一のことは、たとえ不完全であっても、時には「良いこと」に気を配り、より良く奉仕するために自分の行動を調整するために誠実な努力をすることです。今から 20 億年後、地球または宇宙の一部が地球上の生命の美しさをまだ持っているなら、それは宇宙旅行のような人類の芸術作品になるでしょう。
