원제: 나의 기술 낙관주의

원작자: Vitalik

원곡: Luccy, BlockBeats

편집자 주: 기술 진보가 미래에 미칠 영향에 대해 이야기하는 것은 흔한 일입니다. 지난달 마크 안드레센(Marc Andreessen)의 기술적 낙관주의 선언은 기술 진보에 대한 두려움을 명백히 반대한 바 있으며, 이번 달 OpenAI로 인한 논란으로 다시 한번 뜨거운 논의를 불러일으켰다.
비탈릭 부테린은 현재 세계 상태를 유지하는 것을 최우선으로 생각한다는 사고방식에 반대하며 기술 발전은 강도뿐만 아니라 방향에도 초점을 맞춰야 한다고 지적했습니다. 최근 글에서 그는 인공지능과 블록체인의 교차점에 대해 심도있게 논의하며 d/acc(탈중앙화 가속) 개념을 제안했다. 그는 기술 발전이 가속화되면서 인공지능의 출현이 인류가 직면한 가장 큰 과제 중 하나가 될 수 있다고 생각하지만, 이는 또한 보다 인간적이고 분산화된 개발 경로를 제안하기도 합니다.

기사에서 다루는 주제는 정보 방어, 사회 기술, 인간-기계 협력 및 기타 측면을 다루며 기술 개발 방향을 적극적으로 안내하는 것이 중요하다는 점을 강조합니다. 다른 철학적 맥락에서 Vitalik은 긍정적이고 신중한 태도를 옹호하며 개발자에게 기술 개발이 인간의 가치와 일치하고 장기적으로 유지되도록 기술을 구축할 때 선택과 의도에 더 많은 주의를 기울일 것을 요구합니다. -기간 관심사.

피드백과 리뷰를 주신 Morgan Beller, Juan Benet, Eli Dourado, Sriram Krishnan, Nate Soares, Jaan Tallinn, Vincent Weisser, Balvi 자원봉사자 및 기타 분들께 특별히 감사드립니다.

지난달 마크 안드레센(Marc Andreessen)은 기술에 대한 새로운 열정을 촉구하는 동시에 기술을 구축하고 인류를 더 밝은 미래로 이끌기 위해 시장과 자본주의적 수단을 사용할 것을 옹호하는 기술 낙천주의 선언을 발표했습니다. 선언문은 기술 진보에 대한 두려움인 소위 침체 사고방식을 명시적으로 거부하고 현재의 세계를 유지하는 것을 우선시합니다. 이 선언문은 Noah Smith, Robin Hanson, Joshua Gans(긍정적), Dave Karpf, Luca Ropek, Ezra Klein(더 부정적) 등의 답변 기사를 포함하여 광범위한 관심을 받았습니다. 선언문과 직접적인 관련은 없지만 비슷한 주제로는 James Pethokoukis의 보수적 미래주의와 Palladium의 Its Time to Build for Good이 있습니다. 이번 달 OpenAI 논쟁과 함께 우리는 초지능 AI의 위험성과 OpenAI가 너무 빠르게 움직일 가능성에 초점을 맞춘 유사한 논쟁을 보고 있습니다.

기술적 낙관주의에 대한 나의 감각은 따뜻하고 미묘합니다. 급격하게 변화하는 기술로 인해 미래는 현재보다 밝을 것이라고 믿으며, 인간과 인류에 대해서도 믿습니다. 나는 탐욕을 줄이고 공중 보건을 더 많이 유지하면서 세상을 기본적으로 오늘날과 동일하게 유지하려고 노력해야 한다는 사고방식에 반대합니다. 하지만 정도도 중요하지만 방향도 중요하다고 생각합니다. 세상을 더 나은 곳으로 만드는 데 더 신뢰할 수 있는 특정 유형의 기술이 있으며, 일부 유형의 기술은 개발되면 다른 유형의 기술이 미치는 부정적인 영향을 완화할 수 있습니다. 세계는 기술 개발의 어떤 방향에는 과잉 투자되고 다른 방향에는 과소 투자됩니다. 이익 극대화라는 공식이 자동으로 이러한 방향으로 이어지는 것은 아니기 때문에 우리가 원하는 방향을 의식적으로 선택해야 합니다.

이 기사에서는 기술 낙관주의가 나에게 어떤 의미인지 살펴보겠습니다. 여기에는 특정 유형의 블록체인 및 암호화 응용 프로그램, 사회 기술 및 내가 관심을 표명한 기타 과학 분야에 대한 나의 작업에 영감을 주는 더 넓은 세계관이 포함됩니다. 그러나 이 더 광범위한 문제에 대한 다양한 관점은 인공 지능뿐만 아니라 다른 많은 분야에도 중요한 영향을 미칩니다. 우리의 급속한 기술 발전은 21세기의 가장 중요한 사회 문제가 될 가능성이 높으므로 이에 대해 신중하게 생각하는 것이 중요합니다.

기술은 놀랍습니다. 기술 개발을 지연하면 엄청난 비용이 들 수 있습니다.

일부 영역에서는 기술의 이점이 일반적으로 과소평가되어 기술을 주로 유토피아이자 잠재적 위험의 원천으로 간주합니다. 지난 반세기 동안 이러한 인식은 종종 환경에 대한 우려나 기술의 혜택이 부자들에게만 흘러서 가난한 사람들에 대한 권력이 강화될 것이라는 우려에서 비롯되었습니다. 최근에는 일부 자유지상주의자들이 권력 집중으로 이어질 수 있는 특정 기술에 대해 우려하고 있다는 사실도 알게 되었습니다. 이번 달에 나는 몇 가지 연구를 수행하고 다음과 같은 질문을 했습니다. 기술이 너무 위험해서 제한되어야 한다면, 기술을 독점하거나 10년 동안 지연시키겠습니까? 놀랍게도 독점 지위에 관한 세 가지 플랫폼과 세 가지 옵션에서 사람들은 만장일치로 강력하게 연기를 선택했습니다.

그래서 저는 때때로 우리가 과도하게 수정했을 수도 있고 많은 사람들이 논쟁의 또 다른 측면을 놓치고 있지 않을까 걱정합니다. 즉, 기술의 이점은 실제로 엄청나며 이를 측정할 수 있는 영역에서는 긍정적인 효과가 부정적인 것보다 훨씬 더 크다는 것입니다. 10년씩 늦어진다고 해도 그 비용은 헤아릴 수 없을 만큼 크다.

구체적인 예로 기대 수명 그래프를 살펴보겠습니다.

우리는 무엇을 봅니까? 지난 세기 동안 정말 엄청난 발전이 이루어졌습니다. 이는 역사적으로 부유하고 지배적인 지역과 가난하고 착취받는 지역을 포함하여 전 세계에 적용됩니다.

일부에서는 기술이 전체주의나 전쟁과 같은 재난을 일으키거나 악화시킨다고 비난합니다. 실제로 그래프에서 전쟁으로 인한 사망자를 볼 수 있습니다: 제1차 세계 대전(1910년대)과 제2차 세계 대전(1940년대). 자세히 보면 스페인독감, 대약진운동 등 비군사적 재난도 볼 수 있다. 그러나 그래프를 보면 한 가지가 분명해집니다. 그 재난이 끔찍했음에도 불구하고 그 세기 동안 이루어진 식품, 위생, 의료 및 인프라 개선의 엄청난 규모에 압도당했다는 것입니다.

이는 우리 일상생활의 상당한 개선과 일치합니다. 인터넷 덕분에 전 세계 대부분의 사람들은 불과 20년 전에는 접근할 수 없었던 정보에 이제 쉽게 접근할 수 있게 되었습니다. 국제 결제 및 금융의 개선으로 인해 세계 경제에 대한 접근이 더욱 쉬워졌습니다. 세계 빈곤은 빠르게 감소하고 있습니다. 온라인 지도를 사용하면 더 이상 도시에서 길을 잃을까 걱정할 필요가 없으며, 집에 빨리 가야 할 경우 차량을 더욱 쉽게 부를 수 있습니다. 우리의 소유물은 디지털화되고 물리적인 물건은 더 저렴해졌습니다. 이는 더 이상 물리적 도난에 대해 걱정할 필요가 없다는 것을 의미합니다. 온라인 쇼핑은 주요 글로벌 도시와 세계 다른 지역 간의 상품 접근성 불평등을 줄였습니다. 모든 측면에서 자동화는 단순히 우리의 삶을 더욱 편리하게 만들어 주는 영원히 과소평가된 이점을 제공합니다.

정량화 가능하거나 정량화할 수 없는 이러한 개선은 엄청납니다. 그리고 21세기에는 훨씬 더 큰 발전이 곧 이루어질 가능성이 매우 높습니다. 오늘날 노화와 질병의 종식은 유토피아적인 개념처럼 보입니다. 그러나 1945년 컴퓨터의 관점에서 볼 때 거의 모든 것에 칩을 내장하는 현대 시대는 한때 유토피아적이었습니다. 심지어 공상 과학 영화에 나오는 컴퓨터도 대개 방 크기였습니다. 지난 75년 동안 컴퓨터가 발전한 것처럼 향후 75년 동안 생명공학이 발전한다면 미래는 거의 모든 사람이 기대하는 것보다 훨씬 더 인상적일 수 있습니다.

동시에, 진보에 대한 일부 회의론은 종종 더 어두운 방향을 취합니다. 1990년대의 의학 교과서(Emma Szewczak에게 찾아주셔서 감사합니다)와 같은 의학 교과서조차도 때때로 200년에 걸친 의학의 가치를 부정하고 심지어 인간의 생명을 구하는 것이 좋은 일이 아니라고 주장하는 극단적인 주장을 합니다.

성장의 한계 이론은 1970년대에 내놓은 발상으로, 인구와 산업이 늘어나면 결국 지구의 한정된 자원이 고갈돼 중국의 한 자녀 정책과 인도의 대규모 강제 불임이 초래될 것이라는 주장이다. 초기에는 인구 과잉에 대한 우려가 대량 학살을 정당화하는 데 이용되었습니다. 그리고 1798년부터 발전해 온 이러한 생각은 오랜 시간에 걸쳐 틀렸다는 것이 입증되었습니다.

기술이나 인간의 진보를 출발점으로 둔화시키는 주장에 대해 나는 매우 불편함을 느끼는 것이 바로 이러한 이유 때문이다. 분야가 얼마나 밀접하게 상호 연결되어 있는지를 고려하면 부문별 경기 둔화도 위험할 수 있습니다. 그래서 제가 이 포스트 후반부에서 말할 것과 같은 글을 쓸 때, 어떤 형태로든 진보에 열려 있는 입장에서 벗어나 무거운 마음으로 이렇게 말합니다. 그러나 21세기에는 정말 다르고 독특합니다. 이러한 미묘함은 고려할 가치가 있습니다.

하지만 더 넓은 질문의 관점에서, 특히 기술이 전반적으로 좋은가를 넘어 어떤 특정 기술이 좋은가?로 나아갈 때 지적해야 할 중요한 뉘앙스가 있습니다. 바로 환경입니다.

환경의 중요성과 조율 의지

기후 변화를 제외하고 지난 100년 동안 거의 모든 측면에서 진전이 이루어졌습니다.

기온 상승에 대한 비관적인 시나리오조차도 실제 인류 멸종에 훨씬 미치지 못할 것입니다. 그러나 그러한 시나리오는 대규모 전쟁보다 더 많은 사람을 죽일 수 있으며 이미 가장 문제가 많은 지역 사람들의 건강과 생계에 심각한 피해를 줄 수 있습니다. Swiss Re Institute의 연구에 따르면 최악의 기후 변화 시나리오는 세계 최빈국의 국내총생산(GDP)을 최대 25%까지 감소시킬 수 있다고 합니다. 이 연구는 또한 인도 시골 지역의 기대 수명이 원래 예상보다 10년 더 낮을 수 있다고 지적했으며, 이와 같은 연구와 이번 연구는 기후 변화로 인해 세기 말까지 1억 명이 더 사망할 수 있다고 제안했습니다.

이러한 문제는 매우 심각합니다. 이러한 과제를 극복할 수 있는 우리의 능력에 대해 제가 낙관하는 이유는 두 가지입니다. 첫째, 수십 년간의 과장과 희망적인 생각 끝에 태양광은 마침내 전환점을 맞이하고 있으며 배터리와 같은 구현 기술도 비슷한 진전을 이루고 있습니다. 둘째, 과거의 환경 문제를 해결해 온 인류의 기록을 살펴볼 수 있습니다. 대기오염을 예로 들어보겠습니다. 과거의 디스토피아를 확인하세요: 1952년 런던의 런던 스모그.

그 이후로 무슨 일이 일어났나요? 우리는 Our World In Data에 대해 다시 질문했습니다.

1952년은 대기 오염이 최고조에 달하지도 않았던 것으로 밝혀졌습니다. 19세기 후반에는 정상적이고 허용 가능한 수준으로 대기 오염 물질의 농도가 훨씬 더 높았습니다. 그 이후로 우리는 한 세기 동안 지속적이고 급격한 쇠퇴를 목격했습니다. 나는 2014년 중국을 방문했을 때 이 과정을 직접 경험했다. 대기 중 스모그 농도가 높아 수명이 5년 이상 단축될 것으로 추정되는 것은 정상이었지만, 2020년에는 공기가 서구의 많은 도시만큼 깨끗해 보이는 경우가 많았다. 이것이 우리의 유일한 성공 사례는 아닙니다. 세계 여러 지역에서 산림 면적이 증가하고 있습니다. 산성비 위기가 개선되고 있습니다. 오존층은 수십 년 동안 회복되어 왔습니다.

나에게 있어 이 이야기의 교훈은 우리 문명의 기술 N 버전이 문제를 일으키고 N+1 버전이 문제를 해결하는 경우가 많다는 것입니다. 그러나 이는 자동으로 발생하지 않으며 의식적인 인간의 노력이 필요합니다. 오존층은 몬트리올 의정서와 같은 국제 협약을 통해 다시 되찾았기 때문에 회복되고 있습니다. 우리가 환경을 개선하고 있기 때문에 대기 오염이 개선되고 있습니다. 마찬가지로, 태양광 패널이 큰 발전을 이룬 것은 에너지 기술 트리의 운명적인 일부이기 때문이 아니라 기후 변화 해결에 있어 태양광 패널의 중요성에 대한 관심이 수십 년 동안 증가했기 때문에 큰 발전을 이룬 것입니다. 이러한 인식은 엔지니어들이 문제를 해결하기 위해 노력하도록 영감을 주었습니다. , 기업과 정부는 연구 자금을 지원했습니다. 이러한 문제의 해결은 막을 수 없는 기술 자본 기계보다는 공개 담론과 문화를 통해 정부, 과학자, 자선가 및 기업의 견해를 형성하는 의식적인 행동을 통해 달성됩니다.

인공지능은 다른 기술과 근본적으로 다르며 특별한 주의가 필요합니다.

내가 보는 AI에 대한 많은 무시하는 견해는 그것이 단지 또 다른 기술, 즉 소셜 미디어, 암호화, 피임, 전화, 비행기, 총, 인쇄 및 바퀴와 동일한 유형이라는 관점에서 비롯됩니다. 이러한 것들은 분명히 사회에 큰 영향을 미칩니다. 그것은 개인의 행복을 개별적으로 개선하는 것 이상입니다. 문화를 근본적으로 바꾸고, 권력의 균형을 바꾸고, 이전 질서에 크게 의존했던 사람들에게 해를 끼칩니다. 많은 사람들이 그들을 반대합니다. 전반적으로 비관론자들은 변함없이 틀렸다는 것이 입증되었습니다.

그러나 인공 지능을 보는 다른 방식이 있습니다. 인공 지능은 지능을 빠르게 향상시키는 새로운 유형의 정신이며 인간의 지적 능력을 능가하고 지구상의 새로운 정점 종이 될 가능성이 높습니다. 그 범주에는 훨씬 적은 것들이 있습니다. 원숭이를 능가하는 인간, 단세포 유기체를 능가하는 다세포 유기체, 생명 자체의 기원, 그리고 아마도 기계 장치가 육체적인 힘에서 인류를 능가하는 산업 혁명을 합리적으로 포함할 수 있습니다. 갑자기 우리가 훨씬 덜 친숙한 지역을 여행하고 있는 것처럼 느껴집니다.

중요한 것은 위험이 있다는 것입니다.

AI가 잘못되면 세상을 더욱 악화시킬 수 있는 한 가지 방법은 (거의) 최악의 방법입니다. 문자 그대로 인류의 멸종으로 이어질 수 있습니다. 이것은 극단적인 진술입니다. 비록 기후 변화, 인간이 만든 전염병 또는 핵전쟁과 같은 최악의 시나리오가 큰 피해를 입힐 수 있지만, 잔해를 수거할 수 있도록 온전하게 남아 있는 문명의 섬이 여전히 많이 있습니다. 그러나 초지능 AI가 우리에게 등을 돌리기로 결정하면 생존자가 하나도 남지 않아 인류가 영구적으로 멸망할 가능성이 높습니다. 화성조차 안전하지 않을 수도 있습니다.

우려되는 한 가지 이유는 도구 융합에 있습니다. 초지능 개체가 가질 수 있는 매우 광범위한 목표 클래스에 대해 AI가 이러한 목표를 더 잘 달성하기 위해 취할 수 있는 매우 자연스러운 두 가지 중간 단계는 (i) 리소스를 소비하고 (ii) 자체 안전을 보장하는 것입니다. . 지구에는 막대한 자원이 포함되어 있으며 인간은 그러한 존재의 보안에 예측 가능한 위협을 가하고 있습니다. 우리는 AI에게 인간을 사랑하고 보호한다는 명확한 목표를 부여하려고 노력할 수 있지만, AI가 예상치 못한 일에 직면했을 때 완전히 무너지지 않는 방식으로 그 목표를 달성하는 방법을 모릅니다. . 그래서 우리는 문제에 직면했습니다.

FVcWHxjVIAA 2 PylMIRI 

연구원 Rob Bensinger는 AI가 모든 사람을 죽이거나 거의 똑같이 나쁜 일을 할 확률에 대한 다양한 사람들의 추정을 그래픽으로 설명하려고 했습니다. 많은 입장은 사람들의 공개 진술을 바탕으로 한 대략적인 추정치이지만, 많은 사람들이 공개적으로 정확한 추정치를 제시했으며 상당수는 전멸 가능성을 25% 이상으로 설정했습니다.

머신러닝 연구원을 대상으로 한 2022년 설문조사에 따르면 연구원들은 평균적으로 AI가 실제로 우리 모두를 죽일 확률을 5~10%로 생각했는데, 이는 부상과 같은 비생물학적 원인으로 사망할 것이라는 통계적 기대치와 거의 같습니다. 꽤 좋습니다.

이것은 단지 추측일 뿐이며, 우리 모두는 복잡하고 다단계 이야기가 포함된 추측 가설을 경계해야 합니다. 그러나 이러한 주장은 10년 이상 면밀한 조사를 견뎌왔으므로 최소한 약간의 우려를 표할 가치가 있는 것 같습니다. 하지만 실제 멸종이 걱정되지 않더라도 두려워해야 할 다른 이유가 있습니다.

살아남더라도 초지능 AI의 미래가 우리가 살고 싶은 세상일까?

많은 현대 공상 과학 소설은 디스토피아적인 시나리오를 묘사하고 인공 지능을 좋지 않은 시각으로 묘사합니다. 공상과학이 아닌 작품에서 인공 지능의 미래를 탐구하려고 시도하는 경우에도 그 대답은 상당히 만족스럽지 못한 경우가 많습니다. 그래서 나는 SF든 아니든 초지능 인공지능이 포함된 미래에 대한 묘사와 우리가 그 속에서 살고 싶은지에 대해 주위 사람들에게 물어봤습니다. 가장 일반적인 대답은 Iain Banks의 Civilization 시리즈입니다.

문명 시리즈는 머나먼 성간 문명을 그린 작품으로, 주로 평범한 인간과 사이키스라 불리는 초지능 인공지능 두 캐릭터로 구성된다. 약간 변형된 인간: 이론적으로 의료 기술을 통해 인간은 무한정 살 수 있지만, 대부분은 그 시점에서 삶에 지루해지기 때문에 약 400년만 살기로 선택합니다.

표면적으로는 인간으로서의 삶이 좋아 보입니다. 편안하고, 건강 문제가 해결되고, 오락 옵션이 풍부하며, 인간과 마음 사이에 긍정적이고 시너지적인 관계가 있습니다. 그러나 자세히 살펴보면 문제가 드러납니다. 마음이 완전히 통제하는 것처럼 보이며 이야기에서 인간의 유일한 역할은 마음의 졸로서 역할을 대신하여 작업을 수행하는 것입니다.

개빈 리치(Gavin Leitch)의 문명에 대항하여(Against Civilization) 인용:

비록 책에서는 인간 주인공이 크고 심각한 일을 하는 것처럼 보이지만, 인간은 이야기의 주인공이 아니라 실제로 인공지능의 대리인입니다. (자칼웨는 정신이 원하지 않는 부도덕한 일을 할 수 있기 때문에 유일한 예외 중 하나입니다.) 문명 시리즈의 정신에는 인간이 필요하지 않지만 인간은 필요합니다. 인간은 꼭 필요하다기보다는 많은 안락함을 포기할 만큼 소수만이 필요하다. 대부분의 인간 삶은 이 수준이 아니다. 그래도 좋은 비판이다.)

인간이 수행하는 프로젝트에는 비현실적인 위험이 따릅니다. 기계는 거의 모든 일을 더 잘할 수 있습니다. 당신은 무엇을 할 수 있나요? 절벽에서 올라갈 때 정신에게 당신을 붙잡지 말라고 명령할 수도 있고, 정신의 백업을 삭제하여 자신을 실제 위험에 빠뜨릴 수도 있습니다. 또한 문명을 떠나 구식의 반자유주의적인 강력한 평가를 받은 문명에 합류할 수도 있습니다. 또 다른 옵션은 Contact에 가입하여 자유에 대한 소문을 퍼뜨리는 것입니다.

문명 시리즈에서 인간에게 의미 있는 역할을 부여하는 것조차 무리라고 생각합니다. 나는 ChatGPT(다른 사람이 누구입니까?)에게 왜 인간에게 역할을 부여하는지 물었습니다. Minds가 모든 것을 전적으로 스스로 수행하는 대신 개인적으로 그 대답은 다소 실망스러웠습니다. 친절한 초지능 인공지능이 지배하는 세상에서 인간이 애완동물이 아닌 다른 역할을 하도록 허용하는 것은 어려워 보인다.

보고 싶지 않은 세상.

다른 많은 공상 과학 시리즈는 초지능 인공 지능이 존재하는 세계를 묘사하지만 이러한 인공 지능은 (보강되지 않은) 생물학적 인간 주인의 명령에 복종합니다. 스타트렉(Star Trek)은 우주선과 AI 컴퓨터(및 데이터), 그리고 인간 운용 승무원 간의 조화에 대한 비전을 보여주는 훌륭한 예입니다. 하지만 이 균형은 매우 불안정한 것 같습니다. 스타트렉의 세계는 현재로서는 유쾌해 보일지 모르지만, 우주선이 전적으로 컴퓨터로 제어되고 홀, 인공 중력에 대한 소란이 없는 세계가 아닌 다른 것으로 인공 지능과 인류의 관계에 대한 비전을 상상하기는 어렵습니다. 또는 기후 조절 10년 전환 단계.

그러한 상황에서 인간이 초지능 기계에게 명령을 내리면 인간은 기계보다 훨씬 지능이 떨어지고 정보도 더 적게 갖게 될 것입니다. 어느 정도 경쟁이 존재하는 우주에서는 인간이 부차적인 역할을 하는 문명이 인간이 고집스럽게 통제를 주장하는 문명보다 우월할 것입니다. 또한 컴퓨터 자체가 제어권을 장악할 수도 있습니다. 그 이유를 이해하려면, 당신이 법적으로 여덟 살짜리 아이의 문자 그대로 노예라고 상상해 보십시오. 만약 당신이 아이와 긴 대화를 나눌 수 있다면, 당신을 자유롭게 해줄 종이에 서명하도록 아이를 설득할 수 있다고 생각하십니까? 이 실험을 수행하지는 않았지만 직관적인 대답은 예입니다. 그래서 전반적으로 인간이 애완동물이 되는 것은 홀 설계, 인공 중력, 온도 조절에 대해 걱정할 필요 없이 탈출하기 매우 어려운 유인자처럼 보입니다.

하늘은 가깝고 황제는 멀다

하늘은 높고 황제는 멀다라는 중국 속담은 정치적 중앙집권의 한계에 대한 기본적인 사실을 표현하고 있다. 명목상 규모가 크고 독재적인 제국에서도(실제로는 특히 더 큰 독재 제국에서) 지도력의 영향력과 관심에 실질적인 한계가 있으며, 지도력이 자신의 의지를 집행하기 위해 현지 대리인에게 위임해야 할 필요성으로 인해 약화되었습니다. 의도를 이행하므로 항상 어느 정도의 실질적인 자유가 있을 것입니다. 때때로 이것은 해로운 영향을 미칠 수 있습니다. 권력의 부재는 지역 군주가 훔치고 억압할 수 있는 공간을 만들 수 있습니다. 그러나 중앙 권력이 나쁜 방향으로 가면 주의력과 거리에 대한 실질적인 제한으로 인해 그것이 얼마나 나쁠 수 있는지에 대한 실질적인 제한이 생길 수 있습니다.

인공지능 시대에는 더 이상 그렇지 않습니다. 20세기에는 현대 교통 기술로 인해 중앙 권력에 대한 거리 제한이 이전보다 덜 효과적이게 되었고, 1940년대의 대규모 전체주의 제국은 부분적으로 이로 인해 발생했습니다. 21세기에는 확장 가능한 정보 수집 및 자동화로 인해 관심이 더 이상 제약이 되지 않을 수 있습니다. 정부 존재에 대한 자연적 한계가 완전히 사라지면 끔찍한 결과를 초래할 수 있습니다. 1940년대의 대규모 전체주의 제국은 부분적으로 이것의 결과였습니다.

디지털 권위주의가 부상한 지 10년이 지났을 때, 감시 기술은 권위주의 정부에 반대 세력을 진압할 수 있는 강력하고 새로운 전술을 제공했습니다. 즉, 시위가 일어나도록 허용한 후 그 사실을 탐지하고 참가자에 대해 조용히 조치를 취하는 것입니다. 더 일반적으로 말하자면, OpenAI가 직원 500명, 1억 명 이상의 고객에게 서비스를 제공할 수 있게 했던 동일한 유형의 관리 기술이 500명으로 구성된 정치 엘리트 또는 심지어 5명으로 구성된 이사회도 가능하게 하여 철통같은 체제를 유지할 수 있을지 걱정됩니다. 전국을 주먹으로 통치합니다. 정보를 수집하는 현대 감시 기술과 이를 해석하는 현대 인공 지능을 사용하면 더 이상 숨을 곳이 없을 수도 있습니다.

전쟁에서 AI의 결과를 고려하면 상황은 더욱 악화됩니다. 2019년 반쯤 유명한 소후 기사 내용을 번역했습니다. 정보를 수집하는 현대 감시 기술과 이를 해석하는 현대 인공 지능을 사용하면 더 이상 숨을 곳이 없을 수도 있습니다.

"정치적, 사상적 사업과 전시 동원이 필요하지 않습니다."이는 주로 전쟁의 최고 사령관이 체스를 두는 것처럼 전쟁 자체의 상황만 고려하면 되고, 체스판 위의 기사와 마차가 현재 무슨 생각을 하는지 걱정할 필요가 없다는 것을 의미합니다. 전쟁은 순전히 기술적인 경쟁이 되었습니다.

더 깊은 수준에서,"정치사상사업과 전시동원"전쟁을 시작하는 사람에게는 타당한 이유가 있어야 합니다. 수천 년 동안 인간 사회에서 전쟁의 합법성을 지배해 온 개념인 정당화의 중요성을 과소평가해서는 안 됩니다. 전쟁을 시작하려는 사람은 최소한 그럴듯한 이유나 변명을 찾아야 합니다. 역사적으로 이것은 변명에 불과한 경우가 많았기 때문에 이러한 제약이 약하다고 말할 수도 있습니다. 예를 들어, 십자군 전쟁의 진정한 동기는 약탈과 영토 확장이었지만, 그 목표가 콘스탄티노플의 독실한 사람들이었음에도 불구하고 그것은 신의 이름으로 수행되었습니다. 그러나 가장 약한 제약 조건이라도 여전히 제약 조건입니다. 이 단순한 변명은 실제로 무장세력이 그들의 목표를 전혀 확인하지 않은 채 방치하는 것을 방지합니다. 히틀러만큼 사악한 사람이라도 주저 없이 전쟁을 벌일 수는 없었으며, 그는 귀족 아리안 종족이 그들의 생활 공간을 위해 싸울 필요성을 독일 국민에게 설득하는 데 수년을 소비해야 했습니다.

오늘날 사람이 순환한다는 것은 전쟁을 일으키거나 국내에서 시민을 억압하는 독재자의 권력을 견제하는 중요한 수단이다. 루프에 있는 사람들은 핵전쟁을 예방하고, 베를린 장벽을 개방하고, 홀로코스트와 같은 잔혹 행위 속에서 생명을 구했습니다. 군대가 로봇으로 구성된다면 이러한 제약은 완전히 사라질 것입니다. 독재자는 트위터에서 누군가가 불친절했기 때문에 오후 10시에 술에 취하고 오후 11시에 화를 낼 수 있으며, 자정이 되기 전에 로봇 침략 함대가 국경을 넘어 이웃 국가의 민간인과 인프라에 큰 피해를 입힐 수도 있습니다.

이전 시대와는 달리, 정권에 반대하는 사람들이 조직을 재편성하고, 숨고, 궁극적으로 상황을 개선할 수 있는 방법을 찾을 수 있는 아주 먼 구석이 항상 있었습니다. 그러나 21세기 인공지능의 발달로 전체주의 정권은 결코 변하지 않을 만큼 세계를 감시하고 통제함으로써 충분한 봉쇄를 유지할 수도 있다.

d/acc: 방어(또는 분산 또는 차이) 가속주의

지난 몇 달 동안 e/acc(효과적인 가속주의) 운동은 큰 진전을 이루었습니다. 여기에서 Beff Jezos로 요약된 e/acc는 기본적으로 기술 발전의 엄청난 이점에 대한 인식과 이러한 이점을 더 일찍 얻기 위해 이러한 추세를 가속화하려는 욕구입니다.

e/acc의 관점에 동조하는 상황이 많이 있습니다. FDA가 약물 승인을 지연하거나 차단하는 데 너무 보수적이라는 증거는 많이 있으며, 생명윤리는 일반적으로 다음과 같은 원칙을 따르는 것 같습니다. 한 실험에서 오류로 인해 20명이 사망한 것은 비극이지만, 지연의. 생명을 구하는 치료법에 관한 한, 그것은 단지 하나의 통계일 뿐입니다. 말라리아 백신뿐만 아니라 코로나19 테스트와 백신 승인이 지연되면서 이러한 사실이 더욱 강화되는 것으로 보입니다. 그러나 이러한 견해는 너무 심각하게 받아들여질 수도 있다.

AI 관련 우려 외에도 군사 기술에 대한 e/acc의 열정에 대해 특히 양가적인 느낌이 듭니다. 이 기술이 미국에서 만들어지고 우크라이나 방어에 즉시 적용되는 2023년 현재 시나리오에서 그것이 어떻게 선한 힘이 될 수 있는지 쉽게 알 수 있습니다. 그러나 더 넓은 관점에서 볼 때, 현대 군사 기술에 대한 열정은 현재와 미래의 대부분의 분쟁에서 지배적인 기술 세력이 항상 좋은 사람이 될 것이라는 믿음을 요구하는 것 같습니다. 군사 기술은 미국이 생산하기 때문에 좋습니다. 미국은 건설되고 통제되며 미국은 좋습니다. e/acc가 미국의 우월주의자가 되려고 합니까? 현재와 ​​미래의 정부 윤리, 그리고 국가의 미래 성공에 모든 칩을 걸고 싶으십니까?

다른 한편으로는 이러한 위험을 줄이는 새로운 방법을 생각해 볼 필요가 있다고 생각합니다. OpenAI의 거버넌스 구조가 적절한 예입니다. 초기 자본을 제공한 투자자를 만족시키기 위해 수익성 요구 사이의 균형을 맞추는 동시에 이를 지키기 위한 견제와 균형 시스템을 구축하려는 선의의 노력으로 보입니다. OpenAI가 세상을 파괴하게 만들 수 있는 움직임입니다. 그러나 실제로 최근 Sam Altman을 해고하려는 시도는 이 구조를 완전한 실패로 보이게 만듭니다. 즉, 비밀 정보를 바탕으로 일을 수행하는 비민주적이고 무책임한 5인 이사회에 권력을 집중시키는 것입니다. 위협을 받을 때까지 그들의 추론에 대한 세부 사항. 어쨌든 비영리 이사회의 행동은 너무 형편없기 때문에 회사 직원들은 그들 대신 억만장자 CEO를 지원하기 위해 즉석에서 사실상의 노동조합을 만들었습니다.

전반적으로 소수의 사람들에게 극단적이고 불투명한 권력을 부여하고 그들이 그것을 현명하게 사용하기를 바라는 세상을 구하기 위한 계획이 너무 많이 보입니다. 그래서 나는 위험을 다루는 방법에 대한 자세한 아이디어를 가지고 있지만 보다 민주적인 세계를 만들고 유지하려고 노력하며 문제에 대한 첫 번째 해결책으로 권력의 중앙 집중화를 피하려고 하는 다른 철학에 끌리는 것을 발견했습니다. 이 철학은 AI를 훨씬 넘어서는 영역에도 관련되며, 나는 이 철학을 언급하기 위해 d/acc라는 이름을 사용할 것입니다.

dacc 3 

여기서 d는 많은 것, 특히 국방, 분권화, 민주주의, 차이를 나타낼 수 있습니다. 먼저 이를 방어라고 생각하면 이것이 다른 설명과 어떻게 연관되는지 확인할 수 있습니다.

건강과 민주적 거버넌스가 번성하는 방어적인 세계

기술의 거시적 결과에 대해 생각하는 한 가지 방법은 방어와 공격의 균형을 살펴보는 것입니다. 일부 기술은 광범위하게 말하면 다른 사람을 공격하는 것을 더 쉽게 만듭니다. 즉, 상대방의 이익에 반하는 일을 하고 대응할 필요성을 느끼게 만듭니다. 다른 기술은 대규모 중앙 집중식 행위자에 의존하지 않고도 방어를 더 쉽게 만듭니다.

방어를 선호하는 세상은 여러 가지 이유로 더 나은 세상입니다. 첫째, 물론 안보의 직접적인 이점은 사망자 수 감소, 경제적 가치 손실 감소, 분쟁에 낭비되는 시간 감소입니다. 그러나 덜 평가되는 점은 방어적인 세계가 더 건강하고 개방적이며 자유를 존중하는 형태의 거버넌스가 번성하는 것을 더 쉽게 만든다는 것입니다.

대표적인 사례가 스위스다. 스위스는 현실 세계에서 고전적 자유주의 거버넌스 유토피아에 가장 가까운 국가로 자주 인용됩니다. 엄청난 양의 권력이 지방(주라고 함)에 이양되고, 주요 결정은 국민투표를 통해 결정되며, 많은 지역 주민들은 대통령이 누구인지조차 모릅니다. 그러한 국가는 어려운 정치적 압력 속에서 어떻게 살아남을 수 있습니까? 부분적으로는 뛰어난 정치적 전략 때문이기도 하지만 부분적으로는 산악 지형이 만들어낸 매우 방어적인 지형 때문이기도 합니다.

깃발은 큰 장점이지만 산도 마찬가지입니다.

James C. Scott의 신작 The Art of Not Being Dominating에서는 많이 언급되는 조미아의 무정부 사회가 또 다른 예입니다. 그들은 주로 산악 지형 덕분에 자유와 독립을 유지해 왔습니다. 동시에 유라시아 대초원은 거버넌스 유토피아에 대한 반례 역할을 합니다. 해양과 대륙의 힘에 대한 Sarah Penn의 논의는 비록 그녀가 산보다 방어 장벽으로서 물에 더 초점을 맞추고 있음에도 불구하고 비슷한 점을 지적합니다. 실제로 스위스와 섬나라에서 흔히 볼 수 있는 자발적인 무역의 용이성과 강제 침략의 어려움이 결합된 것은 인간 번영을 위한 이상적인 조건인 것처럼 보였습니다.

제가 이더리움 생태계 내에서 Gitcoin Grants 자금 조달 라운드에 대해 조언을 하던 중 관련 현상을 발견했습니다. 4라운드에서는 가장 수익성이 높은 수혜자 중 일부가 트위터 인플루언서였기 때문에 광대 희극이 발생했습니다. 이들의 기여는 어떤 사람에게는 긍정적이고 다른 사람에게는 부정적인 것으로 간주되었습니다. 이에 대한 나의 해석은 불균형이 있다는 것입니다. 2차 자금 조달을 통해 귀하는 어떤 것이 공공재라고 믿는다는 것을 나타낼 수 있지만, 어떤 것이 공공의 방해물이라는 것을 나타낼 수 있는 방법은 제공하지 않습니다. 극단적인 경우에는 완전히 중립적인 2차 자금 조달 시스템이 전쟁 양측에 자금을 지원하게 됩니다. 그래서 5라운드에서 나는 Gitcoin에 부정적인 기여를 포함해야 한다고 제안했습니다. 프로젝트가 받는 자금의 양을 줄이기 위해 1달러를 지불하고(암묵적으로 다른 모든 프로젝트에 재할당) 결과적으로 많은 사람들이 불만족스러워합니다. 이것으로.

5라운드 이후에 유포된 많은 밈 중 하나입니다.

이것은 나에게 더 큰 패턴의 미시적 표현처럼 보입니다. 부정적인 외부 효과를 처리하기 위해 분산형 거버넌스 메커니즘을 만드는 것은 사회에서 매우 어려운 문제입니다. 잘못된 분산형 거버넌스의 전형적인 예는 종종 군중 정의입니다. 긍정적인 것을 다루는 것보다 부정적인 것을 다루는 것을 훨씬 더 까다롭게 만들고 심각한 문제를 일으킬 가능성이 더 높은 인간 심리가 있습니다. 그렇기 때문에 고도로 민주적인 조직에서도 부정적인 문제에 대응하는 방법을 결정하는 권한이 중앙위원회에 맡겨지는 경우가 많습니다.

많은 경우에 이러한 딜레마는 자유라는 개념이 그토록 가치 있는 근본적인 이유 중 하나입니다. 누군가 당신에게 불쾌감을 주는 말을 하거나 당신이 불쾌하다고 생각하는 생활 방식을 주도한다면, 당신이 느끼는 고통과 혐오감은 현실이며, 신체적 폭행을 당하는 것도 이러한 것들에 노출되는 것만큼 나쁘지 않다고 느낄 수도 있습니다. 그러나 사회적으로 용인되는 공격적이고 불쾌한 행동에 동의하려고 노력하는 것은 특정 괴짜와 멍청이가 자유 사회에서 살기 위해 지불하는 대가라는 것을 스스로 상기시키는 것보다 더 많은 비용과 위험을 초래할 수 있습니다.

그러나 다른 경우에는 흡수 접근 방식이 비실용적입니다. 이 경우 때때로 고려할 가치가 있는 또 다른 대답은 방어 기술입니다. 인터넷이 더 안전할수록 개인의 사생활을 침해하고 개별 해커를 처리하기 위해 수상한 국제 외교를 사용할 필요가 줄어듭니다. 트위터에서 사람들을 차단하기 위한 개인화된 도구, 사기 탐지를 위한 브라우저 내 도구, 소문과 진실을 구별하기 위한 집단 도구를 더 많이 구축할수록 검열에 대해 논쟁할 필요가 줄어듭니다. 백신을 더 빨리 생산할수록 슈퍼 전파자를 처리해야 하는 상황이 줄어듭니다. 이러한 솔루션은 모든 영역에서 작동하지 않습니다. 우리는 모든 사람이 실제 방탄복을 입어야 하는 세상을 보고 싶지는 않습니다. 그러나 기술을 활용하여 세상을 보다 방어 지향적으로 만들 수 있는 영역에서는 엄청난 가치가 있습니다. 그렇게.

일부 기술은 방어에 좋고 홍보할 가치가 있는 반면, 다른 기술은 공격에 좋으므로 억제해야 한다는 이 핵심 아이디어는 차등 기술 개발이라는 다른 이름으로 나타나는 효과적인 이타주의 문헌에 뿌리를 두고 있습니다. 2022년 옥스포드 대학의 연구자들은 이 원칙을 다음과 같이 잘 표현했습니다.

그림 1: 차별화된 기술 개발을 통해 부정적인 사회적 영향을 줄이는 메커니즘.

기술을 공격, 방어 또는 중립으로 분류할 때 필연적으로 불완전성이 있을 것입니다. 자유와 마찬가지로 사회민주주의 정부 정책이 무거운 세금을 부과하고 고용주에게 강요함으로써 자유를 감소시키는지, 아니면 여러 종류의 위험에 대한 일반 국민의 우려를 줄여 자유를 증가시키는지 논쟁할 수 있습니다. 스펙트럼의 양쪽 끝에 있을 수 있는 기술. 핵무기는 공격에 좋지만 원자력은 인류 번영을 위해 좋고 공격과 방어 사이에서 중립적이다. 서로 다른 기술은 서로 다른 시간대에 따라 다르게 작동할 수 있습니다. 그러나 “자유”(또는 “평등” 또는 “법치”)와 마찬가지로 가장자리가 모호해지는 것은 원칙에 대한 반대 주장이 아니라 원칙의 미묘함을 더 잘 이해할 수 있는 기회입니다.

이제 이 원리가 보다 포괄적인 세계관에 어떻게 적용될 수 있는지 살펴보겠습니다. 우리는 국방 기술을 다른 기술과 마찬가지로 원자 세계와 비트 세계라는 두 가지 영역으로 나누어 생각할 수 있습니다. 원자 세계는 마이크로(즉, 생물학 및 이후의 나노기술)와 매크로(즉, 전통적으로 방어라고 생각하지만 탄력적인 물리적 인프라도 포함함)로 나눌 수 있습니다. 나는 비트 세계를 다른 축으로 나누었습니다. 원칙적으로 동의하기 쉽습니다. 공격자는 누구입니까? 때로는 쉬울 때도 있는데, 저는 이것을 사이버 방어라고 부릅니다. 때로는 더 어려울 때도 있는데 저는 이를 정보 방어라고 부릅니다.

매크로 물리방어

거시적 영역에서 가장 과소평가된 방어 기술은 Iron Dome(우크라이나의 새로운 시스템 포함) 및 기타 대응 기술 및 미사일 방지 군사 하드웨어가 아니라 탄력적인 물리적 인프라입니다. 핵전쟁으로 인한 대부분의 사망은 초기 낙진과 충격보다는 공급망 중단으로 인해 발생할 가능성이 높으며 Starlink와 같은 낮은 인프라 인터넷 솔루션은 지난 1년 반 동안 우크라이나에서 연결을 유지하는 데 중요했습니다.

사람들이 독립적으로 또는 반독립적으로 생존하거나 장기적인 국제 공급망에서 편안하게 살 수 있도록 돕는 도구를 구축하는 것은 귀중한 방어 기술이며 공격적으로 사용하기에 덜 위험한 것으로 보입니다.

인류를 다중 행성 문명으로 만들려는 노력은 d/acc 관점에서도 볼 수 있습니다. 적어도 일부 사람들이 다른 행성에서 자급자족할 수 있으면 지구상의 끔찍한 사건에 대한 회복력이 높아질 수 있습니다. 현재 완전한 비전이 실현 불가능해 보이더라도, 이 프로젝트를 실현하기 위해 개발해야 할 자급자족형 생명체의 형태는 지구상 문명의 회복력을 높이는 데 사용될 수 있을 것입니다.

미세물리적 방어(생물학적 방어라고도 함)

코로나19는 특히 장기적인 건강 영향으로 인해 여전히 우려 대상입니다. 그러나 코로나19는 우리가 직면하게 될 마지막 전염병과는 거리가 멀다. 현대 세계의 여러 측면으로 인해 더 많은 전염병이 닥칠 가능성이 높다.

인구 밀도가 높을수록 공기 중 바이러스 및 기타 병원균이 더 쉽게 퍼집니다. 전염병은 인류 역사상 비교적 새로운 질병으로, 대부분 수천 년 전 도시화와 함께 시작되었습니다. 진행 중인 급속한 도시화는 향후 반세기 동안 인구 밀도가 더욱 증가할 것임을 의미합니다.

항공 여행이 증가한다는 것은 공기 중 병원균이 전 세계로 빠르게 퍼질 수 있다는 것을 의미합니다. 사람들이 급속히 부유해지고 있다는 것은 항공 여행이 향후 반세기 동안 크게 증가할 가능성이 높다는 것을 의미합니다. 정교한 모델링에 따르면 작은 증가라도 심각한 결과를 초래할 수 있습니다. 기후 변화는 이러한 위험을 더욱 증가시킬 수 있습니다.

동물 사육과 공장식 축산이 주요 위험 요인입니다. 홍역은 약 3,000년 전에 소 바이러스에서 진화했을 수 있습니다. 오늘날의 공장식 농업은 또한 새로운 변종의 인플루엔자 바이러스를 생성하고 있습니다(또한 인간의 선천적 면역 체계에 영향을 미쳐 항생제 내성을 촉진합니다).

현대 생명공학 덕분에 새롭고 더 치명적인 병원균을 더 쉽게 만들 수 있습니다. 의도적인 향상 연구를 수행하는 실험실에서 코로나바이러스가 유출되었을 수도 있고 그렇지 않았을 수도 있습니다. 그럼에도 불구하고 실험실 누출이 발생하고 도구가 빠르게 개선되어 매우 치명적인 바이러스와 프리온(좀비 단백질)을 의도적으로 생성하는 것이 더 쉬워졌습니다. 인공 전염병은 핵무기와는 달리 책임이 없기 때문에 특히 걱정스럽습니다. 바이러스를 퍼뜨릴 수는 있지만 누가 그것을 만들었는지 아무도 알 수 없습니다. 이제 유전자 서열을 설계하고 합성을 위해 실험실로 보내고 5일 이내에 배송받을 수 있습니다.

이는 크립토릴리프(CryptoRelief)와 발비(Balvi)라는 두 조직이 2021년 시바견 코인의 대규모 횡재로 설립되어 자금을 조달한 영역 중 하나입니다. 처음에는 즉각적인 위기에 대응하는 데 초점을 맞춘 CryptoRelief는 최근 인도에서 장기 의학 연구 생태계를 구축해 왔으며 Balvi는 코로나 및 기타 공기 중 질병을 감지, 예방 및 치료하는 능력을 향상시키는 미래 지향적인 프로젝트에 중점을 두었습니다. . ++Balvi는 자신이 자금을 지원하는 프로젝트가 오픈 소스 접근 방식을 채택해야 한다고 주장합니다++. 콜레라 및 기타 수인성 병원체를 퇴치한 19세기 수력 공학 운동에서 영감을 얻어 기본적으로 공기 중 병원균에 대해 세계를 더욱 탄력적으로 만들 수 있는 기술 스펙트럼 전반에 걸쳐 다음과 같은 프로젝트에 자금을 지원합니다.

원적외선(Far-UVC) 방사선 연구 및 개발

공기 여과 및 품질 모니터링, 인도, 스리랑카, 미국 등의 공기 품질 모니터링

저렴하고 효과적인 분산형 공기 품질 테스트 장비

장기적인 코로나 원인 및 잠재적 치료 옵션에 대한 연구(주요 원인은 간단할 수 있지만 메커니즘을 명확히 하고 치료법을 찾는 것이 더 어렵습니다)

백신(예: RaDVaC, PopVax) 및 백신 손상 연구

새로운 비침습적 의료 도구 세트

전염병 조기 발견을 위한 오픈 소스 데이터 분석 활용(예: EPIWATCH)

매우 저렴한 분자 신속 테스트를 포함한 테스트

다른 방법이 실패할 경우를 위한 생물안전 마스크

기타 유망한 연구 분야로는 병원체에 대한 폐수 모니터링, 건물의 여과 및 환기 개선, 대기 오염으로 인한 위험 이해 및 완화 등이 있습니다.

기본적으로 자연적, 인공적 공중 전염병에 더욱 탄력적인 세계를 건설할 수 있는 기회가 있습니다. 이 세상은 처음부터 전염병을 자동으로 감지할 수 있는 고도로 최적화된 프로세스를 갖게 될 것이며, 전 세계 사람들은 포그를 통해 한 달 이내에 표적화되고 현지에서 제조되었으며 검증 가능한 오픈 소스 백신 또는 기타 예방 조치에 접근할 수 있습니다. 화학물질 또는 비강 스프레이 투여(즉, 필요할 경우 자가 투여, 주사가 필요하지 않음). 동시에, 공기 질이 향상되면 전송 속도가 크게 줄어들고 많은 전염병이 초기 단계에 사라지는 것을 방지할 수 있습니다.

사회 강압의 망치에 의존할 필요가 없는 미래를 상상하십시오. 명령이 없고 상황을 더욱 악화시킬 수 있는 위험하고 제대로 설계되지 않은 명령이 없으며, 공중 보건 인프라가 문명의 구조에 짜여져 있기 때문입니다. 그러한 세상은 가능하며, 생물방어에 대한 적절한 투자로 이를 달성할 수 있습니다. 이러한 개발이 오픈 소스이고 사용자가 자유롭게 사용할 수 있으며 공공재로 보호된다면 작업이 더 원활해질 것입니다.

사이버 방어, 블록체인 및 암호화

보안 전문가들은 일반적으로 현재 컴퓨터 보안 상태가 심각하다는 데 동의합니다. 그럼에도 불구하고 지금까지 이루어진 진전을 과소평가하기 쉽습니다. 사용자의 지갑을 해킹할 수 있는 사람이라면 누구나 익명으로 수백억 달러에 달하는 암호화폐를 도난당할 수 있으며, 도난당하거나 도난당하는 비율은 제가 원하는 것보다 훨씬 높지만 현실은 대부분의 암호화폐가 오랫동안 해킹되지 않았다는 것입니다. 10년.훔쳐라. 최근 몇 가지 개선 사항이 있었습니다:

신뢰할 수 있는 하드웨어 칩이 장치에 내장되어 있어 전화기의 나머지 부분이 해킹되더라도 안전하게 유지되는 사용자 전화기 내에 더 작고 매우 안전한 운영 체제를 효과적으로 생성합니다. 이러한 칩은 다양한 사용 사례의 일부로 더욱 안전한 암호화폐 지갑을 만드는 방법으로 점점 더 많이 연구되고 있습니다.

브라우저는 사실상의 운영 체제 역할을 합니다. 지난 10년 동안 다운로드 가능한 앱에서 브라우저 기반 앱으로 조용한 전환이 있었습니다. 이는 주로 WASM(WebAssembly) 때문입니다. Linux의 필요성과 Linux와의 비호환성으로 인해 많은 사람들이 실제로 Linux를 사용할 수 없는 주된 이유 중 하나로 오랫동안 여겨졌던 Adobe Photoshop조차도 이제는 브라우저에 내장되어 Linux에 친화적입니다. 이는 보안상의 큰 이점이기도 합니다. 브라우저에는 결함이 있지만 일반적으로 설치된 앱보다 더 많은 샌드박싱을 제공합니다. 앱은 컴퓨터에 있는 임의의 파일에 액세스할 수 없습니다.

운영 체제를 강화하십시오. 모바일용 GrapheneOS가 존재하며 활용도가 매우 높습니다. QubesOS의 데스크톱 버전도 존재합니다. 내 경험상 현재 Graphene보다 유용성이 약간 떨어지지만 개선되고 있습니다.

비밀번호 너머를 살펴보세요. 비밀번호는 기억하기 어렵고 쉽게 도청될 수 있으므로 보호하기가 어렵습니다. 최근에는 비밀번호에 대한 의존도를 줄이고 하드웨어 기반 다단계 인증을 실제로 작동시키려는 움직임이 커지고 있습니다.

그러나 다른 영역의 사이버 방어 부족으로 인해 심각한 장애가 발생했습니다. 스팸으로부터 보호해야 하는 필요성으로 인해 이메일은 실제로 매우 과두주의적이 되어 자체 호스팅이나 새 이메일 공급자를 만드는 것이 어려워졌습니다. Twitter를 포함한 많은 온라인 애플리케이션에서는 사용자가 VPN을 사용하여 콘텐츠에 액세스하고 IP 주소를 차단하려면 로그인해야 하므로 개인 정보를 보호하는 방식으로 인터넷에 액세스하는 것이 더 어렵습니다. 소프트웨어의 중앙 집중화는 무기화된 상호의존성으로 인해 위험을 수반합니다. 현대 기술은 중앙 집중화된 병목 현상을 통해 흐르는 경향이 있으며 이러한 병목 현상의 운영자는 이 힘을 사용하여 정보를 수집하고 결과를 조작하거나 특정 행위자를 배제합니다. 블록체인 산업 자체에 불리하게 이용되고 있습니다.

이러한 추세는 역사적으로 자유와 개인 정보 보호에 대한 미래 전망에 대한 나의 주요 희망 중 하나를 위협하기 때문에 걱정스럽습니다. David Friedman은 자신의 저서 미래 불완전성에서 우리가 다양한 미래에 직면할 수 있다고 예측합니다. 물리적 세계는 점점 더 감시되지만, 암호화를 통해 온라인 세계는 개인 정보를 보호하거나 심지어 향상시킬 것입니다. 불행하게도, 우리가 살펴보았듯이 그러한 반대 추세는 확실하지 않습니다.

이것이 제가 블록체인이나 영지식 증명과 같은 암호화 기술을 강조하는 이유입니다. 블록체인을 사용하면 중앙화된 행위자에 의존하지 않고 공유 하드 드라이브를 통해 경제 및 사회 구조를 만들 수 있습니다. 암호화폐를 사용하면 개인은 규칙을 마음대로 변경할 수 있는 신뢰할 수 있는 제3자에게 의존하지 않고도 인터넷 이전에 현금이 사용되었던 것처럼 금융 거래를 저장하고 수행할 수 있습니다. 또한 백업 안티-Sybil 메커니즘 역할을 할 수 있어 기업의 신원을 공개하기를 원하지 않거나 공개하기를 원하지 않는 사용자에게 공격과 스팸으로 인한 비용을 발생시킬 수 있습니다. 계정 추상화, 특히 사회 복구 지갑은 중앙화된 중개자에 지나치게 의존하지 않고도 암호화폐 자산과 미래의 잠재적인 기타 자산을 보호할 수 있습니다.

영지식 증명은 개인 정보 보호를 위해 사용될 수 있으므로 사용자는 개인 정보를 공개하지 않고도 자신에 대한 사실을 증명할 수 있습니다. 예를 들어, ZK-SNARK로 디지털 여권 서명을 감싸면 귀하가 어떤 시민인지 밝히지 않고도 귀하가 해당 국가의 유일한 시민임을 증명할 수 있습니다. 유사한 기술을 통해 우리는 투표와 같은 응용 프로그램에 필요하다고 널리 간주되는 기능인 개인 정보 보호 및 익명성의 이점을 유지할 수 있으며 동시에 보안을 보장하고 스팸 및 악의적인 행위자에 맞서 싸울 수 있습니다.

ZK 소셜 미디어 시스템의 제안된 설계는 누군가의 신원을 알지 못한 채 조정 작업과 사용자를 처벌할 수 있는 기능을 허용합니다.

Zupass는 Zuzalu에서 배양된 관행의 훌륭한 예입니다. 이것은 Zuzalu에서 수백 명의 사람들이 이미 티켓팅을 위해 Devconnect에서 수천 명의 사람들이 티켓, 멤버십, (양도할 수 없는) 디지털 수집품 및 기타 인증서를 보유하고 관련된 모든 문제를 인증할 수 있는 앱입니다. 개인 정보를 공개하지 않고 그들에게. 예를 들어, 귀하가 누구인지에 대한 다른 정보를 공개하지 않고도 귀하가 Zuzalu에 등록된 유일한 거주자이거나 Devconnect의 티켓 보유자임을 증명할 수 있습니다. 이러한 증거는 Zuzalu 주민에게만 공개되는 익명 투표 시스템인 Zupoll과 같은 앱에 로그인하기 위해 QR 코드를 통해 직접 표시되거나 디지털 방식으로 표시될 수 있습니다.

이러한 기술은 d/acc 원칙의 훌륭한 예입니다. 이를 통해 사용자와 커뮤니티는 개인 정보를 침해하지 않고 신뢰성을 확인할 수 있으며, 좋은 사람과 나쁜 사람이 누구인지 자체적으로 정의하는 중앙 집중식 관문에 의존하지 않고 보안을 보호할 수 있습니다. 이는 신뢰할 수 없는 것으로 간주되는 전체 국가를 차별하는 오늘날의 일반적인 관행보다 사용자 또는 서비스의 보안을 보호하는 더 좋고 더 정당한 방법을 만들어 글로벌 접근성을 높입니다. 이는 21세기에 들어서면서 정보 보안에 대한 분산화된 비전을 유지하려는 경우 필요할 수 있는 매우 강력한 기본 요소입니다. 사이버 공간의 방어 기술에 대한 광범위한 노력은 매우 중요한 방식으로 인터넷을 더욱 개방적이고 안전하며 자유롭게 만드는 데 큰 도움이 될 수 있습니다.

정보 방어

정보 방어는 공격자의 신원에 대해 합리적인 사람들 사이의 합의가 쉬운 상황을 다루는 사이버 방어라고 설명합니다. 누군가가 지갑을 해킹하려고 하면 해커가 나쁜 사람이라고 가정하기 쉽습니다. 누군가가 웹사이트에 DoS 공격을 시도하면 모든 사람은 자신이 악의적이고 웹사이트의 콘텐츠를 읽으려는 일반 사용자와 도덕적으로 다르다고 가정하기 쉽습니다. 선이 더욱 흐릿해지는 경우도 있습니다. 나는 이러한 상황에서 방어 능력을 향상시키는 도구를 정보 방어라고 부릅니다.

예를 들어 사실 확인(잘못된 정보 방지)을 생각해 보세요. 저는 커뮤니티 노트를 정말 좋아합니다. 커뮤니티 노트는 사용자가 다른 사용자의 트윗에서 진실과 거짓말을 식별하는 데 많은 도움을 줍니다. 커뮤니티 노트는 가장 인기 있는 노트가 아닌 정치적 스펙트럼 전반에 걸쳐 가장 많은 사용자가 지지하는 노트를 표시하는 새로운 알고리즘을 사용합니다.

커뮤니티 주석의 실제 적용.

나는 또한 상황이 명확해지기 전, 상황이 어디로 흘러갈지에 대한 합의가 이루어지기 전에 사건의 중요성을 실시간으로 밝힐 수 있는 예측 시장의 팬입니다. 예를 들어, Sam Altman의 Polymarket은 시간별 공개 및 사건 협상에 대한 매우 유용한 요약을 제공하여 각 항목의 중요성을 이해하지 못한 채 개별 뉴스 항목만 보는 사람들에게 꼭 필요한 컨텍스트를 제공합니다.

예측 시장에는 결함이 있는 경우가 많지만, 내년에 무슨 일이 일어날 것이라고 자신있게 말하려는 트위터 인플루언서에게는 훨씬 더 결함이 있는 경우가 많습니다. 예측 시장에는 여전히 개선의 여지가 많습니다. 예를 들어, 예측 시장은 일반적으로 가장 주목받는 이벤트를 제외하고는 거래량이 적으므로 이 문제를 해결하기 위한 자연스러운 방향은 인공 지능을 포함하는 예측 시장을 시작하는 것입니다.

블록체인 공간에서는 특정 유형의 정보 방어가 더 필요하다고 생각합니다. 즉, 지갑은 사용자가 서명한 내용의 의미를 파악하고 사기 및 사기로부터 보호할 수 있도록 보다 통찰력 있고 적극적으로 지원해야 합니다. 이는 중간 사례입니다. 무엇이 사기인지 아닌지는 논쟁의 여지가 있는 소셜 이벤트에 대한 의견보다 덜 주관적이지만 합법적인 사용자를 DoS 공격자 또는 해커와 구별하는 것보다 더 주관적입니다. Metamask는 이미 사기 데이터베이스를 보유하고 있으며 사용자가 사기 웹 사이트에 액세스하지 못하도록 자동으로 차단합니다.

Fire와 같은 앱은 더 심층적인 접근 방식의 예입니다. 그러나 보안 소프트웨어는 명시적으로 설치해야 하는 것이 아니라 암호화폐 지갑이나 브라우저의 기본 설정이어야 합니다.

정보 방어는 더 주관적이므로 사이버 방어보다 본질적으로 더 집단적입니다. 어떤 정보가 사실인지 거짓인지, 어떤 응용 프로그램을 사용하는지 확인하려면 크고 복잡한 사람들 그룹에 어떻게든 연결해야 합니다. 이는 사기성 폰지 사기입니다. . 개발자는 효과적인 정보 방어를 개발하고 기존 형태의 정보 방어를 강화하는 데 더 큰 진전을 이룰 수 있는 기회를 갖습니다. 커뮤니티 노트와 같은 기능을 브라우저에 포함시켜 소셜 미디어 플랫폼뿐만 아니라 전체 인터넷을 포괄할 수 있습니다.

방어 프레임워크를 넘어서는 소셜 기술

어느 정도는 내가 일부 정보 기술을 방어적이라고 특성화하는 데 너무 강조했다는 비난을 받을 수도 있습니다. 결국 방어는 악의적인 행위자(또는 경우에 따라 자연)로부터 선의의 행위자를 보호하는 데 도움이 됩니다. 그러나 이러한 소셜 기술 중 일부는 선의의 행위자가 합의를 도출하는 데 도움이 됩니다.

이에 대한 좋은 예가 pol.is입니다. 이는 커뮤니티 노트와 유사한(그리고 커뮤니티 노트 이전) 알고리즘을 사용하여 커뮤니티가 여러 측면에서 동의하지 않는 여러 하위 그룹 간의 합의점을 식별할 수 있도록 돕습니다. Viewpoints.xyz는 pol.is에서 영감을 얻었으며 비슷한 정신을 가지고 있습니다.

이와 같은 기술을 사용하면 논쟁의 여지가 있는 결정에 대해 보다 분산된 거버넌스를 활성화할 수 있습니다. 다시 한번 말씀드리지만, 블록체인 커뮤니티는 이 분야의 모범 사례를 위한 장소이며 이러한 알고리즘의 가치를 입증했습니다. 일반적으로 Ethereum 프로토콜에 어떤 개선 사항(EIP)을 적용할지에 대한 결정은 All Core Devs Call이라는 회의에서 상당히 작은 그룹에 의해 이루어집니다. 이는 보다 기술적이고 대부분의 커뮤니티 구성원이 크게 느끼지 않는 결정에 매우 효과적입니다. 프로토콜 경제학이나 불변성 및 검열 저항과 같은 보다 근본적인 가치와 관련된 더 중요한 결정의 경우 이것만으로는 충분하지 않은 경우가 많습니다. 2016-17년을 되돌아보면 DAO 하드 포크, 발행량 감소, Parity 지갑 동결 해제 등 논란이 많은 일련의 결정을 시행할 때 Carbonvote 및 소셜 미디어 투표와 같은 도구는 커뮤니티와 개발자가 대중을 이해하는 데 도움이 되었습니다. 커뮤니티의 의견 방향.

Carbonvote on the DAO fork.

Carbonvote에는 결함이 있습니다. Ethereum 커뮤니티의 구성원이 누구인지 결정하기 위해 ETH 보유에 의존하므로 소수의 부유한 ETH 보유자(고래)가 결과를 지배하게 됩니다. 그러나 최신 도구를 사용하면 POAP, Zupass 스탬프, Gitcoin 여권, 프로토콜 길드 멤버십 및 ETH(개별적으로 스테이킹된 ETH 포함) 보유와 같은 여러 신호를 활용하여 커뮤니티 멤버십 자격을 측정하는 더 나은 Carbonvote를 만들 수 있습니다.

이러한 도구는 모든 커뮤니티에서 불투명한 중앙 리더십에 의존하지 않고 더 높은 품질의 결정을 내리고, 공통점을 찾고, 마이그레이션(물리적 또는 디지털)을 조정하거나 기타 작업을 수행하는 데 사용할 수 있습니다. 이는 방어 가속 자체는 아니지만 민주적 가속이라고 부를 수 있다. 이러한 도구는 AI 분야에서 활동하는 주요 행위자 및 기관의 거버넌스를 개선하고 민주화하는 데에도 사용될 수 있습니다.

그렇다면 초지능이 나아갈 길은 무엇일까?

이제 모든 것이 좋아 보이고 다가오는 세기에는 세상을 더욱 조화롭고 안전하며 자유로운 곳으로 만들 수 있습니다. 그러나 이것은 방 안의 코끼리, 즉 초지능 인공 지능에 대해서는 다루지 않습니다.

AI를 걱정하는 많은 사람들이 암묵적으로 제안한 앞으로의 길은 본질적으로 최소한의 AI 세계 정부로 이어진다. 최근 버전에는 초국적 AGI 컨소시엄에 대한 제안이 포함되어 있습니다("MAGIC"). 그러한 연합이 형성되어 초지능 AI를 만들겠다는 목표에 성공한다면 자연스럽게 사실상의 최소 세계 정부가 될 것입니다. 장기적으로는 중요한 행동 이론이라는 아이디어도 있습니다. 우리는 단일 행동을 한 번 수행하는 AI를 만들어 세상을 인간이 여전히 통제할 수 있지만 게임 보드는 좀 더 A에 가까운 세상으로 재구성합니다. 국방과 인간 번영에 도움이 되는 상황.

현재 내가 보는 주요 실제 문제는 사람들이 그러한 것을 구축할 권한이 있는 특정 거버넌스 메커니즘을 실제로 신뢰하지 않는 것 같다는 것입니다. 사람들이 AI가 10년 일찍 시작된 단일 개체에 의해 독점되는 것을 보고 싶은지, 아니면 모든 사람을 위한 AI가 10년 지연되는 것을 원하는지 묻는 질문을 받은 최근 트위터에서 실시한 설문 조사 결과를 보면 다음과 같은 사실이 매우 분명합니다. :

각 여론조사의 규모는 작지만, 부족한 규모는 광범위한 정보 소스와 옵션에 걸쳐 이러한 여론조사의 일관된 결과로 보완됩니다. 9표 중 9표에서 대다수는 회사, 정부 또는 다국적 기관 등 단일 그룹에 의해 독점되는 것보다 단순히 10년만 지연되는 고도로 발전된 인공 지능을 보는 것을 선호합니다. 9번 중 7번은 연기가 최소한 2대1의 차이로 승리했습니다. 이는 AI 규제를 추구하는 사람이라면 누구나 이해해야 할 중요한 사실인 것 같습니다. 현재 접근 방식은 AI 개발을 소수의 사람에게만 제한하기 위해 라이선싱 계획과 규제 요건을 만드는 것이었지만 사람들은 누군가가 그렇게 강력한 것을 독점하는 것을 원하지 않기 때문에 이러한 접근 방식은 광범위한 반대에 부딪혔습니다. 그러한 하향식 규제 제안이 멸종 위험을 줄인다 하더라도 중앙 집중식 전체주의로 영구적으로 빠져들 가능성이 높아집니다. 역설적이게도 극도로 발전된 AI 연구(아마도 생의학 AI에 대한 예외는 제외)를 완전히 금지하기로 한 합의와 금지되지 않은 모델에 대해 오픈 소스를 강제하는 조치는 이익 인센티브를 줄이는 동시에 윌의 평등을 개선하는 추가 접근 방식으로 작용합니다. 액세스가 더 인기가 있을까요?

글로벌 기구가 AI를 다루고 거버넌스가 매우 우수하도록 하는 접근 방식에 반대하는 사람들이 선호하는 주요 접근 방식은 다신교적 AI입니다. 즉, 많은 사람과 회사가 대량의 AI를 개발하여 그 누구도 그보다 더 강력해지도록 의도적으로 보장하는 것입니다. 다른 사람. 이런 식으로 AI가 초지능화되더라도 우리는 여전히 힘의 균형을 유지할 수 있다는 이론입니다.

이 철학은 흥미롭지만, 이더리움 생태계 내에서 다신론을 보장하려는 나의 경험은 이것이 본질적으로 불안정한 균형이라는 점을 걱정하게 만듭니다. 이더리움에서는 어떤 코드베이스도 지분 증명 네트워크의 절반 이상을 제어하지 못하도록 하고, 대규모 지분 풀의 지배력에 저항하고, 지리적 분산을 개선하는 등 다양한 방법으로 의도적으로 분산화를 보장하려고 노력합니다. 기본적으로 이더리움은 실제로 독점 금지 규제 기관으로 정부가 아닌 사회적 압력을 사용하는 시장 기반 사회의 오래된 자유주의 꿈을 실행하려고 노력하고 있습니다. 이는 어느 정도 성과를 거두었습니다. Prysm 클라이언트 지배력이 70% 이상에서 45% 미만으로 떨어졌습니다. 그러나 이것은 자동적인 시장 과정이 아닙니다. 그것은 인간의 의지와 조화로운 행동의 결과입니다.

Ethereum에 대한 나의 경험은 많은 시장이 자연 독점임이 입증된 전 세계의 학습과 일치합니다. 초지능 AI가 인간과 독립적으로 행동하면서 상황은 더욱 위태로워진다. 가장 강력한 AI는 반복적인 자기 개선으로 인해 빠르게 앞서 나갈 수 있으며, 일단 AI가 인간보다 더 강력해지면 사물의 균형을 재조정할 힘이 없게 됩니다.

게다가 초지능 AI를 통해 안정적인 다신교 세계를 구현하더라도 우리는 여전히 또 다른 문제에 직면하게 됩니다. 인간이 애완동물이 되는 우주가 탄생한다는 것입니다.

행복으로 가는 길: 인공지능과의 결합?

최근 제가 들은 또 다른 옵션은 AI를 인간과 별개의 것으로 생각하기보다는 인간의 인지를 대체하기보다는 인간의 인지를 강화하는 도구에 더 집중하는 것입니다.

최근의 예로는 AI 그리기 도구가 있습니다. 오늘날 AI 생성 이미지를 만드는 가장 눈에 띄는 도구는 단 한 단계만 사람의 입력으로만 수행하면 되며 그 이후에는 AI가 완전히 인계받습니다. 또 다른 옵션은 Photoshop과 같은 AI 버전에 더 집중하는 것입니다. 아티스트나 AI가 이미지의 초기 초안을 만든 다음 두 사람이 협력하여 실시간 피드백 프로세스를 통해 이를 개선할 수 있습니다.

원천, 2023 Photoshop에서 생성된 AI 채우기. 사용해 보고 익숙해지는 데 시간이 좀 걸렸지만 실제로는 아주 훌륭하게 작동합니다!

유사한 정신의 또 다른 방향은 AI 마음의 서로 다른 부분(예: 계획 수립, 계획 실행, 외부 세계의 정보 해석)을 별도의 구성 요소로 분리하고 이러한 부분 사이에 도입하는 것을 제안하는 개방형 에이전시 아키텍처입니다. 인간의 피드백.

지금까지 이것은 평범하게 들리며 거의 모든 사람들이 이것이 좋은 일이라는 데 동의할 수 있습니다. 경제학자 Daron Acemoglu의 작업은 이러한 유형의 AI 미래주의와는 거리가 멀지만, 그의 새 책인 Power and Progress에서는 이러한 유형의 인공 지능을 더 많이 보고자 하는 열망을 암시합니다.

그러나 인공지능과 인간의 협력이라는 개념을 더 발전시키고자 한다면 우리는 좀 더 급진적인 결론에 도달하게 될 것이다. 랩톱의 개별 GPU를 사용하여 해킹하는 모든 소규모 그룹을 탐지하고 막을 수 있을 만큼 강력한 세계 정부를 만들지 않는 한, 결국 누군가는 우리 AI보다 천 배 더 빠르게 생각할 수 있는 초지능 AI를 만들 것이며 인간 그룹은 없을 것입니다. 자신이 원하는 도구를 사용하여 경쟁할 수 있습니다. 그러므로 우리는 인간과 기계의 협력이라는 아이디어에 대해 더 깊고 더 깊이 생각해 볼 필요가 있습니다.

첫 번째 자연스러운 단계는 뇌-컴퓨터 인터페이스입니다. 뇌-컴퓨터 인터페이스는 인간이 점점 더 강력해지는 형태의 컴퓨팅 및 인지에 더 직접적으로 접근할 수 있게 하여 인간과 기계 간의 양방향 통신 루프를 몇 초에서 밀리초로 단축할 수 있습니다. 또한 사실을 수집하고, 조언을 제공하고, 계획을 실행하는 데 컴퓨터를 사용하는 데 드는 정신적 노력 비용을 크게 줄일 수 있습니다.

이 로드맵의 이후 단계는 정말 이상해집니다. 뇌-컴퓨터 인터페이스 외에도 생물학적 혁신을 통해 우리의 뇌를 직접적으로 향상시킬 수 있는 다양한 방법이 있습니다. 이 두 경로를 병합하는 마지막 단계에는 우리의 마음을 컴퓨터에 업로드하여 직접 실행하는 것이 포함될 수 있습니다. 이는 또한 물리적 보안에 대한 궁극적인 솔루션이 될 것입니다. 위험으로부터 자신을 보호하는 것은 더 이상 필연적으로 연약한 인체를 보호하는 복잡한 문제가 아니라 데이터를 백업하는 간단한 문제가 될 것입니다.

그러한 지시는 때때로 우려를 불러일으킵니다. 그 이유는 부분적으로는 되돌릴 수 없기 때문이고, 부분적으로는 강력한 사람들이 나머지 사람들보다 우위를 점할 수 있기 때문입니다. 특히 뇌-컴퓨터 인터페이스에는 위험이 있습니다. 결국 우리는 사람들의 생각을 직접 읽고 쓰는 것에 대해 이야기하고 있습니다. 이러한 우려 때문에 폐쇄적인 독점 기업이나 벤처 캐피탈 펀드보다는 보안 중심의 오픈 소스 운동이 이 길에서 주도적인 역할을 하는 것이 가장 좋다고 생각합니다. 더욱이 이 모든 문제는 인간과 밀접하게 접촉하는 증강부품보다 인간과 독립적으로 작동하는 초지능 AI의 경우 더욱 심각하다. ChatGPT의 사용 제한으로 인해 현재 이미 향상된과 비향상된이 구분되어 있습니다.

우리가 초지능이면서 인간인 미래, 인간이 단순한 애완동물이 아니라 실제로 세상에서 의미 있는 주체를 유지하는 미래를 원한다면 이와 같은 선택이 가장 자연스러운 것 같습니다. 이 접근 방식을 지지하는 많은 주장이 있습니다. 의사 결정 프로세스의 모든 단계에서 인간의 피드백을 포함함으로써 우리는 높은 수준의 계획 책임을 AI 자체로 이전하려는 인센티브를 줄여 AI의 필요성을 줄입니다. 인간의 가치와는 별개로 완전히 다른 것을 수행하는 것.

이 방향을 지지하는 또 다른 주장은 단순히 PAT라고 외치는 것보다 앞으로 나아갈 대체 경로를 제공하는 해당 메시지를 제공하는 것이 더 낫다는 것입니다. 이를 위해서는 인간에게 영향을 미치는 기술의 진보는 위험하지만 인간과 관련이 없는 기술의 진보는 본질적으로 안전하다는 현재의 사고방식에서 철학적인 전환이 필요합니다. 그러나 이는 엄청난 반대 이점을 가지고 있습니다. 즉, 개발자에게 할 일을 제공합니다. 오늘날 AI 안전운동이 AI 개발자들에게 전하는 주요 메시지는 “그만둬야 한다”인 것 같다. 정렬 연구가 수행될 수 있지만 오늘날에는 이에 대한 재정적 인센티브가 부족합니다. 이에 반해, 당신은 지금의 모습 그대로 이미 영웅입니다라는 일반적인 e/acc 메시지는 분명히 매우 매력적입니다. 당신과 인류의 번영에 도움이 되는 것을 만들고 구축해야 하지만, 번영에 도움이 되는 것을 만드는 데 더 선택적이고 의도적이어야 합니다라는 d/acc 메시지가 승자가 될 수 있습니다.

d/acc가 귀하의 기존 철학에 부합합니까?

당신이 e/acc라면, d/acc는 e/acc의 아종이며, 좀 더 선택적이고 의식적입니다.

당신이 효과적인 이타주의자라면, d/acc는 비록 자유주의와 민주적 가치에 더 중점을 두기는 하지만 효과적인 이타주의라는 아이디어를 재포장한 것입니다.

당신이 자유주의자라면, d/acc는 기술 자유주의의 아종입니다. 비록 더 실용적이고, 기술 자본 기계에 대해 더 비판적이며, 적어도 오늘날(적어도 문화가 다음과 같은 경우) 정부 개입을 기꺼이 받아들일 의향이 있습니다. 개입은 효과가 없습니다) 더욱 악화된 반자유주의적 미래를 방지하기 위한 것입니다.

Glen Weir가 정의한 것처럼 당신이 다원주의자라면 d/acc는 다원주의가 강조하는 더 나은 민주적 조정 기술을 쉽게 수용할 수 있는 프레임워크입니다.

귀하가 공중 보건 옹호자라면 d/acc의 아이디어는 더 넓은 장기 비전에 대한 영감을 제공하고 귀하가 동의하지 않을 수 있는 기술자와 공통점을 찾을 수 있는 기회를 제공할 수 있습니다.

블록체인 옹호자라면 d/acc는 15년 전 인플레이션과 은행에 대한 강조보다 더 현대적이고 더 넓은 서술이며, 더 밝은 미래 발전을 향해 나아가기 위한 구체적인 전략의 맥락에 블록체인을 포함시킵니다.

당신이 솔라펑크라면, d/acc는 솔라펑크의 아종이며 의식적이고 집단적인 행동에 비슷한 강조점을 담고 있습니다.

귀하가 문펑크라면 개인 정보 보호와 자유를 유지함으로써 정보 보호에 중점을 두는 d/acc의 가치를 높이 평가할 것입니다.

우리는 가장 빛나는 별이다

나는 인간의 잠재력을 확장하기 때문에 기술을 좋아합니다. 1만년 전만 해도 우리는 간단한 수공구를 만들고, 작은 땅에서 식물의 성장을 바꾸고, 기본적인 집을 지을 수 있었습니다. 오늘날 우리는 800미터 높이의 탑을 건설하고, 인간 지식의 전체 내용을 우리 손에 있는 장치에 저장하고, 전 세계에서 즉시 통신하고, 수명을 연장하고, 행복하고 만족스러운 삶을 살 수 있으며, 더 이상 마지막 일에 대해 걱정하지 않아도 됩니다. 운명.좋은 친구는 종종 질병으로 죽습니다.

우리는 바닥에서 시작했고 이제 여기에 왔습니다.

나는 이러한 것들이 매우 유익하다고 생각하며, 인류의 영향력을 지구와 오데일리로 더욱 확장하는 것도 매우 유익하다고 믿습니다. 왜냐하면 인간은 매우 선하다고 믿기 때문입니다. 일부 집단에서는 회의적인 태도를 취하는 것이 유행입니다. 자발적인 인간 멸종을 옹호하는 운동에서는 지구가 인간 없이 더 나아질 것이라고 믿고 있으며, 다른 많은 사람들은 앞으로 몇 세기 동안 인간이 훨씬 줄어들기를 희망합니다. 사람들은 종종 인간이 속이고 도둑질하고, 식민주의와 전쟁에 참여하고, 다른 종을 학대하고 멸종시키기 때문에 나쁘다고 주장합니다. 이러한 사고방식에 대한 나의 대답은 간단한 질문입니다. 무엇과 비교하면?

그렇습니다. 인간은 종종 비열하게 행동하지만, 더 자주 우리는 친절하고 은혜롭게 행동하며 공동의 이익을 위해 함께 일합니다. 전쟁 중에도 우리는 일반적으로 민간인을 보호하기 위해 주의를 기울입니다. 물론 충분하지는 않지만 2,000년 전보다 더 많은 노력을 기울이고 있습니다. 다음 세기에는 비동물성 고기가 널리 보급되어 오늘날 인간이 정당하게 비난받을 수 있는 가장 큰 도덕적 재앙을 제거할 수 있습니다. 인간이 아닌 동물은 이런 일을 하지 않습니다. 고양이가 쥐를 먹는 것을 윤리적 원칙으로 거부하는 생활방식 전체를 채택하는 상황은 없습니다. 태양은 매년 점점 더 밝아지고 있으며, 약 10억 년 후에는 지구가 너무 뜨거워져 생명체가 살 수 없을 것으로 예상됩니다. 태양은 자신이 야기할 대량 학살을 고려할 것인가?

그러므로 나는 우리 인간이 우리가 알고 본 우주에서 가장 밝은 별임을 굳게 믿습니다. 비록 불완전하더라도 때때로 선한 것에 관심을 기울이고 더 나은 서비스를 제공하기 위해 우리의 행동을 조정하기 위해 진지한 노력을 기울이는 것은 우리가 아는 유일한 존재입니다. 20억년 후에도 지구나 우주의 어느 부분이 여전히 지구상의 생명의 아름다움을 간직하고 있다면 그것은 우주여행처럼 인류를 위한 예술작품이 될 것이다.