Vitalik: 이상적인 먼 미래 AI 결과는 인간과 기계의 심층적 융합과 글로벌 다원주의 유지

Odaily는 Vitalik이 X 플랫폼에 게시한 글에서, 미래 AI 발전의 한 방향은 인간과 기계의 더 깊은 융합이라고 밝혔습니다. 여기에는 컴퓨터가 인간과 더 협력적으로 일하고, 인간이 발산하는 의식적 및 무의식적 신호를 인식하며, 뇌-컴퓨터 인터페이스, 그리고 여러 사람이 서로를 더 잘 이해하고 협력하도록 돕는 컴퓨터 지원 텔레파시가 포함됩니다. 그 최종 형태는 인간과 기계 사이의 이분법적 구분을 없애고 이 스펙트럼상의 다양한 위치를 개방하는 것입니다.

Vitalik은 심층적으로 융합된 인간과 기계가 서로 분리된 인간과 기계보다 우월하기를 바라며, 이것이 기술적 한계까지 지속되기를 희망합니다. 그가 구상하는 먼 미래 AI 결과는 다음과 같습니다: 글로벌 정치 및 경제적 다원주의가 보존되어 단일 기업이나 정부가 지배하지 않음; 인간은 순수 기계와 경쟁할 수준으로 우주를 탐험하기 위해 기술 업그레이드를 선택하거나, 현재 상태를 유지하며 명령을 따르는 로봇을 통해 세상에서 활동할 수 있음; 지구의 대부분 지역은 고도로 규제된 자연 보호 구역이 되어 사람들이 현재의 생활 방식을 유지할 수 있으며, 더 과격한 일을 원한다면 우주로 나갈 수 있음.

AI 자체는 다른 대안에 비해 너무 강력해져서, 특정 국가나 기업이 결정적 우위를 점하고 영구적으로 고정시킬 수 있으며, 강력한 기술 수단은 측정할 수 없는 피해를 초래할 수 있습니다. 또한 인간과 기계의 융합 경로 자체가 충분한 인간성을 유지하지 못하고, 결국 강력한 로봇을 만드는 또 다른 방식이 될 수도 있습니다. 따라서 그는 이 좁은 통로를 더 느린 속도로 통과하기를 바라며, 상호 확증 컴퓨팅 파괴 등 브레이크를 제공할 수 있는 아이디어를 포함한 감속 또는 일시 중지 제안을 지지합니다.

Vitalik은 자신의 이상적인 세계는 오픈 웨이트가 승리하는 것이며, Dean Ball의 오픈 웨이트가 프론티어 모델에 대한 자본 지출을 억제함으로써 감속 효과를 가진다는 판단이 완전히 옳다고 말합니다. 비록 이것이 주변 기기 및 애플리케이션에 대한 더 많은 자본 지출을 촉진할지라도 말입니다. 이렇게 하면 더 강력한 정치적 수단을 사용하지 않고도 감속을 달성할 수 있습니다. 그러나 그는 세상이 자연스럽게 편리한 경제 및 물리 법칙을 제공할 것이라고 기대해서는 안 된다고 생각합니다. 인간은 정치 법칙에 대해 여전히 일정한 능동성을 가지고 있으며, 단일 권위가 통제하지 않고도 인센티브를 변경할 수 있는 많은 방법이 있으므로 이를 활용해야 합니다.