작성자: 비탈릭 부테린

편집자: Karen, Foresight News

피드백과 토론을 해주신 Worldcoin 및 Modulus Labs 팀인 Xinyuan Sun, Martin Koeppelmann 및 Illia Polosukhin에게 특별히 감사드립니다.

수년에 걸쳐 많은 사람들이 나에게 암호화폐와 AI 사이의 가장 유익한 교차점은 어디입니까?라는 질문을 해왔습니다. 그것은 정당한 질문입니다: 암호화폐와 AI는 지난 10년 동안 두 가지 주요 깊이였습니다. (소프트웨어) 기술 동향 , 둘 사이에 어떤 연관성이 있어야합니다.

표면적으로는 둘 사이의 시너지 효과를 쉽게 찾을 수 있습니다.AI 중앙화 균형 조정, AI는 불투명하고 암호화폐는 투명성을 가져올 수 있으며, AI는 데이터가 필요하고 블록체인은 데이터를 저장하고 추적하는 데 능숙합니다. 그러나 수년에 걸쳐 사람들이 나에게 특정 응용 프로그램을 자세히 조사해 달라고 요청했을 때 내 대답은 실망스러웠습니다. 예, 논의할 가치가 있는 응용 프로그램이 몇 가지 있지만 많지는 않습니다.

지난 3년 동안 최신 LLM(Large Language Model)과 같은 보다 강력한 AI 기술의 등장으로 블록체인 확장 솔루션뿐만 아니라 영지식 증명, 완전 동형 암호화(양자간 암호화)를 시작합니다. 다자간 보안 다자간 계산과 같은 더욱 강력한 암호화 기술의 등장으로 이러한 변화를 확인하세요. AI를 적용할 때는 주의가 필요하지만 실제로 블록체인 생태계 내에서 또는 AI와 암호화를 결합하여 AI를 적용할 수 있는 유망한 응용 프로그램이 있습니다. 특히 어려운 점은 암호화에서 오픈 소스가 무언가를 진정으로 안전하게 만드는 유일한 방법이지만, AI에서는 모델(및 해당 훈련 데이터까지)을 공개하면 적대적인 기계 학습 공격에 대한 취약성이 크게 증가한다는 것입니다. 이 기사에서는 Crypto+AI가 교차할 수 있는 다양한 방식을 분류하고 각 분류의 전망과 과제를 살펴봅니다.

uETH 블로그에서기사Crypto+AI 교차점에 대한 요약입니다. 그러나 특정 응용 분야에서 이러한 시너지 효과를 어떻게 실제로 실현할 수 있습니까?

Crypto+AI 4대 교차로

AI는 매우 광범위한 개념입니다. AI를 명시적으로 지정하는 것이 아니라 큰 계산 수프를 휘젓고 수프를 구동하기 위해 일종의 최적화 압력을 적용하여 생성하는 알고리즘 세트로 생각할 수 있습니다. 원하는 속성.

이 설명은 우리 인간을 창조하는 과정을 포함하고 있기 때문에 결코 가볍게 여겨서는 안됩니다! 그러나 이는 또한 AI 알고리즘이 몇 가지 공통된 특성을 공유한다는 것을 의미합니다. 즉, 매우 강력하지만 동시에 내부 작동을 알거나 이해하는 데 특정 제한이 있습니다.

인공지능을 분류하는 방법은 여러 가지가 있으며, 본 기사에서 논의한 인공지능과 블록체인의 상호작용(버질 그리피스 이더리움은 말 그대로 판도를 바꾸는 기술이다)기사), 다음과 같이 분류하겠습니다.

• 게임 참여자로서의 AI(타당성 최고): AI 참여 메커니즘에서 인센티브의 궁극적인 원천은 인간 입력의 동의에서 비롯됩니다.

• 게임 인터페이스로서의 AI(가능성은 높지만 위험): AI는 사용자가 주변 암호화 세계를 이해하고 자신의 행동(예: 서명된 메시지 및 거래)이 속거나 속지 않도록 의도와 일치하는지 확인하는 데 도움이 됩니다.

• 게임의 규칙으로서의 AI(큰 주의 필요): 블록체인, DAO 및 유사한 메커니즘이 AI를 직접 호출합니다. 예를 들어 AI 판사입니다.

• 게임 목표로서의 AI(장기적이고 흥미로운): 블록체인, DAO 및 유사한 메커니즘을 설계하는 목표는 다른 목적으로 사용할 수 있는 AI를 구축하고 유지하는 것이며 암호화를 사용하는 부분은 교육에 더 나은 인센티브를 제공하는 것입니다. 또는 AI가 개인 데이터를 유출하거나 남용되는 것을 방지합니다.

하나씩 검토해 보겠습니다.

게임 플레이어로서의 AI

실제로 이 범주는 적어도 온체인 분산 거래소(DEX)가 널리 사용되기 시작한 이후 거의 10년 동안 존재해 왔습니다. 거래소가 존재할 때마다 차익거래를 통해 돈을 벌 수 있는 기회가 있으며, 봇은 인간보다 이를 더 잘할 수 있습니다.

이 사용 사례는 오늘날보다 훨씬 간단한 AI를 사용해도 오랫동안 존재해 왔지만 궁극적으로는 AI와 암호화폐의 진정한 교차점입니다. 최근에는 MEV(추출 가능 가치 극대화) 차익거래 봇이 서로를 악용하는 모습을 자주 목격했습니다. 블록체인 애플리케이션에 경매나 거래가 포함될 때마다 차익거래 봇이 있을 것입니다.

그러나 AI 차익거래 봇은 곧 다른 많은 애플리케이션을 포괄할 것으로 예상되는 더 큰 범주의 첫 번째 예일 뿐입니다. 보자AIOmen, 예측 시장에 참여하는 AI 시연:

예측 시장은 오랫동안 인지 기술의 성배였습니다. 저는 2014년에 거버넌스(미래 거버넌스)에 대한 입력으로 예측 시장을 사용하는 것에 흥미를 느꼈고 최근 선거에서 이를 광범위하게 시도했습니다. 그러나 지금까지 예측 시장은 여러 가지 이유로 실제로 큰 진전을 이루지 못했습니다. 가장 큰 플레이어는 비합리적인 경향이 있고 올바른 지식을 가진 사람들은 많은 사람이 참여하지 않는 한 시간을 보내고 베팅하는 것을 꺼립니다. 돈으로, 시장이 충분히 활성화되지 않는 경우가 많습니다.

이에 대한 한 가지 응답은 Polymarket이나 기타 새로운 예측 시장에서 사용자 경험이 개선되고 있음을 지적하고 이전 반복이 실패한 부분을 계속 개선하고 성공할 수 있기를 바라는 것입니다. 사람들은 스포츠에 기꺼이 수백억 달러를 걸고 싶어하는데 왜 사람들은 진지한 선수들이 참여할 수 있도록 미국 선거나 LK 99에 충분한 돈을 걸지 않는 걸까요? 그러나 이 주장은 이전 버전이 (적어도 지지자들의 꿈에 비해) 이 규모를 달성하지 못했다는 사실을 직시해야 하므로 예측 시장을 성공시키기 위해서는 몇 가지 새로운 요소가 필요한 것 같습니다. 따라서 2010년대에는 볼 수 없었던 2020년대에 기대할 수 있는 예측시장 생태계의 구체적인 특징, 즉 AI의 폭넓은 참여 가능성을 지적하는 것이 또 다른 대응이다.

AI는 시간당 1달러 미만으로 일할 의향이 있거나 능력이 있으며 백과사전적 지식을 갖추고 있습니다. 충분하지 않다면 실시간 웹 검색 기능과 통합할 수도 있습니다. 시장을 만들고 50달러의 유동성 보조금을 제공하면 인간은 입찰에 신경 쓰지 않지만 수천 명의 AI가 쉽게 몰려들어 최선의 추측을 할 것입니다.

하나의 문제를 잘 해결하기 위한 인센티브는 작을 수 있지만, 좋은 예측을 할 수 있는 AI를 구축하기 위한 인센티브는 수백만 달러에 이를 수 있습니다. 대부분의 문제를 판결하는 데 인간이 필요하지도 않습니다. AI가 초기 라운드에도 참여할 Augur 또는 Kleros와 유사한 다중 라운드 분쟁 시스템을 사용할 수 있습니다. 인간은 일련의 확대가 발생하고 양쪽 모두 상당한 투자를 하는 드문 경우에만 대응하면 됩니다.

이러한 미시적 규모에서 예측 시장이 작동하도록 만들 수 있으면 다음과 같은 다른 여러 유형의 문제에 대해 예측 시장 기본 요소를 재사용할 수 있기 때문에 이는 강력한 기본 요소입니다.

• 이 소셜 미디어 게시물이 [이용 약관]에 따라 허용됩니까?

• 주식 X의 가격은 어떻게 될까요(예를 들어 Numerai 참조)

• 이 계정이 현재 저에게 정말로 Elon Musk에게 메시지를 보내고 있나요?

• 온라인 채용 시장에서 이 채용 정보 제출이 허용되나요?

• https://examplefinance.network의 DApp은 사기인가요?

• 0x 1 b 54....98 c 3은 Casinu In ERC 20 토큰 주소입니까?

이러한 아이디어 중 상당수가 앞서 언급한 내용과 관련이 있다는 것을 알 수 있습니다.정보 방어” (정보 방어) 방향. 광범위하게 말하면, 문제는 중앙화된 기관에 무엇이 옳고 그른지를 결정하고 그 권한의 남용을 방지할 수 있는 권한을 부여하지 않고 사용자가 참 정보와 거짓 정보를 구별하고 사기를 식별하도록 어떻게 도울 수 있는가입니다. 미시적 수준에서 대답은 AI일 수 있습니다.

그러나 거시적 수준에서 문제는 누가 AI를 구축하는가 하는 것입니다. AI는 그것이 만들어진 과정을 반영하므로 필연적으로 편견을 포함합니다. AI가 플레이어로서 게임에 참여할 수 있도록 다양한 AI의 성능을 판단하려면 더 높은 수준의 게임이 필요합니다.

AI가 온체인 메커니즘을 통해 인간으로부터 궁극적으로 보상 또는 처벌(확률적 방식으로)을 받는 메커니즘에 참여하는 AI를 사용하는 방식은 연구할 가치가 충분히 있다고 생각합니다. 블록체인 확장성이 마침내 시작되어 온체인에서는 불가능했던 마이크로 모든 것이 이제 잠재적으로 가능해지기 때문에 지금은 이와 같은 사용 사례를 더 깊이 조사할 적절한 시기입니다.

관련 애플리케이션 클래스는 다음을 사용하여 고도로 자율적인 에이전트로 이동하고 있습니다.더 나은 협업을 위한 블록체인, 지불을 통해서든, 스마트 계약을 사용하여 신뢰할 수 있는 약속을 하든 상관없습니다.

게임 인터페이스로서의 AI

나는 여기 있다My techno-optimism”는 사용자가 검색하는 온라인 세계의 위험을 해석하고 식별하여 사용자를 보호할 수 있는 사용자 지향 소프트웨어를 작성하는 데 시장 기회가 있다는 생각입니다. MetaMask의 사기 탐지 기능은 이미 존재하는 한 가지 예입니다.

또 다른 예는 사용자에게 서명하려는 거래의 예상 결과를 보여주는 Rabby Wallet의 시뮬레이션 기능입니다.

이러한 도구는 AI로 인해 향상될 가능성이 있습니다. AI는 귀하가 참여하고 있는 DApp이 어떤 것인지, 귀하가 서명하는 더 복잡한 작업의 결과, 특정 토큰이 진짜인지 여부에 대해 더 풍부하고 사람이 읽을 수 있는 설명을 제공할 수 있습니다(예를 들어 BITCOIN은 단순한 문자열이 아닙니다). 문자, 실제 암호화폐의 이름이며 ERC 20 토큰이 아니며 가격이 $0.045보다 훨씬 높습니다.) 이러한 방향으로 발전하기 시작하는 일부 프로젝트가 있습니다(예: AI를 기본 인터페이스로 사용하는 LangChain 지갑). 내 개인적인 견해는 순수한 AI 인터페이스가 다른 유형의 오류 위험을 증가시키기 때문에 현재로서는 너무 위험할 수 있다는 것입니다. 그러나 보다 전통적인 인터페이스와 결합된 AI는 매우 실현 가능해지고 있습니다.

언급할 가치가 있는 특정 위험이 하나 있습니다. 이에 대해서는 아래 게임 규칙으로서의 AI 섹션에서 더 자세히 다루겠습니다. 하지만 전체적인 문제는 적대적 기계 학습에 있습니다. 사용자가 오픈 소스 지갑 안에 AI 보조자를 갖고 있다면 악당은 해당 AI 비서에도 액세스할 수 있으므로 사기를 최적화하여 지갑의 방어를 우회할 수 있는 무한한 기회를 갖게 됩니다. 모든 현대 AI에는 특정 취약점이 있으며, 이러한 취약점은 모델에 대한 액세스가 제한된 교육 과정에서도 쉽게 찾을 수 있습니다.

언급할 가치가 있는 특별한 위험이 하나 있습니다. 아래 게임의 규칙으로서의 AI 섹션에서 이에 대해 자세히 논의하겠지만 일반적인 문제는 적대적 기계 학습에 있습니다. 사용자가 오픈 소스 지갑 내부의 AI 보조자에 액세스할 수 있다면 악의적인 행위자도 마찬가지입니다. 해당 AI 보조자에 액세스할 수 있으므로 해당 지갑의 방어를 유발하지 않도록 사기를 최적화할 수 있는 무한한 기회를 갖게 됩니다. 모든 최신 AI에는 어딘가에 버그가 있으며, 모델에 대한 액세스가 제한적인 경우에도 교육 프로세스에서 버그를 찾는 것이 그리 어렵지 않습니다.

이것이 온체인 마이크로 시장에 참여하는 AI가 더 잘 작동하는 곳입니다. 모든 개별 AI는 동일한 위험에 직면하지만 의도적으로 수십 명의 사람들이 지속적으로 반복하고 개선하는 개방형 생태계를 만듭니다.

게다가 각 개별 AI는 폐쇄적입니다. 시스템의 보안은 각 참가자의 내부 작동이 아니라 게임 규칙의 개방성에서 비롯됩니다.

요약: AI는 사용자가 무슨 일이 일어나고 있는지 간단한 용어로 이해하도록 돕고 실수로부터 사용자를 보호하기 위한 실시간 교사 역할을 할 수 있지만 악의적인 오해와 사기꾼을 만날 때는 조심하세요.

게임의 규칙으로서의 AI

이제 많은 사람들이 흥미를 갖고 있지만 가장 위험하다고 생각하며 극도의 주의를 기울여 움직여야 하는 애플리케이션에 대해 이야기해 보겠습니다. 제가 AI라고 부르는 것은 게임 규칙의 일부입니다. 이는 주류 정치 엘리트들이 AI 판사에 대해 열광하는 것과 관련이 있습니다(예를 들어 세계정부정상회의(World Government Summit) 웹사이트에서 볼 수 있듯이)관련 기사), 블록체인 애플리케이션에도 이러한 욕구와 유사한 상황이 존재합니다. 블록체인 기반 스마트 계약이나 DAO가 주관적인 결정을 내려야 하는 경우 AI를 계약이나 DAO의 일부로 만들어 이러한 규칙을 시행하도록 할 수 있습니까?

이것은적대적 기계 학습매우 어려운 도전이 될 것입니다. 다음은 간단한 주장입니다:

• 메커니즘에서 핵심 역할을 하는 AI 모델이 폐쇄되면 내부 작동을 확인할 수 없으므로 중앙 집중식 애플리케이션보다 나을 것이 없습니다.

• AI 모델이 열려 있는 경우 공격자는 이를 다운로드하여 로컬로 시뮬레이션하고 고도로 최적화된 공격을 설계하여 모델을 속인 다음 라이브 네트워크에서 재생할 수 있습니다.

적대적 머신러닝 예시. 출처: Researchgate.net

이제 이 블로그를 정기적으로 읽는 독자(또는 암호화폐 사용자)는 제가 의미하는 바를 이해하고 생각하기 시작했을 것입니다. 하지만 기다려 주십시오.

우리는 고급 영지식 증명과 기타 정말 멋진 형태의 암호화를 보유하고 있습니다. 공격자가 공격을 최적화할 수 없도록 모델의 내부 작동을 숨기는 암호화 마법을 사용할 수 있습니다.입증하다모델은 올바르게 작동하고 있으며 합리적인 교육 프로세스를 통해 합리적인 기본 데이터 세트를 기반으로 구축되었습니다.

대개 이것이 제가 이 블로그와 다른 기사에서 홍보하는 종류의 생각입니다. 그러나 AI 컴퓨팅에 관해서는 두 가지 주요 반대 의견이 있습니다.

• 암호화 오버헤드: SNARK(또는 MPC 등)에서 작업을 수행하는 것은 일반 텍스트에서 수행하는 것보다 훨씬 덜 효율적입니다. AI 자체가 이미 높은 계산 수요를 갖고 있다는 점을 감안할 때, 암호화 블랙박스에서 AI 계산을 수행하는 것이 계산적으로 실현 가능한가?

• 블랙박스 적대적 기계 학습 공격: 모델의 내부 작동 방식을 이해하지 않고도 공격에 맞게 AI 모델을 최적화할 수 있는 방법이 있습니다. 너무 촘촘하게 숨기면 훈련 데이터를 선택하는 사람이 더 쉽게 통과할 수 있습니다.독 공격모델의 무결성을 손상시킵니다.

둘 다 하나씩 깊이 탐구해야 할 복잡한 토끼굴이다.

암호화 오버헤드

암호화 도구, 특히 ZK-SNARK 및 MPC와 같은 범용 도구는 오버헤드가 높습니다. 클라이언트가 이더리움 블록을 직접 확인하는 데는 수백 밀리초가 걸리지만, 해당 블록의 정확성을 증명하기 위해 ZK-SNARK를 생성하는 데는 몇 시간이 걸릴 수 있습니다. MPC와 같은 다른 암호화 도구는 오버헤드가 더 클 수 있습니다.

AI 컴퓨팅 자체는 이미 엄청나게 비용이 많이 듭니다. 가장 강력한 언어 모델은 인간이 읽을 수 있는 것보다 약간 더 빠르게 단어를 출력할 수 있으며, 일반적으로 이러한 모델을 훈련하는 데 드는 수백만 달러의 계산 비용은 말할 것도 없습니다. 상위 모델과 훈련 비용이나 매개변수 수 측면에서 더 경제적이려고 하는 모델 사이에는 품질에 큰 차이가 있습니다. 언뜻 보면 이는 보증을 추가하기 위해 AI를 암호화로 포장하는 전체 프로젝트에 대해 회의적인 좋은 이유입니다.

다행스럽게도 AI는 매우 특별한 유형의 컴퓨팅이므로 ZK-EVM과 같은 더 구조화되지 않은 컴퓨팅 유형이 이점을 누릴 수 없는 다양한 최적화를 수행할 수 있습니다. AI 모델의 기본 구조를 살펴보겠습니다.

일반적으로 AI 모델은 주로 ReLU 함수( y = max(x, 0) )와 같이 각 요소에 대한 비선형 연산이 산재된 일련의 행렬 곱셈으로 구성됩니다. 점근적으로 행렬 곱셈이 대부분의 작업을 차지합니다. 이는 많은 형태의 암호화가 거의 무료로 선형 연산(적어도 입력이 아닌 암호화 모델의 행렬 곱셈)을 수행할 수 있기 때문에 암호화에 매우 편리합니다.

암호해독자라면 아마 들어보셨을 겁니다.동형암호유사한 현상: 암호화된 암호문에 대한 덧셈을 수행하는 것은 매우 쉽지만 곱셈을 수행하는 것은 매우 어렵습니다. 2009년이 되어서야 우리는 곱셈 연산을 수행하는 무한히 깊은 방법을 발견했습니다.

ZK-SNARK의 경우 다음과 같습니다.2013년 계약, 이 프로토콜은 행렬 곱셈을 증명하는 데 4배 미만 더 비쌉니다. 불행하게도 비선형 레이어의 오버헤드는 여전히 상당하며 실제로 최고의 구현에서는 최대 200배의 오버헤드가 나타납니다.

그러나 추가 연구를 통해 이러한 오버헤드를 크게 줄일 수 있다는 희망이 있습니다. Ryan Cao의 내용을 참고할 수 있습니다.데모, GKR을 기반으로 한 최첨단 접근 방식과 GKR의 주요 구성 요소에 대한 간단한 설명을 소개합니다.

그러나 많은 응용 분야에서 우리는 AI 출력이 올바르게 계산되었음을 증명할 뿐만 아니라 모델을 숨기려고 합니다. 이를 수행하는 몇 가지 쉬운 방법이 있습니다. 서로 다른 서버 세트가 각 레이어를 중복하여 저장하도록 모델을 분할하고 특정 레이어를 누출하는 일부 서버가 너무 많은 데이터를 누출하지 않기를 바랍니다. 그런데 놀랄만한 것도 있어요전문적인 다자간 계산。

두 경우 모두 이야기의 교훈은 동일합니다. AI 계산의 주요 부분은 행렬 곱셈이며 매우 효율적인 ZK-SNARK, MPC(FHE도 포함)는 행렬 곱셈을 위해 설계될 수 있으므로 AI를 암호화에 적용할 수 있습니다. 총 오버헤드 프레임워크에서는 놀라울 정도로 낮습니다. 일반적으로 비선형 레이어는 크기가 더 작음에도 불구하고 가장 큰 병목 현상을 나타냅니다. 어쩌면 좋아매개변수 찾기조회와 같은 새로운 기술이 도움이 될 수 있습니다.

블랙박스 적대적 머신러닝

이제 또 다른 중요한 문제에 대해 논의해 보겠습니다. 모델의 콘텐츠가 비공개로 유지되고 모델에 대한 API 액세스만 있는 경우에도 여전히 수행할 수 있는 공격 유형이 있습니다. 2016년 기사 인용종이：

많은 기계 학습 모델은 적대적인 예, 즉 기계 학습 모델이 잘못된 출력을 생성하도록 특별히 설계된 입력에 취약합니다. 한 모델에 영향을 미치는 적대적 사례는 두 모델이 서로 다른 아키텍처를 가지고 있거나 서로 다른 훈련 세트로 훈련된 경우에도 두 모델이 동일한 작업을 수행하도록 훈련된 경우 다른 모델에 영향을 미치는 경우가 많습니다. 따라서 공격자는 자신의 대리 모델을 학습시키고, 대리 모델에 대해 적대적인 예시를 만들어 피해자에 대한 정보가 거의 없는 상태에서 이를 피해자 모델에 전달할 수 있습니다.

공격하려는 모델에 대한 액세스가 매우 제한적이거나 전혀 없는 경우에도 잠재적으로 훈련 데이터만으로 공격을 생성할 수도 있습니다. 2023년 현재 이러한 유형의 공격은 여전히 ​​심각한 문제로 남아 있습니다.

이러한 블랙박스 공격을 효과적으로 억제하기 위해서는 다음 두 가지를 수행해야 합니다.

• 모델에 쿼리할 수 있는 사람이나 대상과 쿼리 수를 실제로 제한하세요. API 액세스가 제한되지 않은 블랙박스는 안전하지 않습니다. API 액세스가 매우 제한된 블랙박스는 안전할 수 있습니다.

• 학습 데이터를 숨기는 동안 학습 데이터 생성 프로세스가 손상되지 않도록 하는 것이 중요한 목표입니다.

전자의 관점에서 보면 아마도 이와 관련하여 가장 많은 작업을 수행한 프로젝트는 Worldcoin일 것입니다. 이 프로젝트의 초기 버전은 여기에서 자세히 분석했습니다(다른 프로토콜도 포함). Worldcoin은 프로토콜 수준에서 AI 모델을 광범위하게 사용하여 (i) 홍채 스캔을 유사성을 쉽게 비교할 수 있는 짧은 홍채 코드로 변환하고 (ii) 스캔하는 개체가 실제로 사람인지 확인합니다.

Worldcoin이 의존하는 주요 방어 수단은 누구나 단순히 AI 모델을 호출하는 것을 허용하지 않는다는 것입니다. 대신 신뢰할 수 있는 하드웨어를 사용하여 모델이 구체 카메라에서 디지털 서명된 입력만 허용하도록 보장합니다.

이 접근 방식은 작동이 보장되지 않습니다. 얼굴에 착용하는 물리적 패치나 장신구 등을 통해 생체 인식 AI에 대한 적대적 공격을 수행할 수 있는 것으로 나타났습니다.

이마에 여분의 무언가를 착용하면 탐지를 피하거나 다른 사람으로 가장할 수도 있습니다. 출처: https://arxiv.org/pdf/2109.09320.pdf

하지만 우리는 AI 모델 자체를 숨기고, 쿼리 수를 엄격하게 제한하고, 각 쿼리를 어떤 식으로든 인증하도록 요구하는 등 모든 방어를 결합하면 적대적인 공격이 매우 어려워지기를 바랍니다. 시스템이 더 안전해졌습니다.

이는 두 번째 질문으로 이어집니다. 훈련 데이터를 어떻게 숨길 수 있나요? 이것이 바로 DAO에 의해 민주적으로 관리되는 AI가 실제로 의미가 있는 곳입니다. 우리는 누가 훈련 데이터(및 데이터 자체의 필수 표현)를 제출할 수 있는지, 누가 쿼리를 할 수 있는지를 관리하는 온체인 DAO를 만들 수 있습니다. 번호를 쿼리할 수 있으며 MPC와 같은 암호화 기술을 사용하여 각 개별 사용자의 훈련 입력부터 각 쿼리의 최종 출력까지 전체 AI 생성 및 실행 프로세스를 암호화합니다. 이 DAO는 데이터를 제출하는 사람들에게 보상을 제공한다는 대중적인 목표를 동시에 충족할 수 있습니다.

이 계획은 매우 야심적이며 비현실적이라는 점을 입증할 여러 측면이 있다는 점을 다시 한 번 강조할 필요가 있습니다.

• 이러한 완전한 블랙박스 아키텍처의 경우 암호화 오버헤드가 여전히 너무 높아 기존의 폐쇄적인 신뢰 접근 방식과 경쟁할 수 없습니다.

• 사실 훈련 데이터 제출 프로세스를 분산화하고 중독 공격을 예방할 수 있는 좋은 방법은 없을 수도 있습니다.

• 다자간 컴퓨팅 장치는 참가자 간의 공모로 인해 보안 또는 개인 정보 보호 보장이 손상될 수 있습니다. 결국 이러한 일은 크로스 체인 브리지에서 계속해서 발생했습니다.

제가 AI 판사가 되지 마세요. 그건 디스토피아입니다라는 경고로 이 섹션을 시작하지 않은 이유 중 하나는 우리 사회가 이미 책임을 질 수 없는 중앙 집중식 AI 판사, 즉 어떤 유형의 게시물을 결정하는 알고리즘과 정치적인 AI 판사에 크게 의존하고 있기 때문입니다. 의견 소셜 미디어에서 승격되고 강등되며 심지어 검열을 받기도 합니다.

현 단계에서 이러한 추세를 더욱 확대하는 것은 꽤 나쁜 생각이라고 생각하지만, 블록체인 커뮤니티의 AI 실험이 상황을 더 악화시키는 주요 원인이 될 것이라고는 생각하지 않습니다.

실제로 암호화폐가 기존 중앙 집중식 시스템을 개선할 수 있는 매우 기본적이고 위험도가 낮은 방법이 있으며 저는 이에 대해 꽤 확신합니다. 그러한 간단한 기술 중 하나는 지연 공개 검증 AI입니다. 소셜 미디어 사이트가 AI 기반 게시물 순위를 사용하는 경우 해당 순위를 생성한 모델의 해시를 증명하는 ZK-SNARK를 게시할 수 있습니다. 웹사이트는 1년 정도의 일정 지연 후에 AI 모델을 공개하겠다고 약속할 수 있습니다.

모델이 공개되면 사용자는 해시를 확인하여 올바른 모델이 게시되었는지 확인할 수 있으며 커뮤니티는 모델을 테스트하여 공정성을 확인할 수 있습니다. 출시가 지연되면 모델이 출시될 때쯤에는 이미 오래된 모델이 됩니다.

따라서 문제는 우리가 중앙화된 세계에 비해 더 잘할 수 있느냐가 아니라 얼마나 잘 할 수 있느냐는 것입니다. 그러나 탈중앙화된 세계에서는 주의가 필요합니다: 누군가가 AI 오라클을 사용하여 예측 시장이나 스테이블 코인을 구축한 후 누군가 오라클이 해킹 가능하다는 사실을 발견했다면 막대한 금액을 잃을 수 있습니다. .

게임 타겟으로서의 AI

위의 내용이 누구에게도 알려지지 않은 블랙박스인 확장 가능한 분산형 프라이빗 AI를 만들기 위한 기술이 실제로 작동할 수 있다면, 이는 블록체인 이상의 유틸리티를 갖춘 시스템을 만드는 데에도 사용될 수 있습니다. NEAR 프로토콜 팀은 이를 지속적인 작업의 기초로 사용하고 있습니다.핵심 타겟。

이렇게 하는 데는 두 가지 이유가 있습니다.

훈련 및 추론 프로세스를 실행하기 위해 블록체인과 다자간 컴퓨팅의 조합을 사용하여 신뢰할 수 있는 블랙박스 AI를 만들 수 있다면 사용자가 시스템의 편견이나 속임수를 걱정하는 많은 애플리케이션이 도움이 될 수 있습니다. 많은 사람들이 우리가 의존하는 AI에 대해 우려를 표명했습니다.민주적 거버넌스암호화폐와 블록체인 기반 기술이 이러한 목표를 달성하는 방법이 될 수 있습니다.

AI 보안 관점에서 볼 때 이는 자연 비상 정지 스위치도 갖추고 악의적인 행동에 AI를 사용하려는 쿼리를 제한할 수 있는 분산형 AI를 만드는 기술이 될 것입니다.

더 나은 AI 개발을 장려하기 위해 암호화 인센티브를 사용하는 것은 암호화를 사용하여 완전히 암호화하는 토끼굴에 완전히 빠지지 않고도 달성할 수 있다는 점은 주목할 가치가 있습니다.BitTensor 이러한 방법이 이 범주에 속합니다.

결론적으로

블록체인과 AI가 계속 발전함에 따라 둘의 교차점에 있는 적용 사례도 늘어나고 있으며 이러한 사용 사례 중 일부는 더욱 의미 있고 강력합니다.

일반적으로 이러한 기본 메커니즘은 기본적으로 동일한 설계로 유지되지만 개별 참가자는 AI 응용 사례가 되며, 보다 미시적인 수준에서 효과적으로 작동하는 메커니즘이 가장 즉각적으로 유망하고 구현하기 쉽습니다.

가장 어려운 것은 블록체인과 암호화를 사용하여 싱글턴(특정 응용 프로그램이 특정 목적을 위해 의존하는 단일 분산형 신뢰할 수 있는 AI)을 생성하려는 응용 프로그램입니다.

이러한 애플리케이션은 중앙 집중화의 위험을 피하면서 AI 보안을 기능하고 향상시킬 수 있는 잠재력을 가지고 있습니다.

그러나 기본 가정은 여러 면에서 실패할 수도 있습니다. 따라서 특히 고가치 및 고위험 환경에서 이러한 애플리케이션을 배포할 때는 주의가 필요합니다.

저는 이 모든 영역에서 AI 사용 사례에 대한 보다 건설적인 시도를 기대하며, 이를 통해 어떤 사용 사례가 실제로 규모에 맞게 실현 가능한지 확인할 수 있습니다.

원천:https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html#dacc