zkSNARKs를 통해 기계 학습(ML) 모델 추론을 증명하는 것은 지난 10년 동안 스마트 계약에서 가장 중요한 발전 중 하나가 될 것입니다. 이 개발은 응용 프로그램과 인프라가 보다 복잡하고 지능적인 시스템으로 발전할 수 있도록 하는 매우 큰 설계 공간을 열어줍니다.

zkSNARKs를 통해 기계 학습(ML) 모델 추론을 증명하는 것은 지난 10년 동안 스마트 계약에서 가장 중요한 발전 중 하나가 될 것입니다. 이 개발은 응용 프로그램과 인프라가 보다 복잡하고 지능적인 시스템으로 발전할 수 있도록 하는 매우 큰 설계 공간을 열어줍니다.

ML 기능을 추가함으로써 스마트 계약은 보다 자율적이고 역동적이 될 수 있으므로 정적 규칙이 아닌 실시간 온체인 데이터를 기반으로 결정을 내릴 수 있습니다. 스마트 계약은 유연하며 계약이 처음 생성되었을 때 예상하지 못한 시나리오를 포함하여 다양한 시나리오를 수용할 수 있습니다. 요컨대, ML 기능은 우리가 체인에 배치하는 모든 스마트 계약의 자동화, 정확성, 효율성 및 유연성을 증폭시킬 것입니다.

ML은 web3 이외의 대부분의 애플리케이션에서 널리 사용되며 스마트 계약에서의 애플리케이션은 거의 제로입니다. 이는 주로 이러한 모델을 온체인에서 실행하는 데 드는 높은 계산 비용 때문입니다. 예를 들어 FastBERT는 EVM에서 직접 실행할 수 없는 약 1800 MFLOPS(백만 개의 부동 소수점 연산)를 사용하는 계산 최적화된 언어 모델입니다.

체인에 ML 모델을 적용하는 것은 주로 추론 단계에 중점을 둡니다. 즉, 실제 데이터를 예측하기 위해 모델을 적용하는 것입니다. ML 규모의 스마트 계약을 갖기 위해서는 계약이 그러한 예측을 수집할 수 있어야 하지만 앞서 언급했듯이 EVM에서 직접 모델을 실행하는 것은 불가능합니다. zkSNARK는 솔루션을 제공합니다. 누구나 모델을 오프체인에서 실행하고 예상 모델이 특정 결과를 생성했다는 간결하고 검증 가능한 증거를 생성할 수 있습니다. 이 증명은 온체인에 게시되고 지능을 향상시키기 위해 스마트 계약에 의해 수집될 수 있습니다.

• 이 문서에서는 다음을 수행합니다.

• 온체인 ML의 잠재적 애플리케이션 및 사용 사례 보기

• zkML의 핵심에서 떠오르는 프로젝트 및 인프라 탐색

기존 구현의 몇 가지 과제와 zkML의 미래 모습에 대해 논의합니다.

기계 학습(ML) 소개

• 기계 학습(ML)은 컴퓨터가 데이터에서 학습하고 예측 또는 결정을 내릴 수 있도록 하는 알고리즘 및 통계 모델 개발에 중점을 둔 인공 지능(AI)의 하위 분야입니다. ML 모델에는 일반적으로 세 가지 주요 구성 요소가 있습니다.

• 교육 데이터: 새로운 데이터를 예측하거나 분류하기 위해 기계 학습 알고리즘을 교육하는 데 사용되는 입력 데이터 집합입니다. 교육 데이터는 이미지, 텍스트, 오디오, 숫자 데이터 또는 이들의 조합과 같은 다양한 형태를 취할 수 있습니다.

• 모델 아키텍처: 기계 학습 모델의 전체 구조 또는 디자인입니다. 계층 구조, 활성화 기능, 노드 또는 뉴런 간의 연결 유형 및 수를 정의합니다. 아키텍처 선택은 특정 문제와 사용된 데이터에 따라 다릅니다.

모델 매개변수: 예측을 위해 학습하는 동안 모델이 학습하는 값 또는 가중치입니다. 이러한 값은 최적화 알고리즘에 의해 반복적으로 조정되어 예측 결과와 실제 결과 사이의 오류를 최소화합니다.

• 모델 생성 및 배포는 두 단계로 나뉩니다.

• 교육 단계: 교육 단계에서 모델은 레이블이 지정된 데이터 세트에 노출되고 해당 매개 변수는 예측 결과와 실제 결과 간의 오류를 최소화하도록 조정됩니다. 교육 프로세스에는 일반적으로 여러 반복 또는 주기가 포함되며 모델의 정확도는 별도의 검증 세트에서 평가됩니다.

추론 단계: 추론 단계는 훈련된 기계 학습 모델을 사용하여 보이지 않는 새로운 데이터를 예측하는 단계입니다. 모델은 입력 데이터를 사용하고 학습된 매개변수를 적용하여 분류 또는 회귀 예측과 같은 출력을 생성합니다.

현재 zkML은 주로 검증 회로에서 훈련의 계산 복잡성으로 인해 훈련 ​​단계가 아닌 기계 학습 모델의 추론 단계에 중점을 둡니다. 그러나 추론에 대한 zkML의 초점은 제한이 아닙니다. 우리는 몇 가지 매우 흥미로운 사용 사례와 응용 프로그램을 기대합니다.

검증된 추론 시나리오

• 추론을 검증하기 위한 네 가지 가능한 시나리오가 있습니다.

• 개인 입력, 공개 모델. 모델 소비자(MC)는 입력 내용을 모델 제공자(MP)로부터 기밀로 유지하기를 원할 수 있습니다. 예를 들어, MC는 개인 금융 정보를 공개하지 않고 신용 평가 모델의 결과를 대출 기관에 인증하고자 할 수 있습니다. 이는 사전 약정 체계를 사용하고 모델을 로컬에서 실행하여 수행할 수 있습니다.

• 공개 입력, 비공개 모델. ML-as-a-Service의 일반적인 문제는 MP가 IP를 보호하기 위해 매개변수나 가중치를 숨기고 싶어하는 반면 MC는 생성된 추론이 실제로 적대적인 환경에서 지정된 모델에서 나온 것인지 확인하기를 원할 수 있다는 것입니다. MC When 에 대한 추론을 제공할 때 MP는 비용을 절감하기 위해 더 가벼운 모델을 실행할 인센티브가 있습니다. 온체인 모델 가중치의 약속을 사용하여 MC는 언제든지 비공개 모델을 감사할 수 있습니다.

• 개인 입력, 개인 모델. 이는 추론에 사용되는 데이터가 매우 민감하거나 기밀이며 IP를 보호하기 위해 모델 자체를 숨길 때 발생합니다. 예를 들어 개인 환자 정보를 사용하여 의료 모델을 감사하는 것이 포함될 수 있습니다. zk의 구성 기술 또는 다자간 계산(MPC) 또는 FHE를 사용하는 변형을 사용하여 이 시나리오를 제공할 수 있습니다.

공개 입력, 공개 모델. 모델의 모든 측면을 공개할 수 있지만 zkML은 오프체인 계산을 온체인 환경으로 압축하고 검증하는 다른 사용 사례를 다룹니다. 더 큰 모델의 경우 모델을 직접 다시 실행하는 것보다 추론의 간결한 zk를 확인하는 것이 더 비용 효율적입니다.

1、DeFi

검증 가능한 오프체인 ML 오라클. 제너레이티브 AI의 지속적인 채택은 업계가 콘텐츠에 대한 서명 체계를 구현하도록 유도할 수 있습니다(예: 기사 또는 이미지에 서명하는 뉴스 간행물). 서명된 데이터는 영지식 증명이 가능하므로 데이터를 구성 가능하고 신뢰할 수 있습니다. ML 모델은 이 서명된 데이터를 오프체인에서 처리하여 예측 및 분류(예: 선거 결과 또는 날씨 이벤트 분류)를 수행할 수 있습니다. 이러한 오프체인 ML 오라클은 추론을 확인하고 온체인 증명을 게시하여 실제 예측 시장, 보험 프로토콜 계약 등을 신뢰할 수 없이 해결할 수 있습니다.

ML 매개변수를 기반으로 하는 DeFi 애플리케이션. DeFi의 많은 측면을 더 자동화할 수 있습니다. 예를 들어 대출 프로토콜은 ML 모델을 사용하여 매개변수를 실시간으로 업데이트할 수 있습니다. 현재 대출 프로토콜은 담보 요소, 대출 가치 비율, 청산 임계값 등을 결정하기 위해 조직에서 실행하는 오프체인 모델에 주로 의존하지만 더 나은 옵션은 누구나 실행할 수 있는 커뮤니티 훈련된 오픈 소스 모델일 수 있습니다. 그리고 확인합니다.

ML 매개변수를 기반으로 하는 DeFi 애플리케이션. DeFi의 많은 측면을 더 자동화할 수 있습니다. 예를 들어 대출 프로토콜은 ML 모델을 사용하여 매개변수를 실시간으로 업데이트할 수 있습니다. 현재 대출 프로토콜은 담보 요소, 대출 가치 비율, 청산 임계값 등을 결정하기 위해 조직에서 실행하는 오프체인 모델에 주로 의존하지만 더 나은 옵션은 누구나 실행할 수 있는 커뮤니티 훈련된 오픈 소스 모델일 수 있습니다. 그리고 확인합니다.

자동화된 거래 전략. 재무 모델 전략의 수익 특성을 입증하는 일반적인 방법은 MP가 투자자에게 다양한 백 테스트 데이터를 제공하는 것입니다. 그러나 거래를 실행할 때 전략가가 모델을 따르고 있는지 확인할 방법이 없습니다. 투자자는 전략가가 실제로 모델을 따르고 있다고 믿어야 합니다. zkML은 MP가 특정 위치에 배치될 때 재무 모델 추론의 증거를 제공할 수 있는 솔루션을 제공합니다. 이는 DeFi 관리 볼트에 특히 유용할 수 있습니다.

2. 보안

스마트 계약에 대한 사기 모니터링. 느린 인간 거버넌스 또는 중앙 집중식 행위자가 계약을 중단하는 기능을 제어하도록 하는 대신 ML 모델을 사용하여 가능한 악의적 행동을 감지하고 계약을 중단할 수 있습니다.

3. 전통적인 ML

Kaggle의 탈중앙화, 무신뢰 구현. MP가 모델 가중치를 공개하도록 요구하지 않고도 MC 또는 기타 이해 당사자가 모델의 정확성을 확인할 수 있는 프로토콜 또는 시장을 만들 수 있습니다. 이는 모델 판매, 모델 정확도에 대한 대회 운영 등에 유용합니다.

2) 팁 소유자가 구매 후 팁의 소유권을 유지할 수 있도록 허용하면서 구매자에게 모호한 상태를 유지하지만 여전히 확인된 이미지를 생성합니다.

4. 신원

4. 신원

개인 키를 개인 정보 보호 생체 인증으로 대체하십시오. 개인 키 관리는 web3 사용자 경험에서 가장 큰 장애물 중 하나입니다. 얼굴 인식 또는 기타 고유한 요소를 통해 개인 키를 추상화하는 것은 zkML을 위한 가능한 솔루션 중 하나입니다.

공정한 에어드롭 및 기여자 보상. ML 모델을 사용하여 사용자의 상세한 페르소나를 생성하여 여러 요소를 기반으로 에어드롭 할당 또는 기여 보상을 결정할 수 있습니다. 이는 ID 솔루션과 결합할 때 특히 유용할 수 있습니다. 이 경우 한 가지 가능성은 사용자가 할당에 대해 추론하기 위해 거버넌스 포럼 게시물과 같은 상위 수준 참여뿐만 아니라 앱에 대한 참여를 평가하는 오픈 소스 모델을 실행하도록 하는 것입니다. 이 증명은 해당 토큰 할당을 위해 계약에 제공됩니다.

5. 웹3 소셜

web3 소셜 미디어 필터링. web3 소셜 애플리케이션의 탈중앙화 특성으로 인해 스팸 및 악성 콘텐츠가 증가할 것입니다. 이상적으로 소셜 미디어 플랫폼은 커뮤니티 합의 오픈 소스 ML 모델을 사용하고 게시물 필터링을 선택할 때 모델 추론의 증거를 게시할 수 있습니다. 사례: Twitter 알고리즘에 대한 zkML 분석.

광고/추천. 소셜 미디어 사용자로서 개인화된 광고를 보고 싶지만 내 선호도와 관심사는 광고주에게 공개되지 않기를 원합니다. 내 관심사에 대한 모델을 로컬에서 실행하고 미디어 애플리케이션에 피드하여 콘텐츠를 제공하도록 선택할 수 있습니다. 이 경우 광고주는 이를 실현하기 위해 최종 사용자에게 기꺼이 비용을 지불할 수 있지만 이러한 모델은 현재 생산 중인 타겟 광고 모델보다 훨씬 덜 정교할 수 있습니다.

6. 크리에이터 경제/게임

게임 내 경제 재조정. 토큰 발행, 공급, 소각, 투표 임계값 등은 ML 모델을 사용하여 동적으로 조정할 수 있습니다. 한 가지 가능한 모델은 특정 재조정 임계값에 도달하고 추론 증명이 확인되면 게임 내 경제를 재조정하는 인센티브 계약입니다.

새로운 유형의 온체인 게임. 신뢰할 수 없는 AI 모델이 플레이할 수 없는 캐릭터 역할을 하는 협력적인 인간 대 AI 게임 및 기타 혁신적인 온체인 게임을 만들 수 있습니다. NPC가 취하는 모든 행동은 누구나 올바른 모델이 실행되고 있는지 확인할 수 있는 증거와 함께 온체인에 게시됩니다. Modulus Labs의 Leela vs. the World에서 검증자는 명시된 1900 ELO AI가 Magnus Carlson이 아닌 이동을 선택했는지 확인하기를 원했습니다. 또 다른 예는 Super Smash Brothers와 유사한 AI 격투 게임인 AI Arena입니다. 고부담 경쟁 환경에서 플레이어는 자신이 훈련하는 모델이 간섭하거나 부정 행위를 하지 않는지 확인하기를 원합니다.

신흥 프로젝트 및 인프라

• zkML 생태계는 크게 네 가지 주요 범주로 나눌 수 있습니다.

• Model-to-Proof Compiler: 기존 형식(예: Pytorch, ONNX 등)의 모델을 검증 가능한 계산 회로로 컴파일하기 위한 인프라입니다.

• 일반화된 증명 시스템: 임의의 계산 궤적을 검증하기 위한 증명 시스템을 구성합니다.

• zkML 특정 증명 시스템: ML 모델의 계산 궤적을 검증하기 위해 특별히 구축된 증명 시스템입니다.

응용 프로그램: 고유한 zkML 사용 사례에서 작업하는 프로젝트.

01 모델-증명 컴파일러

zkML 생태계에서 대부분의 관심은 모델-증명 컴파일러를 만드는 데 있었습니다. 일반적으로 이러한 컴파일러는 Pytorch, Tensorflow 등을 사용하여 고급 ML 모델을 zk 회로로 변환합니다.

EZKL은 zk-SNARK에서 딥 러닝 모델을 추론하기 위한 라이브러리 및 명령줄 도구입니다. EZKL을 사용하면 Pytorch 또는 TensorFlow에서 계산 그래프를 정의하고 JSON 파일의 몇 가지 예제 입력과 함께 ONNX 파일로 내보낸 다음 EZKL이 이러한 파일을 가리키도록 하여 zkSNARK 회로를 생성할 수 있습니다. 최신 성능 개선을 통해 EZKL은 이제 ~6초 및 1.1GB RAM에서 MNIST 크기의 모델을 증명할 수 있습니다. 지금까지 EZKL은 다양한 해커톤 프로젝트의 인프라로 사용되는 주목할만한 초기 채택을 보았습니다.

Cathie So의 circomlib-ml 라이브러리에는 Circcom을 위한 다양한 ML 회로 템플릿이 포함되어 있습니다. 회로에는 가장 일반적인 ML 기능 중 일부가 포함되어 있습니다. Cathie가 개발한 Keras 2c ircom은 기본 circomlib-ml 라이브러리를 사용하여 Keras 모델을 Circcom 회로로 변환하는 Python 도구입니다.

LinearA는 zkML을 위한 두 가지 프레임워크인 Tachikoma와 Uchikoma를 개발했습니다. Tachikoma는 신경망을 정수 전용 형식으로 변환하고 계산 궤적을 생성하는 데 사용됩니다. Uchikoma는 TVM의 중간 표현을 부동 소수점 연산을 지원하지 않는 프로그래밍 언어로 변환하는 도구입니다. LinearA는 도메인 산술로 Circom을 지원하고 부호 있는 정수 산술과 부호 없는 정수 산술로 Solidity를 지원할 계획입니다.

보다 일반화된 모델-증명 컴파일러 측면에서 Nil Foundation 및 Risc Zero가 있습니다. Nil Foundation의 zkLLVM은 C++, Rust 및 JavaScript/TypeScript와 같은 널리 사용되는 프로그래밍 언어로 작성된 계산 모델을 검증할 수 있는 LLVM 기반 회로 컴파일러입니다. 여기에 언급된 다른 모델-증명 컴파일러와 비교하면 범용 인프라이지만 여전히 zkML과 같은 복잡한 계산에 적합합니다. 이것은 증명 시장과 결합될 때 특히 강력할 수 있습니다.

Risc Zero는 오픈 소스 RISC-V 명령어 세트를 대상으로 하는 범용 zkVM을 구축하므로 C++ 및 Rust와 같은 기존의 성숙한 언어와 LLVM 툴체인을 지원합니다. 이를 통해 Nvidia의 CUDA C++ 툴체인과 유사하지만 GPU 대신 ZKP 엔진을 사용하는 호스트와 게스트 zkVM 코드 간의 원활한 통합이 가능합니다. Nil과 마찬가지로 Risc Zero를 사용하여 ML 모델의 계산 궤적을 확인합니다.

Risc Zero는 오픈 소스 RISC-V 명령어 세트를 대상으로 하는 범용 zkVM을 구축하므로 C++ 및 Rust와 같은 기존의 성숙한 언어와 LLVM 툴체인을 지원합니다. 이를 통해 Nvidia의 CUDA C++ 툴체인과 유사하지만 GPU 대신 ZKP 엔진을 사용하는 호스트와 게스트 zkVM 코드 간의 원활한 통합이 가능합니다. Nil과 마찬가지로 Risc Zero를 사용하여 ML 모델의 계산 궤적을 확인합니다.

02 일반화된 증명 시스템

증명 시스템의 개선은 특히 사용자 지정 게이트 및 룩업 테이블의 도입과 같이 zkML이 결실을 맺게 된 주요 원동력이었습니다. 이는 주로 ML이 비선형성에 의존하기 때문입니다. 요컨대, 신경망에서 선형 변환의 출력에 적용되는 활성화 함수(예: ReLU, sigmoid 및 tanh)를 통해 비선형성이 도입됩니다. 이러한 비선형성은 수학적 연산 게이트의 제약으로 인해 zk 회로에서 구현하기 어렵습니다. 비트 분해 및 조회 테이블은 비선형 가능한 결과를 조회 테이블에 미리 계산하여 이를 도울 수 있으며, 이는 흥미롭게도 zk에서 더 계산적으로 효율적입니다.

이러한 이유로 Plonkish 증명 시스템은 zkML의 가장 인기 있는 백엔드가 되는 경향이 있습니다. Halo 2 및 Plonky 2와 해당 테이블 산술 체계는 조회 매개변수를 사용하여 신경망 비선형성을 잘 처리합니다. 또한 전자는 개발자 도구와 유연성의 활기찬 생태계를 갖추고 있어 EZKL을 포함한 많은 프로젝트의 사실상 백엔드가 됩니다.

다른 증명 시스템에도 장점이 있습니다. R 1 CS를 기반으로 하는 증명 시스템에는 작은 증명 크기로 알려진 Groth 16과 초대형 회로 및 선형 시간 검증기로 알려진 Gemini가 포함됩니다. Winterfell 증명기/검증기 라이브러리와 같은 STARK 기반 시스템은 Giza의 도구를 통해 Cairo 프로그램의 추적을 입력으로 가져오고 Winterfell을 사용하여 출력의 정확성을 확인하기 위해 STARK 증명을 생성할 때 특히 유용합니다.

03 zkML 특정 증명 시스템

Zator는 재귀 SNARK를 사용하여 심층 신경망을 검증하는 것을 목표로 하는 프로젝트입니다. 더 깊은 모델의 유효성을 검사하는 현재 제한 사항은 전체 계산 궤적을 단일 회로에 맞추는 것입니다. Zator는 재귀적 SNARK를 사용하여 계층별로 검증할 것을 제안했으며, 이를 통해 N단계 반복 계산을 점진적으로 검증할 수 있습니다. 그들은 Nova를 사용하여 N 컴퓨팅 인스턴스를 단일 단계에서 확인할 수 있는 하나의 인스턴스로 줄입니다. 이 접근 방식을 사용하여 Zator는 512개 계층으로 네트워크를 SNARK할 수 있었으며, 이는 대부분의 최신 프로덕션 AI 모델만큼 깊습니다. Zator의 증명 생성 및 검증 시간은 주류 사용 사례에 비해 여전히 너무 길지만 결합된 기술은 여전히 ​​매우 흥미롭습니다.

Zator는 재귀 SNARK를 사용하여 심층 신경망을 검증하는 것을 목표로 하는 프로젝트입니다. 더 깊은 모델의 유효성을 검사하는 현재 제한 사항은 전체 계산 궤적을 단일 회로에 맞추는 것입니다. Zator는 재귀적 SNARK를 사용하여 계층별로 검증할 것을 제안했으며, 이를 통해 N단계 반복 계산을 점진적으로 검증할 수 있습니다. 그들은 Nova를 사용하여 N 컴퓨팅 인스턴스를 단일 단계에서 확인할 수 있는 하나의 인스턴스로 줄입니다. 이 접근 방식을 사용하여 Zator는 512개 계층으로 네트워크를 SNARK할 수 있었으며, 이는 대부분의 최신 프로덕션 AI 모델만큼 깊습니다. Zator의 증명 생성 및 검증 시간은 주류 사용 사례에 비해 여전히 너무 길지만 결합된 기술은 여전히 ​​매우 흥미롭습니다.

응용 분야

응용 분야

zkML의 초창기에는 앞서 언급한 인프라에 중점을 두었습니다. 그러나 현재 애플리케이션 개발에 전념하는 여러 프로젝트가 있습니다.

Modulus Labs는 zkML 공간에서 가장 다양한 프로젝트 중 하나이며 예제 애플리케이션과 관련 연구를 모두 수행합니다. 적용된 측면에서 Modulus Labs는 온체인 거래 봇인 RockyBot과 인간이 입증된 온체인 Leela 체스 엔진과 대결하는 보드 게임인 Leela vs. the World를 사용하여 zkML의 사용 사례를 시연했습니다. 팀은 또한 연구를 수행하고 다양한 모델 크기에서 다양한 증명 시스템의 속도와 효율성을 벤치마킹하는 The Cost of Intelligence를 작성했습니다.

Worldcoin은 프라이버시를 보호하는 인간 신원 증명 프로토콜을 만들기 위해 zkML을 적용하려고 합니다. Worldcoin은 맞춤형 하드웨어를 사용하여 고해상도 홍채 스캐닝을 처리하고 세마포어 구현에 연결합니다. 그런 다음 이 시스템을 사용하여 회원 자격 증명 및 투표와 같은 유용한 작업을 수행할 수 있습니다. 그들은 현재 신뢰할 수 있는 런타임 환경과 안전한 영토를 사용하여 카메라 서명 홍채 스캔을 확인하지만 궁극적인 목표는 영지식 증명을 사용하여 신경망의 올바른 추론을 확인하여 암호화 수준의 보안 보증을 제공하는 것입니다.

Giza는 AI 모델을 온체인에 배포하는 데 완전히 신뢰할 수 없는 접근 방식을 취하는 프로토콜입니다. 기계 학습 모델을 나타내는 ONNX 형식, 이러한 모델을 Cairo 프로그램 형식으로 변환하는 Giza Transpiler, 검증 가능하고 결정론적인 방식으로 모델을 실행하는 ONNX Cairo Runtime, 온체인 배포 및 배포를 위한 Giza 모델 스마트 계약을 사용합니다. 모델 실행을 위한 기술 스택. Giza는 모델-증명 컴파일러로도 분류될 수 있지만 ML 모델 시장으로서의 Giza의 포지셔닝은 현재 가장 흥미로운 애플리케이션 중 하나입니다.

ZKaptcha는 web3의 봇 문제에 집중하고 스마트 계약을 위한 인증 코드 서비스를 제공합니다. 그들의 현재 구현은 최종 사용자가 온체인 유효성 검사기에 의해 확인되고 몇 줄의 코드로 스마트 계약에 의해 액세스되는 캡차를 완료하여 인간 작업의 증거를 생성합니다. 현재는 주로 zk에만 의존하지만 향후에는 기존 web2 captcha 서비스와 유사하게 zkML을 구현하여 마우스 움직임과 같은 행동을 분석하여 사용자가 사람인지 판단할 계획입니다.

zkML 시장 초기를 감안할 때 이미 많은 애플리케이션이 해커톤 수준에서 실험되었습니다. 프로젝트에는 기계 학습 출력을 확인하기 위해 ZK 증명을 사용하는 온체인 AI 대회인 AI Coliseum, Halo 2 회로가 있는 이미지 분류 모델의 출력을 확인하기 위해 EZKL 라이브러리를 사용하는 사진 수집가 사냥인 Hunter z Hunter, zk 섹션 9가 포함됩니다. , AI 이미지 생성 모델을 AI 아트를 캐스팅하고 검증하기 위한 회로로 변환합니다.

zkML 시장 초기를 감안할 때 이미 많은 애플리케이션이 해커톤 수준에서 실험되었습니다. 프로젝트에는 기계 학습 출력을 확인하기 위해 ZK 증명을 사용하는 온체인 AI 대회인 AI Coliseum, Halo 2 회로가 있는 이미지 분류 모델의 출력을 확인하기 위해 EZKL 라이브러리를 사용하는 사진 수집가 사냥인 Hunter z Hunter, zk 섹션 9가 포함됩니다. , AI 이미지 생성 모델을 AI 아트를 캐스팅하고 검증하기 위한 회로로 변환합니다.

zkML 과제

• 개선 및 최적화의 급속한 발전에도 불구하고 zkML 분야는 여전히 몇 가지 핵심 과제에 직면해 있습니다. 이러한 과제에는 다음과 같은 기술 및 실용적인 측면이 포함됩니다.

• 공격에 맞서는 측면에서 아직 해야 할 일이 남아 있습니다. 첫째, 신뢰할 수 없는 프로토콜이나 DAO가 모델을 구현하기로 선택한 경우 훈련 단계(예: 특정 입력을 볼 때 특정 동작을 나타내도록 모델을 훈련하는 것) 동안 여전히 적대적 공격의 위험이 있습니다. 추론) . 훈련 단계의 연합 학습 기법과 zkML은 이러한 공격 표면을 최소화하는 방법일 수 있습니다.

• 행렬 곱셈의 효율적인 증명

• 공격에 대하여

양자화는 부동 소수점 숫자를 고정 소수점 숫자로 나타내는 프로세스입니다.대부분의 기계 학습 모델은 부동 소수점 숫자를 사용하여 모델 매개변수 및 활성화 함수를 나타냅니다.zk 회로에 대한 도메인 산술을 처리할 때 고정 소수점 숫자가 필요합니다. 양자화가 기계 학습 모델의 정확도에 미치는 영향은 사용된 정밀도 수준에 따라 다릅니다. 일반적으로 더 낮은 정밀도(즉, 더 적은 비트)를 사용하면 반올림 및 근사 오류가 발생할 수 있으므로 정확도가 떨어질 수 있습니다. 그러나 양자화 후 모델을 미세 조정하고 양자화 인식 교육과 같은 기술을 사용하는 등 양자화가 정확도에 미치는 영향을 최소화하는 데 사용할 수 있는 몇 가지 기술이 있습니다. 또한 zkSummit 9의 해커톤 프로젝트인 Zero Gravity는 무중력 신경망과 같은 에지 장치용으로 개발된 대체 신경망 아키텍처를 사용하여 회로의 양자화 문제를 방지할 수 있음을 보여주었습니다.

양자화 외에도 하드웨어는 또 다른 주요 과제입니다. 기계 학습 모델이 회로로 올바르게 표현되면 zk의 단순성으로 인해 그 추론을 검증하기 위한 증명이 저렴하고 빨라집니다. 여기서 문제는 검증자가 아니라 증명자입니다. 모델 크기가 커짐에 따라 RAM 소비와 증명 생성 시간이 급격히 증가하기 때문입니다. 특정 증명 시스템(예: sumcheck 프로토콜 및 계층적 산술 회로를 사용하는 GKR 기반 시스템) 또는 결합된 기술(예: Plonky 2와 Groth 16 결합, Plonky 2는 증명 시간 측면에서 효율적이지만 대형 모델에는 효율적입니다. Poor 및 Groth 16은 복잡한 모델의 복잡성에서 증명 크기 증가로 이어지지 않음)이 이러한 문제를 처리하는 데 더 적합하지만 장단점을 관리하는 것이 zkML 프로젝트의 핵심 과제입니다.

공격에 맞서는 측면에서 아직 해야 할 일이 남아 있습니다. 첫째, 신뢰할 수 없는 프로토콜이나 DAO가 모델을 구현하기로 선택한 경우 훈련 단계(예: 특정 입력을 볼 때 특정 동작을 나타내도록 모델을 훈련하는 것) 동안 여전히 적대적 공격의 위험이 있습니다. 추론) . 훈련 단계의 연합 학습 기법과 zkML은 이러한 공격 표면을 최소화하는 방법일 수 있습니다.

또 다른 핵심 과제는 모델이 개인 정보를 보호할 때 모델 도용 공격의 위험입니다. 충분한 입력-출력 쌍이 주어지면 모델의 가중치를 난독화하는 것이 가능하지만 이론적으로 가중치를 거꾸로 추론하는 것도 가능합니다. 이것은 대부분 소규모 모델에 대한 위험이지만 여전히 위험이 있습니다.

또 다른 핵심 과제는 모델이 개인 정보를 보호할 때 모델 도용 공격의 위험입니다. 충분한 입력-출력 쌍이 주어지면 모델의 가중치를 난독화하는 것이 가능하지만 이론적으로 가중치를 거꾸로 추론하는 것도 가능합니다. 이것은 대부분 소규모 모델에 대한 위험이지만 여전히 위험이 있습니다.

스마트 계약의 확장성

우리는 zkML을 블록체인 및 스마트 계약의 기능을 확장하도록 설계된 풍부하고 성장하는 생태계로 보고 이를 보다 유연하고 적응 가능하며 지능적으로 만듭니다.

zkML은 아직 개발 초기 단계에 있지만 이미 유망한 결과를 보여주기 시작했습니다. 기술이 발전하고 성숙해짐에 따라 온체인에서 더 혁신적인 zkML 사용 사례를 볼 수 있을 것으로 기대할 수 있습니다.