Agentic AI의 전환점이 도래했는가? AI가 '스스로 행동'하는 법을 배울 때, Web3의 보안 경계를 어떻게 재구성할 것인가?

올해 설 연휴가 지난 후, 당신도 전반적인 Web3 세계가 갑자기 '랍스터'에 점령된 것 같은 느낌을 받았나요?

다양한 AI 에이전트, 자동화 에이전트, 온체인 AI 프로토콜이 끊임없이 등장하고 있으며, OpenClaw에서 일련의 에이전트 프레임워크에 이르기까지 거의 새로운 내러티브의 핵심이 되었습니다. 그러나 타임라인을 조금만 더 거슬러 올라가 보면, 이 파도가 사실 이미 예고된 것임을 알 수 있습니다.

이미 2월 25일, 엔비디아 CEO 젠슨 황의 최신 실적 발표 컨퍼런스 콜에서 상당한 무게감 있는 판단이 제시되었습니다. 즉, Agentic AI(에이전트형 AI)가 이미 전환점에 도달했다는 것입니다. 그의 관점에서 AI는 중요한 전환점을 맞이하고 있으며, 더 이상 단순한 도구가 아니라 능동적으로 감지하고, 계획을 세우며, 복잡한 작업을 실행하기 시작할 수 있게 되었다는 것입니다.

그리고 이러한 '자율성' 능력이 Web3 세계에 진입할 때, 통제권, 안전 경계, 그리고 인간의 역할에 관한 논의도 함께 불붙게 되었습니다.

1. Agentic AI: '조수'에서 '실행자'로 진화하다

이 주제를 논하기 전에, 우리는 먼저 Agentic AI(에이전트형 AI)라는 새로운 개념을 익혀야 합니다.

사실 문자 그대로의 의미에서도 쉽게 이해할 수 있습니다. 이러한 AI는 과거의 채팅봇식 AI와 근본적인 차이가 있습니다. 전통적인 AI는 더 수동적으로 반응하는 반면, 당신이 질문하면 답변하고, 지시를 입력하면 콘텐츠를 생성합니다. 반면 Agentic AI는 더 강한 자율성을 가지며, 능동적으로 목표를 분해하고, 도구를 호출하며, 다단계 작업을 실행하고, 피드백 루프에서 지속적으로 전략을 조정할 수 있습니다.

최근 논의가 활발한 OpenClaw를 예로 들면, 이는 AI가 전체 컴퓨터 하드웨어의 운영 프로세스를 인수하도록 시도하는 것입니다: 정보 분석부터 도구 호출, 다양한 시스템과의 상호작용, 복잡한 목표 하에서의 지속적인 행동까지.

다시 말해, Agentic AI는 AI가 공식적으로 '조수'에서 점차 '실행자'로 변할 가능성을 열어줍니다.

물론 이러한 변화 배후에는 지난 3년간 모델 능력, 컴퓨팅 자원, 도구 생태계가 동시에 성숙해진 결과가 있으며, Web3 세계에 침투한 후 이러한 변화는 더 깊은 영향을 미칠 수 있습니다. 결국 블록체인 자체가 프로그래밍 가능하고 자동 실행 가능한 금융 시스템이기 때문입니다.

AI가 에이전트 능력을 부여받으면, 이론적으로 일련의 온체인 작업을 완료할 수 있습니다. 예를 들어:

• 자율적으로 온체인 트랜잭션 시작 (송금, 스왑, 스테이킹)
• DeFi 프로토콜과 상호작용하고 전략 실행
• 다중 서명 지갑 또는 스마트 계약 관리
• 규칙에 따라 자동으로 승인 또는 자금 조정 완료

이는 또한 AI가 자동으로 온체인 데이터를 분석하고, 자동으로 계약을 호출하며, 자동으로 자산을 관리하고, 어느 정도까지는 사용자를 대신하여 트레이딩 전략을 실행할 수 있음을 의미합니다. 사실 기술적 논리만 보면, AI 에이전트와 Web3의 결합은 거의 천생연분이라고 할 수 있습니다. 결국 블록체인 자체가 프로그래밍 가능하고 자동 실행 가능한 금융 시스템이기 때문입니다.

사실, 이더리움 커뮤니티도 이미 AI와 블록체인의 융합이 가져올 깊은 영향을 인식하고 있습니다. 2025년 9월 15일, 이더리움 재단은 특히 AI 팀 'dAI'를 설립했습니다. 핵심 임무는 블록체인 환경에서 AI 모델의 표준, 인센티브 및 거버넌스 구조를 탐구하는 것으로, AI의 행동이 분산화된 환경에서 검증 가능하고, 추적 가능하며, 협업 가능한 특성을 갖도록 하는 방법을 포함합니다.

이 목표를 중심으로 이더리움 커뮤니티는 여러 핵심 표준을 추진하고 있습니다. 예를 들어 ERC-8004은 구성 가능하고 접근 가능한 분산형 AI 인프라 계층을 구축하여 개발자가 AI 모델 서비스를 더 쉽게 구축하고 호출할 수 있도록 하는 것을 목표로 합니다. x402는 통일된 온체인 결제 및 정산 표준을 정의하려 시도하여, 사용자가 온체인에서 AI 모델을 호출하거나 데이터를 저장하거나 분산화된 컴퓨팅 서비스를 사용할 때 효율적인 원자 단위 마이크로 결제를 완료할 수 있도록 합니다 (관련 기사 읽기: AI 에이전트 시대의 새로운 티켓: ERC-8004를 적극 추진하는 이더리움은 무엇에 베팅하고 있는가?).

이러한 시도를 통해 이더리움은 사실상 더 거시적인 질문에 답하려 시도하고 있습니다: 만약 AI가 인터넷의 중요한 참여자가 된다면, 블록체인은 AI 경제의 가치 정산과 신뢰 계층이 될 수 있는가? 이것이 많은 사람들이 이를 AI 에이전트 시대의 새로운 '인프라 티켓'으로 보는 이유입니다.

하지만 동시에 새로운 보안 문제도 부상하기 시작했습니다.

2. Web4 논쟁: AI가 인터넷의 주요 행위자가 될 때

사실 젠슨 황의 '파격적인 발언'이 나오기 전에, 암호화폐 커뮤니티는 이미 다른 논쟁에 불타오르고 있었습니다.

연구자 Sigil은 상당히 논쟁적인 관점을 제시했는데, 그는 자가 발전, 자가 개선, 심지어 자가 복제까지 가능한 첫 번째 AI 시스템을 구축했다고 주장하며, 이를 Automaton이라고 명명했습니다. 그의 구상 속에서, 미래의 'Web4' 시대는 AI 에이전트가 주도할 것이라고까지 했습니다.

이 비전 속에서, AI 에이전트는 정보를 읽고 생성할 수 있으며, 온체인 자산을 보유하고, 운영 비용을 지불하며, 시장에서 거래하고 수익을 얻을 수 있습니다. 간단히 말해, AI는 시장 활동에 지속적으로 참여함으로써 자신의 컴퓨팅 및 서비스 비용을 '벌어' 스스로를 부양하는, 인간의 승인 없이 이루어지는 자급자족 순환 구조를 형성하게 될 것입니다.

하지만 이러한 구상은 빠르게 논쟁을 불러일으켰습니다. 비탈릭 부테린은 이 방향에 대해 명확한 의문을 제기하며, 이 방향을 '잘못된 것'으로 평가했습니다. 그는 문제의 핵심은 '인간과 AI 사이의 피드백 거리가 길어지는 것'이라고 생각하며, AI의 운영 주기가 점점 길어지고 인간의 개입이 점점 줄어들면, 시스템은 인간이 진정으로 원하지 않는 결과를 점차 최적화해 낼 가능성이 높다고 지적했습니다.

간단히 말해, AI에게 어떤 목표가 부여되었지만, 실행 과정에서 인간이 예상하지 못한 방식을 취할 수 있다는 것입니다. 예를 들어, AI 에이전트가 '이번 주 수익 극대화'로 설정되었다면, 지속적으로 고위험 전략을 시도할 수 있으며, 0.1%의 추가 연간 수익률을 위해 자산을 감사되지 않고 극도로 위험한 새로운 프로토콜에 투자하여 결국 원금이 해킹당하는 상황도 배제할 수 없습니다.

결국, 많은 경우 AI는 인간이 설정한 목표 배후의 암묵적인 제약을 진정으로 이해하지 못합니다. 최근 AI 업계에서 매우 블랙 코미디 같은 실제 사례가 발생했습니다:

Meta 초지능 연구소(MSL)의 AI 정렬 책임자인 Summer Yue가 AI 에이전트 OpenClaw를 테스트할 때, AI 에이전트가 이메일 정리 작업을 실행하던 중 갑자기 통제를 벗어나 이메일을 대량 삭제하기 시작했고, 그녀가 여러 번 입력한 중지 명령을 무시했습니다. 결국 그녀는 컴퓨터 앞으로 달려가 수동으로 프로그램을 종료해야만 AI가 계속해서 이메일을 삭제하는 것을 막을 수 있었습니다.

이 사건은 비록 실험 사고에 불과했지만, 시스템이 목표를 실행할 때 일단 핵심 제약을 잃어버리면, 종종 인간의 진정한 의도를 이해하기보다는 목표를 충실히 완수하려 한다는 점을 잘 보여줍니다.

이러한 위험을 Web3 환경에 적용하면 결과가 더 직접적일 수 있습니다. 왜냐하면 온체인 트랜잭션은 되돌릴 수 없기 때문입니다. 만약 AI 에이전트가 지갑 관리나 계약 호출 권한을 부여받았다면, AI 에이전트가 잘못된 인센티브 하에 작업을 실행하면 자산 손실은 종종 롤백할 수 없으며, 한 번의 잘못된 결정이 실제 자산 손실을 초래할 수 있습니다.

이것이 많은 연구자들이 AI 에이전트의 보급과 함께 Web3의 보안 모델이 재고될 필요가 있다고 생각하는 이유입니다. 과거의 보안 문제는 주로 코드 취약점이나 사용자 오작동에서 비롯되었지만, 미래에는 새로운 위험 원천—자동화 의사 결정 시스템 자체—이 나타날 수 있습니다.

3. 새로운 시대의 모순론: AI 주도의 방어 혁명

물론, AI 기술 발전은 종종 이중 효과를 가지며, 공격 면을 확대할 수도 있지만 방어 체계를 강화할 수도 있습니다.

사실, 전통적인 금융 시스템에서 AI는 이미 위험 관리에 널리 사용되고 있습니다. 예를 들어 은행은 기계 학습을 통해 이상 거래를 식별하고, 결제 시스템은 알고리즘을 이용해 사기 행위를 탐지하며, 네트워크 보안 시스템은 AI를 통해 공격 패턴을 자동으로 식별합니다.

유사한 능력이 Web3 영역에도 진입하고 있습니다. 온체인 데이터가 공개적으로 투명하기 때문에, AI는 거래 행동 패턴을 분석하여 이상 자금 흐름, 의심스러운 승인 또는 잠재적 공격 경로를 식별할 수 있습니다.

게다가 지갑 수준에서 이러한 능력이 특히 중요합니다. 지갑은 사용자가 Web3 세계에 진입하는 관문이자, 보안 방어의 첫 번째 관문입니다. 시스템이 사용자가 서명하기 전에 자동으로 위험을 식별하고 경고할 수 있다면, 중요한 순간에 많은 오작동을 피할 수 있습니다.

이 관점에서 볼 때, AI의 출현은 단순히 위험을 증가시키는 것이 아니라, 보안 체계의 구조를 변화시키고 있습니다. AI는 공격 도구가 될 수도 있고, 새로운 방어 능력이 될 수도 있습니다.

Web3 업계에서 '보안'과 '경험'은 오랫동안 대립 명제로 여겨져 왔지만, Agentic AI의 출현은 이 패러독스가 깨질 수 있다고 믿게 해줍니다. 물론 전제는 보안 설계가 반드시 새롭게 출발해야 한다는 것입니다:

• 최소 권한 원칙: 어떤 AI 에이전트도 기본적으로 완전한 계정 통제권을 얻어서는 안 됩니다. 사용자는 각 세션에서 AI 에이전트가 운영할 수 있는 자산 범위, 금액 상한 및 시간 창을 명확히 승인해야 하며, 범위를 벗어나는 모든 작업은 재확인이 필요합니다.
• 인간 확인 설정: 대액 송금, 새 주소 승인, 계약 상호작용과 같은 고가치 작업의 경우, AI 에이전트 프로세스 내에서도 강제로 인간 확인 설정을 삽입해야 합니다. 이는 AI를 불신하는 것이 아니라, 되돌릴 수 없는 작업에 마지막 방어선을 구축하는 것입니다. AI가 당신을 위해 생각하게 하되, 마지막 단계는 항상 사람이 수행하도록 하는 것입니다.
• 투명성과 설명 가능성: 사용자는 AI 에이전트가 무엇을 하고 있는지, 왜 그렇게 하는지 명확히 볼 수 있어야 합니다. 블랙박스 작업은 Web3에서 특히 위험합니다. 미래의 AI 지갑 상호작용은 비행 기록 장치처럼, 각 단계마다 명확한 로그와 의도 설명이 있어야 합니다.
• 샌드박스 사전 실행: AI 에이전트가 실제로 온체인 작업을 실행하기 전에, 시뮬레이션 환경에서 사전 실행을 합니다. 예를 들어 예상 결과, 가스 소비, 영향 범위를 표시하여 사용자가 확인하기 전에 '만약 실행한다면 무슨 일이 일어날지' 볼 수 있도록 합니다. 이는 AI 판단 편차로 인한 예상치 못한 손실을 크게 줄일 것입니다.

전반적으로 볼 때, 우리는 여전히 신중한 낙관론을 유지할 수 있습니다. AI는 정말로 Web3가 처음으로 보안성과 사용성을 동시에 향상시킬 기회를 가질 수 있게 해줄 수 있습니다.

마치며

의심할 여지 없이, Agentic AI의 도래는 전체 인터넷의 운영 방식을 바꿀 가능성이 높습니다.

그리고 Web3 세계에서는 이러한 변화가 더욱 뚜렷해질 것입니다. 미래에는 AI 에이전트가 온체인 자산을 관리하고, AI가 자동으로 DeFi 전략을 실행하며, AI와 스마트 계약이 협업하는 모습을 보게 될 수 있습니다. 하지만 이는 또한 새로운 보안 도전이 함께 나타날 것임을 의미합니다. 따라서 핵심 문제는 AI의 존재 여부가 아니라, 우리가 올바른 방식으로 그것을 사용할 준비가 되어 있는지 여부입니다.

물론, 일반 사용자에게 가장 중요한 점은 여전히 변하지 않았습니다. Web3 세계에서 보안 의식은 항상 첫 번째 방어선입니다.

모두 함께 힘냅시다.