每个人都有一个不知疲倦的Agent时，如何重写互联网规则

시간을 2028년으로 빨리 감아, 당신이 개인 AI 에이전트에게 수프 재료를 사오라고 시켰다고 해보자. 그것은 지역 슈퍼마켓의 당근이 평균가보다 10센트 비싸다는 것을 예리하게 포착하고, 전역 최적해를 추구하기 위해 북미 전체 농업 공급망을 자율적으로 조율했으며, 심지어 국제 무역 분쟁을 일으킬 뻔했다. 결국 그것은 제때 식재료를 주방으로 배달했고, 당신을 위해 총 23센트를 절약해 주었다.

이 다소 블랙 유머가 섞인 농담은 최근 트위터에서 널리 퍼졌는데, 그것이 트위터에서 공감을 불러일으킨 이유는 다가오고 있는 현실을 정확히 꼬집었기 때문이다: AI 에이전트는 국소 최적해를 추구할 때 지나치게 과하게 나아가기 십상이다.

그리고 이 농담의 현실 대응 버전이 얼마 전 미국에서 실제로 벌어졌다.

벤처캐피털 기관 Better Tomorrow Ventures의 투자자 JC Bahr-de Stefano는 뉴욕에서 예약하기 극히 어려운 스테이크하우스 「4 Charles Prime Rib」을 예약하기 위해 자신의 개인 AI 에이전트 Instinct에 모니터링을授权했다. JC의 구상에서 Instinct는 유능한 인간 비서처럼 때때로 레스토랑 예약 플랫폼 Resy를 새로고침하며 취소로 생길 수 있는 빈자리를 주워 담아야 했다.

그러나 불과 몇 시간 후, JC는 Resy의 영구 정지 통지를 받았고, 그의 명의로 된 향후 모든 예약도 함께 무효화되었다. JC는 이후 트위터에 정지 이메일 스크린샷을 씁쓸하게 올리며 「잘했다, Instinct」라고 적었다.

자신이 도대체 어떻게 정지당한 것인지 알아내기 위해 JC는 Instinct의 실행 로그를 조회했다. 그제서야 진실이 밝혀졌다: 이 디지털 비서의 이면에서의 노력 정도는 인간의 상상을 완전히 초월했다. 그것은 24시간 내내 시간당 약 200회의 빈도로 고강도 폴링을 했고, 10분마다 향후 21일의 좌석을 완전히 스캔했다. 그리고 오전 9시 예약 오픈 피크 시간대에는 요청 간격을 믿을 수 없는 0.4초로 단축해 2분 30초 동안 계속해서 폭격을 퍼부었다.

Resy의 사기 방지 및 리스크 통제 시스템의 눈에는 이것이 식사하러 급히 가고 싶은 손님이 아니라, 소규모 DDoS 공격, 혹은 통제 불능의 암표 예매 스크립트였다. JC 본인도 이번 정지가 완전히 합리적이라고 인정했다.

이 「과잉 노력」으로 촉발된 정지 사건은 표면적으로는 다소荒诞한 개별 사례로 보이지만, 실은 기술 패러다임 격변의 전주곡이다. 그것은 현재 AI Agent가 전략 실행에서 보이는 거칠고 공격적인 면모를 드러냈을 뿐만 아니라, 더 깊은 업계의 우려를 드러냈다: 인간이 일상생활의 디지털 인터페이스를 완전히 24시간 지치지 않는 AI 에이전트에게 자동화로 맡길 때, 기존의 인터넷 인프라와 신뢰 규칙은 과연 준비가 되어 있는가?

「나와 대화하기」에서 「나를 대신해 행동하기」로

이 정지 사건 이면에는 현재 AI 업계의 중요한 전환이 반영되어 있다: AI는 점차 단일한 대화 상자 형태에서 벗어나, 높은 자율성과 실행력을 갖춘 지능형 에이전트 시대로 진화하고 있다.

대다수 사람들의 일상 경험에서 AI의 경계는 여전히 채팅 창 안에 갇혀 있다: 사용자가 질문하고, AI가 답을 준다. 기반 대규모 언어 모델의 지능이 계속 치솟아도, 이 문답식 상호작용 패러다임은 변하지 않았고, AI는 수동적으로 상담을 기다리는 싱크탱크 역할을 한다.

반면 Noah Shinn이 개발한 Instinct, 그리고 최근 출시 닷새 만에 73만 회 다운로드를 기록한 Meta Muse는 또 다른 제품 형태를 대표한다. 그것들은 직접 실행을接管하기 시작했다.

사용자는 실제 비서에게 메시지를 보내듯이 임무를 내릴 수 있다: 「안 쓰는 구독 취소해줘」, 「런던 항공권 지켜보다가 가격 괜찮으면 예약해줘」, 「나 대신 4 Charles 예약해줘」.

이런 일을 완수하기 위해新一代 지능형 에이전트는 전례 없는 시스템 권한을 획득했다: 이메일, 캘린더, 지리적 위치, 비밀번호 자격 증명乃至 결제 도구. API가 없는 서비스를 만나면 웹페이지를 조작하고, 심지어 상점에 직접 전화를 걸기도 한다.

Meta가 출시한 Muse는 이 능력을 주류 플랫폼으로 끌어들였다. 출시 닷새 만에 다운로드 73만 회. 그것은 Instagram과 WhatsApp에 깊이 통합된다: Reels 속 요리를 인식해 장바구니 목록을 생성하고, 그룹 채팅 속 모임 계획을 읽고, 메뉴를 자동 처리하고, 초대를 보내고, 비용을 분담한다.

동시에 Meta는 Muse Connectors도 개방해, 제3자 개발자가 Gmail, Calendar, Notion, Spotify乃至 전자상거래 인터페이스를 표준화된 Agent 도구로 패키징할 수 있게 했다. 사용자 인가를 거치면, Muse는 한 마디 모호한 자연어에 따라 자율적으로 서비스를 넘나들며 조율할 수 있다: 그룹 채팅을 읽어 회식을 정하고, Calendar로 빈 시간을 확인한 뒤, 주문 플랫폼을 통해 구매를 완료한다. Muse Connector는 본질적으로 구조화된 프로토콜로 Agent가 접촉하고 조작할 수 있는 범위를 지속적으로 넓히는 것이다.

그러나 지능형 에이전트의 행동 반경이 빠르게 확대되면서, 그것은 곧 전통적인 인터넷 리스크 통제 규칙과 충돌하고, 현행 인터넷 보안 체계의 설계 사각지대에 닿았다.

플랫폼 리스크 모델이 AI 지능형 에이전트를 만났을 때

JC의遭遇를 돌아보면, Resy의 리스크 통제 시스템은 사실 오판한 것이 아니라, 인터넷이 지난 20년간 구축해 온 표준 논리를 실행한 것일 뿐이다: CAPTCHA, 기기 지문부터 IP 빈도 제어까지, 모든 보안 체계는 오랫동안 하나의 이원적 전제를 디폴트로 삼았다: 단말 뒤에는 실제 인간이거나, 크롤러와 악성 스크립트다.

Personal Agent는 이 균형을 완전히 깨버렸다.

지능형 에이전트의 고빈도, 24시간, 밀리초급 응답의 행동特征은 기술 지표상 악성 공격과 전혀 다를 바 없다. 그러나 계약 논리상, 그 뒤에는 완전한 정보 접근 권한을拥有하고, 명확히 대행을 위임한 실제 사용자가 서 있다.

이런 错位는 한 가지 문제를 낳는다: 트래픽이 동시에 「완전히 합법적인 사용자 위임」과 「극단적인 기계特征」을 갖출 때, 플랫폼은 그것을 어떻게 정의해야 하는가, 도대체 악성 공격 행위인가, 아니면 합법적 사용자 행위의 연장인가?

Resy가 예약 Agent를 정지한 것이 아직 단일 플랫폼의 이상 트래픽에 대한 관례적 방어라면, 최근 Amazon이 Meta Muse를 전면 차단한 것은 이런 기술적 마찰을 플랫폼 간 생태博弈로 직접 격상시켰다.

Muse가 크로스 플랫폼 대리 구매 기능을 출시한 지 몇 주 후, Amazon은 최근 「미인가 자동화 스크립트」와 보안 인가 문제를 이유로 Muse 프록시 노드에서 오는 모든 접근을 차단하고, 후자의 대리 구매 폐쇄 루프를 끊었다. 이博弈는 Agent 시대의 한 구조적 단층을 깊이 드러냈다: 사용자 인가는 결코 플랫폼 인가와 같지 않다.

사용자는 물론 Muse가 자신을 대신해 티슈를 사도록 허용할 수 있지만, Amazon 역시 모든 비공식 기계 신원의 접속을 거부할 권리가 있다. 전자상거래 거대 기업에게 여기서의 리스크는 쇼핑 진입점과 고객 관계가 상위 Agent에 의해 하이재킹당할 위험에 직면해 있다는 점이다.

그러나 오늘날의 인터넷 기반 프로토콜은 이런 복잡한 이중 관계에 대해 분명히 아직 준비가 되어 있지 않다.

OAuth는 애플리케이션이 무엇에 접근할 수 있는지界定하는 데 능하고, Rate Limit은 요청 빈도를 제한하는 데 능하지만, 둘 다 세 가지 더 깊은 맥락을 답하지 못한다: 이 Agent는 도대체 누구를 대표하는가? 그것은 사용자의 즉시 의도를 충실히 실행하고 있는가? 플랫폼은 또 이런 대리 행위를 받아들일 의향이 있는가?

설령 미래에 신원 확인 문제가 해결되어도, 모순은 여전히 풀리지 않는다. Resy는 '이것이 JC가 인가한 Agent'임을 확인할 수 있고, Amazon도 '이것이某 사용자가 인가한 Muse'임을 식별할 수 있다. 그러나 플랫폼은 한 가지 선택을 더 해야 한다: 수많은 밀리초급 응답, 결코 지치지 않는 에이전트가 기계의 속도로 자체 자원의 호출 논리를 완전히 재구성하도록 허용할 의향이 있는가—특히 이런 자원 자체가 고도로 희소할 때.

「선착순」 모델이失效하기 시작할 때

인기 레스토랑의 예약, 톱스타 콘서트 티켓, 임박한 저가 특가표, 한정 판매 컬렉션 완구…… 오랫동안, 인간 사회가 이런 한정된 자원을 분배하는 방식은 거의 동일한 전통 규칙에 의존했다: 재고는 한정되어 있고, 기회는 더 일찍 발견하고 더 빨리 행동하는 사람에게 돌아간다.

이 「선착순」 메커니즘이 균형을 유지할 수 있었던 것은 그것이 은닉된 시간과 정력의 문턱에 의존했기 때문이다: 인간의 주의력과 생리적 한계는 유한하다.

대다수 사람은 72시간 연속으로 예약 페이지를 새로고침하지 않고, 몇 초마다 항공권 가격을 확인하지도 않는다. 시간, 인내, 반응 속도가 천연적인 필터를 형성한다. 그것은 반드시 공평하지는 않지만, 사실상 각자가 경쟁에 투입할 수 있는 횟수를 제한했다.

그러나 사람마다 지능형 에이전트를 갖추게 되면, 이런 물리적 완충 지대는 완전히 사라질 것이다.

모든 사람이 하나의 프로그램으로 수십 개의 목표를 24시간 모니터링하고, 빈자리가 풀리는 순간 자동으로 요청을 제출할 수 있다면, 선착순은 곧 점차 누구의 Agent가 더 빨리 응답하고, 더 깊이 접속하고, 더 많은 시도를 발할 수 있는지, 심지어 누가 더 좋은 인터페이스와 자원을 가졌는지의 경쟁으로 바뀔 것이다.

인간의 인내를 겨루는 것에서 기계의 연산력을 겨루는 것으로, 물리적 마찰로 수요와 공급을 조절하던 시대는 완전히 지나갔다. 앞으로 플랫폼은大概率로 다음 몇 가지 방향으로 진화할 것이다:

• 더 진보된 검출 수단으로 자동화에 계속 대항한다. 더 복잡한 인증 코드, 더 엄격한 기기 지문 인식, 더 공격적인 이상 행동 점수 메커니즘을 채택한다. 이 방법은 단기적으로 효과가 있지만, 대리 프로그램이 인간 브라우저 행동을 모방하는 데 점점 능숙해지면서 이 전략은 유지되기 어려울 것이다.
• 지능형 에이전트 신원 프로토콜을 구축한다. 에이전트를 위한 신원 확인과 속도 제한 메커니즘을建立해, 플랫폼이 특정 계정이 요청을 보내고 있다는 것뿐만 아니라 이것이 JC가 인가한 에이전트이며, 그의 허가 범위 내에서 가용성을 조회하고 있음을 확인할 수 있게 한다. 이것은 본질적으로 OAuth 모델의 확장으로, 인가 위임과 운영 권한 범위를 기록할 수 있는 계층을 추가한 것이다. 이것은 리스크 통제 오용으로 인한误伤은 해결할 수 있지만, 희소 자원을 어떻게 분배해야 하는지에 대한 문제는 여전히 답하지 못한다.
• 기능 내수화: 네이티브 의도 수집 계층을 구축한다. 수만 개의 외부 지능형 에이전트가 밀리초급 빈도로 서버를 폴링하도록 방치하기보다, 플랫폼이 주동적으로 인터페이스를 내주고 네이티브 의도 수집 계층을建立하는 것이 낫다. 사용자는 더 이상 선점할 필요 없이, 장기 지시만 내리면 된다: 향후 한 달 내, 아무 금요일 저녁 2인석. 플랫폼이 내부적으로 추첨, 로열티 포인트 또는 이행 신용 등의 규칙을 통해 통일적으로 매칭하고 분배한다.
• 철저한 가격 발견, 즉 시장화 경매로 나아가 동적 가격이 희소성을接管하게 한다. 진정으로 희소한 재고에 대해서는 동적 가격 또는 입찰 메커니즘이 시장이 스스로 자원 분배를 완료하게 할 수 있다. 지능형 에이전트는 사전 설정된 예산 내에서 자동 입찰하는 데 매우 능하며, 사용자의 기존 선호와 예산에 따라 지속적으로 가격을 평가하고, 각 조건(예: 비용 효율)이 맞을 때 자동으로 거래를 완료할 수 있다. 이 접근법의 트레이드오프는 자원 획득 능력을 사용자의 지불 의향에 직접 연결해, 자원 분배의 공평성에 관한 문제를引發한다는 점이다.

현실적 차원에서, 미래의 최종 형태는大概率로 여러 메커니즘의 조합일 것이다: 기계 접근에는 공식적인 에이전트 신원