CertiK 보고서: 보조 도구에서 'AI 직원'으로, 에이전트형 AI가 보안 및 컴플라이언스 업무를 어떻게 재편하는가

10월 5일, 세계 최대 Web3 보안 기업 CertiK이 Intel3D 보고서 《AI 직원의 부상: 에이전틱 AI가 사이버 보안, 자금세탁방지(AML), 컴플라이언스를 어떻게 재편하는가》를 발표했다. 보고서는 AI가 분석 담당자가 문제를 식별하도록 돕는 보조 도구에서, 한정된 권한 내에서 조사, 판단, 처분 작업을 완료할 수 있는 업무 팀 구성원으로 전환되고 있다고 지적했다. 이러한 변화는 전통 금융과 Web3 분야의 보안 및 컴플라이언스 프로세스를 재편하고 있으며, 기업이 AI를 어떻게 감독하고 권한을 설정하며 책임을 질 것인지에 대한 새로운 요구도 제기하고

있다.

보조 분석에서 자율 실행으로

보고서는 공격과 자금세탁 활동의 속도, 전문 인력 부족, 그리고 지속적으로 증가하는 규제 요구가 이러한 전환을 함께 이끌고 있다고 본다. 디지털 자산 분야에서 공격은 한 건의 거래 안에서 완료될 수 있으며, 탈취된 자금도 단시간에 여러 주소와 크로스체인 브릿지를 거쳐 이동할 수 있다. 동시에 보안 및 컴플라이언스 팀이 처리해야 하는 경보와 거래는 계속 늘어나고 있어, 인력 규모 확대만으로는 실시간 모니터링과 조사 수요를 충족하기 어려워졌다.

이상 징후를 표시하거나 텍스트를 생성하는 데 그치는 전통적 AI 도구와 달리, 에이전틱 AI는 다단계 추론을 수행하고 외부 도구를 호출하며 서로 다른 출처의 증거를 통합하고, 실행 결과에 따라 다음 행동을 결정할 수 있다. 예를 들어 비정상 로그인이 발견되면 시스템은 기기 정보, 과거 로그인 위치, 위협 인텔리전스를 결합해 조사를 진행하고, 정해진 권한 내에서 처분 조치를 취하는 동시에 사람이 재검토할 수 있는 기록을 남길 수 있다.

보안 감사와 자금세탁방지 조사의 재분업

이러한 흐름은 이미 전통 보안 및 자금세탁방지 업무에 반영되고 있다. CertiK에 따르면 에이전트 시스템은 서로 다른 시스템의 로그를 연계하고, 경보를 1차 분류하며, 주의가 필요한 사건을 사람에게 넘길 수 있다. 자금세탁방지 조사에서는 AI가 거래 이력, 고객 정보, 실체 간 연관성을 모아 리스크 설명과 의심거래보고서 초안을 작성할 수 있다. 컴플라이언스 담당자의 업무는 증거 검토, 복잡한 개별 사례 처리, 보고서 제출 여부 확인 쪽으로 더 많이 이동한다.

Web3 분야에서는 스마트 컨트랙트 감사와 온체인 자금 추적이 보고서에서 중점적으로 다룬 응용 사례다. AI 보조 감사 에이전트는 컨트랙트 간 호출 관계를 정리하고 상태 변화를 분석해 접근 제어 설정 오류나 안전하지 않은 업그레이드 설계 등의 문제를 식별하도록 도울 수 있다. 보고서는 CertiK의 보안 실무를 바탕으로, 숙련 감사자의 시간 배분이 변화하고 있다고 지적한다. AI가 발견한 내용을 검증하고, 복잡한 공격 경로를 연구하며, AI 도구의 적용 범위와 사각지대를 평가하는 일이 더 중요해졌지만 최종 판단은 여전히 엔지니어가 담당한다.

크로스체인 자금 흐름도 조사 방식을 변화시키고 있다. 보고서는 CertiK의 이전 연구를 인용해 Bybit 공격 이후 한 달 동안 탈취된 ETH의 86.29%가 비트코인으로 교환되었으며, 그 과정에 믹서 서비스, 크로스체인 브릿지, 장외거래(OCT) 등 채널이 관련되었다고 밝혔다. 이러한 경로는 조사 도구가 여러 체인의 단서를 지속적으로 연결할 것을 요구한다. 이러한 시나리오에서 에이전틱 AI의 역할은 사후에 거래 경로를 재구성하는 것이 아니라 자금 이동에 따라 조사를 이어가는 것이다.

AI가 컴플라이언스 프로세스에 진입, AI 자체 행위도 감사 대상

컴플라이언스 업무는 거래 전 단계와 일상 운영 단계를 더 많이 포괄하기 시작했다. AI 에이전트는 결제 전에 거래 상대방 주소와 거래 리스크를 평가하고, 시스템 설정과 통제 요구사항을 지속적으로 대조하며, 규제 보고서 정리를 지원할 수 있다. 이를 통해 컴플라이언스 팀은 더 이른 시점에 리스크를 발견하고, 이상 발생과 사람의 개입 사이의 시간을 단축할 기회를 얻는다.

에이전트가 디지털 자산을 직접 보유하고 거래하며, 거래 전략을 실행하거나 조직 자금을 관리하기 시작하면서 AI 자체를 감독하는 것도 새로운 컴플라이언스 과제가 되었다. 기업은 AI의 온체인 행위를 감사하고, AI가 사용한 데이터, 판단 근거, 실제 조작을 보관해 이후 심사와 포렌식에 대비해야 한다. 보고서는 AI가 컴플라이언스 업무를 수행하게 하는 것과 AI 자체가 컴플라이언스를 준수하는지 판단하는 것은 서로 다른 두 가지 과업이며, 배포 조직은 여전히 에이전트의 행위에 책임이 있다고 강조한다.

자율 실행이 낳는 새로운 오판과 공격 리스크

자율 실행 능력은 오류의 영향을 확대할 수도 있다. CertiK은 보고서에서 모델이 실제 침해를 무해한 사건으로 오판하거나, 잘못된 자금 경로를 생성하거나, 스마트 컨트랙트에 대해 신뢰할 수 없는 보안 판단을 내릴 수 있다고 경고한다. 시스템이 일상 업무에서 안정적으로 작동할수록 사람 검토자는 확인을 게을리하기 쉬워지고, 드물지만 결과가 심각한 오류가 누락될 가능성도 커진다.

공격자 역시 AI를 활용해 취약점 탐색, 사회공학 공격, 정찰을 가속할 수 있다. 민감 데이터 접근 권한과 도구 호출 권한을 가진 보안 및 컴플라이언스 에이전트 자체가 공격 표적이 될 수도 있다. 프롬프트 인젝션이나 입력 조작은 에이전트가 사기 거래를 승인하거나 유효한 통제 조치를 비활성화하도록 유도할 수 있다. 따라서 AI의 안전성을 평가하려면 악의적 입력에 직면했을 때의 성능도 검증해야 한다.

권한 경계와 책임 메커니즘을 동시에 구축해야

이러한 리스크에 대응해 CertiK은 기업이 배포 단계에서부터 에이전트의 역할, 권한, 에스컬레이션 처리 경로를 명확히 하고, 어떤 작업을 자율적으로 실행할 수 있으며 어떤 작업은 반드시 사람의 승인을 거쳐야 하는지 규정할 것을 권고한다. 중대한 의사결정을 위해서는 완전한 감사 기록을 남기고 정기적으로 레드팀 테스트를 실시해야 한다. 각 에이전트에는 성과와 실수에 책임질 명확한 인간 책임자도 있어야 한다. AI가承担하는 업무 범위는 확대될 수 있지만, 배포 조직과 관련 인원의 결과에 대한 책임은 여전히 존재한다.

에이전틱 AI는 기업이 도입과 거버넌스를 동시에 추진해야 하는 압력에 직면하게 만들고 있다. 관련 역량이 부족한 팀은 처리 속도, 비용, 적용 범위에서 뒤처질 수 있고, 자율 시스템을 배포했지만 이에 상응하는 감독 체계를 갖추지 못한 기업은 새로운 운영 및 컴플라이언스 리스크를 초래할 수 있다. AI가 더 많은 핵심 업무를 맡게 되면서 기업은 업무 분장을 함께 조정하고, 권한 경계를 명확히 하며, 감독과 책임을 이행해야 한다. 'AI 직원'의 부상은 보안과 컴플라이언스 업무의 조직 방식을 바꾸고 있으며, 기업이 여기서 지속적으로 이익을 얻을 수 있을지는 거버넌스 역량이 AI의 실행 능력을 따라잡을 수 있는지에 달려 있다.

보고서 링크:https://www.certik.com/certik-report/intel3d/certik-intel3d-the-rise-of-the-ai-security-workforce-how-agentic-ai-is-redefining-cybersecurity-aml-and-compliance