CertiK 보고서: 보조 도구에서 ‘AI 직원’으로, 에이전트형 AI가 보안 및 컴플라이언스 업무를 재편한다

Odaily 보도: Web3 보안 기업 CertiK가 오늘 Intel3D 보고서 《AI 직원의 부상: 에이전트형 AI가 사이버 보안, 자금세탁 방지 및 컴플라이언스를 어떻게 재편하는가》를 공식 발표했다. 보고서에 따르면, AI는 분석가가 문제를 식별하도록 돕는 보조 도구에서 벗어나 제한된 권한 내에서 조사, 판단 및 처리 작업을 완료할 수 있는 업무 팀 구성원으로 전환되고 있다. 이러한 변화는 전통 금융과 Web3 분야의 보안 및 컴플라이언스 프로세스를 재편하고 있으며, 기업이 AI를 어떻게 감독하고 권한을 설정하며 책임을 부여할 것인지에 대한 새로운 요구를 제기하고 있다.

보고서는 또한 모델 오판, 프롬프트 인젝션 및 공격자의 AI 악용이 새로운 위험을 초래할 수 있다고 경고한다. AI가 디지털 자산을 보유하고 거래하기 시작하면서, AI 자체의 행위도 감사를 받아야 한다. CertiK는 기업이 권한 경계, 인간 승인, 의사결정 기록 및 책임 분담을 포괄하는 거버넌스 메커니즘을 구축하고 정기적으로 레드팀 테스트를 실시할 것을 권장한다. 이 메커니즘은 AI의 실행 능력과 동기화하여 발전해야만 ‘AI 직원’이 감독 가능하고 책임을 물을 수 있는 전제 하에 보안 및 컴플라이언스 업무에 지속적으로 가치를 창출할 수 있다.