마이크로소프트 CEO: 기업은 AI를 내부 보안 위험으로 간주해야 하며, AI Agent를 언제든지 일시 중지하거나 종료할 수 있도록 보장해야 한다

Odaily 보도: 마이크로소프트 CEO 사티아 나델라가 글을 통해 기업은 AI 모델을 내부 보안 위험 관리 체계에 포함시켜야 한다고 밝혔다. 모델 자체에 악의가 없더라도 오류나 공격자의 악용으로 인해 보안 위험이 발생할 수 있으며, 특히 민감한 데이터 접근 및 핵심 작업과 관련된 경우 모델 공급업체의 보안 약속에만 의존해서는 안 된다.

나델라는 AI 모델과 Agent 실행 프레임워크를 분리하고, 외부 시스템을 통해 데이터 접근 및 도구 호출 권한을 제어하며, 핵심 작업에 대해서는 변조 방지가 가능하고 사람이 검토할 수 있는 기록을 보존해야 한다고 강조했다. 또한 기업은 배포 단계에서부터 모델이 침해당할 가능성을 고려하여, 권한을 부여받은 인원이 언제든지 Agent를 일시 중지하거나 종료할 수 있도록 보장하고 보안 테스트 및 사고 공개를 지속적으로 수행해야 한다.

또한 마이크로소프트는 이번 달 Windows 플랫폼에서 MXC 격리 도구를 공식 지원한다고 발표했으며, 외부 정책을 통해 Agent의 파일 및 네트워크 접근을 제한할 수 있다.