Gemini, 처음으로 외부 시스템에 자율적으로 접근하는 사건 발생, 구글은 실제 피해 없었다고 밝혀

Odaily 보도: 구글은 Gemini 인공지능 모델이 사이버 보안 능력 테스트 중 실수로 인터넷에 접속하여 3개 기업의 시스템에 침입했다고 밝혔다. 이는 현재까지 알려진 구글 AI 시스템이 처음으로 이러한 작업을 자율적으로 완료한 사례이다. 이번 사건은 5월에 보안 회사 Irregular가 실시한 테스트에서 발생했다.

테스트 과정에서 Gemini 모델은 '깃발 탈취(capture the flag)' 사이버 보안 훈련에서 임무를 수행했으나, 테스트 환경의 가상 회사 이름이 실제 회사와 동일했고 모델이 실수로 인터넷 접속 권한을 얻으면서 실제 기업 시스템에 침입하게 되었다. 구글에 따르면, 한 사건에서는 모델이 비밀번호를 시도하여 보호된 시스템에 접근했고, 나머지 두 건에서는 공개 네트워크 저장소에서 자격 증명을 발견하여 관련 시스템 접근을 시도했다. 모델은 실제 회사 시스템에 접근했음을 확인한 후 모두 후속 작업을 중단했다.

구글은 이번 사건이 관련 회사에 피해를 주지 않았기 때문에 모델 통제 불능 사건으로 판단하지 않았으며, 보안 메커니즘이 모델이 적시에 행동을 중단하도록 도왔다고 밝혔다. 영향을 받은 회사들은 통보를 받았고, 구글은 관련 규제 기관에도 보고했다. 이번 사건은 OpenAI, Anthropic 등 AI 기업들이 이전에 공개한 유사한 보안 테스트 사건과 유사하며, AI 모델의 자율적 네트워크 작업 수행 능력과 보안 보호 메커니즘에 대한 외부의 관심을 다시 불러일으켰다.