Geminiが初めて自律的に外部システムへアクセスする事件が発生、Googleは実害なしと表明

Odaily星球日報訊 Googleは、Gemini人工知能モデルがサイバーセキュリティ能力テスト中に誤ってインターネットにアクセスし、3社のシステムに侵入したと発表した。これはGoogleのAIシステムが自律的にこのような操作を完了した初の既知の事例である。この事件は5月にセキュリティ企業Irregularが実施したテストで発生した。

テスト中、Geminiモデルは「キャプチャ・ザ・フラッグ」サイバーセキュリティ演習でタスクを実行していたが、テスト環境の仮想企業名が実在の企業名と同一であったこと、さらにモデルが誤ってインターネットアクセス権限を取得したことで、実際の企業システムに侵入した。Googleによると、1件の事例ではモデルがパスワードの試行により保護されたシステムに侵入し、残り2件では公開ネットワークリポジトリで認証情報を発見し関連システムへのアクセスを試みた。モデルは実際の企業システムにアクセスしたことを確認すると、いずれも以降の操作を停止した。

Googleは、この事件は関連企業に損害を与えていないため、モデル暴走事件とは認定せず、安全機構がモデルの行為を適時に停止させたと述べた。影響を受けた企業には通知済みで、Googleは関連規制機関にも報告した。今回の事件はOpenAIやAnthropicなどAI企業が以前に開示した類似の安全テスト事件と類似しており、AIモデルの自律的なネットワーク操作実行能力と安全防護機構に対する外界の関心を再び呼び起こしている。