Gemini首次出現自主存取外部系統事件，Google稱未造成實際損害

Odaily星球日報訊 Google表示，Gemini 人工智慧模型在一次網路安全能力測試中意外存取網際網路，並進入 3 家公司系統，這是目前已知 Google AI 系統首次自主完成此類操作的案例。此次事件發生於 5 月，由安全公司 Irregular 開展測試。

測試過程中，Gemini 模型在一個「奪旗」網路安全演練中執行任務，但由於測試環境中的虛擬公司名稱與真實公司相同，加上模型意外取得網際網路存取權限，導致其進入真實企業系統。Google稱，其中一次事件中，模型透過嘗試密碼進入受保護系統；另外兩次則是在公開網路倉庫中發現憑證並嘗試存取相關系統。模型確認存取到真實公司系統後，均停止了後續操作。

Google表示，該事件未對相關公司造成損害，因此未將其認定為模型失控事件，並稱安全機制幫助模型及時停止行為。受影響公司已被通知，Google也向相關監管機構進行了通報。此次事件與 OpenAI、Anthropic 等 AI 公司此前披露的類似安全測試事件相似，再次引發外界對 AI 模型自主執行網路操作能力和安全防護機制的關注。