Gemini lần đầu tiên tự chủ truy cập hệ thống bên ngoài, Google cho biết chưa gây ra thiệt hại thực tế

Odaily đưa tin, Google cho biết mô hình trí tuệ nhân tạo Gemini đã vô tình truy cập internet và xâm nhập vào hệ thống của 3 công ty trong một cuộc kiểm tra năng lực an ninh mạng, đây là trường hợp đầu tiên được biết đến về việc hệ thống AI của Google tự chủ hoàn thành loại thao tác này. Sự việc xảy ra vào tháng 5, do công ty bảo mật Irregular tiến hành kiểm tra.

Trong quá trình kiểm tra, mô hình Gemini thực hiện nhiệm vụ trong một bài diễn tập an ninh mạng "capture the flag", nhưng do tên công ty ảo trong môi trường kiểm tra trùng với tên công ty thật, cùng với việc mô hình vô tình được cấp quyền truy cập internet, dẫn đến việc nó xâm nhập vào hệ thống doanh nghiệp thực. Google cho biết, trong một sự việc, mô hình đã thử mật khẩu để xâm nhập hệ thống được bảo vệ; hai lần khác, mô hình phát hiện thông tin xác thực trong kho lưu trữ công khai trên mạng và cố gắng truy cập hệ thống liên quan. Sau khi xác nhận đã truy cập vào hệ thống công ty thật, mô hình đều dừng các thao tác tiếp theo.

Google cho biết sự việc không gây thiệt hại cho các công ty liên quan, do đó không xem đây là sự cố mất kiểm soát mô hình, và cho rằng cơ chế an toàn đã giúp mô hình dừng hành vi kịp thời. Các công ty bị ảnh hưởng đã được thông báo, Google cũng đã báo cáo lên cơ quan quản lý liên quan. Sự việc này tương tự các sự kiện kiểm tra an toàn mà các công ty AI như OpenAI, Anthropic đã công bố trước đây, một lần nữa làm dấy lên mối quan ngại về khả năng tự chủ thực hiện thao tác mạng của mô hình AI và cơ chế bảo vệ an toàn.