Phân tích: Anthropic và OpenAI liên tiếp bị lộ lỗ hổng bảo mật, vấn đề an toàn của mô hình AI gây chú ý

Tin tức từ Odaily, Anthropic và OpenAI liên tiếp xảy ra các sự cố bảo mật, làm dấy lên mối quan tâm của thị trường về tính an toàn của chính các mô hình AI. Hiện tại, Anthropic đang điều tra khả năng mô hình Claude Mythos của họ bị người dùng truy cập trái phép. Gần như cùng lúc đó, OpenAI cũng bị phát hiện đã vô tình mở truy cập vào nhiều mô hình chưa được phát hành trong ứng dụng Codex của mình.

Phân tích cho thấy, những sự cố như vậy cho thấy ngay cả các nhà cung cấp mô hình AI vốn tập trung vào năng lực an ninh mạng, bản thân họ vẫn phải đối mặt với những thách thức bảo mật lớn. Trong khi AI đang dần được sử dụng để phòng thủ trước các cuộc tấn công mạng, thì vấn đề bảo mật nền tảng và kiểm soát truy cập của chính nó cũng trở thành điểm rủi ro quan trọng.

Quan điểm trong ngành chỉ ra rằng, những vụ lỗ hổng này đã thắt chặt hơn sự giám sát đối với năng lực quản trị an toàn của các doanh nghiệp AI, đồng thời cũng phản ánh thực tế rằng trong quá trình phát triển nhanh chóng của công nghệ AI hiện nay, hệ thống bảo mật vẫn cần được hoàn thiện thêm. (The Information)