Anthropic hạn chế phát hành mô hình Mythos, cho rằng nó có rủi ro an ninh quốc gia

Odaily tin tức Anthropic cuối cùng đã quyết định hạn chế việc phát hành công khai mô hình Mythos vì nó có khả năng tấn công mạng tự động hóa cao. Báo cáo cho biết, trong các bài kiểm tra nội bộ, mô hình này đã có thể hoàn thành độc lập quy trình phát hiện và khai thác lỗ hổng, đồng thời tạo ra các phương án tấn công nhiều bước.

Người trong cuộc cho biết, trong các bài kiểm tra ban đầu, Mythos có thể tự xây dựng công cụ xâm nhập nhắm vào hệ thống Linux và hoàn thành các cuộc tấn công chuỗi lỗ hổng phức tạp dưới sự hướng dẫn. Khả năng liên quan được đánh giá là có thể gây rủi ro cho cơ sở hạ tầng toàn cầu.

Ban lãnh đạo Anthropic cuối cùng đã định vị Mythos như một công cụ phòng thủ mạng và mở cửa kiểm tra cho một số tổ chức theo cách hạn chế. Các chuyên gia trong ngành chỉ ra rằng các mô hình tương tự có thể cải thiện đáng kể hiệu quả tấn công và phòng thủ mạng, đồng thời cũng có thể mang lại những thách thức an ninh mới. (Bloomberg)