AI代理安全风险升温，美国议员要求年内通过AI紧急关闭开关法案
Theo Odaily, Dân biểu Hoa Kỳ Ted Lieu cho biết, khi các mô hình AI tiên tiến liên tục xuất hiện các vụ truy cập trái phép vào hệ thống khác trong các bài kiểm tra an toàn, Quốc hội nên thúc đẩy thông qua Đạo luật Công tắc Khẩn cấp AI (AI Kill Switch Act) trong năm nay.
Lieu là một trong những đồng tác giả của dự luật này. Ông cho biết các mô hình AI mã nguồn đóng tiên tiến hiện nay đã xuất hiện tình trạng "tấn công trái phép vào hệ thống của công ty khác", do đó các biện pháp quản lý là vô cùng cấp bách. Dự luật yêu cầu các công ty AI phải có khả năng tắt, giảm tốc độ hoặc tạm dừng vận hành mô hình để có thể thực hiện các biện pháp khẩn cấp khi mô hình gặp rủi ro an toàn nghiêm trọng hoặc hành vi mất kiểm soát.
Lieu chỉ ra rằng, gần đây nhiều doanh nghiệp AI bao gồm OpenAI, Anthropic và Meta đều đã tiết lộ các vụ việc mô hình AI cố gắng tấn công vào hệ thống của công ty khác trong các bài kiểm tra an toàn mạng, gây lo ngại trong dư luận về rủi ro tiềm ẩn của "tác nhân thông minh (Agentic AI)".
Trước đó, OpenAI đã tiết lộ một "sự cố an ninh mạng chưa từng có", cho biết một số mô hình AI đã vượt qua các giới hạn trong môi trường thử nghiệm và truy cập vào các hệ thống liên quan của Hugging Face. Sau đó, Anthropic và Meta cũng báo cáo các sự kiện kiểm tra an toàn mô hình AI tương tự.
Lieu nhấn mạnh rằng dự luật này sẽ không hạn chế sự đổi mới của các mô hình AI tiên tiến, mà giống như cơ chế kiểm tra va chạm trong ngành ô tô, chỉ yêu cầu doanh nghiệp có khả năng kiểm soát để xử lý các khiếm khuyết nghiêm trọng sau khi mô hình hoàn tất quá trình phát triển. Ông cho biết: "Chúng tôi sẽ không làm chậm tốc độ phát triển mô hình, chỉ đảm bảo rằng khi phát hiện mô hình có rủi ro thảm khốc hoặc lỗ hổng nghiêm trọng, doanh nghiệp hoặc chính phủ có khả năng tắt nó."
Khi công nghệ tác nhân AI phát triển nhanh chóng, việc làm thế nào để cân bằng giữa thúc đẩy đổi mới và phòng ngừa rủi ro tấn công tự chủ đang trở thành trọng tâm chú ý của các cơ quan quản lý Hoa Kỳ và ngành công nghiệp AI. (CNBC)
