Anthropic vận động Quốc hội Mỹ thúc đẩy dự luật an toàn AI, đề xuất ngưỡng chính phủ đình chỉ mô hình ở mức thiệt hại trên 1 tỷ USD hoặc 50 người thương vong

Odaily đưa tin, Anthropic đang vận động riêng các nghị sĩ Quốc hội Mỹ để thúc đẩy một dự thảo luật an toàn AI tiên tiến, đề xuất quy định rằng chính phủ chỉ có thể xin tạm đình chỉ hoạt động của mô hình khi mô hình AI tồn tại rủi ro cụ thể có thể dự đoán trước và cận kề, có khả năng gây thiệt hại kinh tế trên 1 tỷ USD, hoặc dẫn đến ít nhất 50 người tử vong hoặc bị thương nặng.

Dự thảo giới hạn điều kiện kích hoạt quản lý vào ba loại rủi ro: nghiên cứu hoặc phổ biến vũ khí sinh học, mô hình AI thoát khỏi tầm kiểm soát của nhà phát triển, và tấn công mạng. Đồng thời yêu cầu các nhà phát triển AI tiến hành kiểm thử an toàn minh bạch và chấp nhận đánh giá độc lập của bên thứ ba; sau khi tổ chức đánh giá phát hiện rủi ro liên quan phải báo cáo lên Bộ Thương mại Mỹ trong vòng 72 giờ, Bộ Thương mại sẽ xin tòa án liên bang tạm đình chỉ hoạt động của mô hình, cuối cùng do tòa án phán quyết.

Ngoài ra, dự thảo dự kiến giới hạn quyền hạn của các cơ quan chính phủ Mỹ khác và các quan chức trong việc độc lập đình chỉ phát triển, triển khai hoặc sử dụng nội bộ mô hình AI. Anthropic cho biết đề xuất này nhằm thiết lập cơ chế đánh giá an toàn, đồng thời trao cho chính phủ khả năng ngăn chặn triển khai các mô hình nguy hiểm. Hiện dự thảo vẫn đang trong giai đoạn vận động, chưa trở thành luật. (Reuters)