Anthropic CEO: Chính phủ nên có quyền ngăn chặn việc triển khai các mô hình mới

Odaily Planet Daily đưa tin, Giám đốc điều hành Anthropic, Dario Amodei cho biết, nếu các mô hình trí tuệ nhân tạo mới có rủi ro cụ thể, chính phủ nên có quyền ngăn chặn việc triển khai chúng. Amodei hôm thứ Tư đã đăng một bài viết dài, chủ trương rằng các mô hình AI nên trải qua các bài kiểm tra bắt buộc của bên thứ ba để đánh giá rủi ro tiềm ẩn trong nhiều lĩnh vực. Ông viết, nếu AI bị đánh giá là "có rủi ro không thể chấp nhận được", thì "chính phủ nên có quyền ngăn chặn hoặc hạn chế việc triển khai nó". Đây là một trong những tuyên bố mạnh mẽ nhất của Amodei cho đến nay về việc tăng cường quản lý AI. Amodei viết: "Tôi cho rằng, ít nhất là trong giai đoạn phát triển theo cấp số nhân hiện tại, sự tương tự phù hợp nhất là ô tô, máy bay hoặc dược phẩm, những công nghệ này rất quan trọng đối với nền kinh tế hiện đại, nhưng nếu được thiết kế hoặc sử dụng không đúng cách, cũng có thể dẫn đến cái chết của nhiều người." Anthropic trước đây đã từng cảnh báo thế giới bên ngoài rằng mô hình AI Mythos của họ có khả năng phát hiện và khai thác các lỗ hổng phần mềm quan trọng, do đó công ty quyết định chỉ cung cấp mô hình này cho một số ít đối tác. Tuần này, Anthropic đã phát hành một phiên bản mới đã loại bỏ khả năng tấn công an ninh mạng liên quan. (Jin Shi)