Anthropic đồng sáng lập Dario Amodei: AI nguồn mở có thể đi vào con đường nguy hiểm

Odaily báo cáo rằng Dario Amodei, đồng sáng lập kiêm Giám đốc điều hành của Anthropic, đã nói với các nhà lập pháp tại Quốc hội Hoa Kỳ rằng sự phát triển của AI nguồn mở đang đi vào một "con đường rất nguy hiểm". Một khi các mô hình AI có khả năng mạnh mẽ được phát hành dưới dạng nguồn mở, các nhà phát triển sẽ mất khả năng giám sát hiệu quả việc sử dụng mô hình, bao gồm không thể giám sát hành vi lạm dụng, thu hồi quyền truy cập hoặc cập nhật động các cơ chế bảo vệ an toàn, từ đó làm tăng rủi ro tiềm ẩn. Dario Amodei cho biết, so với các hệ thống mô hình khép kín, các mô hình hoàn toàn mở khó thực hiện kiểm soát liên tục trong quản trị an toàn, có thể dẫn đến các rủi ro lạm dụng không thể đảo ngược.