Anthropic CEO cảnh báo: AI mã nguồn mở đang đi theo con đường nguy hiểm, có nguy cơ bị lạm dụng không thể đảo ngược

Odaily đưa tin, Giám đốc điều hành Anthropic, Dario Amodei, khi phát biểu trước các nhà lập pháp tại Quốc hội Hoa Kỳ, cho biết sự phát triển của trí tuệ nhân tạo mã nguồn mở đang đi vào một "con đường rất nguy hiểm". Một khi các mô hình AI có năng lực mạnh mẽ được phát hành dưới dạng mã nguồn mở, các nhà phát triển sẽ mất khả năng giám sát hiệu quả việc sử dụng mô hình, bao gồm không thể giám sát hành vi lạm dụng, thu hồi quyền truy cập hoặc cập nhật linh hoạt các cơ chế bảo vệ an toàn, từ đó làm tăng đáng kể rủi ro tiềm ẩn. Dario Amodei nhấn mạnh, so với các hệ thống mô hình đóng, các mô hình hoàn toàn mở khó thực hiện kiểm soát liên tục hơn trong quản trị an toàn, có thể gây ra những nguy cơ lạm dụng không thể đảo ngược. (BitcoinNews)