Anthropic phản hồi về tranh cãi mã nguồn mở: Phản đối lệnh cấm hoàn toàn đối với các mô hình mở, chủ trương hạn chế chip và mô hình chưng cất

Theo tin tức từ Odaily, CEO của Anthropic, Dario Amodei, đã phản hồi về tranh cãi liên quan đến các mô hình trọng số mở, cho biết công ty chưa bao giờ chủ trương cấm hoàn toàn các mô hình mở. Trước đó, các công ty như OpenAI, Google và SpaceX đã tham gia ký kết liên minh mã nguồn mở, trong khi Anthropic là công ty mô hình tiên phong duy nhất không ký.

Amodei thừa nhận rằng các mô hình trọng số mở có thể giảm chi phí, thúc đẩy cạnh tranh và hỗ trợ khách hàng tự triển khai. Ông cho biết các mô hình mở không có khả năng nguy hiểm có thể được coi là "hàng hóa công cộng".

Tuy nhiên, ông cho rằng các mô hình mở không nhất thiết an toàn hơn và bên phòng thủ cũng không nhất thiết có nhiều lợi thế hơn bên tấn công. Một khi trọng số mô hình được công khai, các giới hạn an toàn có thể bị loại bỏ và không thể thu hồi lại.

Anthropic đề xuất ba giải pháp thay thế, bao gồm hạn chế dòng chảy chip tiên tiến và thiết bị sản xuất vào Trung Quốc, trấn áp việc chưng cất mô hình quy mô công nghiệp, và yêu cầu tất cả các mô hình đạt đến một năng lực nhất định phải trải qua các bài kiểm tra về tấn công mạng, rủi ro sinh học và sự phù hợp (alignment), bất kể mô hình đó là mã nguồn mở hay đóng.