Anthropic: Kêu gọi tạm dừng phát triển AI tiên tiến trên toàn cầu

Odaily星球日报讯 Công ty Anthropic kêu gọi các phòng thí nghiệm AI hàng đầu cân nhắc làm chậm tốc độ nghiên cứu và phát triển, đồng thời cho biết tốc độ phát triển của hệ thống AI cực kỳ nhanh, có thể sớm đạt được khả năng tự cải thiện mà không cần sự can thiệp của con người, khả năng này có thể gây ra những rủi ro xã hội lớn. Dữ liệu nội bộ do Anthropic tiết lộ cho thấy hiệu suất của các mô hình tiên tiến nhất của họ đang được cải thiện nhanh chóng và sự tiến bộ của các mô hình AI dường như đang hướng tới "tự cải thiện đệ quy", tức là hệ thống AI có thể tự động tối ưu hóa mà không cần sự can thiệp của con người. Anthropic cho biết, nếu thế giới có thể chọn làm chậm hoặc tạm thời đình chỉ phát triển AI tiên tiến, để cấu trúc xã hội và nghiên cứu liên quan có thể theo kịp tốc độ phát triển công nghệ, điều đó sẽ có lợi cho toàn cầu. Anthropic đề xuất đạt được một thỏa thuận toàn cầu, nêu rõ cách làm chậm tốc độ phát triển AI và thiết lập cơ chế xác minh các đối thủ cạnh tranh có tuân thủ thỏa thuận hay không.