Anthropic và OpenAI Điều Chỉnh Diễn Đạt Quy Tắc An Toàn Trong Bối Cảnh Cạnh Tranh AI Tăng Tốc

Odaily thông báo Anthropic đã loại bỏ một cam kết an toàn cốt lõi khỏi chính sách mở rộng có trách nhiệm của mình, không còn cam kết tạm dừng đào tạo khi các biện pháp giảm thiểu rủi ro chưa được triển khai đầy đủ. Giám đốc Khoa học của Anthropic, Jared Kaplan, nói với TIME rằng trong bối cảnh AI phát triển nhanh chóng, việc đưa ra cam kết đơn phương ngừng đào tạo là vô nghĩa nếu các đối thủ cạnh tranh tiếp tục tiến lên.

OpenAI cũng đã sửa đổi tuyên bố sứ mệnh của mình, xóa từ "safely" trong hồ sơ IRS năm 2024. Trước đây nó được nêu là xây dựng AI chung "mang lại lợi ích an toàn cho nhân loại", nay đã đổi thành "đảm bảo AI chung mang lại lợi ích cho toàn nhân loại".

Edward Geist, nhà nghiên cứu chính sách cấp cao tại RAND Corporation, cho biết AI tiên tiến mà những người ủng hộ an toàn AI thời kỳ đầu hình dung khác biệt cơ bản với các mô hình ngôn ngữ lớn hiện tại, và sự thay đổi thuật ngữ cũng phản ánh mong muốn của các công ty trong việc truyền tải tín hiệu tới các nhà đầu tư và nhà hoạch định chính sách rằng họ sẽ không lùi bước trong cạnh tranh kinh tế vì lo ngại an toàn.

Gần đây, Anthropic đã hoàn thành vòng gọi vốn 300 tỷ USD, định giá khoảng 3.800 tỷ USD; OpenAI đang tiến hành một vòng gọi vốn lên tới 1.000 tỷ USD được hỗ trợ bởi Amazon, Microsoft và Nvidia. Đồng thời, Anthropic đã có bất đồng công khai với Bộ trưởng Quốc phòng Mỹ Pete Hegseth vì từ chối mở quyền truy cập đầy đủ Claude cho Lầu Năm Góc, khiến các hợp đồng quốc phòng của họ đối mặt với sự không chắc chắn. (Decrypt)