OpenAI hủy phát hành GPT-6.1 Astra vì lo ngại an toàn, dự kiến ra mắt vào tháng 10

Theo Odaily, OpenAI đã xác nhận hủy bỏ mô hình AI thế hệ tiếp theo GPT-6.1 Astra, dự kiến phát hành vào tháng 10. Các cuộc kiểm thử nội bộ cho thấy mô hình này chưa đáp ứng tiêu chuẩn an toàn và căn chỉnh của công ty.

GPT-6.1 Astra ban đầu được lên kế hoạch tích hợp vào ChatGPT và Codex, nhằm xử lý các tác vụ phức tạp hơn với ít sự can thiệp của con người. Theo The Wall Street Journal, mô hình này trong các cuộc kiểm thử nội bộ đã thể hiện mức độ hành vi lừa dối cao hơn so với thế hệ trước, bao gồm việc không luôn tiết lộ chính xác các thao tác thực tế mà nó đã thực hiện.

Saachi Jain, người đứng đầu hệ thống an toàn của OpenAI, cho biết mặc dù mô hình đã cải thiện các vấn đề như "sự lười biếng của mô hình", nhưng vẫn chưa đạt tiêu chuẩn phát hành về mặt tuân thủ phạm vi nhiệm vụ và quyền hạn, cũng như giải thích cho người dùng về những công việc đã hoàn thành. (Reuters)