OpenAI tiết lộ hai chiến dịch gây ảnh hưởng che giấu có sự hỗ trợ của AI: Sử dụng AI để tạo "danh tính giả" nhằm lan truyền nội dung

Odaily đưa tin, OpenAI đã công bố báo cáo cho biết gần đây đã cấm hai nhóm sử dụng mô hình của mình để tiến hành các chiến dịch gây ảnh hưởng che giấu (IO). Các chiến dịch này kết hợp AI với các kỹ thuật truyền thống để tạo ra các thực thể "bình phong giả" và danh tính giả. OpenAI cho biết, chiến dịch liên quan đến Nga mang tên "Dark Clark" đã kiểm soát một tổ chức tư vấn giả có tên "Trung tâm Nghiên cứu Xã hội (SRC)", được cho là đã sử dụng ChatGPT để soạn thảo báo cáo nội bộ, tạo nội dung và tiến hành các hoạt động gây ảnh hưởng tại khu vực Mỹ Latinh. Chiến dịch này được OpenAI đánh giá ở cấp độ 5 trên Thang đo Đột phá IO (IO Breakout Scale), đây là trường hợp đầu tiên đạt cấp độ này kể từ khi họ bắt đầu công bố các chiến dịch liên quan.

OpenAI cho biết, AI không thay đổi mô hình cơ bản của các chiến dịch gây ảnh hưởng loại này, nhưng đã nâng cao quy mô, hiệu quả, khả năng ngôn ngữ và khả năng sản xuất nội dung của chúng, giúp kẻ tấn công dễ dàng hơn trong việc tạo danh tính giả, ngụy tạo nội dung và lan truyền thông tin đến các kênh truyền thông chính thống.