OpenAI เปิดเผยปฏิบัติการแทรกแซงอิทธิพลที่ใช้ AI ช่วย 2 กรณี: ใช้ AI สร้าง "ตัวตนปลอม" เผยแพร่เนื้อหา

Odaily รายงานว่า OpenAI ได้เผยแพร่รายงานระบุว่า เมื่อเร็ว ๆ นี้ได้แบนกลุ่มสองกลุ่มที่ใช้โมเดลของตนดำเนินปฏิบัติการแทรกแซงอิทธิพล (IO) แบบลับ โดยปฏิบัติการดังกล่าวใช้ AI ผสมผสานกับเทคนิคแบบดั้งเดิมเพื่อสร้างเอนทิตี "หน้ากากเสมือน" และตัวตนปลอม OpenAI ระบุว่า ปฏิบัติการที่เกี่ยวข้องกับรัสเซียชื่อ "Dark Clark" ควบคุมคลังสมองปลอมชื่อ "ศูนย์วิจัยสังคม (SRC)" ซึ่งสงสัยว่าใช้ ChatGPT เขียนรายงานภายใน สร้างเนื้อหา และดำเนินกิจกรรมแทรกแซงอิทธิพลในภูมิภาคละตินอเมริกา ปฏิบัติการนี้ถูก OpenAI ประเมินว่าอยู่ในระดับ 5 ของ IO Breakout Scale ซึ่งเป็นกรณีแรกที่พบว่าถึงระดับนี้ตั้งแต่เริ่มเปิดเผยปฏิบัติการดังกล่าว

OpenAI ระบุว่า AI ไม่ได้เปลี่ยนแปลงรูปแบบพื้นฐานของปฏิบัติการแทรกแซงอิทธิพลประเภทนี้ แต่ได้เพิ่มขีดความสามารถด้านขนาด ประสิทธิภาพ ความสามารถทางภาษา และการผลิตเนื้อหา ทำให้ผู้โจมตีสามารถสร้างตัวตนปลอม ปลอมแปลงเนื้อหา และเผยแพร่ข้อมูลไปยังช่องทางสื่อจริงได้ง่ายขึ้น