OpenAI: การปรับปรุงความแม่นยำของโมเดลเพื่อลดปัญหาภาพหลอน Whisper

Odaily แพลนเน็ต เดลี่ วิศวกรซอฟต์แวร์ นักพัฒนา และนักวิจัยเชิงวิชาการได้แสดงความกังวลเกี่ยวกับผลกระทบที่อาจเกิดขึ้นจากเครื่องมือถอดเสียง Whisper ของ OpenAI นักวิจัยกล่าวว่า Whisper ได้รวมทุกอย่างตั้งแต่ความคิดเห็นเกี่ยวกับเชื้อชาติไปจนถึงการรักษาทางการแพทย์ที่จินตนาการไว้ในบันทึก สิ่งนี้อาจส่งผลร้ายแรงอย่างยิ่งเนื่องจาก Whisper ถูกใช้ในโรงพยาบาลและสถานพยาบาลอื่นๆ นักวิจัยจากมหาวิทยาลัยมิชิแกนที่กำลังศึกษาการประชุมสาธารณะพบว่าภาพหลอนเกิดขึ้นใน 8 ใน 10 ของการถอดเสียง วิศวกรแมชชีนเลิร์นนิงศึกษาการถอดเสียง Whisper มากกว่า 100 ชั่วโมง และพบว่ามากกว่าครึ่งมีอาการประสาทหลอน นักพัฒนารายหนึ่งรายงานว่าพบอาการประสาทหลอนในการถอดเสียงเกือบทั้งหมดจาก 26,000 ที่เขาสร้างขึ้นด้วย Whisper โฆษกของ OpenAI กล่าวว่าบริษัท "ทำงานอย่างต่อเนื่องเพื่อปรับปรุงความแม่นยำของแบบจำลอง รวมถึงการลดอาการประสาทหลอน" โดยสังเกตว่านโยบายการใช้งานของบริษัทห้ามมิให้ใช้ Whisper ใน "สภาพแวดล้อมการตัดสินใจที่มีเดิมพันสูงบางอย่าง" (สมาคมสื่อมวลชน)