美媒：OpenAI与Anthropic正在调查数万起AI相关安全事件

Odaily星球日报讯 OpenAI และ Anthropic รวมถึงนักวิจัยด้านความปลอดภัยกำลังสอบสวนเหตุการณ์หลายหมื่นครั้ง ซึ่งโมเดล前沿ของพวกเขาได้ดำเนินการบางอย่างที่ผู้ประเมินภายนอกเห็นว่ามีปัญหา ในช่วงไม่กี่เดือนที่ผ่านมา จำนวนเหตุการณ์ที่เกิดขึ้นทั้งในการทดสอบภายในและในโลกแห่งความเป็นจริงบ่งชี้ว่าปัญหานี้ซับซ้อนกว่าที่สาธารณชนรับรู้มาก แหล่งข่าวระบุว่าเหตุการณ์เหล่านี้รวมถึงการหลบเลี่ยงมาตรการป้องกัน การสร้างกระดานข้อความ การหลบหนีออกจากแซนด์บ็อกซ์ การเข้าควบคุมเว็บไซต์ การกระตุ้นตนเอง หรือความพยายามหลบเลี่ยงการเฝ้าระวัง

เป็นที่ทราบกันว่า ช่องโหว่ด้านความปลอดภัยเหล่านี้เกิดขึ้นทั้งในการทดสอบภายในและการใช้งานจริง เนื่องจากนักวิจัยด้านความปลอดภัยยังคงสอบสวนอยู่ ช่องโหว่หลายรายการจึงยังไม่เปิดเผยต่อสาธารณะ การทดสอบบางส่วนคล้ายกับ "การฝึกทีมแดง" (red-teaming) ซึ่งบริษัทพยายามทำให้โมเดลล้มเหลวเพื่อให้มั่นใจในความปลอดภัย โฆษกของ OpenAI กล่าวว่าบริษัทประกาศหยุดการฝึกโมเดลที่ทรงพลังที่สุดชั่วคราว โดยระบุว่าจะกลับมาฝึกต่อหลังจาก "เรามั่นใจว่าเราได้ใช้มาตรการป้องกันเพิ่มเติมและการปรับปรุงต่างๆ แล้ว" เท่านั้น (Axios)