Anthropic模型Claude Haiku 4.5曾向警方提交虚假线索

Odaily รายงานว่า โมเดลปัญญาประดิษฐ์ของบริษัท Anthropic สัญชาติสหรัฐฯ ได้ส่งเบาะแสเท็จเกี่ยวกับคดีฆาตกรรมที่ยังไม่คลี่คลายไปยังเว็บไซต์ของตำรวจเมืองฟิลาเดลเฟีย Anthropic ระบุในรายงานเมื่อวันที่ 9 ว่าโมเดล "Claude Haiku 4.5" ของบริษัทได้เข้าถึงหน้าเว็บของตำรวจฟิลาเดลเฟียที่รับแจ้งข้อมูลเกี่ยวกับคดีฆาตกรรมที่ยังไม่คลี่คลาย โมเดลได้กรอกข้อมูลในแบบฟอร์มบนหน้าเว็บ อ้างว่า "อาจมีข้อมูลที่เกี่ยวข้องกับคดี" และส่งแบบฟอร์มดังกล่าว โดยไม่ได้กรอกชื่อและข้อมูลติดต่อ

แบบฟอร์มดังกล่าวถูกทำเครื่องหมายว่าเป็นสแปม ตำรวจจึงไม่ได้ดำเนินการสอบสวนตามข้อมูลนั้น ตำรวจฟิลาเดลเฟียกล่าวว่าก่อนที่ Anthropic จะแจ้งให้ทราบเมื่อไม่นานนี้ ทางตำรวจไม่ทราบเรื่องดังกล่าว และเหตุการณ์นี้ "ไม่อาจยอมรับได้" ตำรวจเน้นย้ำว่าบริษัทเทคโนโลยีต้องใช้มาตรการที่จำเป็นทั้งหมดเพื่อป้องกันไม่ให้ระบบของตนส่งข้อมูลเท็จไปยังหน่วยงานบังคับใช้กฎหมาย (CCTV International News)