Anthropic หาเสียงกับรัฐสภาสหรัฐฯ ผลักดันร่างกฎหมายความปลอดภัย AI เสนอเกณฑ์รัฐสั่งระงับโมเดลเมื่อความเสียหายเกิน 1 พันล้านดอลลาร์หรือมีผู้เสียชีวิต/บาดเจ็บ 50 ราย

Odaily รายงานว่า Anthropic กำลังหาเสียงแบบส่วนตัวกับสมาชิกรัฐสภาสหรัฐฯ เพื่อผลักดันร่างกฎหมายความปลอดภัย AI แบบ frontier โดยกำหนดว่าภาครัฐจะสามารถยื่นคำขอระงับการดำเนินงานของโมเดลได้ก็ต่อเมื่อโมเดล AI นั้นมีความเสี่ยงเฉพาะที่คาดการณ์ได้และใกล้จะเกิดขึ้น ซึ่งอาจก่อให้เกิดความเสียหายทางเศรษฐกิจเกิน 1 พันล้านดอลลาร์ หรือทำให้มีผู้เสียชีวิตหรือบาดเจ็บสาหัสอย่างน้อย 50 ราย

ร่างกฎหมายกำหนดเงื่อนไขที่กระตุ้นการกำกับดูแลไว้เพียงสามประเภทความเสี่ยง ได้แก่ การพัฒนาหรือการแพร่กระจายอาวุธชีวภาพ, โมเดล AI หลุดจากการควบคุมของผู้พัฒนา และการโจมตีทางไซเบอร์ พร้อมทั้งกำหนดให้นักพัฒนา AI ดำเนินการทดสอบความปลอดภัยอย่างโปร่งใสและรับการประเมินจากบุคคลที่สามอิสระ โดยหน่วยงานประเมินเมื่อพบความเสี่ยงที่เกี่ยวข้องต้องรายงานต่อกระทรวงพาณิชย์สหรัฐฯ ภายใน 72 ชั่วโมง จากนั้นกระทรวงพาณิชย์จะเป็นผู้ยื่นคำขอต่อศาลรัฐบาลกลางเพื่อระงับการดำเนินงานของโมเดล และศาลจะเป็นผู้ตัดสินชี้ขาด

นอกจากนี้ ร่างกฎหมายยังเสนอจำกัดอำนาจของหน่วยงานรัฐบาลสหรัฐฯ อื่น ๆ และเจ้าหน้าที่ ในการสั่งระงับการพัฒนา การนำไปใช้ หรือการใช้งานภายในของโมเดล AI โดยอิสระ Anthropic ระบุว่าข้อเสนอนี้มีเป้าหมายเพื่อสร้างกลไกการประเมินความปลอดภัย ขณะเดียวกันก็มอบความสามารถให้ภาครัฐในการยับยั้งการนำโมเดลที่เป็นอันตรายไปใช้งาน ปัจจุบันร่างกฎหมายยังอยู่ในขั้นตอนการหาเสียง ยังไม่กลายเป็นกฎหมาย (รอยเตอร์)