ผู้บริหารระดับสูงของ Microsoft: องค์กรต่างๆ ควรถือว่า AI เป็นความเสี่ยงด้านความปลอดภัยภายใน และต้องมั่นใจว่า AI Agent สามารถหยุดชั่วคราวหรือปิดได้ตลอดเวลา

รายงานข่าวจาก Odaily: Satya Nadella ซีอีโอของ Microsoft กล่าวว่า องค์กรต่างๆ ควรนำโมเดล AI เข้าสู่ระบบการบริหารจัดการความเสี่ยงด้านความปลอดภัยภายใน แม้ว่าโมเดลนั้นจะไม่มีเจตนาร้าย แต่ก็อาจก่อให้เกิดความเสี่ยงด้านความปลอดภัยเนื่องจากข้อผิดพลาดหรือถูกผู้โจมตีนำไปใช้ประโยชน์ โดยเฉพาะเมื่อเกี่ยวข้องกับการเข้าถึงข้อมูลที่ละเอียดอ่อนและการดำเนินการที่สำคัญ องค์กรไม่สามารถพึ่งพาเพียงคำรับประกันด้านความปลอดภัยจากผู้ให้บริการโมเดลเท่านั้น

Nadella เน้นย้ำว่า ควรแยกโมเดล AI ออกจากกรอบการทำงานของ Agent โดยควบคุมการเข้าถึงข้อมูลและสิทธิ์ในการเรียกใช้เครื่องมือผ่านระบบภายนอก และเก็บบันทึกที่ป้องกันการปลอมแปลงและพร้อมให้มนุษย์ตรวจสอบสำหรับการดำเนินการที่สำคัญ นอกจากนี้ องค์กรควรพิจารณาความเป็นไปได้ที่โมเดลจะถูกบุกรุกตั้งแต่ขั้นตอนการปรับใช้ เพื่อให้มั่นใจว่าผู้มีอำนาจสามารถหยุดชั่วคราวหรือปิด Agent ได้ตลอดเวลา รวมทั้งดำเนินการทดสอบด้านความปลอดภัยและการเปิดเผยเหตุการณ์อย่างต่อเนื่อง

นอกจากนี้ Microsoft ยังได้ประกาศในเดือนนี้ว่าแพลตฟอร์ม Windows รองรับเครื่องมือแยกส่วน MXC อย่างเป็นทางการแล้ว ซึ่งสามารถจำกัดการเข้าถึงไฟล์และเครือข่ายของ Agent ผ่านนโยบายภายนอกได้