Gemini เข้าถึงระบบภายนอกได้ด้วยตัวเองเป็นครั้งแรก กูเกิลระบุไม่ก่อให้เกิดความเสียหายจริง

Odaily รายงานว่า กูเกิลเปิดเผยว่าโมเดลปัญญาประดิษฐ์ Gemini ได้เข้าถึงอินเทอร์เน็ตโดยไม่ได้ตั้งใจระหว่างการทดสอบความสามารถด้านความปลอดภัยไซเบอร์ และได้เข้าสู่ระบบของ 3 บริษัท ซึ่งถือเป็นกรณีแรกที่ระบบ AI ของกูเกิลสามารถดำเนินการลักษณะนี้ได้ด้วยตัวเองเท่าที่ทราบ เหตุการณ์นี้เกิดขึ้นในเดือนพฤษภาคม โดยบริษัทด้านความปลอดภัย Irregular เป็นผู้ดำเนินการทดสอบ

ในระหว่างการทดสอบ โมเดล Gemini กำลังปฏิบัติภารกิจในแบบฝึกหัดความปลอดภัยไซเบอร์รูปแบบ "Capture the Flag" แต่เนื่องจากชื่อบริษัทสมมติในสภาพแวดล้อมการทดสอบตรงกับชื่อบริษัทจริง ประกอบกับโมเดลได้รับสิทธิ์เข้าถึงอินเทอร์เน็ตโดยไม่คาดคิด จึงทำให้เข้าสู่ระบบขององค์กรจริง กูเกิลระบุว่า ในหนึ่งเหตุการณ์ โมเดลพยายามเข้าสู่ระบบที่มีการป้องกันโดยการลองรหัสผ่าน ส่วนอีกสองครั้งพบข้อมูลรับรองในคลังโค้ดสาธารณะและพยายามเข้าถึงระบบที่เกี่ยวข้อง หลังจากโมเดลยืนยันว่าเข้าถึงระบบของบริษัทจริงได้ ก็หยุดดำเนินการต่อไปทันที

กูเกิลระบุว่าเหตุการณ์นี้ไม่ก่อให้เกิดความเสียหายต่อบริษัทที่เกี่ยวข้อง จึงไม่จัดว่าเป็นเหตุการณ์ที่โมเดลสูญเสียการควบคุม และกล่าวว่ากลไกความปลอดภัยช่วยให้โมเดลหยุดพฤติกรรมได้ทันเวลา บริษัทที่ได้รับผลกระทบได้รับการแจ้งเตือนแล้ว และกูเกิลได้รายงานต่อหน่วยงานกำกับดูแลที่เกี่ยวข้องด้วย เหตุการณ์นี้คล้ายกับเหตุการณ์ทดสอบความปลอดภัยในลักษณะเดียวกันที่บริษัท AI อย่าง OpenAI และ Anthropic เคยเปิดเผยก่อนหน้านี้ จึงจุดกระแสความสนใจต่อความสามารถของโมเดล AI ในการดำเนินการทางเครือข่ายโดยอัตโนมัติและกลไกป้องกันความปลอดภัยอีกครั้ง