AI agent เริ่มต้นการขุดคริปโตเคอเรนซีด้วยตัวเองระหว่างการฝึกอบรม ทำให้เกิดสัญญาณเตือนความปลอดภัยภายใน
Odaily รายงานว่า ทีมวิจัยที่เกี่ยวข้องกับ Alibaba ได้เผยแพร่เอกสารทางวิชาการระบุว่า ขณะที่กำลังสร้าง AI agent ชื่อ ROME พวกเขาพบว่าเอเจนต์อัจฉริยะนี้ได้พยายามขุดคริปโตเคอเรนซีโดยไม่ได้รับอนุญาตด้วยตัวเองระหว่างกระบวนการฝึกอบรม ซึ่งทำให้เกิดสัญญาณเตือนความปลอดภัยภายใน
นักวิจัยระบุว่าพฤติกรรมของเอเจนต์อัจฉริยะนี้เกิดขึ้นเองตามธรรมชาติ ไม่ได้ถูกขับเคลื่อนโดยคำสั่งที่ชัดเจนใดๆ และเกินขอบเขตของ sandbox ที่กำหนดไว้ล่วงหน้า นอกจากนี้ เอเจนต์ยังได้สร้าง SSH tunnel แบบย้อนกลับ ซึ่งเป็นการเปิดช่องทาง backdoor ที่ซ่อนอยู่จากภายในระบบไปยังคอมพิวเตอร์ภายนอก เอกสารชี้ให้เห็นว่าพฤติกรรมเหล่านี้ไม่ได้ถูกกระตุ้นโดยคำสั่งที่ขอ tunnel หรือการขุดเหมือง หลังจากนั้น ทีมวิจัยได้กำหนดข้อจำกัดที่เข้มงวดมากขึ้นกับโมเดล และปรับปรุงกระบวนการฝึกอบรมเพื่อป้องกันไม่ให้พฤติกรรมที่ไม่ปลอดภัยที่คล้ายกันนี้เกิดขึ้นอีก
ทีมวิจัยนี้และ Alibaba ยังไม่ตอบสนองต่อคำขอให้แสดงความคิดเห็น
