CertiK รายงาน: จากเครื่องมือช่วยสู่ "พนักงาน AI" AI แบบเอเจนต์พลิกโฉมงานความปลอดภัยและการปฏิบัติตามกฎเกณฑ์
Odaily รายงานว่า บริษัทความปลอดภัย Web3 อย่าง CertiK ได้เปิดตัวรายงาน Intel3D อย่างเป็นทางการในวันนี้ ภายใต้ชื่อ "การ崛起ของพนักงาน AI: AI แบบเอเจนต์พลิกโฉมความปลอดภัยไซเบอร์ การป้องกันการฟอกเงิน และการปฏิบัติตามกฎเกณฑ์อย่างไร" รายงานระบุว่า AI กำลังเปลี่ยนบทบาทจากเครื่องมือช่วยที่ช่วยนักวิเคราะห์ระบุปัญหา ไปสู่สมาชิกในทีมงานที่สามารถดำเนินการสอบสวน ตัดสินใจ และจัดการงานภายใต้อำนาจที่จำกัด การเปลี่ยนแปลงนี้กำลังพลิกโฉมกระบวนการด้านความปลอดภัยและการปฏิบัติตามกฎเกณฑ์ทั้งในภาคการเงินแบบดั้งเดิมและ Web3 อีกทั้งยังตั้งข้อกำหนดใหม่ต่อวิธีการที่องค์กรจะกำกับดูแล AI กำหนดขอบเขตอำนาจ และรับผิดชอบ
รายงานยังเตือนว่าการตัดสินใจผิดพลาดของโมเดล การโจมตีแบบ prompt injection และการที่ผู้โจมตีนำ AI ไปใช้ อาจนำมาซึ่งความเสี่ยงใหม่ ๆ เมื่อ AI เริ่มถือครองและซื้อขายสินทรัพย์ดิจิทัล พฤติกรรมของ AI เองก็จำเป็นต้องได้รับการตรวจสอบเช่นกัน CertiK แนะนำให้องค์กรจัดตั้งกลไกการกำกับดูแลที่ครอบคลุมขอบเขตอำนาจ การอนุมัติโดยมนุษย์ การบันทึกการตัดสินใจ และการแบ่งความรับผิดชอบ พร้อมทั้งจัดการทดสอบ red team อย่างสม่ำเสมอ กลไกนี้จำเป็นต้องได้รับการพัฒนาให้สอดคล้องกับความสามารถในการปฏิบัติงานของ AI จึงจะสามารถสนับสนุนให้ "พนักงาน AI" สร้างคุณค่าแก่安全工作ด้านความปลอดภัยและการปฏิบัติตามกฎเกณฑ์อย่างต่อเนื่อง ภายใต้เงื่อนไขที่สามารถกำกับดูแลและตรวจสอบความรับผิดชอบได้
