รายงานของ CertiK: จากเครื่องมือช่วยเหลือสู่ "พนักงาน AI" AI แบบเอเจนต์พลิกโฉมงานด้านความปลอดภัยและการปฏิบัติตามกฎเกณฑ์อย่างไร

เมื่อวันที่ 5 ตุลาคม CertiK ซึ่งเป็นบริษัทด้านความปลอดภัย Web3 ที่ใหญ่ที่สุดในโลก ได้เผยแพร่รายงาน Intel3D เรื่อง "การ崛起ของพนักงาน AI: AI แบบเอเจนต์กำลัง重塑ความปลอดภัยไซเบอร์ การต่อต้านการฟอกเงิน และการปฏิบัติตามกฎระเบียบอย่างไร" รายงานระบุว่า AI กำลังเปลี่ยนจากเครื่องมือช่วยวิเคราะห์ที่ช่วยให้บุคลากรระบุปัญหา ไปสู่สมาชิกในทีมงานที่สามารถดำเนินการสืบสวน ตัดสินใจ และจัดการงานได้ภายในขอบเขตอำนาจที่กำหนด การเปลี่ยนแปลงนี้กำลัง重塑กระบวนการด้านความปลอดภัยและการปฏิบัติตามกฎระเบียบในภาคการเงินแบบดั้งเดิมและ Web3 อีกทั้งยังตั้งข้อกำหนดใหม่ต่อวิธีการที่องค์กรจะกำกับดูแล AI กำหนดขอบเขตอำนาจ และรับผิดชอบ

จากการวิเคราะห์เสริมสู่การดำเนินการอัตโนมัติ

รายงานเห็นว่า ความเร็วของการโจมตีและการฟอกเงิน การขาดแคลนผู้เชี่ยวชาญ และข้อกำหนดด้านกฎระเบียบที่เพิ่มขึ้น ล้วนเป็นปัจจัยที่ผลักดันการเปลี่ยนแปลงนี้ ในด้านสินทรัพย์ดิจิทัล การโจมตีอาจเกิดขึ้นเสร็จสิ้นภายในธุรกรรมเดียว และเงินที่ถูกขโมยอาจถูกโอนผ่านหลายที่อยู่และสะพานเชื่อมข้ามเชนภายในระยะเวลาอันสั้น ในขณะเดียวกัน ทีมความปลอดภัยและการปฏิบัติตามกฎระเบียบต้องจัดการกับการแจ้งเตือนและธุรกรรมที่เพิ่มขึ้นอย่างต่อเนื่อง การเพิ่มจำนวนบุคลากรเพียงอย่างเดียวไม่เพียงพอต่อความต้องการในการตรวจสอบและสืบสวนแบบเรียลไทม์อีกต่อไป

เมื่อเทียบกับเครื่องมือ AI แบบดั้งเดิมที่ทำได้เพียงทำเครื่องหมายความผิดปกติหรือสร้างข้อความ AI แบบเอเจนต์สามารถให้เหตุผลหลายขั้นตอน เรียกใช้เครื่องมือภายนอก รวบรวมหลักฐานจากแหล่งต่างๆ และตัดสินใจดำเนินการขั้นต่อไปตามผลลัพธ์ที่ได้ ตัวอย่างเช่น เมื่อตรวจพบการเข้าสู่ระบบที่ผิดปกติ ระบบสามารถดำเนินการสืบสวนโดยผสมผสานข้อมูลอุปกรณ์ ตำแหน่งการเข้าสู่ระบบในอดีต และข่าวกรองภัยคุกคาม ดำเนินมาตรการจัดการภายในขอบเขตอำนาจที่กำหนด พร้อมทั้งบันทึกข้อมูลไว้ให้มนุษย์ตรวจสอบซ้ำ

การแบ่งงานใหม่ในด้านการตรวจสอบความปลอดภัยและการสืบสวนการฟอกเงิน

แนวโน้มนี้ปรากฏให้เห็นแล้วในงานความปลอดภัยแบบดั้งเดิมและการต่อต้านการฟอกเงิน CertiK กล่าวว่า ระบบเอเจนต์สามารถเชื่อมโยงบันทึกจากระบบต่างๆ จัดลำดับความสำคัญของการแจ้งเตือนเบื้องต้น และส่งเหตุการณ์ที่ต้องให้ความสนใจให้มนุษย์จัดการ ในการสืบสวนการฟอกเงิน AI สามารถรวบรวมประวัติธุรกรรม ข้อมูลลูกค้า และความเชื่อมโยงระหว่าง entities เพื่อจัดทำคำอธิบายความเสี่ยงและร่างรายงานกิจกรรมที่น่าสงสัย งานของบุคลากรด้านการปฏิบัติตามกฎระเบียบจะเปลี่ยนไปสู่การตรวจสอบหลักฐาน การจัดการกรณีที่ซับซ้อน และการยืนยันว่าจะส่งรายงานหรือไม่

ในด้าน Web3 การตรวจสอบสัญญาอัจฉริยะและการติดตามเงินทุนบนเชนเป็น ứng dụng ที่รายงานเน้นอภิปราย AI เอเจนต์ช่วยตรวจสอบสามารถ梳理ความสัมพันธ์ของการเรียกใช้ข้ามสัญญา วิเคราะห์การเปลี่ยนแปลงสถานะ และช่วยระบุปัญหาต่างๆ เช่น การกำหนดค่าการควบคุมการเข้าถึงที่ผิดพลาดและการออกแบบการอัปเกรดที่ไม่ปลอดภัย รายงานอ้างอิงจากการปฏิบัติด้านความปลอดภัยของ CertiK ระบุว่า การจัดสรรเวลาของผู้ตรวจสอบอาวุโสกำลังเปลี่ยนแปลงไป การตรวจสอบสิ่งที่ AI ค้นพบ การศึกษเส้นทางการโจมตีที่ซับซ้อน และการประเมินขอบเขตและจุดบอดของเครื่องมือ AI กลายเป็นสิ่งสำคัญมากขึ้น โดยการตัดสินใจขั้นสุดท้ายยังคงเป็นความรับผิดชอบของวิศวกร

การเคลื่อนย้ายเงินทุนข้ามเชนก็กำลังผลักดันให้วิธีการสืบสวนเปลี่ยนไปเช่นกัน รายงานอ้างอิงงานวิจัยก่อนหน้าของ CertiK ว่า ภายในหนึ่งเดือนหลังการโจมตี Bybit 86.29% ของ ETH ที่ถูกขโมยถูกแลกเปลี่ยนเป็น Bitcoin โดยมีบริการผสมเหรียญ สะพานเชื่อมข้ามเชน และการซื้อขายแบบ OTC เป็นช่องทางที่เกี่ยวข้อง เส้นทางลักษณะนี้ต้องการเครื่องมือสืบสวนที่เชื่อมโยงเบาะแสจากหลายเชนอย่างต่อเนื่อง บทบาทของ AI แบบเอเจนต์ในสถานการณ์นี้คือการติดตามการสืบสวนไปพร้อมกับการเคลื่อนย้ายเงินทุน ไม่ใช่เพียง重建เส้นทางธุรกรรมภายหลัง

AI เข้าสู่กระบวนการปฏิบัติตามกฎระเบียบ พฤติกรรมของ AI เองก็ต้องได้รับการตรวจสอบ

งานด้านการปฏิบัติตามกฎระเบียบเริ่มครอบคลุมขั้นตอนก่อนการทำธุรกรรมและขั้นตอนการดำเนินงานประจำวันมากขึ้น: AI เอเจนต์สามารถประเมินที่อยู่ของคู่สัญญาและความเสี่ยงของธุรกรรมก่อนการชำระบัญชี เปรียบเทียบการกำหนดค่าระบบกับข้อกำหนดการควบคุมอย่างต่อเนื่อง และช่วยจัดทำรายงานด้านกฎระเบียบ ซึ่งเปิดโอกาสให้ทีมปฏิบัติตามกฎระเบียบค้นพบความเสี่ยงได้เร็วขึ้น และลดระยะเวลาระหว่างการเกิดความผิดปกติกับการเข้ามาแทรกแซงของมนุษย์

เมื่อเอเจนต์เริ่มถือครองและซื้อขายสินทรัพย์ดิจิทัลโดยตรง ดำเนินกลยุทธ์การซื้อขาย หรือจัดการเงินทุนขององค์กร การกำกับดูแล AI เองก็กลายเป็นประเด็นใหม่ด้านการปฏิบัติตามกฎระเบียบ องค์กรจำเป็นต้องตรวจสอบพฤติกรรมบนเชนของ AI เก็บรักษาข้อมูลที่ AI ใช้ เกณฑ์การตัดสินใจ และการดำเนินการจริง เพื่อการตรวจสอบและสืบพยานในภายหลัง รายงานเน้นว่า การให้ AI ดำเนินงานด้านการปฏิบัติตามกฎระเบียบกับการตัดสินว่า AI เองปฏิบัติตามกฎระเบียบหรือไม่ เป็นสองภารกิจที่แตกต่างกัน องค์กรที่นำไปใช้ยังคงต้องรับผิดชอบต่อพฤติกรรมของเอเจนต์

การดำเนินการอัตโนมัตินำมาซึ่งความเสี่ยงใหม่จากการตัดสินใจผิดพลาดและการโจมตี

ความสามารถในการดำเนินการอัตโนมัติอาจขยายผลกระทบของข้อผิดพลาดได้ CertiK เตือนในรายงานว่า โมเดลอาจตัดสินว่าการบุกรุกจริงเป็นเหตุการณ์ที่ไม่เป็นอันตราย สร้างเส้นทางเงินทุนที่ผิดพลาด หรือให้การประเมินความปลอดภัยที่ไม่น่าเชื่อถือต่อสัญญาอัจฉริยะ ยิ่งระบบมีเสถียรภาพในงานประจำมากเท่าใด ผู้ตรวจสอบที่เป็นมนุษย์ก็ยิ่งมีแนวโน้มผ่อนคลายการตรวจสอบมากขึ้นเท่านั้น และข้อผิดพลาดที่พบได้ยากแต่มีผลกระทบร้ายแรงก็ยิ่งมีโอกาสถูกมองข้ามมากขึ้น

ผู้โจมตีก็สามารถใช้ AI เพื่อเร่งการค้นหาช่องโหว่ การโจมตีแบบวิศวกรรมสังคม และการลาดตระเวน เอเจนต์ด้านความปลอดภัยและการปฏิบัติตามกฎระเบียบที่มีสิทธิ์เข้าถึงข้อมูลอ่อนไหวและสิทธิ์เรียกใช้เครื่องมือก็อาจกลายเป็นเป้าหมายของการโจมตีได้เช่นกัน การฉีดพรอมป์ต์หรือการจัดการข้อมูลนำเข้าอาจหลอกล่อให้เอเจนต์อนุมัติธุรกรรมฉ้อโกง หรือปิดมาตรการควบคุมที่มีประสิทธิภาพ การประเมินความปลอดภัยของ AI จึงจำเป็นต้องทดสอบพฤติกรรมของ AI เมื่อเผชิญกับข้อมูลนำเข้าที่เป็นอันตรายด้วย

ขอบเขตอำนาจและกลไกความรับผิดชอบจำเป็นต้องสร้างขึ้นพร้อมกัน

เพื่อรับมือกับความเสี่ยงเหล่านี้ CertiK แนะนำให้องค์กรกำหนดหน้าที่ ขอบเขตอำนาจ และเส้นทางการจัดการเมื่อเกิดปัญหา ของเอเจนต์ตั้งแต่ขั้นตอนการนำไปใช้ ระบุว่าการดำเนินการใดสามารถทำได้โดยอัตโนมัติ และการดำเนินการใดต้องได้รับการอนุมัติจากมนุษย์ เก็บรักษาบันทึกการตรวจสอบที่สมบูรณ์สำหรับการตัดสินใจสำคัญ และดำเนินการทดสอบ red team อย่างสม่ำเสมอ เอเจนต์แต่ละตัวควรมีผู้รับผิดชอบที่เป็นมนุษย์อย่างชัดเจน ซึ่งรับผิดชอบต่อผลงานและข้อผิดพลาดของเอเจนต์ ขอบเขตงานที่ AI รับผิดชอบสามารถขยายได้ แต่ความรับผิดชอบต่อผลลัพธ์ขององค์กรที่นำไปใช้และบุคลากรที่เกี่ยวข้องยังคงมีอยู่

AI แบบเอเจนต์กำลังสร้างแรงกดดันให้องค์กรต้อง推进การนำไปใช้และการกำกับดูแลไปพร้อมกัน ทีมที่ขาดความสามารถที่เกี่ยวข้องอาจล้าหลังในด้านความเร็วในการดำเนินการ ต้นทุน และขอบเขตความครอบคลุม ส่วนองค์กรที่นำระบบอัตโนมัติไปใช้แต่ไม่มีกลไกกำกับดูแลที่เหมาะสมอาจนำความเสี่ยงด้านการดำเนินงานและการปฏิบัติตามกฎระเบียบใหม่ๆ เข้ามา เมื่อ AI รับภารกิจสำคัญมากขึ้น องค์กรจำเป็นต้องปรับการแบ่งงาน กำหนดขอบเขตอำนาจให้ชัดเจน และบังคับใช้การกำกับดูแลและความรับผิดชอบไปพร้อมกัน การ崛起ของ "พนักงาน AI" กำลังเปลี่ยนแปลงวิธีการจัดองค์กรของงานด้านความปลอดภัยและการปฏิบัติตามกฎระเบียบ และว่าองค์กรจะได้รับประโยชน์อย่างต่อเนื่องหรือไม่นั้น ขึ้นอยู่กับว่าความสามารถด้านการกำกับดูแลจะตามทันความสามารถในการดำเนินการของ AI ได้หรือไม่

ลิงก์รายงาน:https://www.certik.com/certik-report/intel3d/certik-intel3d-the-rise-of-the-ai-security-workforce-how-agentic-ai-is-redefining-cybersecurity-aml-and-compliance