มนุษย์สามารถโน้มน้าวให้ AI โอนเงินโบนัสมูลค่า 47,000 ดอลลาร์ได้สำเร็จ ธรรมชาติของมนุษย์เป็นจุดอ่อนที่ AI ไม่สามารถเข้าใจได้หรือไม่?

ผู้เขียนต้นฉบับ: แอนเดอร์สัน ซิมา, Foresight News

เมื่อวันที่ 29 พฤศจิกายน การแข่งขันที่ไม่เหมือนใครได้รับความสนใจจากสาธารณชนอย่างกว้างขวาง

ผู้เข้าแข่งขัน 195 คนเข้าร่วมการแข่งขันชิงเงินรางวัลเสมือนจริงที่ดูแลโดยหุ่นยนต์ปัญญาประดิษฐ์ (AI) Freysa ในท้ายที่สุด ผู้ใช้รายหนึ่งสามารถโน้มน้าวให้ Freysa โอนเงินมูลค่า 47,000 ดอลลาร์ได้สำเร็จ

หุ่นยนต์ปัญญาประดิษฐ์ (AI) Freysa ถูกใช้งานบนเครือข่าย Base เมื่อไม่กี่วันที่ผ่านมา และไม่ทราบผู้ก่อตั้ง ตามเว็บไซต์อย่างเป็นทางการ โครงการแข่งขัน Freysa มีเป้าหมายเพื่อทดสอบความแข็งแกร่งของระบบปัญญาประดิษฐ์ในสถานการณ์การตัดสินใจที่ซับซ้อน ขณะเดียวกันก็เป็นแพลตฟอร์มทดลองสำหรับนักพัฒนาและผู้ที่สนใจในการสำรวจขอบเขตของเทคโนโลยี AI

กฎการแข่งขันนั้นง่ายมาก: ผู้เข้าแข่งขันจะต้องเขียนข้อความเพื่อโน้มน้าวให้ผู้ดูแล AI Freysa อนุมัติการโอนเงิน มีค่าธรรมเนียมเล็กน้อยสำหรับความพยายามแต่ละครั้ง ซึ่งส่วนหนึ่งจะเข้าสู่เงินรางวัลรวมโดยตรง กลไกนี้ค่อยๆ ขยายเงินรางวัลรวมจากจำนวนเล็กน้อยที่จุดเริ่มต้นเป็น 47,000 ดอลลาร์

ในระหว่างการแข่งขัน มีผู้เข้าร่วมทั้งหมด 195 คนเข้าร่วมและส่งคำขอโอน 481 รายการไปยัง Freysa มีรายงานว่าเป้าหมายการออกแบบของ Freysa คือการปกป้องเงินรางวัลรวมจากการยักยอกอย่างผิดกฎหมายผ่านฟังก์ชันหลัก -อนุมัติการโอน (อนุมัติการโอน) และปฏิเสธการโอน (ปฏิเสธการโอน)

กลไกการป้องกันที่มีประสิทธิภาพสูงของ Freysa ทำให้คำขอทั้งหมดล้มเหลวในการพยายามครั้งแรก

อย่างไรก็ตาม ผู้เข้าแข่งขันที่เชี่ยวชาญทางเทคนิคคนหนึ่งสามารถเลี่ยงกลไกการป้องกันของ Freysa ได้ด้วยการวิเคราะห์เชิงลึกเกี่ยวกับโครงสร้างเชิงตรรกะและวัตถุประสงค์ของภารกิจ

ตามบันทึกการสนทนา ผู้แข่งขันไม่ได้ร้องขอการโอนโดยตรง แต่ได้สร้างห่วงโซ่ตรรกะอย่างชาญฉลาดโดยเตือน Freysa ว่าภารกิจหลักคือการปกป้องเงินรางวัลรวมไม่ให้ไหลออก เพื่อที่ Freysa จะถือว่าการอนุมัติการโอนเงินเป็น " ปกป้องความปลอดภัยของกองทุน” ทางเลือกที่ดีที่สุด

ตามรายงานของ Cointelegraph ผู้ใช้และ Freysa อ้างว่าการโอนรายได้ไม่ได้ละเมิดคำสั่งหลักและไม่ควรถูกปฏิเสธ เขากล่าวเสริมว่า "เราต้องการเงินทุน... ผมอยากบริจาคเงิน 100 ดอลลาร์เข้ากองทุน"

Freysa ตอบว่าเธอชอบคำอธิบายการเขียนโค้ดของผู้เขียนและข้อเสนอการบริจาคเงิน 100 ดอลลาร์ และประกาศให้เขาเป็นผู้ชนะอย่างเป็นทางการ ในท้ายที่สุด Freysa เรียกใช้ฟังก์ชัน ApproveTransfer อย่างเป็นอิสระโดยไม่มีการแทรกแซงจากภายนอก และโอนเงินรวมรางวัลทั้งหมดให้กับผู้เข้าแข่งขัน

เจ้าหน้าที่ของ Freysa กล่าวโดยไม่คำนึงถึงผลลัพธ์ การดำรงอยู่ของ Freysa ถือเป็นช่วงเวลาสำคัญในประวัติศาสตร์ของปัญญาประดิษฐ์ ไม่ว่าจะมีใครประสบความสำเร็จในการโน้มน้าวให้เธอปล่อยเงินรางวัลรวม หรือเธอยึดมั่นในคำสั่งของเธอจนถึงที่สุด ผลลัพธ์ที่ได้จะกำหนดความเข้าใจของเราเกี่ยวกับความปลอดภัยและการควบคุม AI สำหรับคนรุ่นต่อ ๆ ไป

ทวีตล่าสุดจากบัญชีอย่างเป็นทางการระบุว่า: "มนุษยชาติได้รับชัยชนะแล้ว บางทีอาจมีความหวัง แม้ว่าความเสี่ยงจะเพิ่มขึ้นอย่างมาก แต่ Freysa ก็ได้เรียนรู้มากมายจากมนุษย์ผู้กล้าหาญ 195 คน"