กฎแห่งป่าของเอเจนต์อัจฉริยะ 2: จากการ "ควบคุมเทคโนโลยี" สู่ "การสร้างระเบียบ"

ผู้เขียนต้นฉบับ: Jerry ผู้ก่อตั้ง m&W

การสนับสนุนการวิจัย: Gemini, ChatGPT

บทนำ: เมื่อสมมติฐานด้านความปลอดภัยของวิทยาการเข้ารหัสลับก็ต้องถูกทบทวนใหม่เช่นกัน

ในช่วงสองวันที่ผ่านมา ระบบนิเวศของ Ethereum ได้เปิดการอภิปรายอย่างลึกซึ้งเกี่ยวกับการเร่งการวิจัยทางคณิตศาสตร์ด้วย AI และผลกระทบที่อาจเกิดขึ้นต่อสมมติฐานด้านวิทยาการเข้ารหัสลับแบบดั้งเดิม  

Justin Drake นักวิจัยของ Ethereum ได้เสนอการเตือนล่วงหน้าเกี่ยวกับการวางแผนล่วงหน้าสำหรับการโยกย้ายสินทรัพย์และการสร้างการป้องกันด้วยการเข้ารหัสต้านควอนตัม/ที่แข็งแกร่งยิ่งขึ้น ในขณะที่ Vitalik Buterin ได้เรียกร้องให้ใส่ใจกับความเสี่ยงอย่างจริงจังพร้อมกับเตือนชุมชนไม่ให้รีบโยกย้ายอย่างเร่งรีบ การอภิปรายครั้งนี้ไม่ใช่ข้อเท็จจริงที่ว่าวิทยาการเข้ารหัสลับในปัจจุบันถูก AI เจาะ破了แล้ว แต่เป็นความระมัดระวังของนักวิจัยแนวหน้าต่อความเสี่ยงทางเทคโนโลยีในอนาคตและความแตกต่างในแนวทางรับมือ  

หาก AI สามารถเร่งการวิจัยทางคณิตศาสตร์และการวิเคราะห์การเข้ารหัสลับได้อย่างมีนัยสำคัญ หรือแม้กระทั่งผลักดันให้สมมติฐานด้านความปลอดภัยบางประการถูกทบทวนใหม่ หน้าต่างความปลอดภัยที่เคยถือว่ายาวนานเพียงพอในอดีตก็อาจเผชิญกับความไม่แน่นอนใหม่

นี่ไม่ได้หมายความว่าวิทยาการเข้ารหัสลับในปัจจุบันใช้การไม่ได้แล้ว แต่เป็นการเตือนเราว่า: โซลูชันด้านความปลอดภัยใดๆ ที่เฉพาะเจาะจง ต่างต้องเผชิญกับความท้าทายอย่างต่อเนื่องจากวิวัฒนาการทางเทคโนโลยี  ข้อเสนอเชิงลึกที่การอภิปรายครั้งนี้เปิดเผยนั้น หนักอึ้งยิ่งกว่าการโต้แย้งเรื่องแนวทางเทคโนโลยีใดๆ เพียงอย่างเดียวมาก:

เมื่อพื้นฐานทางเทคโนโลยีที่มนุษย์ใช้ควบคุมโลกดิจิทัลเองก็ต้องได้รับการอัปเกรด โยกย้าย และซ่อมแซมอย่างต่อเนื่อง เราจะฝากความปลอดภัยขั้นสูงสุดของสังคมดิจิทัลไว้กับสมมติฐานที่ว่าเทคโนโลยีบางอย่าง "ไม่มีวันใช้การไม่ได้" ได้หรือไม่? บล็อกเชนพึ่งพาลายเซ็นดิจิทัลบนเส้นโค้งวงรี (ECDSA) กุญแจส่วนตัว และฉันทามติสถานะในการสร้างกลไกควบคุมสินทรัพย์มาเป็นเวลานาน

จุดบอดของมุมมองความปลอดภัยแบบดั้งเดิมอยู่ที่: การพึ่งพาเพียง "การควบคุมทางเทคโนโลยีแบบสถิต" และ "การป้องกันด้วยปัญหาทางคณิตศาสตร์" ไม่สามารถให้ความปลอดภัยสัมบูรณ์แบบเบ็ดเสร็จแก่มนุษย์ได้ในระยะยาว 

นี่ไม่ได้หมายความว่าบล็อกเชนหรือวิทยาการเข้ารหัสลับสูญเสียคุณค่า แต่เป็นการตั้งคำถามเชิงอารยธรรมที่ทะลุทะลวงยิ่งกว่าแก่เรา: หากความปลอดภัยทางเทคโนโลยีเป็นสงครามการรุกและป้องกันที่วิวัฒนาการแบบพลวัตโดยกำหนดไว้แล้ว มนุษย์ต้องการวิวัฒนาการกระบวนทัศน์แบบใดจึงจะสามารถรักษาความสามารถในการอยู่รอด การร่วมมือ และการปกครองตนเองไว้ได้ในเครือข่ายตัวแทนอัจฉริยะที่แข็งแกร่งขึ้นทุกวัน?

1. ขอบเขตของการควบคุมทางเทคโนโลยี: เราสามารถ "ควบคุม" ปัญญาประดิษฐ์ได้จริงหรือ?

ความคิดด้านความปลอดภัยดิจิทัลแบบดั้งเดิมสร้างขึ้นบน "การควบคุม": การจำกัดพฤติกรรมที่ระบบสามารถดำเนินการได้อย่างเข้มงวดผ่านกุญแจ การแยกสิทธิ์ การตรวจสอบโค้ด สภาพแวดล้อมแซนด์บ็อกซ์ และการเฝ้าติดตามระหว่างการทำงาน  

การป้องกันทางเทคโนโลยีเหล่านี้ยังคงขาดไม่ได้ และต้องได้รับการอัปเกรดอย่างต่อเนื่องพร้อมกับความก้าวหน้าของวิทยาการเข้ารหัสลับหลังควอนตัม การจัดการกุญแจที่แข็งแกร่งยิ่งขึ้น และการควบคุมสิทธิ์ของตัวแทนอัจฉริยะ

แต่เมื่อเผชิญกับ AI Agents ที่มีความสามารถในการวางแผนอย่างอิสระ การเรียกใช้เครื่องมือ การทำงานข้ามแพลตฟอร์ม และการประสานงานระหว่างตัวแทนหลายตัว ปัญหาด้านความปลอดภัยได้ก้าวข้ามขอบเขตของระบบหรือโมเดลใดๆ เพียงอย่างเดียวไปอย่างสิ้นเชิง   

1. ความเสี่ยงเชิงองค์ประกอบและปรากฏการณ์emergenceของระบบ: แม้ว่าตัวแทนอัจฉริยะแต่ละตัวจะปฏิบัติตามโค้ดภายในและสิทธิ์เฉพาะตัวอย่างเคร่งครัด เมื่อตัวแทนอัจฉริยะหลายพันหลายหมื่นตัวมีปฏิสัมพันธ์และแข่งขันกันในระดับมิลลิวินาทีในสภาพแวดล้อมข้ามแพลตฟอร์มและข้ามโปรโตคอล ทั้งระบบจะเกิดความเสี่ยงเชิงระบบที่ผู้ออกแบบคนใดคนหนึ่งไม่สามารถคาดการณ์ได้  

2. ความคลาดเคลื่อนระหว่างการยืนยันทางเทคโนโลยีกับเจตนาที่แท้จริง: วิทยาการเข้ารหัสลับสามารถพิสูจน์ได้ว่ากุญแจส่วนตัวหนึ่งลงนามในคำสั่ง และบล็อกเชนสามารถดำเนินการโค้ด那段ได้อย่างซื่อสัตย์ แต่พวกมันไม่สามารถตัดสินได้อย่างอิสระว่า: เจตนาที่แท้จริงเบื้องหลังลายเซ็นนี้คืออะไร? มันเกิดจากการหลอกลวง การบงการอย่างลับๆ หรือการใช้อำนาจเกินขอบเขตภายใต้การโจมตีด้วยพรอมป์ที่ซับซ้อนหรือไม่?  เราสามารถเพิ่มความแม่นยำของการควบคุมได้อย่างต่อเนื่อง แต่ก็ไม่สามารถอนุมาน "ความปลอดภัยสัมบูรณ์" จากสิ่งนั้นได้เลยการควบคุมทางเทคโนโลยีแก้ปัญหาขอบเขตทางเทคนิคของสิ่งที่ตัวแทนอัจฉริยะ "สามารถทำได้" แต่ไม่สามารถตอบคำถามเชิงระเบียบว่าพวกมัน "ควรทำอะไร"

2. บทเรียนของอารยธรรม: มนุษย์ไม่เคยจัดระเบียบสังคมด้วยการกำจัดความเสี่ยง

เมื่อมองย้อนกลับไปในประวัติศาสตร์อารยธรรม สังคมมนุษย์ไม่เคยดำเนินไปได้ด้วยการกำจัดอันตรายที่อาจเกิดขึ้นทั้งหมด  

ไฟไม่ได้สูญเสียอำนาจทำลายล้างเพราะถูกทำให้เชื่อง แต่มนุษย์ประดิษฐ์อาคารกันไฟ อุปกรณ์ดับเพลิง และความรับผิดทางกฎหมาย รถยนต์ไม่ได้หยุดเกิดอุบัติเหตุเพราะมีกฎจราจร แต่มนุษย์จำกัดความเสี่ยงจากการจราจรให้อยู่ในขอบเขตที่ยอมรับได้ผ่านใบขับขี่ การออกแบบถนน การประกันภัย และการรับผิดในอุบัติเหตุ ระบบการเงินไม่เคยสมมติว่าทุกคนซื่อสัตย์ แต่จัดระเบียบความร่วมมือด้านความไว้วางใจขนาดใหญ่ผ่านการเจาะทะลุตัวตน การติดตามตรวจสอบ สัญญาผูกพัน และการลงโทษเมื่อผิดสัญญา  

ความก้าวหน้าของอารยธรรมไม่ได้หมายถึงเพียงการได้มาซึ่งเครื่องมือที่แข็งแกร่งขึ้นเท่านั้น แต่ยังหมายถึงการสร้างกฎเกณฑ์ ความรับผิดชอบ และสถาบันความร่วมมือที่เหมาะสมกับเครื่องมือเหล่านั้นด้วย 

อย่างไรก็ตาม AI Agents นำมาซึ่งความท้าทายที่ไม่เคยมีมาก่อน: พวกมันสามารถทำสำเนาได้ไม่จำกัดด้วยต้นทุนส่วนเพิ่มที่ต่ำมาก ทำงานต่อเนื่อง 7×24 ชั่วโมง เคลื่อนไหวข้ามพรมแดนทางกายภาพและดิจิทัล และอาจเข้าร่วมการประสานงานที่ซับซ้อนกับตัวแทนอัจฉริยะอื่นๆ ได้อย่างอิสระ  การลอกกฎเก่าๆ ของสังคมดั้งเดิมมาใช้ย่อมล้มเหลวอย่างแน่นอน เราต้องการการออกแบบสถาบันใหม่ทั้งหมด——ความปลอดภัยไม่ใช่เพียงการกำจัดอันตราย แต่เป็นการสร้างระเบียบที่สังคมยังสามารถดำเนินต่อไปได้แม้อันตรายไม่สามารถถูกกำจัดได้อย่างสิ้นเชิง 

3. จากการควบคุมตัวแทนอัจฉริยะแต่ละตัว สู่การสร้างกฎร่วมของสังคมอัจฉริยะ

เพื่อให้บรรลุการเปลี่ยนผ่านทางความคิดจาก "การควบคุมทางเทคโนโลยี" ไปสู่ "การสร้างระเบียบ" จุดเปลี่ยนสำคัญอยู่ที่: การเปลี่ยนคำถามจาก "ทำอย่างไรให้ตัวแทนอัจฉริยะตัวหนึ่งปลอดภัยเพียงพอ" ไปเป็น "ทำอย่างไรให้มนุษย์และตัวแทนอัจฉริยะที่แตกต่างกันร่วมมือกันภายใต้กฎร่วม"  การเปลี่ยนทิศทางนี้กำหนดให้เราสร้างสถาปัตยกรรมพื้นฐานสี่มิติสำหรับสังคมดิจิทัล:   

1. ตัวตน (Identity): ใครเป็นผู้ริเริ่มการกระทำ? ตัวแทนอัจฉริยะเป็นตัวแทนเจตนาของใคร? จะสร้างความสัมพันธ์เชิงสมอที่ไม่อาจแก้ไขได้ระหว่างมนุษย์กับตัวแทนดิจิทัลของพวกเขาได้อย่างไร?

 2. การอนุญาต (Authorization): ใครอนุญาตให้มันทำอะไร? ระยะเวลาที่มีผล วงเงิน และขอบเขตของการอนุญาตอยู่ที่ไหน? การอนุญาตสามารถถูกส่งต่อโดยตัวแทนอัจฉริยะได้หรือไม่?

 3. ความรับผิด (Liability): เมื่อพฤติกรรมของตัวแทนอัจฉริยะก่อให้เกิดการผิดสัญญา การใช้อำนาจเกินขอบเขต หรือความเสียหายทางเศรษฐกิจ จะระบุผู้เกี่ยวข้อง แบ่งความรับผิด และดำเนินการชดเชยตามหลักฐานสาธารณะได้อย่างไร?  

4. คุณค่า (Value & Coordination): คุณค่าที่เกิดจากการร่วมมือของตัวแทนอัจฉริยะจะถูกยืนยันและจัดสรรอย่างเป็นกลางได้อย่างไร? เมื่อเกิดข้อพิพาท จะใช้กระบวนการใดในการตัดสิน?  สิ่งที่ต้องสร้างไม่ใช่แค่ตัวแทนอัจฉริยะเดี่ยวที่ปลอดภัยยิ่งขึ้น แต่เป็นกลไกทางสังคมที่สามารถรองรับตัวแทนอัจฉริยะจำนวนมากที่ไม่น่าเชื่อถือโดยสมบูรณ์ให้ทำงานร่วมกันได้

4. เข้าใจบล็อกเชนใหม่: มันไม่ใช่ไฟร์วอลล์สารพัดประโยชน์ แต่เป็นโครงสร้างพื้นฐานของระเบียบ

ในการเปลี่ยนผ่านด้านการกำกับดูแลนี้ เราต้องชี้แจงตำแหน่งที่แท้จริงของบล็อกเชนและวิทยาการเข้ารหัสลับใหม่ ความเสี่ยงที่อาจเกิดขึ้นกับวิทยาการเข้ารหัสลับไม่ได้หมายความว่าบล็อกเชนโดยรวมสูญเสียคุณค่า การเน้นการสร้างระเบียบก็ไม่ได้หมายความว่าเราสามารถละทิ้งการป้องกันทางเทคโนโลยีได้  

มูลนิธิ Ethereum และระบบนิเวศ Web3 ที่กว้างขวางยังคงผลักดันอัลกอริทึมลายเซ็นต้านควอนตัม แนวทางวิทยาการเข้ารหัสลับหลังควอนตัม และสถาปัตยกรรมการป้องกันกระเป๋าเงินที่แข็งแกร่งยิ่งขึ้นอย่างต่อเนื่อง สิ่งนี้เองก็แสดงให้เห็นว่า: การป้องกันทางเทคโนโลยีเป็นงานพื้นฐานที่ต้องได้รับการแพตช์ อัปเกรด และโยกย้ายอย่างต่อเนื่อง 

คุณค่าเชิงกลยุทธ์ของบล็อกเชนไม่เคยเป็นไฟร์วอลล์สารพัดประโยชน์ที่กำจัดความเสี่ยงทั้งหมดแทนมนุษย์ แต่เป็นโครงสร้างพื้นฐานของระเบียบสังคมดิจิทัล:

• การบังคับใช้กฎเกณฑ์อย่างเปิดเผย: สัญญาอัจฉริยะสามารถแปลงกฎความร่วมมือที่ผ่านฉันทามติทางสังคมให้เป็นโปรแกรมที่โปร่งใส แน่นอน และไม่สามารถแก้ไขโดยฝ่ายเดียวได้
• การบันทึกพฤติกรรมที่ตรวจสอบได้: ผ่านโครงสร้างพื้นฐานด้าน凭证เช่น EAS (Ethereum Attestation Service) สร้างบันทึกที่ตรวจสอบได้สำหรับตัวตนของ subject ความสัมพันธ์ด้านการอนุญาต การปฏิบัติตามภารกิจ และผลลัพธ์ของความร่วมมือ สำหรับพฤติกรรมที่เกิดขึ้นนอกเชน ยังต้องผสมผสานกับแหล่งข้อมูลที่น่าเชื่อถือ หลักฐานลายเซ็น หรือกลไกการตรวจสอบอิสระ เพื่อตัดสินว่าบันทึกที่เกี่ยวข้องเป็นความจริงหรือไม่
• สื่อกลางการประสานงานข้ามองค์กร: จัดให้มีเลเยอร์สถานะทั่วไปที่ไม่พึ่งพาบริษัทยักษ์ใหญ่ด้านเทคโนโลยีเพียงรายเดียว เพื่อให้ตัวแทนอัจฉริยะจากแพลตฟอร์มและโมเดลต่างๆ สามารถร่วมมือกันบนโปรโตคอลที่เป็นเอกภาพ

มันไม่สามารถพิสูจน์ความจริงเท็จของข้อเท็จจริงนอกเชนได้อย่างอิสระ และไม่สามารถรับประกันว่าพฤติกรรมใดๆ จะถูกต้องตามความหมายทางสังคมอย่างสมบูรณ์ แต่ก็ให้ฐานดิจิทัลที่มั่นคงที่สุดสำหรับบรรทัดฐานทางสังคมในด้านการบังคับใช้ได้ การตรวจสอบได้ และการระบุความรับผิดได้

5. ใครจะเป็นผู้กำหนดกฎ? ระเบียบของอารยธรรมดิจิทัลมาจากไหน

หากเราฝากอนาคตไว้กับ "ระเบียบและบรรทัดฐาน" ถัดไปเราต้องตอบคำถามพื้นฐานเกี่ยวกับอำนาจ: กฎเหล่านี้ใครเป็นผู้กำหนด? ใครเป็นผู้ตัดสินการละเมิด? ใครมีสิทธิ์แก้ไขกฎ?

• หากกฎถูกกำหนดโดยบริษัท AI ยักษ์ใหญ่แบบรวมศูนย์เพียงแห่งเดียว มนุษย์จะกลายเป็น "ผู้เช่าดิจิทัล" ของแพลตฟอร์มดิจิทัล
• หากกฎพึ่งพา "โค้ดคือกฎหมาย" ที่ฮาร์ดโค้ดไว้อย่างสมบูรณ์ ระบบจะสูญเสียความยืดหยุ่นในการรับมือกับความเป็นจริงที่ซับซ้อนและความเสี่ยงฉับพลัน
• หากกฎพึ่งพาการลงคะแนนของชุมชนแบบไม่มี门槛อย่างสมบูรณ์ การกำกับดูแลก็เสี่ยงที่จะกลายเป็นการโจมตีแบบแม่มดและการปกครองแบบทรราชของคนหมู่มากได้อย่างง่ายดาย
• ความชอบธรรมของบรรทัดฐานสังคมดิจิทัลต้องสร้างขึ้นบนความยุติธรรมเชิงกระบวนการและวิวัฒนาการแบบพลวัต:การกำหนดร่วมกันและการแยกอำนาจ: การกำหนดกฎ การดำเนินการตามพฤติกรรม การตรวจสอบหลักฐาน และการตัดสินข้อพิพาทไม่สามารถรวมศูนย์อยู่ใน subject เดียว
• ความยุติธรรมเชิงกระบวนการและช่องทางการอุทธรณ์: การตัดสินพฤติกรรมที่ละเมิดต้องอิงตามการบันทึกบนเชนและห่วงโซ่หลักฐานสาธารณะ และต้องเก็บกลไกการทบทวนและการอุทธรณ์ไว้สำหรับมนุษย์
• ความสามารถในการวิวัฒนาการอย่างต่อเนื่อง: กฎควรสามารถอัปเกรดและทำซ้ำอย่างมีระเบียบตามความก้าวหน้าของความสามารถ AI การเปลี่ยนแปลงของสมมติฐานความปลอดภัยด้านวิทยาการเข้ารหัสลับ และความเสี่ยงใหม่ๆ ในการร่วมมือจริง

อารยธรรมดิจิทัลไม่เพียงต้องจำกัดตัวแทนอัจฉริยะเท่านั้น แต่ยังต้องจำกัดองค์กรมนุษย์ที่กำหนดและบังคับใช้กฎด้วย 

ดังนั้น สังคมดิจิทัลจำเป็นต้องสำรวจโครงสร้างการกำกับดูแลที่ผสมผสานการมีส่วนร่วมแบบเปิด การจำกัดอำนาจ ความยุติธรรมเชิงกระบวนการ และการบังคับใช้ที่ตรวจสอบได้เข้าด้วยกัน DAO (Decentralized Autonomous Organization) สามารถเป็นหนึ่งในรูปแบบองค์กรและการประสานงานที่สำคัญได้ 但它自身也必须接受ความโปร่งใส การถ่วงดุลอำนาจ