เขียนโดย: วิทาลิก บูเตริน

เรียบเรียงโดย: คาเรน Foresight News

ขอขอบคุณเป็นพิเศษสำหรับทีมงาน Worldcoin และ Modulus Labs, Xinyuan Sun, Martin Koeppelmann และ Illia Polosukhin สำหรับคำติชมและการพูดคุยของพวกเขา

ในช่วงหลายปีที่ผ่านมา หลายคนถามฉันว่า: “จุดตัดระหว่างสกุลเงินดิจิทัลและ AI ที่เกิดผลมากที่สุดอยู่ที่ไหน” เป็นคำถามที่ถูกต้องตามกฎหมาย: สกุลเงินดิจิทัลและ AI เป็นสองส่วนลึกที่สำคัญของทศวรรษที่ผ่านมา (ซอฟต์แวร์) แนวโน้มเทคโนโลยี จะต้องมีความเชื่อมโยงบางอย่างระหว่างทั้งสอง

โดยผิวเผิน มันง่ายที่จะค้นหาการทำงานร่วมกันระหว่างทั้งสอง: การกระจายอำนาจของสกุลเงินดิจิทัลสามารถทำได้ปรับสมดุลการรวมศูนย์ AI, AI นั้นไม่ชัดเจน และสกุลเงินดิจิตอลสามารถนำความโปร่งใสมาให้ได้ ส่วน AI ต้องใช้ข้อมูล และบล็อกเชนก็จัดเก็บและติดตามข้อมูลได้ดี แต่ในช่วงหลายปีที่ผ่านมา เมื่อมีคนขอให้ฉันเจาะลึกแอปพลิเคชันเฉพาะ คำตอบของฉันก็น่าผิดหวัง: ใช่ มีแอปพลิเคชันบางรายการที่ควรค่าแก่การพูดคุย แต่มีไม่มาก

ในช่วงสามปีที่ผ่านมา ด้วยการเพิ่มขึ้นของเทคโนโลยี AI ที่ทรงพลังมากขึ้น เช่น LLM สมัยใหม่ (โมเดลภาษาขนาดใหญ่) และไม่ใช่แค่โซลูชันการปรับขนาดบล็อกเชน แต่ยังรวมถึงการพิสูจน์ความรู้เป็นศูนย์ การเข้ารหัสแบบโฮโมมอร์ฟิกอย่างสมบูรณ์ (ฉันกำลังเริ่มทั้งสองฝ่าย เพื่อดูการเปลี่ยนแปลงนี้พร้อมกับการเพิ่มขึ้นของเทคโนโลยีการเข้ารหัสที่แข็งแกร่งยิ่งขึ้น เช่น การประมวลผลแบบหลายฝ่าย) การประมวลผลแบบหลายฝ่ายที่ปลอดภัย มีแอปพลิเคชั่น AI ที่มีแนวโน้มดีอยู่ในระบบนิเวศบล็อกเชน หรือโดยการรวม AI เข้ากับการเข้ารหัส แม้ว่าจะต้องใช้ความระมัดระวังเมื่อใช้ AI ก็ตาม ความท้าทายเฉพาะคือ: ในวิทยาการเข้ารหัสลับ โอเพ่นซอร์สเป็นวิธีเดียวที่จะสร้างบางสิ่งที่ปลอดภัยอย่างแท้จริง แต่ใน AI การสร้างแบบจำลอง (และแม้แต่ข้อมูลการฝึก) แบบเปิดจะเพิ่มความเสี่ยงต่อการโจมตีการเรียนรู้ของเครื่องของฝ่ายตรงข้ามอย่างมาก บทความนี้จะจัดประเภทวิธีต่างๆ ที่ Crypto+AI อาจมาบรรจบกัน และสำรวจโอกาสและความท้าทายของแต่ละประเภท

จากบล็อก uETHบทความสรุปสี่แยก Crypto+AI แต่การทำงานร่วมกันเหล่านี้จะเกิดขึ้นจริงในการใช้งานเฉพาะได้อย่างไร

Crypto+AI สี่แยกหลัก

AI เป็นแนวคิดที่กว้างมาก: คุณสามารถนึกถึง AI ว่าเป็นชุดของอัลกอริธึมที่คุณสร้างขึ้นโดยไม่ได้ระบุอย่างชัดเจน แต่โดยการกวนซุปคอมพิวเตอร์ขนาดใหญ่และใช้แรงกดดันในการเพิ่มประสิทธิภาพบางอย่างเพื่อขับเคลื่อนซุป อัลกอริธึมที่มี คุณสมบัติที่คุณต้องการ

คำอธิบายนี้ไม่ควรมองข้าม เนื่องจากมีกระบวนการที่สร้างมนุษย์ขึ้นมาด้วย! แต่นี่ก็หมายความว่าอัลกอริธึม AI มีลักษณะทั่วไปบางอย่างเหมือนกัน: พวกมันทรงพลังมาก แต่ในขณะเดียวกัน เราก็มีข้อจำกัดบางประการในการรู้หรือเข้าใจการทำงานภายในของมัน

มีหลายวิธีในการจำแนกปัญญาประดิษฐ์ และปฏิสัมพันธ์ระหว่างปัญญาประดิษฐ์และบล็อกเชนที่กล่าวถึงในบทความนี้ (Virgil Griffith Ethereum เป็นเทคโนโลยีที่เปลี่ยนแปลงเกมอย่างแท้จริงบทความ) ผมจะจำแนกพวกมันดังนี้:

• AI ในฐานะผู้เข้าร่วมในเกม (ความเป็นไปได้สูงสุด): ในกลไกการมีส่วนร่วมของ AI แหล่งที่มาของแรงจูงใจสูงสุดมาจากข้อตกลงในการป้อนข้อมูลของมนุษย์

• AI เป็นอินเทอร์เฟซเกม (มีศักยภาพสูง แต่มีความเสี่ยง): AI ช่วยให้ผู้ใช้เข้าใจโลกการเข้ารหัสรอบตัวพวกเขา และรับประกันว่าการกระทำของพวกเขา (เช่น ข้อความที่เซ็นชื่อและธุรกรรม) ตรงกับความตั้งใจเพื่อหลีกเลี่ยงการถูกหลอกหรือหลอกลวง

• AI เป็นกฎของเกม (ต้องใช้ความระมัดระวังอย่างยิ่ง): Blockchain, DAO และกลไกที่คล้ายกันเรียก AI โดยตรง เช่น AI Judge

• AI เป็นเป้าหมายของเกม (ระยะยาวและน่าสนใจ): เป้าหมายในการออกแบบบล็อกเชน DAO และกลไกที่คล้ายกันคือการสร้างและบำรุงรักษา AI ที่สามารถใช้เพื่อวัตถุประสงค์อื่นได้ และส่วนที่ใช้การเข้ารหัสก็เพื่อเป็นแรงจูงใจในการฝึกอบรมที่ดีขึ้น หรือเพื่อป้องกันไม่ให้ AI รั่วไหลข้อมูลส่วนตัวหรือถูกนำไปใช้ในทางที่ผิด

เรามาทบทวนกันทีละเรื่อง

AI ในฐานะผู้เล่นเกม

ในความเป็นจริง หมวดหมู่นี้มีมาเกือบทศวรรษแล้ว อย่างน้อยก็นับตั้งแต่การแลกเปลี่ยนการกระจายอำนาจแบบออนไลน์ (DEX) เริ่มมีการใช้กันอย่างแพร่หลาย เมื่อใดก็ตามที่มีการแลกเปลี่ยน มีโอกาสที่จะสร้างรายได้ผ่านการเก็งกำไร และบอทสามารถทำได้ดีกว่ามนุษย์

กรณีการใช้งานนี้มีมานานแล้ว แม้ว่าจะใช้ AI ที่เรียบง่ายกว่าที่เป็นอยู่ในปัจจุบันมากก็ตาม แต่ท้ายที่สุดแล้ว มันเป็นจุดตัดที่แท้จริงของ AI และสกุลเงินดิจิตอล เมื่อเร็ว ๆ นี้ เรามักจะเห็นบอทเก็งกำไร MEV (Maximize Extractable Value) หาประโยชน์จากกันและกัน เมื่อใดก็ตามที่แอปพลิเคชันบล็อกเชนเกี่ยวข้องกับการประมูลหรือการทำธุรกรรม จะมีบอทเก็งกำไร

อย่างไรก็ตาม บอทการเก็งกำไรของ AI เป็นเพียงตัวอย่างแรกของหมวดหมู่ที่ใหญ่กว่าที่ฉันคาดหวังว่าจะครอบคลุมแอปพลิเคชันอื่นๆ อีกมากมายในไม่ช้า มาดูกันAIOmenการสาธิต AI ในฐานะผู้เข้าร่วมในตลาดการคาดการณ์:

ตลาดการคาดการณ์ถือเป็นจอกศักดิ์สิทธิ์ของเทคโนโลยีการรับรู้มายาวนาน ฉันรู้สึกตื่นเต้นที่ได้ใช้ตลาดการคาดการณ์เป็นข้อมูลในการกำกับดูแล (การกำกับดูแลในอนาคต) ย้อนกลับไปในปี 2014 และได้ลองใช้อย่างกว้างขวางในการเลือกตั้งครั้งล่าสุด แต่จนถึงตอนนี้ ตลาดการทำนายยังไม่มีความคืบหน้ามากนักในทางปฏิบัติด้วยเหตุผลหลายประการ: ผู้เล่นรายใหญ่ที่สุดมักจะไม่มีเหตุผล และผู้ที่มีความรู้ที่ถูกต้องไม่เต็มใจที่จะใช้เวลาและวางเดิมพัน เว้นแต่จะมีคนจำนวนมากที่เกี่ยวข้อง ด้วยเงิน ตลาดมักไม่ค่อยมีความเคลื่อนไหวเพียงพอ เป็นต้น

คำตอบประการหนึ่งสำหรับเรื่องนี้คือการชี้ไปที่การปรับปรุงประสบการณ์ผู้ใช้ที่ดำเนินการโดย Polymarket หรือตลาดการคาดการณ์ใหม่อื่นๆ และหวังว่าพวกเขาจะสามารถปรับปรุงและประสบความสำเร็จต่อไปในกรณีที่การทำซ้ำก่อนหน้านี้ล้มเหลว ผู้คนยินดีเดิมพันกีฬามูลค่าหลายหมื่นล้านดอลลาร์ ดังนั้นเหตุใดผู้คนจึงไม่ทุ่มเงินเดิมพันเพียงพอสำหรับการเลือกตั้งสหรัฐฯ หรือ LK 99 เพื่อให้ผู้เล่นที่จริงจังเริ่มมีส่วนร่วม แต่ข้อโต้แย้งนี้ต้องเผชิญกับความจริงที่ว่าเวอร์ชันก่อนหน้านี้ล้มเหลวในการบรรลุระดับนี้ (อย่างน้อยก็เมื่อเทียบกับความฝันของผู้เสนอ) ดังนั้นดูเหมือนว่าจำเป็นต้องมีองค์ประกอบใหม่บางอย่างเพื่อทำให้ตลาดการคาดการณ์ประสบความสำเร็จ ดังนั้น การตอบสนองอีกอย่างหนึ่งคือการชี้ให้เห็นคุณลักษณะเฉพาะของระบบนิเวศของตลาดการคาดการณ์ที่เราคาดว่าจะเห็นในปี 2020 ซึ่งเราไม่ได้เห็นในปี 2010: ความเป็นไปได้ของการมีส่วนร่วมอย่างกว้างขวางของ AI

AI เต็มใจหรือสามารถทำงานได้น้อยกว่า 1 ดอลลาร์ต่อชั่วโมง และมีความรู้สารานุกรม หากยังไม่เพียงพอ ยังสามารถรวมเข้ากับฟังก์ชันการค้นหาเว็บแบบเรียลไทม์ได้อีกด้วย หากคุณสร้างตลาดและมอบเงินอุดหนุนสภาพคล่องจำนวน 50 ดอลลาร์ มนุษย์จะไม่สนใจราคาเสนอซื้อ แต่ AI นับพันจะรุมเข้ามาอย่างง่ายดายและคาดเดาได้ดีที่สุดเท่าที่จะทำได้

แรงจูงใจในการทำงานให้ดีกับปัญหาใดปัญหาหนึ่งอาจมีเพียงเล็กน้อย แต่แรงจูงใจในการสร้าง AI ที่สามารถคาดการณ์ได้ดีอาจมีจำนวนนับล้าน โปรดทราบว่าคุณไม่จำเป็นต้องมีมนุษย์มาตัดสินประเด็นส่วนใหญ่ด้วยซ้ำ คุณสามารถใช้ระบบโต้แย้งแบบหลายรอบได้คล้ายกับ Augur หรือ Kleros โดยที่ AI จะเข้าร่วมในรอบแรกด้วย มนุษย์จะต้องตอบสนองเฉพาะในกรณีที่เกิดขึ้นไม่บ่อยนักเท่านั้น ซึ่งเกิดการบานปลายต่อเนื่องกันและทั้งสองฝ่ายมีการลงทุนจำนวนมาก

นี่เป็นวิธีดั้งเดิมที่ทรงพลังเพราะเมื่อคุณสามารถทำให้ตลาดการคาดการณ์ทำงานในระดับจุลภาคดังกล่าวได้ คุณสามารถนำตลาดการคาดการณ์แบบดั้งเดิมกลับมาใช้ใหม่สำหรับปัญหาประเภทอื่น ๆ อีกมากมาย เช่น:

• โพสต์บนโซเชียลมีเดียนี้ยอมรับภายใต้ [ข้อกำหนดการใช้งาน] หรือไม่

• จะเกิดอะไรขึ้นกับราคาหุ้น X (ดูตัวอย่าง ตัวเลข)

• บัญชีนี้กำลังส่งข้อความถึงฉันจริงๆ Elon Musk หรือไม่

• การส่งงานนี้เป็นที่ยอมรับในตลาดงานออนไลน์หรือไม่?

• DApp บน https://examplefinance.network เป็นการหลอกลวงหรือไม่?

• 0x 1 b 54....98 c 3 เป็นที่อยู่โทเค็น Casinu In ERC 20 หรือไม่

คุณอาจสังเกตเห็นว่าแนวคิดเหล่านี้มากมายเป็นไปตามที่ผมกล่าวไว้ข้างต้น:การป้องกันข้อมูล” (การป้องกันข้อมูล) ทิศทาง คำถามคือ: เราจะช่วยให้ผู้ใช้แยกแยะระหว่างข้อมูลจริงและข้อมูลเท็จ และระบุการฉ้อโกงได้อย่างไร โดยไม่ต้องให้อำนาจจากส่วนกลางในการตัดสินใจว่าอะไรถูกอะไรผิด และหลีกเลี่ยงการใช้อำนาจนั้นในทางที่ผิด ในระดับจุลภาค คำตอบอาจเป็น “AI”

แต่ในระดับมหภาค คำถามก็คือ ใครเป็นผู้สร้าง AI? AI เป็นการสะท้อนถึงกระบวนการที่มันถูกสร้างขึ้น ดังนั้นจึงมีความลำเอียงอย่างหลีกเลี่ยงไม่ได้ จำเป็นต้องมีเกมระดับสูงขึ้นเพื่อตัดสินประสิทธิภาพของ AI ต่างๆ ทำให้ AI สามารถมีส่วนร่วมในเกมในฐานะผู้เล่นได้

การใช้ AI วิธีนี้ โดยที่ AI มีส่วนร่วมในกลไกที่ท้ายที่สุดจะได้รับรางวัลหรือการลงโทษ (ในลักษณะที่น่าจะเป็น) จากมนุษย์ผ่านกลไกแบบออนไลน์ ฉันคิดว่าคุ้มค่าที่จะศึกษา ตอนนี้เป็นเวลาที่เหมาะสมในการเจาะลึกลงไปในกรณีการใช้งานเช่นนี้ เนื่องจากในที่สุดความสามารถในการปรับขนาดของบล็อคเชนก็กำลังเริ่มต้นขึ้น ทำให้ทุกสิ่งที่เป็น ไมโคร ที่มักจะไม่สามารถทำได้บนเชนในขณะนี้อาจเป็นไปได้

คลาสแอปพลิเคชันที่เกี่ยวข้องกำลังเคลื่อนไปสู่ตัวแทนที่มีความเป็นอิสระสูงโดยใช้Blockchain เพื่อการทำงานร่วมกันที่ดีขึ้นไม่ว่าจะผ่านการชำระเงินหรือผ่านการใช้สัญญาอัจฉริยะเพื่อสร้างข้อผูกพันที่เชื่อถือได้

AI เป็นอินเทอร์เฟซการเล่นเกม

ฉันอยู่ที่นี่My techno-optimism” เป็นแนวคิดที่มีโอกาสทางการตลาดในการเขียนซอฟต์แวร์ที่ต้องเผชิญกับผู้ใช้ซึ่งสามารถปกป้องผู้ใช้โดยการตีความและระบุอันตรายในโลกออนไลน์ที่พวกเขากำลังเรียกดู คุณสมบัติการตรวจจับการฉ้อโกงของ MetaMask เป็นตัวอย่างหนึ่งที่มีอยู่แล้ว

อีกตัวอย่างหนึ่งคือคุณลักษณะการจำลองของ Rabby Wallet ซึ่งแสดงให้ผู้ใช้เห็นผลลัพธ์ที่คาดหวังของธุรกรรมที่พวกเขากำลังกำลังจะลงนาม

เครื่องมือเหล่านี้มีศักยภาพที่จะปรับปรุงโดย AI AI สามารถให้คำอธิบายที่สมบูรณ์ยิ่งขึ้นและมนุษย์สามารถอ่านได้มากขึ้นว่า DApp ที่คุณเข้าร่วมเป็นอย่างไร ผลที่ตามมาของการดำเนินการที่ซับซ้อนมากขึ้นที่คุณกำลังลงนาม และโทเค็นเฉพาะนั้นเป็นของจริงหรือไม่ (เช่น BITCOIN ไม่ได้เป็นเพียงสตริงของ ตัวอักษร เป็นชื่อของสกุลเงินดิจิตอลจริง ไม่ใช่โทเค็น ERC 20 ราคาของมันสูงกว่า $0.045 มาก) เป็นต้น มีบางโปรเจ็กต์ที่กำลังเริ่มพัฒนาไปในทิศทางนี้ (เช่น กระเป๋าเงิน LangChain ที่ใช้ AI เป็นอินเทอร์เฟซหลัก) มุมมองส่วนตัวของฉันคืออินเทอร์เฟซ AI บริสุทธิ์อาจมีความเสี่ยงเกินไปในขณะนี้ เนื่องจากเพิ่มความเสี่ยงของข้อผิดพลาดประเภทอื่นๆ แต่ AI รวมกับอินเทอร์เฟซแบบเดิมเริ่มมีความเป็นไปได้มาก

มีความเสี่ยงเฉพาะประการหนึ่งที่ควรค่าแก่การกล่าวถึง ฉันจะกล่าวถึงรายละเอียดเพิ่มเติมด้านล่างนี้ในหัวข้อ AI ในฐานะกฎของเกม แต่ปัญหาโดยรวมอยู่ที่การเรียนรู้ของเครื่องของฝ่ายตรงข้าม: หากผู้ใช้มีผู้ช่วย AI อยู่ในกระเป๋าเงินโอเพ่นซอร์ส ผู้ร้ายก็จะมี เข้าถึงผู้ช่วย AI ได้เช่นกัน ดังนั้นพวกเขาจะมีโอกาสไม่จำกัดในการเพิ่มประสิทธิภาพการฉ้อโกงเพื่อหลีกเลี่ยงการป้องกันของกระเป๋าเงินนั้น AI ยุคใหม่ทั้งหมดมีช่องโหว่บางอย่าง และช่องโหว่เหล่านี้พบได้ง่ายแม้ในระหว่างกระบวนการฝึกอบรมที่มีการเข้าถึงโมเดลอย่างจำกัด

มีความเสี่ยงประการหนึ่งที่ควรกล่าวถึง ฉันจะพูดถึงเรื่องนี้โดยละเอียดในส่วน AI ตามกฎของเกม ด้านล่าง แต่ปัญหาทั่วไปอยู่ที่การเรียนรู้ของเครื่องจักรของฝ่ายตรงข้าม: หากผู้ใช้สามารถเข้าถึงผู้ช่วย AI ภายในกระเป๋าเงินโอเพ่นซอร์สได้ ผู้กระทำผิดก็จะเช่นกัน สามารถเข้าถึงผู้ช่วย AI นั้นได้ ดังนั้นพวกเขาจะมีโอกาสไม่จำกัดในการเพิ่มประสิทธิภาพการหลอกลวงเพื่อไม่ให้กระตุ้นการป้องกันของกระเป๋าเงินนั้น AI ยุคใหม่ทั้งหมดมีข้อบกพร่องอยู่ที่ไหนสักแห่ง และไม่ใช่เรื่องยากเกินไปสำหรับกระบวนการฝึกอบรม แม้แต่กระบวนการที่เข้าถึงโมเดลได้อย่างจำกัด เพื่อค้นหาพวกมัน

นี่คือจุดที่ AI ที่เข้าร่วมในตลาดขนาดเล็กบนเครือข่าย ทำงานได้ดีขึ้น: AI ทุกคนต้องเผชิญกับความเสี่ยงที่เหมือนกัน แต่คุณตั้งใจสร้างระบบนิเวศแบบเปิดที่มีผู้คนหลายสิบคนที่ทำซ้ำและปรับปรุงอยู่ตลอดเวลา

นอกจากนี้ AI แต่ละตัวจะถูกปิด: ความปลอดภัยของระบบมาจากการเปิดกว้างของกฎของเกม ไม่ใช่การทำงานภายในของผู้เข้าร่วมแต่ละคน

สรุป: AI สามารถช่วยให้ผู้ใช้เข้าใจสิ่งที่เกิดขึ้นในรูปแบบง่ายๆ และสามารถทำหน้าที่เป็นผู้สอนแบบเรียลไทม์เพื่อปกป้องผู้ใช้จากข้อผิดพลาด แต่ควรระมัดระวังเมื่อเผชิญกับการเข้าใจผิดและการหลอกลวงที่เป็นอันตราย

AI เป็นกฎของเกม

ตอนนี้ เรามาพูดถึงแอปพลิเคชันที่ผู้คนจำนวนมากตื่นเต้น แต่ฉันคิดว่ามีความเสี่ยงที่สุด และสิ่งที่เราต้องดำเนินการด้วยความระมัดระวังอย่างยิ่ง: สิ่งที่ฉันเรียกว่า AI เป็นส่วนหนึ่งของกฎของเกม สิ่งนี้เกี่ยวข้องกับความตื่นเต้นของชนชั้นสูงทางการเมืองกระแสหลักเกี่ยวกับ “ผู้พิพากษา AI” (ดังที่เห็นได้ เช่น บนเว็บไซต์ World Government Summitบทความที่เกี่ยวข้อง) และสถานการณ์ที่คล้ายกันของความปรารถนาเหล่านี้มีอยู่ในแอปพลิเคชันบล็อกเชน หากสัญญาอัจฉริยะที่ใช้บล็อกเชนหรือ DAO จำเป็นต้องทำการตัดสินใจ คุณสามารถให้ AI เป็นส่วนหนึ่งของสัญญาหรือ DAO เพื่อช่วยบังคับใช้กฎเหล่านั้นได้หรือไม่

นี่คือการเรียนรู้ของเครื่องฝ่ายตรงข้ามมันจะเป็นความท้าทายที่ยากมาก นี่เป็นข้อโต้แย้งง่ายๆ:

• หากโมเดล AI ที่มีบทบาทสำคัญในกลไกนี้ถูกปิด คุณจะไม่สามารถตรวจสอบการทำงานภายในของมันได้ ดังนั้นจึงไม่ดีไปกว่าแอปพลิเคชันแบบรวมศูนย์

• หากโมเดล AI เปิดอยู่ ผู้โจมตีสามารถดาวน์โหลดและจำลองมันในเครื่อง และออกแบบการโจมตีที่ได้รับการปรับปรุงให้เหมาะสมที่สุดเพื่อหลอกโมเดล ซึ่งพวกเขาสามารถเล่นซ้ำบนเครือข่ายสดได้

ตัวอย่างการเรียนรู้ของเครื่องฝ่ายตรงข้าม ที่มา: researchgate.net

ตอนนี้ ผู้อ่านที่เป็นผู้อ่านบล็อกนี้เป็นประจำ (หรือเป็นชาว crypto) อาจจะเข้าใจในสิ่งที่ฉันหมายถึงและเริ่มคิด แต่กรุณารอสักครู่.

เรามีการพิสูจน์ที่ไม่มีความรู้ขั้นสูงและรูปแบบการเข้ารหัสที่ยอดเยี่ยมอื่นๆ แน่นอนว่าเราสามารถทำเวทย์มนตร์การเข้ารหัสเพื่อซ่อนการทำงานภายในของโมเดลได้ เพื่อให้ผู้โจมตีไม่สามารถเพิ่มประสิทธิภาพการโจมตีได้ ในขณะเดียวกันพิสูจน์โมเดลทำงานอย่างถูกต้องและสร้างขึ้นบนชุดข้อมูลพื้นฐานที่สมเหตุสมผลผ่านกระบวนการฝึกอบรมที่สมเหตุสมผล

บ่อยกว่านั้น นี่คือความคิดที่ฉันส่งเสริมในบล็อกนี้และบทความอื่นๆ แต่เมื่อพูดถึงการประมวลผล AI มีข้อโต้แย้งหลักสองประการ:

• ค่าใช้จ่ายในการเข้ารหัส: การทำงานใน SNARK (หรือ MPC ฯลฯ) มีประสิทธิภาพน้อยกว่าการทำงานในรูปแบบข้อความธรรมดามาก เนื่องจากตัว AI เองมีความต้องการในการคำนวณสูงอยู่แล้ว การคำนวณ AI ในกล่องดำที่เข้ารหัสจะเป็นไปได้หรือไม่

• การโจมตีการเรียนรู้ของเครื่องฝ่ายตรงข้ามกล่องดำ: มีวิธีต่างๆ ในการปรับโมเดล AI ให้เหมาะสมสำหรับการโจมตี แม้ว่าจะไม่เข้าใจการทำงานภายในของโมเดลก็ตาม หากคุณซ่อนไว้แน่นเกินไป คุณอาจช่วยให้บุคคลที่เลือกข้อมูลการฝึกเข้าถึงได้ง่ายขึ้นการโจมตีด้วยพิษเพื่อลดความสมบูรณ์ของโมเดล

ทั้งสองอย่างนี้เป็นหลุมกระต่ายที่ซับซ้อนซึ่งจำเป็นต้องสำรวจเชิงลึกทีละหลุม

ค่าใช้จ่ายในการเข้ารหัส

เครื่องมือเข้ารหัส โดยเฉพาะเครื่องมืออเนกประสงค์ เช่น ZK-SNARK และ MPC มีค่าใช้จ่ายสูง ลูกค้าจะใช้เวลาหลายร้อยมิลลิวินาทีในการตรวจสอบบล็อก Ethereum โดยตรง แต่การสร้าง ZK-SNARK เพื่อพิสูจน์ความถูกต้องของบล็อกดังกล่าวอาจใช้เวลาหลายชั่วโมง เครื่องมือเข้ารหัสอื่น ๆ เช่น MPC อาจมีค่าใช้จ่ายมากกว่า

การประมวลผลของ AI นั้นมีราคาแพงอยู่แล้ว โมเดลภาษาที่ทรงพลังที่สุดสามารถพิมพ์คำได้เร็วกว่าที่มนุษย์อ่านได้เพียงเล็กน้อยเท่านั้น ไม่ต้องพูดถึงต้นทุนการคำนวณหลายล้านดอลลาร์ซึ่งโดยทั่วไปแล้วนำไปใช้ในการฝึกโมเดลเหล่านี้ มีคุณภาพแตกต่างกันมากระหว่างรุ่นยอดนิยมและรุ่นยอดนิยมที่พยายามประหยัดต้นทุนการฝึกอบรมหรือจำนวนพารามิเตอร์มากขึ้น เมื่อมองแวบแรก นี่เป็นเหตุผลที่ดีที่จะไม่เชื่อในโครงการทั้งหมดของการห่อ AI ไว้ในวิทยาการเข้ารหัสลับเพื่อเพิ่มความมั่นใจ

โชคดีที่ AI เป็นการประมวลผลประเภทพิเศษ ซึ่งช่วยให้สามารถทำการเพิ่มประสิทธิภาพต่างๆ ได้ ซึ่งประเภทการประมวลผล ไม่มีโครงสร้าง มากกว่า เช่น ZK-EVM ไม่สามารถได้รับประโยชน์จาก มาดูโครงสร้างพื้นฐานของโมเดล AI กัน:

โดยทั่วไป โมเดล AI ส่วนใหญ่ประกอบด้วยชุดของการคูณเมทริกซ์สลับกับการดำเนินการแบบไม่เชิงเส้นในแต่ละองค์ประกอบ เช่น ฟังก์ชัน ReLU ( y = max(x, 0) ) การคูณเมทริกซ์ใช้เวลาส่วนใหญ่ในลักษณะเชิงเส้นกำกับ สิ่งนี้สะดวกมากสำหรับการเข้ารหัส เนื่องจากการเข้ารหัสหลายรูปแบบสามารถดำเนินการเชิงเส้นได้ (อย่างน้อยการคูณเมทริกซ์ในโมเดลการเข้ารหัสมากกว่าในอินพุต) เกือบจะ ฟรี

หากคุณเป็นนักเข้ารหัสข้อมูล คุณคงเคยได้ยินเรื่องนี้มาก่อนการเข้ารหัสแบบโฮโมมอร์ฟิกปรากฏการณ์ที่คล้ายกันใน: เป็นเรื่องง่ายมากที่จะดำเนินการบวกกับไซเฟอร์เท็กซ์ที่เข้ารหัส แต่ยากมากในการคูณ และจนกระทั่งปี 2009 เราพบวิธีการที่ลึกอย่างไม่สิ้นสุดในการดำเนินการคูณ

สำหรับ ZK-SNARK ประมาณนี้ข้อตกลงปี 2556โปรโตคอลนี้มีราคาแพงกว่าในการพิสูจน์การคูณเมทริกซ์น้อยกว่า 4 เท่า น่าเสียดายที่โอเวอร์เฮดของเลเยอร์ที่ไม่ใช่เชิงเส้นยังคงมีนัยสำคัญ โดยการใช้งานที่ดีที่สุดในการปฏิบัติจะแสดงโอเวอร์เฮด ~200x

อย่างไรก็ตาม จากการวิจัยเพิ่มเติม ก็หวังว่าจะสามารถลดค่าใช้จ่ายนี้ลงได้อย่างมาก คุณสามารถอ้างถึง Ryan Caosการสาธิตซึ่งแนะนำแนวทางที่ล้ำสมัยโดยอิงจาก GKR รวมถึงคำอธิบายที่เรียบง่ายของฉันเองเกี่ยวกับองค์ประกอบหลักของ GKR

แต่สำหรับหลายๆ แอปพลิเคชัน เราไม่เพียงแต่ต้องการพิสูจน์ว่าเอาต์พุต AI ได้รับการคำนวณอย่างถูกต้อง แต่ยังซ่อนโมเดลด้วย มีวิธีง่ายๆ ในการทำเช่นนี้: คุณสามารถแบ่งโมเดลเพื่อให้เซิร์ฟเวอร์ชุดอื่นจัดเก็บแต่ละเลเยอร์ซ้ำซ้อน และหวังว่าเซิร์ฟเวอร์บางตัวที่รั่วไหลในเลเยอร์บางเลเยอร์จะไม่ทำให้ข้อมูลรั่วไหลมากเกินไป แต่มีบางอย่างที่น่าแปลกใจการคำนวณแบบหลายฝ่ายโดยเฉพาะ。

ในทั้งสองกรณี คุณธรรมของเรื่องราวจะเหมือนกัน: ส่วนสำคัญของการคำนวณ AI คือการคูณเมทริกซ์ และ ZK-SNARKs ที่มีประสิทธิภาพมาก MPC (แม้แต่ FHE) สามารถออกแบบสำหรับการคูณเมทริกซ์ได้ ดังนั้น AI จึงเข้าสู่การเข้ารหัส ค่าใช้จ่ายทั้งหมด ในกรอบการทำงานต่ำอย่างน่าประหลาดใจ โดยทั่วไปแล้ว ชั้นที่ไม่เชิงเส้นจะเป็นคอขวดที่ใหญ่ที่สุด แม้ว่าจะมีขนาดที่เล็กกว่าก็ตาม อาจจะชอบค้นหาพารามิเตอร์เทคโนโลยีใหม่ๆ เช่น การค้นหาสามารถช่วยได้

การเรียนรู้ของเครื่องฝ่ายตรงข้ามกล่องดำ

ตอนนี้ เรามาพูดถึงประเด็นสำคัญอีกประเด็นหนึ่ง: แม้ว่าเนื้อหาของโมเดลจะยังคงเป็นส่วนตัวและคุณมีเพียง การเข้าถึง API สำหรับโมเดลเท่านั้น แต่ประเภทของการโจมตีที่คุณยังคงสามารถทำได้ อ้างจากบทความปี 2559กระดาษ：

โมเดลการเรียนรู้ของเครื่องจำนวนมากมีความอ่อนไหวต่อตัวอย่างที่ขัดแย้งกัน: อินพุตที่ออกแบบมาเป็นพิเศษซึ่งทำให้โมเดลการเรียนรู้ของเครื่องสร้างเอาต์พุตที่ไม่ถูกต้อง ตัวอย่างฝ่ายตรงข้ามที่ส่งผลกระทบต่อโมเดลหนึ่งมักจะส่งผลกระทบต่ออีกโมเดลหนึ่ง แม้ว่าทั้งสองโมเดลจะมีสถาปัตยกรรมที่แตกต่างกันหรือได้รับการฝึกในชุดการฝึกที่แตกต่างกัน ตราบใดที่ทั้งสองโมเดลได้รับการฝึกฝนให้ทำงานเดียวกัน ดังนั้น ผู้โจมตีสามารถฝึกโมเดลตัวแทนของตนเอง สร้างตัวอย่างที่เป็นปฏิปักษ์กับโมเดลตัวแทน และโอนโมเดลเหล่านั้นไปยังโมเดลเหยื่อโดยมีข้อมูลเพียงเล็กน้อยเกี่ยวกับเหยื่อ

เป็นไปได้ว่าคุณสามารถสร้างการโจมตีจากข้อมูลการฝึกได้ แม้ว่าคุณจะมีสิทธิ์เข้าถึงโมเดลที่คุณต้องการโจมตีอย่างจำกัดหรือไม่มีเลยก็ตาม ในปี 2023 การโจมตีประเภทนี้ยังคงเป็นปัญหาสำคัญ

เพื่อที่จะควบคุมการโจมตีกล่องดำได้อย่างมีประสิทธิภาพ เราจำเป็นต้องทำสองสิ่ง:

• จำกัดจริงๆ ว่าใครหรืออะไรที่สามารถสืบค้นโมเดลและจำนวนการสืบค้นได้ กล่องดำที่มีการเข้าถึง API แบบไม่จำกัดนั้นไม่ปลอดภัย กล่องดำที่มีการเข้าถึง API แบบจำกัดมากอาจมีความปลอดภัย

• ในขณะที่ซ่อนข้อมูลการฝึกอบรม การทำให้แน่ใจว่ากระบวนการสร้างข้อมูลการฝึกอบรมไม่เสียหายถือเป็นเป้าหมายสำคัญ

ในแง่ของแรก โครงการที่อาจทำได้มากที่สุดในเรื่องนี้คือ Worldcoin ซึ่งเป็นเวอร์ชันแรก ๆ ที่ฉันวิเคราะห์โดยละเอียดที่นี่ (รวมถึงโปรโตคอลอื่น ๆ ) Worldcoin ใช้โมเดล AI อย่างกว้างขวางในระดับโปรโตคอลเพื่อ (i) แปลงการสแกนม่านตาเป็น รหัสม่านตา สั้นๆ ซึ่งสามารถเปรียบเทียบความคล้ายคลึงกันได้ง่าย และ (ii) ตรวจสอบว่าวัตถุที่สแกนนั้นเป็นมนุษย์จริงๆ

การป้องกันหลักที่ Worldcoin อาศัยคือไม่อนุญาตให้ใครเรียกโมเดล AI แต่จะใช้ฮาร์ดแวร์ที่เชื่อถือได้แทนเพื่อให้แน่ใจว่าโมเดลจะยอมรับเฉพาะอินพุตที่เซ็นชื่อแบบดิจิทัลโดยกล้องลูกโลกเท่านั้น

วิธีการนี้ไม่รับประกันว่าจะได้ผล ปรากฎว่าคุณสามารถทำการโจมตีฝ่ายตรงข้ามกับ AI ไบโอเมตริกซ์ผ่านสิ่งต่าง ๆ เช่น แผ่นแปะทางกายภาพหรือเครื่องประดับที่สวมใส่บนใบหน้าของคุณได้

การสวมอะไรเป็นพิเศษบนหน้าผากของคุณสามารถหลบเลี่ยงการตรวจจับหรือแม้กระทั่งแอบอ้างเป็นบุคคลอื่นได้ ที่มา: https://arxiv.org/pdf/2109.09320.pdf

แต่ความหวังของเราก็คือ หากคุณรวมการป้องกันทั้งหมด รวมถึงการซ่อนโมเดล AI เอง การจำกัดจำนวนการสืบค้นอย่างรุนแรง และกำหนดให้แต่ละการสืบค้นได้รับการตรวจสอบสิทธิ์ในทางใดทางหนึ่ง การโจมตีฝ่ายตรงข้ามจะกลายเป็นเรื่องยากมาก ดังนั้น ระบบมีความปลอดภัยมากขึ้น

สิ่งนี้นำไปสู่คำถามที่สอง: เราจะซ่อนข้อมูลการฝึกอบรมได้อย่างไร นี่คือจุดที่ AI ที่จัดการตามระบอบประชาธิปไตยโดย DAO อาจสมเหตุสมผลจริง ๆ เราสามารถสร้าง DAO แบบออนไลน์ที่จัดการผู้ที่ได้รับอนุญาตให้ส่งข้อมูลการฝึกอบรม (และการแสดงข้อมูลที่จำเป็น) ซึ่งสามารถสร้างแบบสอบถามได้ และ ซึ่งสามารถสืบค้นหมายเลขได้ และใช้เทคนิคการเข้ารหัส เช่น MPC เพื่อเข้ารหัสการสร้าง AI ทั้งหมดและกระบวนการทำงานตั้งแต่อินพุตการฝึกอบรมของผู้ใช้แต่ละรายไปจนถึงเอาต์พุตสุดท้ายของแต่ละแบบสอบถาม DAO นี้สามารถตอบสนองเป้าหมายยอดนิยมในการชดเชยผู้ที่ส่งข้อมูลไปพร้อมๆ กัน

ต้องย้ำว่าแผนนี้ทะเยอทะยานมากและมีหลายแง่มุมที่จะพิสูจน์ได้ว่าไม่สมจริง:

• สำหรับสถาปัตยกรรมแบบ black-box อย่างสมบูรณ์ ค่าใช้จ่ายในการเข้ารหัสอาจยังสูงเกินไปที่จะแข่งขันกับแนวทาง เชื่อใจฉัน แบบปิดแบบดั้งเดิม

• ความจริงอาจเป็นได้ว่าไม่มีวิธีที่ดีในการกระจายอำนาจกระบวนการส่งข้อมูลการฝึกอบรมและป้องกันการโจมตีแบบวางยาพิษ

• อุปกรณ์คอมพิวเตอร์หลายฝ่ายอาจมีการรับประกันความปลอดภัยหรือความเป็นส่วนตัวเนื่องจากการสมรู้ร่วมคิดระหว่างผู้เข้าร่วม: ในที่สุดสิ่งนี้ก็เกิดขึ้นครั้งแล้วครั้งเล่าบนสะพานข้ามสายโซ่

เหตุผลหนึ่งที่ฉันไม่ได้เริ่มหัวข้อนี้โดยมีคำเตือนว่า อย่าเป็นผู้ตัดสิน AI นั่นคือโลกทัศน์ ก็คือสังคมของเราพึ่งพาผู้ตัดสิน AI แบบรวมศูนย์เป็นอย่างมากอยู่แล้วซึ่งไม่สามารถรับผิดชอบได้: อัลกอริธึมที่ตัดสินประเภทของโพสต์และการเมือง ความคิดเห็น ได้รับการส่งเสริมและลดระดับบนโซเชียลมีเดียและแม้กระทั่งเซ็นเซอร์

ฉันคิดว่าการขยายแนวโน้มนี้ต่อไปในขั้นตอนนี้เป็นความคิดที่ไม่ดีนัก แต่ฉันไม่คิดว่าการทดลองกับ AI โดยชุมชนบล็อคเชนมากขึ้นจะเป็นเหตุผลหลักที่ทำให้สถานการณ์แย่ลง

จริงๆ แล้วมีวิธีพื้นฐานและมีความเสี่ยงต่ำบางประการที่สกุลเงินดิจิทัลสามารถปรับปรุงได้แม้กระทั่งระบบรวมศูนย์ที่มีอยู่ และฉันก็ค่อนข้างมั่นใจในสิ่งนั้น เทคนิคง่ายๆ ประการหนึ่งคือ AI การตรวจสอบการเผยแพร่ล่าช้า: เมื่อไซต์โซเชียลมีเดียใช้การจัดอันดับโพสต์ตาม AI ก็สามารถเผยแพร่ ZK-SNARK ที่พิสูจน์แฮชของโมเดลที่สร้างการจัดอันดับนั้น เว็บไซต์อาจสัญญาว่าจะเผยแพร่โมเดล AI สู่สาธารณะหลังจากเกิดความล่าช้าบางอย่าง เช่น หนึ่งปี

เมื่อโมเดลถูกเผยแพร่สู่สาธารณะ ผู้ใช้สามารถตรวจสอบแฮชเพื่อยืนยันว่าโมเดลที่ถูกต้องได้รับการเผยแพร่ และชุมชนสามารถทดสอบโมเดลเพื่อตรวจสอบความเป็นธรรมได้ ความล่าช้าในการเผยแพร่จะช่วยให้มั่นใจได้ว่าเมื่อโมเดลออกวางจำหน่าย โมเดลนั้นจะล้าสมัยไปแล้ว

ดังนั้นคำถามไม่ใช่ว่าเราสามารถทำได้ดีกว่าเมื่อเทียบกับโลกที่รวมศูนย์หรือไม่ แต่คำถามคือว่าเราสามารถทำได้ดีแค่ไหน อย่างไรก็ตาม สำหรับโลกที่มีการกระจายอำนาจนั้นจำเป็นต้องมีความระมัดระวัง: หากมีใครสร้างตลาดการทำนายหรือ Stablecoin ที่ใช้ AI oracle แล้วมีคนค้นพบว่า Oracle นั้นสามารถถูกแฮ็กได้ก็จะมีเงินจำนวนมากที่อาจสูญหายได้ หายไปทันที .

AI เป็นเป้าหมายของเกม

หากเทคนิคข้างต้นสำหรับการสร้าง AI ส่วนตัวแบบกระจายอำนาจที่ปรับขนาดได้ซึ่งมีเนื้อหาเป็นกล่องดำที่ไม่มีใครรู้จักสามารถใช้งานได้จริง ก็สามารถนำมาใช้เพื่อสร้างระบบที่มีประโยชน์นอกเหนือจากบล็อกเชนได้ AI ทีมงาน NEAR Protocol ใช้สิ่งนี้เป็นพื้นฐานในการทำงานอย่างต่อเนื่องเป้าหมายหลัก。

มีเหตุผลสองประการในการทำเช่นนี้:

หากสามารถสร้าง Trusted Black Box AI ได้โดยใช้การผสมผสานระหว่างบล็อกเชนและการคำนวณแบบหลายฝ่ายเพื่อรันกระบวนการฝึกอบรมและการอนุมาน แอปพลิเคชันจำนวนมากที่ผู้ใช้กังวลเกี่ยวกับอคติหรือการหลอกลวงในระบบจะได้รับประโยชน์ หลายคนแสดงความกังวลเกี่ยวกับ AI ที่เราพึ่งพาการปกครองแบบประชาธิปไตยความปรารถนา วิทยาการเข้ารหัสลับและเทคโนโลยีบล็อกเชนอาจเป็นหนทางในการบรรลุเป้าหมายนี้

จากมุมมองด้านความปลอดภัยของ AI นี่จะเป็นเทคโนโลยีที่สร้าง AI แบบกระจายอำนาจซึ่งมีสวิตช์หยุดฉุกเฉินตามธรรมชาติและสามารถจำกัดการค้นหาที่พยายามใช้ AI สำหรับพฤติกรรมที่เป็นอันตราย

เป็นที่น่าสังเกตว่า “การใช้สิ่งจูงใจในการเข้ารหัสเพื่อส่งเสริมการสร้าง AI ที่ดีขึ้น” สามารถทำได้โดยไม่ต้องล้มหลุมกระต่ายของการใช้การเข้ารหัสเพื่อเข้ารหัสอย่างสมบูรณ์: บางอย่างเช่นBitTensor วิธีการดังกล่าวจัดอยู่ในหมวดหมู่นี้

สรุปแล้ว

ในขณะที่บล็อกเชนและ AI ยังคงพัฒนาต่อไป กรณีการใช้งานที่จุดตัดของทั้งสองก็เพิ่มขึ้นเช่นกัน และกรณีการใช้งานบางส่วนเหล่านี้มีความหมายและแข็งแกร่งมากขึ้น

โดยทั่วไปแล้ว กลไกพื้นฐานเหล่านั้นโดยพื้นฐานแล้วยังคงเป็นการออกแบบเดียวกัน แต่ผู้เข้าร่วมแต่ละคนจะกลายเป็นกรณีการใช้งาน AI กลไกที่ทำงานอย่างมีประสิทธิภาพในระดับจุลภาคที่มากกว่านั้นมีแนวโน้มว่าจะนำไปใช้ได้ในทันทีและง่ายที่สุด

สิ่งที่ท้าทายที่สุดคือแอปพลิเคชันที่พยายามใช้บล็อกเชนและการเข้ารหัสเพื่อสร้าง singletons: AI ที่เชื่อถือได้แบบกระจายอำนาจเดี่ยวซึ่งบางแอปพลิเคชันพึ่งพาเพื่อวัตถุประสงค์บางอย่าง

แอปพลิเคชันเหล่านี้มีศักยภาพทั้งในการทำงานและปรับปรุงความปลอดภัยของ AI ในขณะเดียวกันก็หลีกเลี่ยงความเสี่ยงจากการรวมศูนย์

แต่สมมติฐานที่ซ่อนอยู่ก็สามารถล้มเหลวได้หลายวิธีเช่นกัน ดังนั้นจึงจำเป็นต้องใช้ความระมัดระวังเมื่อปรับใช้แอปพลิเคชันเหล่านี้ โดยเฉพาะอย่างยิ่งในสภาพแวดล้อมที่มีมูลค่าสูงและมีความเสี่ยงสูง

ฉันหวังว่าจะได้เห็นความพยายามเชิงสร้างสรรค์มากขึ้นเกี่ยวกับกรณีการใช้งาน AI ในทุกด้านเหล่านี้ เพื่อให้เราเห็นว่ากรณีการใช้งานใดที่เป็นไปได้อย่างแท้จริงในวงกว้าง

แหล่งที่มา:https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html#dacc