ผู้แต่งต้นฉบับ: เจียเหิง จาง
เนื่องจากปัญญาประดิษฐ์ (AI) ถูกนำมาใช้มากขึ้นในด้านสำคัญๆ เช่น การดูแลสุขภาพ การเงิน และการขับขี่อัตโนมัติ การรับรองความน่าเชื่อถือ ความโปร่งใส และความปลอดภัยของกระบวนการใช้เหตุผลการเรียนรู้ของเครื่องจักร (ML) จึงกลายเป็นสิ่งที่สำคัญมากขึ้นกว่าที่เคย
อย่างไรก็ตาม บริการการเรียนรู้ของเครื่องจักรแบบดั้งเดิมมักทำงานเหมือน กล่องดำ ซึ่งผู้ใช้จะมองเห็นได้เฉพาะผลลัพธ์เท่านั้น และยากต่อการตรวจสอบกระบวนการ ความคลุมเครือนี้ทำให้บริการโมเดลเสี่ยงต่อความเสี่ยง:
นางแบบโดนขโมยไป
ผลการอนุมานถูกดัดแปลงอย่างมีเจตนาเป็นอันตราย
ข้อมูลของผู้ใช้มีความเสี่ยงต่อการรั่วไหลของความเป็นส่วนตัว
ZKML (Zero-Knowledge Machine Learning) นำเสนอโซลูชันการเข้ารหัสรูปแบบใหม่เพื่อรับมือกับความท้าทายนี้ โดยโซลูชันนี้จะใช้เทคโนโลยี Zero-Knowledge Proof (ZKP) เพื่อให้โมเดลการเรียนรู้ของเครื่องสามารถตรวจสอบด้วยการเข้ารหัสได้ โดยพิสูจน์ว่าการคำนวณดำเนินการอย่างถูกต้องโดยไม่เปิดเผยข้อมูลที่ละเอียดอ่อน
กล่าวอีกนัยหนึ่ง ZKP ช่วยให้ผู้ให้บริการพิสูจน์ต่อผู้ใช้ได้ว่า:
“ผลลัพธ์อนุมานที่คุณได้นั้นเป็นผลลัพธ์ที่ฉันรันโดยใช้โมเดลที่ผ่านการฝึกอบรม แต่ฉันจะไม่เปิดเผยพารามิเตอร์ของโมเดลใดๆ”
ซึ่งหมายความว่าผู้ใช้สามารถเชื่อถือความถูกต้องของผลการอนุมานได้ ในขณะที่โครงสร้างและพารามิเตอร์ของแบบจำลอง (ซึ่งมักจะเป็นทรัพย์สินที่มีมูลค่าสูง) จะยังคงเป็นแบบส่วนตัวอยู่เสมอ
zkPyTorch
Polyhedra Network เปิดตัว zkPyTorch คอมไพเลอร์ปฏิวัติวงการที่สร้างขึ้นโดยเฉพาะสำหรับการเรียนรู้ของเครื่องจักรแบบความรู้เป็นศูนย์ (ZKML) ซึ่งมีเป้าหมายเพื่อเชื่อมโยงไมล์สุดท้ายระหว่างกรอบงาน AI กระแสหลักกับเทคโนโลยี ZK
zkPyTorch ผสานรวมความสามารถด้านการเรียนรู้ของเครื่องจักรอันทรงพลังของ PyTorch เข้ากับกลไกพิสูจน์ความรู้เป็นศูนย์ที่ล้ำสมัย นักพัฒนา AI สามารถสร้างแอปพลิเคชัน AI ที่ตรวจสอบได้ในสภาพแวดล้อมที่คุ้นเคยโดยไม่ต้องเปลี่ยนนิสัยการเขียนโปรแกรมหรือเรียนรู้ภาษา ZK ใหม่
คอมไพเลอร์นี้สามารถแปลการดำเนินการของโมเดลระดับสูง (เช่น การม้วนรวมกัน การคูณเมทริกซ์ ReLU ซอฟต์แมกซ์ และกลไกการใส่ใจ) เป็นวงจร ZKP ที่ตรวจสอบได้ทางเข้ารหัสโดยอัตโนมัติ และเมื่อใช้ร่วมกับชุดการเพิ่มประสิทธิภาพ ZKML ที่ Polyhedra พัฒนาขึ้นเอง ก็สามารถบีบอัดและเร่งความเร็วเส้นทางการใช้เหตุผลหลักได้อย่างชาญฉลาดเพื่อให้แน่ใจว่าทั้งวงจรถูกต้องและมีประสิทธิภาพในการคำนวณ
สร้างโครงสร้างพื้นฐานที่สำคัญสำหรับระบบนิเวศ AI ที่เชื่อถือได้
ระบบนิเวศการเรียนรู้ของเครื่องจักรในปัจจุบันกำลังเผชิญกับความท้าทายมากมาย เช่น ความปลอดภัยของข้อมูล ความสามารถในการตรวจสอบด้วยคอมพิวเตอร์ และความโปร่งใสของโมเดล โดยเฉพาะอย่างยิ่งในอุตสาหกรรมหลัก เช่น การดูแลสุขภาพ การเงิน และการขับขี่อัตโนมัติ โมเดล AI ไม่เพียงแต่เกี่ยวข้องกับข้อมูลส่วนบุคคลที่ละเอียดอ่อนจำนวนมากเท่านั้น แต่ยังรวมถึงทรัพย์สินทางปัญญาที่มีมูลค่าสูงและความลับทางธุรกิจหลักอีกด้วย
การเรียนรู้ของเครื่องจักรแบบ Zero-Knowledge (ZKML) ถือกำเนิดขึ้นและกลายมาเป็นความก้าวหน้าที่สำคัญในการแก้ไขปัญหาที่น่าหนักใจนี้ โดยใช้เทคโนโลยี Zero-Knowledge Proof (ZKP) ZKML สามารถทำการตรวจสอบความสมบูรณ์ของการใช้เหตุผลของแบบจำลองได้โดยไม่ทำให้พารามิเตอร์ของแบบจำลองหรือข้อมูลอินพุตรั่วไหล ซึ่งทั้งปกป้องความเป็นส่วนตัวและรับรองความน่าเชื่อถือ
แต่ในความเป็นจริง การพัฒนา ZKML มักจะมีขีดจำกัดที่สูงมากและต้องมีความรู้พื้นฐานด้านการเข้ารหัสที่ลึกซึ้ง ซึ่งเกินกว่าความสามารถของวิศวกร AI ดั้งเดิมที่จะทำได้อย่างง่ายๆ
นี่คือสิ่งที่ zkPyTorch ทำ โดยสร้างสะพานเชื่อมระหว่าง PyTorch และเอ็นจิ้น ZKP ช่วยให้นักพัฒนาสามารถสร้างระบบ AI ที่รักษาความเป็นส่วนตัวและตรวจสอบได้โดยใช้โค้ดที่คุ้นเคยโดยไม่ต้องเรียนรู้ภาษาการเข้ารหัสที่ซับซ้อนอีกครั้ง
ด้วย zkPyTorch เครือข่าย Polyhedra สามารถลดอุปสรรคทางเทคนิคของ ZKML ได้อย่างมาก ส่งเสริมให้แอปพลิเคชัน AI ที่ปรับขนาดได้และเชื่อถือได้กลายเป็นกระแสหลัก และสร้างกรอบแนวคิดใหม่สำหรับการรักษาความปลอดภัยและความเป็นส่วนตัวของ AI
เวิร์กโฟลว์ zkPyTorch
รูปที่ 1: ภาพรวมสถาปัตยกรรมโดยรวมของ ZKPyTorch
ตามที่แสดงในรูปที่ 1 zkPyTorch จะแปลงโมเดล PyTorch มาตรฐานให้เป็นวงจรที่เข้ากันได้กับ ZKP (หลักฐานความรู้เป็นศูนย์) โดยอัตโนมัติโดยใช้โมดูลที่ได้รับการออกแบบอย่างพิถีพิถัน 3 โมดูล ได้แก่ โมดูลก่อนการประมวลผล โมดูลการวัดปริมาณที่เป็นมิตรต่อความรู้เป็นศูนย์ และโมดูลการเพิ่มประสิทธิภาพวงจร
กระบวนการนี้ไม่จำเป็นต้องให้ผู้พัฒนาเชี่ยวชาญวงจรเข้ารหัสหรือรูปแบบพิเศษใดๆ นักพัฒนาเพียงแค่ต้องใช้ PyTorch มาตรฐานในการเขียนแบบจำลอง และ zkPyTorch สามารถแปลงวงจรเหล่านี้เป็นวงจรที่สามารถรับรู้ได้โดยเอ็นจิ้นพิสูจน์ความรู้เป็นศูนย์ เช่น Expander และสร้างการพิสูจน์ ZK ที่สอดคล้องกัน การออกแบบโมดูลาร์สูงนี้ช่วยลดเกณฑ์การพัฒนาของ ZKML ได้อย่างมาก ทำให้ผู้พัฒนา AI สามารถสร้างแอปพลิเคชันการเรียนรู้ของเครื่องที่มีประสิทธิภาพ ปลอดภัย และตรวจสอบได้อย่างง่ายดายโดยไม่ต้องเปลี่ยนภาษาหรือเรียนรู้การเข้ารหัส
โมดูล 1: การประมวลผลแบบจำลองเบื้องต้น
ในขั้นตอนแรก zkPyTorch จะแปลงโมเดล PyTorch ให้เป็นกราฟการคำนวณที่มีโครงสร้างโดยใช้รูปแบบ Open Neural Network Exchange (ONNX) ONNX เป็นมาตรฐานการแสดงข้อมูลระดับกลางที่ใช้กันอย่างแพร่หลายซึ่งสามารถแสดงการดำเนินการเรียนรู้ของเครื่องจักรที่ซับซ้อนต่างๆ ได้อย่างสม่ำเสมอ ผ่านขั้นตอนการประมวลผลเบื้องต้นนี้ zkPyTorch สามารถชี้แจงโครงสร้างของโมเดลและแยกส่วนกระบวนการคำนวณหลักได้ ซึ่งจะช่วยวางรากฐานที่มั่นคงสำหรับวงจรพิสูจน์ความรู้เป็นศูนย์รุ่นถัดไป
โมดูล 2: การวัดปริมาณที่เป็นมิตรกับ ZKP
โมดูลการวัดปริมาณเป็นส่วนสำคัญของระบบ ZKML โมเดลการเรียนรู้ของเครื่องแบบดั้งเดิมนั้นอาศัยการดำเนินการแบบจุดลอยตัว ในขณะที่สภาพแวดล้อมของ ZKP นั้นเหมาะสมกว่าสำหรับการดำเนินการแบบจำนวนเต็มในฟิลด์จำกัด zkPyTorch ใช้รูปแบบการวัดปริมาณจำนวนเต็มที่ปรับให้เหมาะสมสำหรับฟิลด์จำกัด เพื่อแมปการคำนวณแบบจุดลอยตัวกับการคำนวณแบบจำนวนเต็มอย่างแม่นยำ ในขณะที่แปลงการดำเนินการแบบไม่เชิงเส้นที่ไม่เอื้อต่อ ZKP (เช่น ReLU, Softmax) เป็นรูปแบบตารางค้นหาที่มีประสิทธิภาพ
กลยุทธ์นี้ไม่เพียงแต่ช่วยลดความซับซ้อนของวงจรได้อย่างมาก แต่ยังช่วยปรับปรุงความสามารถในการตรวจสอบและประสิทธิภาพการทำงานของระบบทั้งหมดพร้อมทั้งยังรับประกันความแม่นยำของแบบจำลองอีกด้วย
โมดูล 3: การเพิ่มประสิทธิภาพวงจรแบบลำดับชั้น
zkPyTorch ใช้กลยุทธ์หลายระดับสำหรับการเพิ่มประสิทธิภาพวงจร ซึ่งรวมถึง:
การเพิ่มประสิทธิภาพแบบแบตช์ได้รับการออกแบบมาเป็นพิเศษสำหรับการประมวลผลแบบอนุกรม โดยจะช่วยลดความซับซ้อนในการประมวลผลและการใช้ทรัพยากรได้อย่างมากด้วยการประมวลผลขั้นตอนการใช้เหตุผลหลายขั้นตอนในคราวเดียว เหมาะเป็นพิเศษสำหรับสถานการณ์การตรวจสอบของโมเดลภาษาขนาดใหญ่ เช่น Transformer
การเร่งความเร็วการทำงานแบบดั้งเดิมจะรวมการม้วนรวมการแปลงฟูเรียร์ที่รวดเร็ว (FFT) เข้ากับเทคโนโลยีตารางการค้นหาเพื่อปรับปรุงความเร็วในการทำงานของวงจรสำหรับการทำงานพื้นฐาน เช่น การม้วนรวมและ Softmax ได้อย่างมีประสิทธิภาพ ซึ่งจะช่วยเพิ่มประสิทธิภาพการประมวลผลโดยรวมให้ดีขึ้นอย่างแท้จริง
การดำเนินการวงจรคู่ขนานช่วยเพิ่มประสิทธิภาพในการประมวลผลของ CPU และ GPU แบบมัลติคอร์ โดยแบ่งการคำนวณภาระหนัก เช่น การคูณเมทริกซ์ออกเป็นหลายงานย่อยเพื่อการดำเนินการแบบคู่ขนาน ช่วยปรับปรุงความเร็วและความสามารถในการปรับขนาดของการสร้างหลักฐานความรู้เป็นศูนย์ได้อย่างมีนัยสำคัญ
การอภิปรายเชิงเทคนิคแบบเจาะลึก
กราฟแบบมีทิศทางแบบไม่มีวงจร (DAG)
zkPyTorch ใช้กราฟแบบไม่มีวงจรที่มีทิศทาง (DAG) เพื่อจัดการกระบวนการคำนวณของการเรียนรู้ของเครื่อง โครงสร้าง DAG สามารถจับความสัมพันธ์ของโมเดลที่ซับซ้อนได้อย่างเป็นระบบ ดังที่แสดงในรูปที่ 2 โหนดแต่ละโหนดในกราฟแสดงการดำเนินการเฉพาะ (เช่น การเปลี่ยนตำแหน่งเมทริกซ์ การคูณเมทริกซ์ การหาร และ Softmax) ในขณะที่ขอบอธิบายการไหลของข้อมูลระหว่างการดำเนินการเหล่านี้ได้อย่างแม่นยำ
การแสดงข้อมูลที่ชัดเจนและมีโครงสร้างนี้ไม่เพียงแต่ช่วยอำนวยความสะดวกให้กับกระบวนการแก้ไขข้อบกพร่องเท่านั้น แต่ยังช่วยเพิ่มประสิทธิภาพการทำงานในเชิงลึกอีกด้วย ลักษณะแบบอะไซคลิกของ DAG ช่วยหลีกเลี่ยงการพึ่งพาแบบไซคลิกและช่วยให้มั่นใจว่าการดำเนินการตามลำดับการคำนวณจะมีประสิทธิภาพและควบคุมได้ ซึ่งเป็นสิ่งสำคัญสำหรับการเพิ่มประสิทธิภาพการสร้างวงจรพิสูจน์ความรู้เป็นศูนย์
นอกจากนี้ DAG ยังช่วยให้ zkPyTorch สามารถประมวลผลสถาปัตยกรรมโมเดลที่ซับซ้อน เช่น Transformer และ Residual Network (ResNet) ได้อย่างมีประสิทธิภาพ โมเดลเหล่านี้มักจะมีการไหลของข้อมูลแบบหลายเส้นทาง ไม่เชิงเส้น และซับซ้อน การออกแบบ DAG ตอบสนองความต้องการในการประมวลผลของโมเดลเท่านั้น โดยรับประกันความแม่นยำและประสิทธิภาพของการใช้เหตุผลของโมเดล
รูปที่ 2: ตัวอย่างของแบบจำลองการเรียนรู้ของเครื่องที่แสดงเป็นกราฟแบบไม่มีวงจรที่มีทิศทาง (DAG)
เทคนิคการวัดเชิงปริมาณขั้นสูง
ใน zkPyTorch เทคนิคการวัดปริมาณขั้นสูงถือเป็นขั้นตอนสำคัญในการแปลงการคำนวณจุดลอยตัวเป็นการดำเนินการจำนวนเต็มที่เหมาะสำหรับเลขคณิตฟิลด์จำกัดที่มีประสิทธิภาพในระบบการพิสูจน์ความรู้เป็นศูนย์ (ZKP) zkPyTorch ใช้กรรมวิธีการวัดปริมาณจำนวนเต็มคงที่ซึ่งได้รับการออกแบบมาอย่างพิถีพิถันเพื่อรักษาสมดุลระหว่างประสิทธิภาพการคำนวณและความแม่นยำของแบบจำลอง ช่วยให้มั่นใจได้ว่าวิธีการดังกล่าวจะรวดเร็วและแม่นยำในการสร้างการพิสูจน์
กระบวนการวัดปริมาณนี้เกี่ยวข้องกับการสอบเทียบที่เข้มงวดเพื่อกำหนดมาตราการวัดปริมาณที่เหมาะสมอย่างแม่นยำเพื่อแสดงจำนวนจุดลอยตัวได้อย่างมีประสิทธิภาพและหลีกเลี่ยงการล้นและการสูญเสียความแม่นยำอย่างมีนัยสำคัญ เพื่อตอบสนองต่อความท้าทายในการคำนวณแบบไม่เชิงเส้นที่ไม่เหมือนใครของ ZKP (เช่น Softmax และการทำให้เป็นมาตรฐานเลเยอร์) zkPyTorch ได้แปลงฟังก์ชันที่ซับซ้อนเหล่านี้ให้เป็นการดำเนินการค้นหาตารางที่มีประสิทธิภาพอย่างสร้างสรรค์
กลยุทธ์นี้ไม่เพียงแต่ช่วยปรับปรุงประสิทธิภาพของการสร้างหลักฐานอย่างมากเท่านั้น แต่ยังช่วยให้แน่ใจว่าผลลัพธ์ของการพิสูจน์ที่สร้างขึ้นนั้นสอดคล้องอย่างสมบูรณ์กับผลลัพธ์ของแบบจำลองการวัดเชิงปริมาณความแม่นยำสูง โดยคำนึงถึงทั้งประสิทธิภาพและความน่าเชื่อถือ และส่งเสริมการใช้งานการเรียนรู้ของเครื่องจักรที่ตรวจสอบได้ในทางปฏิบัติ
กลยุทธ์การเพิ่มประสิทธิภาพวงจรหลายระดับ
zkPyTorch ใช้ระบบเพิ่มประสิทธิภาพวงจรหลายระดับที่ซับซ้อนอย่างยิ่งเพื่อให้แน่ใจถึงประสิทธิภาพสูงสุดของการใช้เหตุผลแบบความรู้เป็นศูนย์ในแง่ของประสิทธิภาพและความสามารถในการปรับขนาดจากมิติต่างๆ:
การเพิ่มประสิทธิภาพการประมวลผลแบบแบตช์
การรวมงานการใช้เหตุผลหลายชุดเข้าเป็นชุดช่วยลดความซับซ้อนในการคำนวณโดยรวมได้อย่างมาก ซึ่งเหมาะเป็นอย่างยิ่งสำหรับสถานการณ์การทำงานแบบต่อเนื่องในโมเดลภาษา เช่น Transformer ดังที่แสดงในรูปที่ 3 กระบวนการใช้เหตุผลของโมเดลภาษาขนาดใหญ่แบบดั้งเดิม (LLM) ทำงานในลักษณะการสร้างโทเค็นต่อโทเค็น ในขณะที่วิธีการที่สร้างสรรค์ของ zkPyTorch จะรวบรวมโทเค็นอินพุตและเอาต์พุตทั้งหมดเข้าในกระบวนการพร้อมท์เดียวเพื่อการตรวจสอบ วิธีการประมวลผลนี้สามารถยืนยันได้ว่าการใช้เหตุผลโดยรวมของ LLM นั้นถูกต้องในแต่ละครั้งหรือไม่ ในขณะที่ยังรับรองว่าโทเค็นเอาต์พุตแต่ละอันสอดคล้องกับการใช้เหตุผล LLM มาตรฐาน
ในการใช้เหตุผล LLM ความถูกต้องของกลไกแคช KV (แคชคีย์-ค่า) เป็นกุญแจสำคัญในการรับรองความน่าเชื่อถือของผลลัพธ์การใช้เหตุผล หากตรรกะการใช้เหตุผลของแบบจำลองไม่ถูกต้อง แม้ว่าจะใช้งานแคชก็ตาม ก็ไม่สามารถเรียกคืนผลลัพธ์ที่สอดคล้องกับกระบวนการถอดรหัสมาตรฐานได้ zkPyTorch รับประกันว่าผลลัพธ์ทุกรายการในการพิสูจน์ความรู้เป็นศูนย์จะมีความแน่นอนและความสมบูรณ์ที่ตรวจสอบได้ โดยทำซ้ำกระบวนการนี้ได้อย่างแม่นยำ
รูปที่ 3: การตรวจสอบแบบแบตช์ของการคำนวณ Large Scale Language Models (LLM) โดยที่ L แทนความยาวลำดับอินพุต N แทนความยาวลำดับเอาต์พุต และ H แทนมิติเลเยอร์ที่ซ่อนอยู่ของแบบจำลอง
การดำเนินการดั้งเดิมที่ได้รับการเพิ่มประสิทธิภาพ
zkPyTorch ได้ปรับปรุงการทำงานของการเรียนรู้ของเครื่องพื้นฐานอย่างล้ำลึก เพื่อปรับปรุงประสิทธิภาพของวงจรอย่างมาก ตัวอย่างเช่น การดำเนินการคอนโวลูชั่นเป็นงานที่ต้องใช้การคำนวณมาก zkPyTorch ใช้เมธอดการปรับให้เหมาะสมโดยอิงจากการแปลงฟูเรียร์อย่างรวดเร็ว (FFT) เพื่อแปลงคอนโวลูชั่นที่ดำเนินการในโดเมนเชิงพื้นที่เดิมเป็นการดำเนินการคูณในโดเมนความถี่ ซึ่งช่วยลดต้นทุนการคำนวณได้อย่างมาก ในเวลาเดียวกัน สำหรับฟังก์ชันที่ไม่เชิงเส้น เช่น ReLU และ softmax ระบบจะใช้ตารางค้นหาที่คำนวณไว้ล่วงหน้าเพื่อหลีกเลี่ยงการคำนวณที่ไม่เชิงเส้นซึ่งไม่เป็นมิตรกับ ZKP ซึ่งช่วยปรับปรุงประสิทธิภาพการทำงานของวงจรอนุมานได้อย่างมาก
การดำเนินการวงจรขนาน
zkPyTorch จะคอมไพล์การดำเนินการ ML ที่ซับซ้อนลงในวงจรคู่ขนานโดยอัตโนมัติ ปลดปล่อยศักยภาพฮาร์ดแวร์ของ CPU/GPU แบบมัลติคอร์ได้อย่างเต็มที่ และเปิดใช้งานการสร้างหลักฐานคู่ขนานขนาดใหญ่ได้ ตัวอย่างเช่น เมื่อทำการคูณเทนเซอร์ zkPyTorch จะแยกงานการคำนวณออกเป็นงานย่อยอิสระหลายงานโดยอัตโนมัติ และแจกจ่ายไปยังหน่วยประมวลผลหลายหน่วยเพื่อดำเนินการพร้อมกัน กลยุทธ์การประมวลผลแบบคู่ขนานนี้ไม่เพียงแต่ปรับปรุงปริมาณงานของการทำงานของวงจรได้อย่างมีนัยสำคัญ แต่ยังทำให้การตรวจสอบแบบจำลองขนาดใหญ่มีประสิทธิภาพมากขึ้นอีกด้วย ซึ่งเปิดมิติใหม่ให้กับ ZKML ที่ปรับขนาดได้
การทดสอบประสิทธิภาพที่ครอบคลุม: การพัฒนาอย่างก้าวกระโดดทั้งในด้านประสิทธิภาพและความแม่นยำ
zkPyTorch ผ่านการทดสอบประสิทธิภาพอันเข้มงวดและแสดงให้เห็นถึงประสิทธิภาพที่ยอดเยี่ยมและการใช้งานได้จริงในโมเดลการเรียนรู้ของเครื่องหลักหลายแบบ:
การทดสอบรุ่น VGG-16
ในชุดข้อมูล CIFAR-10 zkPyTorch สามารถสร้างหลักฐาน VGG-16 สำหรับภาพเดียวได้ในเวลาเพียง 6.3 วินาที และความแม่นยำนั้นแทบจะเท่ากับการคำนวณจุดลอยตัวแบบเดิม ซึ่งแสดงให้เห็นว่า zkML มีความสามารถในทางปฏิบัติสำหรับงานคลาสสิก เช่น การจดจำภาพ
การทดสอบโมเดล Llama-3
สำหรับโมเดลภาษาขนาดใหญ่ Llama-3 ที่มีขนาดพารามิเตอร์สูงสุดถึง 8 พันล้านตัว zkPyTorch สามารถสร้างหลักฐานได้อย่างมีประสิทธิภาพประมาณ 150 วินาทีต่อโทเค็น สิ่งที่น่าประทับใจยิ่งกว่าคือผลลัพธ์ของ zkPyTorch ยังคงรักษาความคล้ายคลึงของโคไซน์ที่ 99.32% เมื่อเทียบกับโมเดลเดิม ขณะเดียวกันก็รับประกันความน่าเชื่อถือสูงและยังคงคำนึงถึงความสอดคล้องทางความหมายของผลลัพธ์ของโมเดลด้วย
ตารางที่ 1: ประสิทธิภาพของโครงร่าง ZKP ต่างๆ ในเครือข่ายประสาทเทียมแบบ Convolutional และเครือข่ายหม้อแปลง
สถานการณ์การใช้งานจริงที่หลากหลาย
การเรียนรู้ของเครื่องจักรที่สามารถตรวจสอบได้ในรูปแบบบริการ (Verifiable MLaaS)
เนื่องจากมูลค่าของโมเดลการเรียนรู้ของเครื่องจักรยังคงเพิ่มขึ้นอย่างต่อเนื่อง นักพัฒนา AI จำนวนมากขึ้นเรื่อยๆ จึงเลือกที่จะนำโมเดลที่พัฒนาขึ้นเองไปใช้งานบนคลาวด์และให้บริการ MLaaS (การเรียนรู้ของเครื่องจักรในรูปแบบบริการ) อย่างไรก็ตาม ในความเป็นจริง มักเป็นเรื่องยากสำหรับผู้ใช้ในการตรวจสอบว่าผลลัพธ์ที่ได้จากการอนุมานนั้นเป็นจริงและเชื่อถือได้หรือไม่ นอกจากนี้ ผู้ให้บริการโมเดลยังต้องการปกป้องสินทรัพย์หลัก เช่น โครงสร้างและพารามิเตอร์ของโมเดล เพื่อหลีกเลี่ยงการโจรกรรมหรือการละเมิด
zkPyTorch ถูกสร้างขึ้นเพื่อแก้ไขข้อขัดแย้งนี้ โดยช่วยให้บริการ AI บนคลาวด์มี ความสามารถในการตรวจสอบความรู้เป็นศูนย์ ดั้งเดิม และทำให้สามารถตรวจยืนยันผลลัพธ์ของการใช้เหตุผลได้ในระดับการเข้ารหัส
ตามที่แสดงในรูปที่ 4 นักพัฒนาสามารถเชื่อมต่อโมเดลขนาดใหญ่ เช่น Llama-3 กับ zkPyTorch ได้โดยตรงเพื่อสร้างระบบ MLaaS ที่เชื่อถือได้พร้อมความสามารถในการพิสูจน์ความรู้เป็นศูนย์ ด้วยการบูรณาการกับเอ็นจิ้น ZKP พื้นฐานอย่างราบรื่น zkPyTorch สามารถสร้างการพิสูจน์โดยอัตโนมัติโดยไม่เปิดเผยรายละเอียดของโมเดล ตรวจสอบว่าการใช้เหตุผลแต่ละอย่างดำเนินการอย่างถูกต้องหรือไม่ และสร้างรากฐานความน่าเชื่อถือแบบโต้ตอบที่น่าเชื่อถืออย่างแท้จริงสำหรับผู้ให้บริการและผู้ใช้โมเดล
รูปที่ 4: สถานการณ์การใช้งานของ zkPyTorch ใน Verifiable Machine Learning as a Service (Verifiable MLaaS)
การประเมินมูลค่าแบบจำลองการรักษาความปลอดภัย
zkPyTorch มอบกลไกการประเมินโมเดล AI ที่ปลอดภัยและตรวจสอบได้ ช่วยให้ผู้ถือผลประโยชน์สามารถประเมินตัวชี้วัดประสิทธิภาพที่สำคัญได้อย่างรอบคอบโดยไม่ต้องเปิดเผยรายละเอียดของโมเดล วิธีการประเมินมูลค่า การรั่วไหลเป็นศูนย์ นี้สร้างมาตรฐานความน่าเชื่อถือใหม่สำหรับโมเดล AI ขณะเดียวกันก็ปรับปรุงประสิทธิภาพของธุรกรรมเชิงพาณิชย์และปกป้องความปลอดภัยของทรัพย์สินทางปัญญาของนักพัฒนา ไม่เพียงแต่ปรับปรุงการมองเห็นมูลค่าของโมเดลเท่านั้น แต่ยังเพิ่มความโปร่งใสและความยุติธรรมให้กับอุตสาหกรรม AI ทั้งหมดอีกด้วย
การบูรณาการอย่างลึกซึ้งกับบล็อคเชน EXPchain
zkPyTorch ผสานรวมเครือข่ายบล็อคเชน EXPchain ที่พัฒนาโดย Polyhedra Network เข้าด้วยกันเพื่อสร้างโครงสร้างพื้นฐาน AI แบบกระจายอำนาจที่เชื่อถือได้ร่วมกัน การผสานรวมนี้มอบเส้นทางที่เหมาะสมที่สุดสำหรับการเรียกใช้สัญญาอัจฉริยะและการตรวจสอบบนเชน ช่วยให้สามารถตรวจสอบผลการใช้เหตุผลของ AI ด้วยการเข้ารหัสและจัดเก็บถาวรบนบล็อคเชนได้
ด้วยความร่วมมือระหว่าง zkPyTorch และ EXPchain นักพัฒนาสามารถสร้างแอปพลิเคชัน AI ที่ตรวจสอบได้แบบครบวงจร ตั้งแต่การปรับใช้โมเดล การคำนวณอนุมาน ไปจนถึงการตรวจสอบแบบบนเชน ช่วยให้เกิดกระบวนการคำนวณ AI ที่โปร่งใส เชื่อถือได้ และตรวจสอบได้อย่างแท้จริง และให้การสนับสนุนพื้นฐานสำหรับแอปพลิเคชันบล็อคเชน + AI รุ่นถัดไป
แผนงานในอนาคตและนวัตกรรมอย่างต่อเนื่อง
Polyhedra จะยังคงพัฒนาการพัฒนา zkPyTorch ต่อไป โดยมุ่งเน้นที่ด้านต่าง ๆ ต่อไปนี้:
โอเพ่นซอร์สและการสร้างชุมชน
ค่อยๆ เปิดซอร์สส่วนประกอบหลักของ zkPyTorch เพื่อสร้างแรงบันดาลใจให้นักพัฒนาในระดับโลกมีส่วนร่วม และส่งเสริมนวัตกรรมแบบร่วมมือและความเจริญรุ่งเรืองทางนิเวศน์ในสาขาการเรียนรู้ของเครื่องจักรแบบไร้ความรู้
การขยายความเข้ากันได้ของโมเดลและกรอบงาน
ขยายการรองรับสำหรับโมเดลและกรอบการทำงานการเรียนรู้ของเครื่องหลัก เพิ่มความสามารถในการปรับตัวและความคล่องตัวของ zkPyTorch ให้ดียิ่งขึ้น และทำให้สามารถฝังลงในเวิร์กโฟลว์ AI ต่างๆ ได้อย่างยืดหยุ่น
เครื่องมือพัฒนาและการสร้าง SDK
เปิดตัวชุดเครื่องมือการพัฒนาที่ครอบคลุมและชุดพัฒนาซอฟต์แวร์ (SDK) เพื่อลดความซับซ้อนของกระบวนการบูรณาการ และเร่งการปรับใช้และการใช้งาน zkPyTorch ในสถานการณ์ทางธุรกิจจริง
บทสรุป
zkPyTorch เป็นก้าวสำคัญสู่อนาคตของ AI ที่เชื่อถือได้ ด้วยการผสานรวมกรอบงาน PyTorch ที่สมบูรณ์แบบเข้ากับเทคโนโลยีพิสูจน์ความรู้เป็นศูนย์ที่ล้ำสมัย zkPyTorch ไม่เพียงแต่ปรับปรุงความปลอดภัยและความสามารถในการตรวจสอบของการเรียนรู้ของเครื่องเท่านั้น แต่ยังปรับเปลี่ยนวิธีการปรับใช้และขอบเขตความน่าเชื่อถือของแอปพลิเคชัน AI อีกด้วย
Polyhedra จะยังคงมุ่งเน้นการพัฒนานวัตกรรมในด้าน AI ที่ปลอดภัย ส่งเสริมการเรียนรู้ของเครื่องจักรให้มีมาตรฐานที่สูงขึ้นในการปกป้องความเป็นส่วนตัว การตรวจสอบผลลัพธ์ และการปฏิบัติตามโมเดล และช่วยสร้างระบบอัจฉริยะที่โปร่งใส เชื่อถือได้ และปรับขนาดได้
ติดตามความคืบหน้าของเราในการเปิดตัวการพัฒนาล่าสุด และร่วมเป็นสักขีพยานว่า zkPyTorch จะปรับเปลี่ยนอนาคตของยุคแห่งปัญญาประดิษฐ์อย่างไร
