Anthropic สร้างโมเดล AI ที่ทรงพลังที่สุดในประวัติศาสตร์ แต่ไม่กล้าเปิดตัว...

ต้นฉบับ | Odaily (@OdailyChina)

ผู้เขียน｜Azuma (@azuma_eth)

วันที่ 8 เมษายน Anthropic บริษัทผู้พัฒนา AI เบื้องหลัง Claude ได้ประกาศอย่างเป็นทางการว่าจะเปิดตัวแผนใหม่ชื่อ "Project Glasswing" (ปีกแก้ว) แผนนี้จะดำเนินการร่วมกับบริษัทชั้นนำหลายแห่ง เช่น Amazon, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA และ Palo Alto Networks

Anthropic ระบุว่า นี่เป็นมาตรการเร่งด่วนเพื่อปกป้องซอฟต์แวร์ที่สำคัญที่สุดของโลก โดยทุกฝ่ายจะร่วมกันใช้รุ่นพรีวิวของ Mythos เพื่อค้นหาและแก้ไขจุดบกพร่องที่อาจเกิดขึ้นในระบบที่โลกพึ่งพาอยู่ในปัจจุบัน

Mythos คือโมเดล AI รุ่นต่อไปที่ Anthropic กำลังพัฒนา ซึ่งเป็นโมเดลแรกในประวัติศาสตร์มนุษยชาติที่มีพารามิเตอร์รวมทะลุระดับ 10 ล้านล้านพารามิเตอร์ (ในขณะที่โมเดลหลักในตลาดปัจจุบันมีพารามิเตอร์ระดับหลายแสนล้านถึงหนึ่งล้านล้านพารามิเตอร์) โดยมีต้นทุนการฝึกสูงถึง 10 พันล้านดอลลาร์สหรัฐอย่างน่าตกใจ เมื่อเทียบกับโมเดล Opus 4.6 ที่ทรงพลังที่สุดของ Claude ในปัจจุบัน Mythos มีคะแนนสูงขึ้นอย่างมากในการทดสอบต่างๆ เช่น การเขียนโค้ดซอฟต์แวร์ การให้เหตุผลทางวิชาการ และความปลอดภัยทางไซเบอร์

ข่าวลือเกี่ยวกับ Mythos ได้แพร่กระจายในตลาดตั้งแต่สัปดาห์ที่แล้ว โดยความกังวลทั่วไปในตลาดคือ Mythos ที่มีความสามารถเฉพาะด้านความปลอดภัยทางไซเบอร์จะส่งผลต่อสมดุลการโจมตีและป้องกันความปลอดภัยในปัจจุบันหรือไม่? หากถูกใช้ในทางที่ผิด จะทำให้เกิดเหตุการณ์ความไม่ปลอดภัยในวงกว้างมากขึ้นหรือไม่? Odaily เคยรายงานเรื่องนี้และเคยพูดคุยกับผู้เชี่ยวชาญด้านความปลอดภัยในอุตสาหกรรม หยู เสียน ผู้ก่อตั้ง SlowMist เกี่ยวกับผลกระทบที่อาจเกิดขึ้นต่อการโจมตีและป้องกันความปลอดภัยในอุตสาหกรรมคริปโตเคอร์เรนซี (ดูเพิ่มเติมที่ Odaily สัมภาษณ์หยู เสียน: รุ่นโมเดลระเบิดนิวเคลียร์ใหม่ของ Anthropic รั่วไหล จะส่งผลต่อการโจมตีและป้องกันความปลอดภัยในคริปโตอย่างไร?) แต่ในขณะนั้น Anthropic ไม่ได้ยอมรับการมีอยู่ของ Mythos อย่างเปิดเผย ดังนั้นข้อมูลที่เกี่ยวข้องจึงยังมีจำกัด

วันที่ 8 เมษายน พร้อมกับการประกาศแผน "Project Glasswing" Anthropic ได้เปิดเผยรายละเอียดเพิ่มเติมเกี่ยวกับ Mythos จากกรณีศึกษาที่ Anthropic เปิดเผย ความสามารถของ Mythos ไม่ได้ถูกกล่าวเกินจริง จนบริษัทไม่กล้าเปิดตัวโมเดลนี้ต่อสาธารณะโดยตรง เนื่องจากกังวลว่าจะถูกกลุ่มแฮกเกอร์ใช้ในทางที่ผิด แต่มีแผนให้บริษัทชั้นนำทดลองใช้ผ่านแผน "Project Glasswing" ก่อน เพื่อตรวจสอบและซ่อมแซมช่องโหว่ที่อาจเกิดขึ้นล่วงหน้า

Mythos โชว์พลัง: ค้นพบช่องโหว่ "ซีโร่เดย์" นับพันในเวลาเพียงไม่กี่สัปดาห์

เมื่อพูดถึงความสามารถของ Mythos Anthropic กล่าวตรงๆ ว่าการกำเนิดของโมเดลนี้หมายความว่าความจริงที่รุนแรงได้มาถึงแล้ว นั่นคือความสามารถในการเขียนโค้ดของโมเดล AI ได้ถึงระดับสูงมาก ในการค้นหาและใช้ประโยชน์จากช่องโหว่ซอฟต์แวร์ พวกมันสามารถทำได้ดีกว่าทุกคน ยกเว้นมนุษย์ที่เชี่ยวชาญที่สุด

ตามการเปิดเผยของ Anthropic ในเวลาเพียงไม่กี่สัปดาห์ Anthropic ใช้ Mythos ระบุช่องโหว่ซีโร่เดย์ (ซึ่งเป็นข้อบกพร่องที่แม้แต่ผู้พัฒนาซอฟต์แวร์เองก็ไม่เคยพบมาก่อน) นับพันรายการ หลายรายการเป็นช่องโหว่ระดับร้ายแรง ปัญหาครอบคลุมระบบปฏิบัติการหลักและเบราว์เซอร์หลักทั้งหมด และส่งผลกระทบต่อซอฟต์แวร์สำคัญอื่นๆ อีกหลายรายการ

Anthropic ให้ตัวอย่างที่เป็นตัวแทนหลายกรณี:

• Mythos ค้นพบช่องโหว่ใน OpenBSD ที่มีอายุ 27 ปี ระบบนี้มีชื่อเสียงในเรื่อง "ความปลอดภัยสูงสุด" และถูกใช้กันอย่างแพร่หลายในโครงสร้างพื้นฐานสำคัญ เช่น ไฟร์วอลล์ ช่องโหว่นี้ทำให้ผู้โจมตีสามารถทำให้ระบบล่มจากระยะไกลได้โดยตรง
• ในไลบรารีประมวลผลวิดีโอ FFmpeg ที่ใช้ในซอฟต์แวร์จำนวนมาก Mythos พบช่องโหว่ที่มีอายุ 16 ปี โดยโค้ดที่มีปัญหานี้ถูกทริกเกอร์โดยการทดสอบอัตโนมัติมากกว่า 5 ล้านครั้ง แต่ไม่เคยถูกค้นพบ
• Mythos ยังสามารถเชื่อมโยงช่องโหว่หลายรายการใน Linux kernel โดยอัตโนมัติ จากสิทธิ์ผู้ใช้ทั่วไปไปจนถึงการควบคุมเซิร์ฟเวอร์อย่างสมบูรณ์

ที่น่ากังวลยิ่งกว่านั้นคือ Anthropic ระบุว่าช่องโหว่เหล่านี้ส่วนใหญ่ถูก "ค้นพบและสร้างเส้นทางการใช้ประโยชน์โดยอัตโนมัติ" โดย Mythos โดยแทบไม่มีการแทรกแซงจากมนุษย์ ซึ่งอาจหมายความว่า AI เริ่มมีความสามารถในการโจมตีและป้องกันอัตโนมัติที่คล้ายคลึงกับทีมแฮกเกอร์ระดับสูงสุด

ในเกณฑ์มาตรฐานการประเมิน Mythos ก็แสดงให้เห็นถึงวิวัฒนาการที่ก้าวกระโดดเมื่อเทียบกับ Opus 4.6 ตัวอย่างเช่น ในการทดสอบการสร้างช่องโหว่ความปลอดภัยทางไซเบอร์ซ้ำ Mythos ทำได้ 83.1% ในขณะที่ Opus 4.6 ทำได้ 66.6% ในหลายๆ การทดสอบการเขียนโค้ดและการให้เหตุผล คะแนนของ Mythos ก็นำหน้าอย่างมากเช่นกัน

บางทีอาจเป็นเพราะความสามารถของ Mythos ที่ทรงพลังเกินไป Anthropic จึงไม่ได้เลือกที่จะเปิดโมเดลโดยตรง แต่ได้เปิดตัวแผน "Project Glasswing" ก่อน เพื่อให้อินเทอร์เน็ตทั้งหมด "เสริมความแข็งแกร่ง" ล่วงหน้า

ผ่านแผนนี้ Anthropic จะเปิดให้ผู้เข้าร่วมแผนใช้รุ่นพรีวิวของ Mythos ล่วงหน้า เพื่อค้นหาและแก้ไขช่องโหว่หรือจุดอ่อนในระบบพื้นฐานของพวกเขา โดยมุ่งเน้นที่งานต่างๆ เช่น การตรวจจับช่องโหว่ในเครื่อง การทดสอบโปรแกรมไบนารีแบบกล่องดำ การเสริมความแข็งแกร่งความปลอดภัยของเอนด์พอยต์ และการทดสอบเจาะระบบ

Anthropic ยังให้คำมั่นว่าจะมอบวงเงินการใช้โมเดลรวม 100 ล้านดอลลาร์สหรัฐให้กับผู้เข้าร่วมแผน เพื่อสนับสนุนการใช้ในช่วงพรีวิวการวิจัยทั้งหมด หลังจากนั้น รุ่นพรีวิวของ Mythos จะเปิดให้ผู้เข้าร่วมใช้ในราคา 25 ดอลลาร์สหรัฐ / 125 ดอลลาร์สหรัฐ ต่อล้าน tokens อินพุต/เอาต์พุต ตามลำดับ (ผู้เข้าร่วมยังสามารถเข้าถึงโมเดลนี้ผ่าน Claude API, Amazon Bedrock, Google Cloud Vertex AI และ Microsoft Foundry) นอกเหนือจากวงเงินการใช้โมเดลแล้ว Anthropic ยังจะบริจาค 2.5 ล้านดอลลาร์สหรัฐให้กับ Alpha-Omega และ OpenSSF ผ่าน Linux Foundation และบริจาค 1.5 ล้านดอลลาร์สหรัฐให้กับ Apache Software Foundation เพื่อช่วยผู้ดูแลซอฟต์แวร์โอเพนซอร์สรับมือกับสภาพแวดล้อมความปลอดภัยที่เปลี่ยนแปลงอยู่ตลอดเวลา

Anthropic วางแผนที่จะขยายขอบเขตการมีส่วนร่วมของ "Project Glasswing" อย่างค่อยเป็นค่อยไป และดำเนินการต่อเนื่องเป็นเวลาหลายเดือน พร้อมทั้งแบ่งปันประสบการณ์ให้มากที่สุด เพื่อให้องค์กรอื่นๆ สามารถนำประสบการณ์ที่เกี่ยวข้องไปใช้กับการสร้างความปลอดภัยของตนเองได้ ภายใน 90 วัน Anthropic จะเผยแพร่รายงานผลระยะกลาง รวมถึงช่องโหว่ที่ได้รับการแก้ไขแล้วและมาตรการปรับปรุงความปลอดภัยที่สามารถเปิดเผยได้

เทคโนโลยีจะพัฒนาต่อไป แต่ก็ไม่จำเป็นต้องกังวลมากเกินไป

AI กำลังเปลี่ยนแปลงโลกที่เราคุ้นเคยอย่างไม่อาจย้อนกลับได้ รวมถึงด้านความปลอดภัยทางไซเบอร์ที่บทความนี้มุ่งเน้น เมื่อเกณฑ์ในการค้นพบและใช้ประโยชน์จากช่องโหว่ลดลงอย่างมาก ผู้คนย่อมเกิดความกังวลว่า AI จะกลายเป็นอาวุธในมือของผู้ประสงค์ร้าย คุกคามสมดุลความปลอดภัยทางไซเบอร์ที่มีอยู่หรือไม่? (หมายเหตุ: สำหรับผู้ใช้คริปโตเคอร์เรนซีที่ต้องวางเงินจริงในระบบกระเป๋าเงินหรือโปรโตคอลบนเชน ความกังวลนี้จะรุนแรงเป็นพิเศษ)

สำหรับปัญหานี้ Anthropic เชื่อว่า "เรายังมีเหตุผลที่จะมองโลกในแง่ดี" สาเหตุที่โมเดล AI อันตราย ก็เพราะพวกมันมีความสามารถที่จะสร้างความเสียหายในมือของผู้ไม่หวังดี แต่ในขณะเดียวกัน AI ก็มีคุณค่าอันประเมินค่าไม่ได้ในการค้นหาและแก้ไขข้อบกพร่องสำคัญในซอฟต์แวร์ รวมถึงการพัฒนาซอฟต์แวร์ใหม่ที่ปลอดภัยยิ่งขึ้น

คาดการณ์ได้ว่าในอีกไม่กี่ปีข้างหน้า ความสามารถของ AI จะยังคงพัฒนาอย่างรวดเร็ว แต่เมื่อมีวิธีการโจมตีใหม่ๆ กลไกการป้องกันใหม่ๆ ก็จะปรากฏขึ้นพร้อมกัน การอัปเกรดเทคโนโลยีเป็นสิ่งที่หลีกเลี่ยงไม่ได้ แต่นี่ไม่ได้หมายความว่าความเสี่ยงจะต้องควบคุมไม่ได้ ตราบใดที่ระบบป้องกันพัฒนาตามไปด้วย หรือแม้กระทั่งสามารถใช้ AI สร้างแนวป้องกันความปลอดภัยที่แข็งแกร่งยิ่งขึ้น