Anthropic AI ที่ทรงพลังที่สุดจุดชนวนให้วอลล์สตรีทจัดประชุมฉุกเฉินแบบปิดประตู ทำไม JPMorgan ที่ถือ 'ยารักษา' จึงขาดหายไป?
- มุมมองหลัก: Anthropic บริษัท AI ของสหรัฐฯ ต้องเผชิญกับการดำเนินการกำกับดูแลที่รวดเร็วและขัดแย้งกันในระดับรัฐบาลกลางภายใน 44 วัน เนื่องจากความเสี่ยงด้านความปลอดภัยทางไซเบอร์จากโมเดลใหม่ Mythos ซึ่งเน้นให้เห็นถึงช่องว่างและความสับสนวุ่นวายของกรอบการกำกับดูแลที่มีอยู่เมื่อเผชิญกับคุณลักษณะสองด้านของ AI ที่ "ความสามารถคือความเสี่ยง"
- องค์ประกอบสำคัญ:
- รัฐมนตรีว่าการกระทรวงการคลังสหรัฐฯ และประธานเฟดเรียกประชุมฉุกเฉิน CEO ของธนาคารใหญ่ 6 แห่งเพื่อหารือเกี่ยวกับความเสี่ยงจาก Mythos นี่เป็นครั้งแรกนับตั้งแต่วิกฤตการเงินปี 2008 ซึ่งบ่งชี้ว่าผู้กำกับดูแลมองว่ามันเป็นภัยคุกคามต่อระบบ
- แผนป้องกัน "Project Glasswing" ที่ Anthropic เปิดตัวอนุญาตให้เพียง 12 องค์กรเข้าถึง Mythos โดยมี JPMorgan เป็นสถาบันการเงินเพียงแห่งเดียว ในขณะที่ธนาคารใหญ่ 5 แห่งอื่นๆ ที่เข้าร่วมประชุมไม่มีสิทธิ์เข้าถึง
- Anthropic ถูกกระทรวงกลาโหมสหรัฐฯ (เพนตากอน) จัดให้เป็น "ความเสี่ยงในห่วงโซ่อุปทาน" เนื่องจากปฏิเสธคำขอของกองทัพที่จะยกเลิกข้อจำกัดการใช้ AI (ห้ามใช้สำหรับการเฝ้าระวังจำนวนมากและอาวุธอัตโนมัติเต็มรูปแบบ) ทำให้เป็นบริษัทในประเทศสหรัฐฯ แห่งแรกที่ถูกคว่ำบาตรด้วยวิธีนี้
- ระบบศาลรัฐบาลกลางมีคำตัดสินที่ขัดแย้งกัน: ศาลในซานฟรานซิสโกออกคำสั่งห้ามชั่วคราวเพื่อปกป้อง Anthropic ในขณะที่ศาลอุทธรณ์กรุงวอชิงตัน ดี.ซี. สนับสนุนการตัดสินใจคว่ำบาตรของเพนตากอน
- ป้าย "ความเสี่ยงในห่วงโซ่อุปทาน" ก่อนหน้านี้ใช้กับบริษัทต่างประเทศ เช่น Huawei, ZTE ที่มีช่องโหว่ด้านความปลอดภัยทางเทคนิค การใช้ครั้งนี้เพื่อคว่ำบาตรบริษัทสหรัฐฯ เกิดจากการเจรจาสัญญาล้มเหลว ซึ่งอาจส่งผลกระทบทำให้อุตสาหกรรม AI ระมัดระวังมากขึ้น
8 เมษายน Janet Yellen รัฐมนตรีกระทรวงการคลังสหรัฐฯ และ Jerome Powell ประธานธนาคารกลางสหรัฐฯ ได้เรียกประชุมฉุกเฉินกับซีอีโอของธนาคารที่มีความสำคัญต่อระบบ 6 แห่ง ที่สำนักงานใหญ่ของกระทรวงการคลังในกรุงวอชิงตัน เพื่อหารือเกี่ยวกับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่อาจเกิดขึ้นจากโมเดลใหม่ Mythos ของ Anthropic ตามรายงานของบลูมเบิร์ก Jane Fraser จาก Citigroup, Ted Pick จาก Morgan Stanley, Brian Moynihan จาก Bank of America, Charlie Scharf จาก Wells Fargo และ David Solomon จาก Goldman Sachs เข้าร่วมทั้งหมด Jamie Dimon จาก JPMorgan Chase "ไม่สามารถเข้าร่วมได้เนื่องจากเหตุผลบางประการ"
นี่ไม่ใช่การประชุมปกติเกี่ยวกับการกำกับดูแลทางการเงิน ครั้งล่าสุดที่รัฐมนตรีกระทรวงการคลังและประธานธนาคารกลางเรียกประชุมซีอีโอของธนาคารในห้องประชุมเดียวกันคือวันที่ 13 ตุลาคม 2008 เมื่อ Henry Paulson และ Ben Bernanke เปิดตัวแผน TARP มูลค่า 250 พันล้านดอลลาร์ เพื่อพยายามหยุดการล่มสลายของระบบการเงินที่กำลังเกิดขึ้น ปัจจัยกระตุ้นในครั้งนี้ไม่ใช่ตลาด แต่เป็นโมเดล AI
และการประชุมนี้เป็นเพียงการดำเนินการกำกับดูแลระดับรัฐบาลกลางครั้งที่สามที่ Anthropic เผชิญภายใน 44 วัน
คนในห้องแล็บและคนในห้องประชุม เกือบจะไม่ทับซ้อนกัน
Mythos ไม่ได้ถูกปล่อยออกสู่โลกโดยปราศจากการควบคุม วันที่ 7 เมษายน Anthropic เปิดตัว Mythos Preview อย่างเป็นทางการ พร้อมประกาศแผนป้องกันความปลอดภัยทางไซเบอร์ชื่อ Project Glasswing ซึ่งจำกัดสิทธิ์การเข้าถึงโมเดลให้กับองค์กรพันธมิตร 12 แห่ง 12 แห่งนี้รวมถึง Amazon, Apple, Microsoft, Google, Nvidia, CrowdStrike, Palo Alto Networks และสถาบันการเงินหนึ่งแห่งคือ JPMorgan Chase
ปัญหาคือ คนที่ถูกเรียกมาหารือเกี่ยวกับความเสี่ยงและคนที่ได้รับเครื่องมือป้องกัน เป็นคนละกลุ่มกันเกือบทั้งหมด
ซีอีโอของธนาคารทั้ง 5 ที่เข้าร่วมประชุมบริหารสินทรัพย์รวมกันประมาณ 9 ล้านล้านดอลลาร์ ไม่มีธนาคารใดในรายชื่อ Glasswing ไม่มีธนาคารใดมีสิทธิ์เข้าถึง Mythos สาเหตุที่พวกเขาถูกเรียกมา ตามรายงานของบลูมเบิร์กคือ "เพื่อให้แน่ใจว่าธนาคารเข้าใจความเสี่ยงในอนาคตที่อาจเกิดจาก Mythos และโมเดลที่คล้ายคลึงกัน และกำลังดำเนินมาตรการป้องกัน" แต่เครื่องมือหลักของมาตรการป้องกัน นั่นคือตัว Mythos เอง พวกเขาใช้ไม่ได้
และ JPMorgan Chase ธนาคารเดียวที่ปรากฏชื่อในทั้งสองรายชื่อ ซีอีโอ Jamie Dimon กลับไม่เข้าร่วมประชุมพอดี
ตามเว็บไซต์ของ Anthropic JPMorgan Chase เป็นสถาบันการเงินเพียงแห่งเดียวในบรรดาพันธมิตรผู้ก่อตั้ง 12 แห่งของ Glasswing ธนาคารแห่งนี้ใช้งบประมาณด้านความปลอดภัยทางไซเบอร์ประมาณ 600 ล้านดอลลาร์ต่อปี และตามรายงานของ SecurityWeek มีบุคลากรด้านความปลอดภัยทางไซเบอร์ประมาณ 3,000 คน วันที่ 8 เมษายน วันเดียวกับที่ Janet Yellen และ Jerome Powell จัดประชุมฉุกเฉิน นักวิเคราะห์ของ JPMorgan Chase ออกรายงานวิจัยมองบวก CrowdStrike และ Palo Alto Networks โดยให้เหตุผลจากการก่อตั้ง Glasswing พอดี
ด้านหนึ่งคือธนาคาร 5 แห่งที่ถูกเรียกมาหารือเกี่ยวกับภัยคุกคาม แต่ไม่มีเครื่องมือในมือ อีกด้านหนึ่งคือธนาคารเพียงแห่งเดียวที่ได้รับเครื่องมือ ซีอีโอไม่มาประชุม นักวิเคราะห์ยังให้เรตติ้งมองบวกกับพันธมิตร Glasswing สร้างไม่เพียงแต่กำแพงทางเทคนิค แต่เป็นกำแพงข้อมูล
เกิดอะไรขึ้นใน 44 วัน
หากเรียงลำดับการดำเนินการกำกับดูแลระดับรัฐบาลกลางที่ Anthropic เผชิญในช่วง 6 สัปดาห์ที่ผ่านมา จะเห็นปฏิกิริยาลูกโซ่ที่ไม่เคยเกิดขึ้นมาก่อนทั้งในด้านความเร็วและทิศทาง
24 กุมภาพันธ์ Lloyd Hergeseth รัฐมนตรีกระทรวงกลาโหมส่งคำขาดไปยัง Dario Amodei ซีอีโอของ Anthropic: ยอมรับข้อกำหนด "การใช้งานที่ถูกกฎหมายใดๆ" ก่อนเวลา 17:01 น. ของวันที่ 27 กุมภาพันธ์ มิฉะนั้นจะเผชิญกับผลกระทบ ข้อโต้แย้งหลักของข้อกำหนดนี้คือข้อจำกัดการใช้งานสองข้อที่ Anthropic รักษาไว้ในสัญญากับกระทรวงกลาโหม ซึ่งห้ามใช้ Claude สำหรับการเฝ้าระวังจำนวนมากและระบบอาวุธอัตโนมัติเต็มรูปแบบ ตามรายงานของ CBS News Hergeseth กล่าวว่า "นักรบอเมริกันไม่ควรถูกพันธนาการด้วยอุดมการณ์ของบริษัทเทคโนโลยีใหญ่" ในขณะที่ Emil Michael หัวหน้าฝ่ายเทคโนโลยีของกระทรวงกลาโหมกล่าวว่า "ในระดับหนึ่ง คุณต้องเชื่อมั่นว่ากองทัพของคุณจะทำสิ่งที่ถูกต้อง"
Anthropic ปฏิเสธ วันที่ 27 กุมภาพันธ์ Donald Trump สั่งให้หน่วยงานของรัฐบาลกลางหยุดใช้ผลิตภัณฑ์ของ Anthropic วันเดียวกัน Hergeseth ระบุ Anthropic เป็น "ความเสี่ยงในห่วงโซ่อุปทาน"
ภายใน 44 วันหลังจากนั้น หน่วยงานระดับรัฐบาลกลางสามแห่งดำเนินการกับ Anthropic ในทิศทางที่ขัดแย้งกันเกือบพร้อมกัน
วันที่ 26 มีนาคม Judge Lin ผู้พิพากษาศาลรัฐบาลกลางซานฟรานซิสโกออกคำสั่งห้ามชั่วคราวยาว 43 หน้า ระบุว่าการกระทำของกระทรวงกลาโหม "น่าวิตก" และอาจถือเป็นการลงโทษเชิงตอบโต้ต่อ Anthropic ชะลอการบังคับใช้การระบุความเสี่ยงในห่วงโซ่อุปทานชั่วคราว ตามรายงานของซีเอ็นเอ็น ผู้พิพากษาเขียนในคำตัดสินว่าการกระทำของรัฐบาล "มีแนวโน้มสูงที่จะละเมิดกฎหมาย"
วันที่ 8 เมษายน ศาลอุทธรณ์รัฐบาลกลางดีซีปฏิเสธที่จะระงับการระบุของกระทรวงกลาโหม เท่ากับล้มเลิกการคุ้มครองของศาลซานฟรานซิสโก วันเดียวกัน Yellen และ Powell จัดการประชุมฉุกเฉินนั้น
ศาลหนึ่งกำลังปกป้องบริษัทนี้ อีกศาลหนึ่งสนับสนุนการคว่ำบาตรต่อบริษัท ในขณะเดียวกันกระทรวงการคลังและธนาคารกลางก็กำลังหารือเกี่ยวกับบริษัทในฐานะความเสี่ยงเชิงระบบจากมุมมองของเสถียรภาพทางการเงิน องค์กรเดียวกัน ภายในระบบรัฐบาลกลางเดียวกัน ถูกมองว่าเป็นทั้งผู้สร้างนวัตกรรมที่ต้องการการปกป้องและแหล่งภัยคุกคามที่ต้องเฝ้าระวังในเวลาเดียวกัน
ป้าย "ความเสี่ยงในห่วงโซ่อุปทาน" เคยใช้กับใครมาก่อน?
"ความเสี่ยงในห่วงโซ่อุปทาน" ไม่ใช่การระบุทางปกติธรรมดา มันเป็นเครื่องมือที่คณะกรรมการกำกับดูแลการสื่อสารแห่งสหรัฐอเมริกา (FCC) ออกแบบมาเพื่อรับมือกับภัยคุกคามด้านความปลอดภัยของอุปกรณ์สื่อสารจากต่างประเทศ
ปี 2019 สภาคองเกรสและ FCC เริ่มกระบวนการระบุนี้กับ Huawei และ ZTE เป็นครั้งแรก โดยให้เหตุผลว่ามีความเชื่อมโยงกับรัฐบาลจีน กฎหมายจีนกำหนดหน้าที่ในการสอดแนม และช่องโหว่ด้านความปลอดภัยที่ทราบในอุปกรณ์ มิถุนายน 2020 FCC ออกคำสั่งระบุอย่างเป็นทางการ ปี 2021 Hikvision, Dahua และ Hytera ถูกเพิ่มในรายชื่อ ปี 2022 Kaspersky ของรัสเซียก็ถูกบรรจุในรายชื่อเช่นกัน
ตามบันทึกสาธารณะของ FCC ก่อนหน้า Anthropic หน่วยงานที่ถูกบรรจุในรายชื่อนี้ล้วนเป็นบริษัทต่างประเทศ และล้วนเป็นบริษัทต่างประเทศที่ถูกระบุว่ามีความเสี่ยงด้านความปลอดภัยในระดับเทคนิค
วันที่ 27 กุมภาพันธ์ 2026 Anthropic กลายเป็นบริษัทในประเทศสหรัฐอเมริกาแห่งแรกที่ถูกระบุว่าเป็น "ความเสี่ยงในห่วงโซ่อุปทาน" ตามรายงานของ TechPolicy.Press เหตุผลในการระบุไม่ใช่ช่องโหว่ด้านความปลอดภัยทางเทคนิค แต่เป็นการเจรจาข้อกำหนดสัญญาล้มเหลว Anthropic ปฏิเสธที่จะยกเลิกข้อจำกัดการใช้งาน AI ตามการประเมินของนักวิจัยนโยบายความปลอดภัยจากมหาวิทยาลัย Northeastern (Northeastern) ตัวอย่างนี้อาจส่งผลกระทบทำให้อุตสาหกรรม AI ทั้งหมดระมัดระวังมากขึ้น เนื่องจากหมายความว่าการปฏิเสธเงื่อนไขการใช้งานของกองทัพอาจนำไปสู่การคว่ำบาตรในห่วงโซ่อุปทานระดับสูงสุด
เครื่องมือคว่ำบาตรที่ออกแบบมาสำหรับ Huawei ถูกใช้เพื่อคว่ำบาตรบริษัทอเมริกันที่ปฏิเสธให้ AI ของตนถูกใช้สำหรับวัตถุประสงค์ทางทหารโดยไม่มีข้อจำกัด เป็นครั้งแรก เครื่องมือยังคงเป็นเครื่องมือเดียวกัน แต่ตรรกะการใช้งานเปลี่ยนไปโดยสิ้นเชิง วันที่ 19 พฤษภาคม ศาลอุทธรณ์ดีซีจะจัดการอภิปรายปากเปล่าสำหรับคดีนี้
เมื่อโมเดล AI เป็นทั้งเครื่องมือป้องกันที่ดีที่สุดและภัยคุกคามเชิงระบบที่ใหญ่ที่สุดในเวลาเดียวกัน กรอบการกำกับดูแลที่มีอยู่ไม่ได้ออกแบบกลไกใดๆ เพื่อรับมือกับความเป็นคู่ของ "ความสามารถคือความเสี่ยง" นี้ และกระบวนการเติมเต็มช่องว่างของกรอบนี้กำลังเกิดขึ้นแบบเรียลไทม์ด้วยความเร็วหนึ่งเหตุการณ์ระดับรัฐบาลกลางต่อสัปดาห์
