เมื่อทุกคนมี Agent ที่ไม่รู้จักเหน็ดเหนื่อย จะเขียนกฎของอินเทอร์เน็ตใหม่ได้อย่างไร

ลองจินตนาการว่าเวลาเร่งไปถึงปี 2028 คุณสั่งให้ AI เอเจนต์ส่วนตัวไปซื้อวัตถุดิบสำหรับทำซุป มันสังเกตอย่างเฉียบไวว่าแครอทที่ซูเปอร์มาร์เก็ตท้องถิ่นมีราคาแพงกว่าราคาเฉลี่ย 10 เซนต์ เพื่อให้ได้คำตอบที่ดีที่สุดในภาพรวม มันจึงจัดสรรห่วงโซ่อุปทานเกษตรกรรมทั่วอเมริกาเหนือด้วยตนเอง ถึงขั้นเกือบจุดชนวนข้อพิพาทการค้าระหว่างประเทศ สุดท้าย มันส่งวัตถุดิบถึงครัวตรงเวลา และประหยัดเงินให้คุณได้ทั้งหมด 23 เซนต์

มุกตลกร้ายนี้แพร่กระจายอย่างกว้างขวางบนทวิตเตอร์เมื่อไม่นานมานี้ ที่มันสร้างความสะเทือนใจบนทวิตเตอร์ก็เพราะมันชี้ให้เห็นอย่างแม่นยำถึงความจริงที่กำลังคืบคลานเข้ามา: AI เอเจนต์มีแนวโน้มสูงที่จะออกแรงเกินเหตุเมื่อ poursuit หาคำตอบที่ดีที่สุดในระดับท้องถิ่น

และเวอร์ชันที่สะท้อนความจริงของมุกนี้ เพิ่งเกิดขึ้นจริงในสหรัฐอเมริกาเมื่อไม่นานมานี้เอง

JC Bahr-de Stefano นักลงทุนจากบริษัทร่วมทุน Better Tomorrow Ventures เพื่อจองร้านสเต็กชื่อดังในนิวยอร์กที่จองยากที่สุดอย่าง "4 Charles Prime Rib" ได้มอบอำนาจให้ AI เอเจนต์ส่วนตัวของเขา Instinct ทำการ监控 ในจินตนาการของ JC นั้น Instinct ควรจะทำตัวเหมือนผู้ช่วยมนุษย์ที่เก่งกาจ คอยรีเฟรชแพลตฟอร์มจองร้านอย่าง Resy เป็นระยะ ๆ เพื่อคว้าโอกาสจากที่นั่งที่ถูกยกเลิกซึ่งอาจปรากฏขึ้น

อย่างไรก็ตาม เพียงไม่กี่ชั่วโมงต่อมา JC ก็ได้รับการแจ้งแบนถาวรจาก Resy และการจองทั้งหมดในอนาคตภายใต้ชื่อของเขาก็ถูกยกเลิกไปด้วย JC จึงโพสต์ภาพหน้าจออีเมลแบนบนทวิตเตอร์พร้อมรอยยิ้มขื่น ข้อความว่า: "เก่งมากเลยนะ Instinct"

เพื่อหาคำตอบว่าตนถูกแบนได้อย่างไร JC ได้ดึงบันทึกการทำงานของ Instinct ออกมาดู จนถึงตอนนั้นความจริงถึงกระจ่าง: ความพยายามเบื้องหลังของผู้ช่วยดิจิทัลรายนี้เกินจินตนาการของมนุษย์โดยสิ้นเชิง มันไม่เพียงโพลล์ด้วยความถี่สูงประมาณ 200 ครั้งต่อชั่วโมงตลอด 24 ชั่วโมง สแกนที่นั่งล่วงหน้า 21 วันอย่างละเอียดทุก 10 นาทีเท่านั้น ในช่วงพีคของการปล่อยเลขที่นั่งเวลา 9 โมงเช้า มันยังลดช่วงเวลาระหว่างคำขอลงเหลือ 0.4 วินาทีอย่างไม่น่าเชื่อ ระดมยิงต่อเนื่องถึงสองนาทีครึ่ง

ในสายตาของระบบต่อต้านการฉ้อโกงและควบคุมความเสี่ยงของ Resy นี่ไม่ใช่ลูกค้าที่อยากไปรับประทานอาหารอย่างเร่งร้อน แต่เป็นการโจมตี DDoS ขนาดเล็ก หรือสคริปต์แย่งตั๋วของพ่อค้าตั๋วที่ไร้ขีดจำกัด JC เองก็ยอมรับว่าการแบนครั้งนี้สมเหตุสมผลอย่างยิ่ง

เหตุการณ์แบนครั้งนี้ที่เกิดจาก "ความพยายามเกินเหตุ" ดูเผิน ๆ เหมือนเป็นเพียงกรณีเฉพาะที่ค่อนข้างพิลึกพิลั่น แต่แท้จริงแล้วเป็นสัญญาณนำของความเปลี่ยนแปลงครั้งใหญ่ในกระบวนทัศน์ทางเทคโนโลยี มันไม่เพียงเปิดเผยความหยาบกร้านและเข้มเกินไปของ AI Agent ในปัจจุบันในการดำเนินกลยุทธ์ แต่ยังเผยให้เห็นความกังวลที่ลึกซึ้งกว่าของอุตสาหกรรม นั่นคือ เมื่อมนุษย์มอบอินเทอร์เฟซดิจิทัลในชีวิตประจำวันทั้งหมดให้ AI เอเจนต์ที่ไม่มีวันเหนื่อยล้าตลอด 24 ชั่วโมงจัดการอัตโนมัติ โครงสร้างพื้นฐานอินเทอร์เน็ตและกฎเกณฑ์ความไว้วางใจที่มีอยู่ในปัจจุบัน พร้อมแล้วจริงหรือ

จาก "สนทนากับฉัน" สู่ "ทำแทนฉัน"

เบื้องหลังเหตุการณ์แบนครั้งนี้ สะท้อนการเปลี่ยนแปลงสำคัญของอุตสาหกรรม AI ในปัจจุบัน: AI กำลังค่อย ๆ หลุดพ้นจากรูปแบบกล่องสนทนาแบบเดียว evolู่ยุคของตัวแทนอัจฉริยะที่มีความเป็นอิสระสูงและมีความสามารถในการลงมือปฏิบัติ

ในประสบการณ์ประจำวันของคนส่วนใหญ่ ขอบเขตของ AI ยังคงถูกจำกัดอยู่ในหน้าต่างแชท: ผู้ใช้ถามคำถาม AI ให้คำตอบ แม้ระดับสติปัญญาของโมเดลภาษาขนาดใหญ่ระดับรากฐานจะพุ่งสูงขึ้นอย่างต่อเนื่อง แต่กระบวนทัศน์การโต้ตอบแบบถามมาตอบไปนี้ก็ไม่เปลี่ยนแปลง AI รับบทเป็นคลังสมองที่รอคอยให้ปรึกษาอย่างเฉื่อยชา

แต่ Instinct ที่พัฒนาโดย Noah Shinn และ Meta Muse ที่เพิ่งเปิดตัวได้ห้าวันก็มียอดดาวน์โหลดถึง 730,000 ครั้ง กลับเป็นตัวแทนของรูปแบบผลิตภัณฑ์อีกแบบหนึ่ง พวกมันเริ่มเข้าควบคุมการลงมือปฏิบัติโดยตรง

ผู้ใช้สามารถมอบหมายงานเหมือนส่งข้อความหาผู้ช่วยที่เป็นมนุษย์จริง ๆ: "ยกเลิกการสมัครสมาชิกที่ไม่ได้ใช้" "จับตาตั๋วเครื่องบินลอนดอน ราคาเหมาะสมก็จองเลย" "ช่วยจอง 4 Charles ให้หน่อย"

เพื่อทำสิ่งเหล่านี้ให้สำเร็จ สมาร์ทเอเจนต์รุ่นใหม่ได้รับสิทธิ์ในระบบที่ไม่เคยมีมาก่อน: อีเมล ปฏิทิน ตำแหน่งทางภูมิศาสตร์ ข้อมูลรับรองรหัสผ่าน ไปจนถึงเครื่องมือชำระเงิน เมื่อเจอบริการที่ไม่มี API ก็ยังจะดำเนินการบนหน้าเว็บ หรือแม้แต่โทรหาร้านค้าโดยตรง

Muse ที่ Meta เปิดตัวได้นำความสามารถนี้เข้าสู่แพลตฟอร์มกระแสหลัก เปิดตัวห้าวัน ยอดดาวน์โหลดถึง 730,000 ครั้ง มันฝังลึกอยู่ใน Instagram และ WhatsApp: ระบุเมนูอาหารใน Reels และสร้างรายการซื้อของ อ่านแผนการสังสรรค์ในแชทกลุ่ม จัดการเมนูอัตโนมัติ ส่งคำเชิญ และหารค่าอาหาร

ในขณะเดียวกัน Meta ยังเปิด Muse Connectors อนุญาตให้นักพัฒนาบุคคลที่สามรวบรวม Gmail, Calendar, Notion, Spotify ไปจนถึงอินเทอร์เฟซอีคอมเมิร์ซเป็นเครื่องมือ Agent ที่ได้มาตรฐาน เมื่อได้รับอำนาจจากผู้ใช้ Muse สามารถจัดสรรข้ามบริการได้อย่างอิสระตามภาษาธรรมชาติที่คลุมเครือประโยคเดียว: อ่านแชทกลุ่มเพื่อกำหนดการสังสรรค์ ใช้ Calendar ยืนยันช่วงเวลาว่าง แล้วจึงดำเนินการจัดซื้อผ่านแพลตฟอร์มสั่งอาหาร Muse Connector แท้จริงแล้วคือการใช้โปรโตคอลที่มีโครงสร้าง เพื่อขยายขอบเขตที่ Agent สามารถสัมผัสและดำเนินการได้อย่างต่อเนื่อง

อย่างไรก็ตาม เมื่อรัศมีการดำเนินการของสมาร์ทเอเจนต์ขยายตัวอย่างรวดเร็ว มันก็ปะทะกับกฎเกณฑ์ควบคุมความเสี่ยงของอินเทอร์เน็ตแบบดั้งเดิมอย่างรวดเร็ว และแตะจุดบอดในการออกแบบระบบความปลอดภัยอินเทอร์เน็ตที่มีอยู่ในปัจจุบัน

เมื่อโมเดลความเสี่ยงของแพลตฟอร์มพบกับ AI สมาร์ทเอเจนต์

มองย้อนกลับไปที่ประสบการณ์ของ JC ระบบควบคุมความเสี่ยงของ Resy จริง ๆ แล้วไม่ได้ตัดสินผิด แต่เพียงดำเนินการตามตรรกะมาตรฐานที่อินเทอร์เน็ตก่อตั้งขึ้นในช่วงยี่สิบปีที่ผ่านมา: จาก CAPTCHA ลายนิ้วมืออุปกรณ์ ไปจนถึงการควบคุมความถี่ IP ระบบความปลอดภัยทั้งหมด长期以来ล้วนตั้งอยู่บนสมมติฐานแบบทวิภาค: ปลายทางเบื้องหลังนั้นเป็นมนุษย์จริง หรือไม่ก็เป็นบอทและสคริปต์ที่เป็นอันตราย

Personal Agent ได้ทำลายสมดุลนี้อย่างสิ้นเชิง

ลักษณะพฤติกรรมของสมาร์ทเอเจนต์ที่ตอบสนองด้วยความถี่สูง ตลอด 24 ชั่วโมง และในระดับมิลลิวินาทีนั้น แทบไม่ต่างจากความผิดปกติของการโจมตีที่เป็นอันตรายในแง่ตัวชี้วัดทางเทคนิค แต่ในแง่ตรรกะของสัญญา เบื้องหลังมันกลับมีผู้ใช้จริงที่拥有สิทธิรับรู้อย่างเต็มที่ และมอบหมายอย่างชัดเจนให้ทำแทน

ความคลาดเคลื่อนนี้ก่อให้เกิดคำถาม: เมื่อทราฟฟิกมีทั้ง "การมอบหมายจากผู้ใช้ที่ถูกกฎหมายอย่างสมบูรณ์" และ "ลักษณะเฉพาะของเครื่องจักรที่สมบูรณ์แบบ" แพลตฟอร์มควรนิยามมันอย่างไร มันเป็นพฤติกรรมการโจมตีที่เป็นอันตราย หรือเป็นส่วนขยายของพฤติกรรมผู้ใช้ที่ถูกกฎหมาย

หากการที่ Resy แบนเอเจนต์จองที่นั่งเป็นเพียงการป้องกันตามปกติของแพลตฟอร์มเดียวต่อทราฟฟิกที่ผิดปกติ การที่ Amazon แบน Meta Muse อย่างครอบคลุมเมื่อไม่นานมานี้ ก็ได้ยกระดับความเสียดสีทางเทคโนโลยีนีให้กลายเป็นเกมนิเวศระหว่างแพลตฟอร์มโดยตรง

หลายสัปดาห์หลังจาก Muse เปิดตัวฟีเจอร์ซื้อของแทนข้ามแพลตฟอร์ม เมื่อไม่นานมานี้ Amazon ได้สกัดกั้นการเข้าถึงทั้งหมดจากโหนดตัวแทนของ Muse ด้วยเหตุผลเรื่อง "สคริปต์อัตโนมัติที่ไม่ได้รับอนุญาต" และปัญหาการอนุญาตด้านความปลอดภัย ตัดวงจรการซื้อของแทนของฝ่ายหลัง เกมนี้เปิดเผยรอยเลื่อนเชิงโครงสร้างอย่างลึกซึ้งในยุค Agent: การอนุญาตของผู้ใช้ ไม่เคยเท่ากับการอนุญาตของแพลตฟอร์ม

แน่นอนว่าผู้ใช้สามารถอนุญาตให้ Muse ซื้อทิชชู่แทนตนได้ แต่ Amazon ก็มีสิทธิ์ปฏิเสธการเข้าถึงจากตัวตนเครื่องจักรที่ไม่เป็นทางการใด ๆ เช่นกัน สำหรับยักษ์ใหญ่ด้านอีคอมเมิร์ซ ความเสี่ยงตรงนี้อยู่ที่ประตูทางเข้าช้อปปิ้งและความสัมพันธ์กับลูกค้ากำลังเผชิญอันตรายจากการถูก Agent ชั้นบน hijack

อย่างไรก็ตาม โปรโตคอลระดับรากฐานของอินเทอร์เน็ตในปัจจุบัน เห็นได้ชัดว่ายังไม่พร้อมสำหรับความสัมพันธ์สองชั้นที่ซับซ้อนนี้

OAuth เก่งในการกำหนดว่าแอปพลิเคชันเข้าถึงอะไรได้ Rate Limit ก็เก่งในการจำกัดความถี่ของคำขอ แต่ทั้งสองไม่สามารถตอบคำถามเชิงบริบทที่ลึกซึ้งกว่าสามข้อได้: Agent นี้เป็นตัวแทนของใครกันแน่ มันกำลังปฏิบัติตามเจตนารมณ์ทันทีของผู้ใช้อย่างซื่อสัตย์หรือไม่ และแพลตฟอร์มยินดีที่จะยอมรับพฤติกรรมการเป็นตัวแทนนี้หรือไม่

แม้ปัญหาการยืนยันตัวตนในอนาคตจะได้รับการแก้ไข ความขัดแย้งก็ยังคงแก้ไม่ตก Resy สามารถยืนยันได้ว่า 'นี่คือ Agent ที่ JC อนุญาต' Amazon ก็สามารถระบุได้ว่า 'นี่คือ Muse ที่ผู้ใช้บางคนอนุญาต' แต่แพลตฟอร์มยังต้องตัดสินใจเลือกว่าจะยินดีให้ตัวแทนนับไม่ถ้วนที่ตอบสนองในระดับมิลลิวินาทีและไม่มีวันเหนื่อยล้า ใช้ความเร็วของเครื่องจักร重构ตรรกะการเรียกใช้ทรัพยากรของตนเองอย่างสิ้นเชิงหรือไม่ โดยเฉพาะอย่างยิ่งเมื่อทรัพยากรเหล่านั้นหายากมากในตัวเอง

เมื่อโมเดล "มาก่อนได้ก่อน" เริ่มล้มเหลว

การจองที่นั่งร้านอาหารยอดนิยม ตั๋วคอนเสิร์ตซูเปอร์สตาร์ ตั๋วราคาถูกช่วงใกล้หมดอายุ ของเล่น限量...... ตลอดมา การที่สังคมมนุษย์จัดสรรทรัพยากรจำกัดเหล่านี้ แทบจะอาศัยกฎเกณฑ์ดั้งเดิมชุดเดียวกัน: สต็อกมีจำกัด โอกาสเป็นของผู้ที่ค้นพบเร็วและลงมือเร็วกว่า

กลไก "มาก่อนได้ก่อน" นี้สามารถรักษาสมดุลไว้ได้ เพราะมันอาศัยเกณฑ์เวลาและพลังงานที่แอบแฝง: ความสนใจและขีดจำกัดทางสรีรวิทยาของมนุษย์นั้นมีจำกัด

คนส่วนใหญ่จะไม่รีเฟรชหน้าจองที่นั่งติดต่อกัน 72 ชั่วโมง และจะไม่ตรวจสอบราคาตั๋วเครื่องบินทุกไม่กี่วินาที เวลา ความอดทน และความเร็วในการตอบสนองก่อให้เกิดตัวกรองตามธรรมชาติ มันอาจไม่ยุติธรรม แต่ในทางปฏิบัติก็จำกัดจำนวนครั้งที่แต่ละคนสามารถลงทุนในการแข่งขันได้

อย่างไรก็ตาม เมื่อทุกคนมีสมาร์ทเอเจนต์ติดตัว แถบกันชนทางกายภาพนี้จะสูญสลายไปโดยสิ้นเชิง

หากทุกคนสามารถให้โปรแกรม监控เป้าหมายหลายสิบอย่างตลอด 24 ชั่วโมง และส่งคำขอโดยอัตโนมัติในวินาทีที่ที่นั่งว่างถูกปล่อย มาก่อนได้ก่อนก็จะค่อย ๆ เปลี่ยนไปเป็นของ Agent ใครตอบสนองเร็วกว่า เข้าถึงลึกกว่า สามารถสร้างความพยายามได้มากกว่า หรือแม้แต่ใครมีอินเทอร์เฟซและทรัพยากรที่ดีกว่า

จากการแข่งขันความอดทนของมนุษย์มาสู่การแข่งขันพลังประมวลผลของเครื่องจักร ยุคที่ใช้แรงเสียดทานทางกายภาพปรับสมดุลอุปสงค์และอุปทานถือว่าผ่านไปอย่างสิ้นเชิง ต่อไปแพลตฟอร์มมีแนวโน้มสูงที่จะวิวัฒน์ไปในทิศทางเหล่านี้:

• ต่อสู้กับระบบอัตโนมัติด้วยวิธีการตรวจจับที่ล้ำสมัยยิ่งขึ้นต่อไป ใช้ CAPTCHA ที่ซับซ้อนกว่า การระบุลายนิ้วมืออุปกรณ์ที่เข้มงวดกว่า และกลไกให้คะแนนพฤติกรรมผิดปกติที่ก้าวร้าวกว่า วิธีนี้ได้ผลในระยะสั้น แต่เมื่อโปรแกรมตัวแทนเก่งขึ้นในการจำลองพฤติกรรมเบราว์เซอร์ของมนุษย์ กลยุทธ์นี้จะยากต่อการรักษาไว้
• สร้างโปรโตคอลตัวตนของสมาร์ทเอเจนต์ สร้างกลไกการยืนยันตัวตนและจำกัดอัตราสำหรับตัวแทน เพื่อให้แพลตฟอร์มไม่เพียงระบุได้ว่าบัญชีใดกำลังส่งคำขอ แต่ยังยืนยันได้ว่านี่คือตัวแทนที่ JC อนุญาต กำลังสอบถามความพร้อมใช้งานภายในขอบเขตที่ได้รับอนุญาต แท้จริงแล้วนี่คือการขยายโมเดล OAuth โดยเพิ่มชั้นที่สามารถบันทึกการมอบหมายอำนาจและขอบเขตสิทธิ์ในการดำเนินการ สิ่งนี้แก้ปัญหาการตัดสินผิดจากการควบคุมความเสี่ยงที่ใช้เกินได้ แต่ก็ยังตอบคำถามว่าทรัพยากรหายากควรจัดสรรอย่างไรไม่ได้
• ดึงฟังก์ชันกลับภายใน: สร้างชั้นรวบรวมเจตนารมณ์แบบเนทีฟ แทนที่จะปล่อยให้สมาร์ทเอเจนต์ภายนอกนับหมื่นสอบถามเซิร์ฟเวอร์ด้วยความถี่ระดับมิลลิวินาที แพลตฟอร์มควรยื่นอินเทอร์เฟซออกมาเอง และสร้างชั้นรวบรวมเจตนารมณ์แบบเนทีฟ ผู้ใช้ไม่ต้องแย่งวิ่งอีกต่อไป เพียงออกคำสั่งระยะยาว: ภายในหนึ่งเดือนข้างหน้า ที่นั่งสองที่คืนวันศุกร์ใดก็ได้ แพลตฟอร์มจะจับคู่และจัดสรรภายในผ่านกฎเช่นการจับฉลาก คะแนนความภักดี หรือเครดิตการปฏิบัติตามสัญญา
• มุ่งสู่การค้นพบราคาอย่างสมบูรณ์ นั่นคือการประมูลแบบตลาด ให้การตั้งราคาแบบไดนามิกเข้าควบคุมความหายาก สำหรับสต็อกที่หายาก