黃仁勳向左，阿莫迪往右

ผู้เขียนต้นฉบับ: ซูหยาง

บรรณาธิการต้นฉบับ: สวีชิงหยาง

แหล่งที่มาต้นฉบับ: Tencent Technology

การที่ AI ล้ำสมัยจะเร่งความเร็วต่อไปหรือเหยียบเบรก กลายเป็นหัวข้อที่ถกเถียงกันมากที่สุดในซิลิคอนวัลเลย์ในเวลานี้

ท่ามกลางข้อถกเถียง ยักษ์ใหญ่ในซิลิคอนวัลเลย์เริ่มเลือกข้าง อาโมเดย์ อัลต์แมน มัสก์ และฮัสซาบิส รวมตัวกันเป็น "ฝ่ายหยุดชั่วคราว" ส่วนหวงเหรินซวินเป็น "ฝ่ายเร่งความเร็ว" อย่างแน่วแน่ โดยวิจารณ์ว่า "ทฤษฎีวันสิ้นโลก AI" ขาดพื้นฐานทางวิทยาศาสตร์ ส่วนยาน เลอคุนยังคงเยาะเย้ยอาโมเดย์อย่างต่อเนื่อง เขากล่าวว่า "(อาโมเดย์) ตอนที่ยังอยู่ที่ OpenAI ก็คิดว่า GPT-2 อันตรายพอที่จะไม่ควรเปิดซอร์ส ตอนนั้นผมก็เยาะเย้ยเขาไปแล้ว ตอนนี้ทุกคนก็เยาะเย้ยเขาต่อได้เลย"

เมื่อเทียบกันแล้ว ซัคเกอร์เบิร์กและนเดลลาและคนอื่นๆ แสดงท่าทีเป็นกลางมากกว่า

การที่ยักษ์ใหญ่ต่างเลือกข้างกันเอง หมายความว่าซิลิคอนวัลเลย์ยังไม่มีฉันทามติเกี่ยวกับการหยุดชั่วคราวของโมเดลล้ำสมัย ซึ่งเกิดจากความแตกต่างในตำแหน่งทางนิเวศของแต่ละบริษัทในห่วงโซ่อุตสาหกรรม AI ผู้ที่นำในระดับโมเดลสามารถเรียกร้องให้หยุดชั่วคราวด้วยเหตุผลที่แตกต่างกันได้ แต่การจะทำให้บริษัทอย่าง Oracle, AWS ที่ถือคำสั่งซื้อพลังประมวลผลหลายแสนล้านดอลลาร์ และ NVIDIA ที่ยืนอยู่บนสุดของห่วงโซ่อาหารหยุดลงนั้น เป็นไปไม่ได้ที่จะได้รับการตอบสนองในเชิงบวก

ในวอชิงตัน เสียงเรียกร้องให้ "หยุดชั่วคราว" ไม่เพียงไม่ได้รับการสนับสนุน ยังก่อให้เกิดข้อกังขาต่อเนื่องอีกด้วย

"มันรู้สึกเหมือนม้าโทรจันนิดๆ (It feels a little bit to me like a bit of a Trojan horse)" เจดี แวนซ์กล่าวในการสัมภาษณ์ ประโยคนี้สะท้อนมุมมองที่แท้จริงของวอชิงตันจริงๆ — เมื่อบริษัทที่สร้างม้าโทรจันเรียกร้องให้ประตูแคบลงเรื่อยๆ ก็ควรพิจารณาว่าประตูบานนี้เหมาะกับบริษัทใดกันแน่

การหยุดชั่วคราว คำเตือน และจดหมายลาออกฉบับหนึ่ง

ชนวนของข้อถกเถียงนี้คือการลาออกของเจคอบ ค็อกซอน นักวิจัยของ Anthropic

เขาทำงานวิจัย pre-training ที่ OpenAI และ Anthropic รวมสามปี ได้มีส่วนร่วมในการฝึกโมเดลล้ำสมัยที่สุดโดยตรง ในบทความยาวบน X เขาแทบไม่มีความสุภาพเลยสักนิด: "ทั้งสองบริษัทไม่ได้ดำเนินการอย่างมีความรับผิดชอบ พวกเขากำลังพุ่งตรงไปสู่ซูเปอร์อินเทลลิเจนซ์ที่ปรับปรุงตัวเองได้ เอา�ชีวิตของเราไปเดิมพัน"

เขากล่าวตรงๆ ว่าคนในห้องแล็บเชื่อจริงๆ ว่า AI อาจฆ่ามนุษยชาติทั้งหมดได้ภายในสิบปี และนี่ไม่ใช่การแสดงประชาสัมพันธ์เลย เพื่อนร่วมงานหลายคนเริ่มใช้คำว่า "ช่วงเวลาชี้ขาด" "เกมสุดท้าย" เพื่ออธิบายระยะปัจจุบัน ค็อกซอนถึงกับสละสิทธิ์หุ้นที่กำลังจะได้มา เขาอยู่ที่ Anthropic เพียงสี่เดือน ตามระเบียบของบริษัทต้องครบหกเดือนจึงจะใช้สิทธิ์ได้

เจคอบ ค็อกซอน (Jacob Coxon) อดีตนักวิจัย Anthropic

ต่อมา อีวาน ฮูบิงเกอร์ ผู้รับผิดชอบด้าน alignment science ของ Anthropic ออกมาตอบโต้ต่อสาธารณะ: เจคอบพูดถูก เราเชื่อจริงๆ ว่า AI อาจฆ่ามนุษยชาติทั้งหมดได้ ส่วนตัวผมคิดว่าภายในสิบปีความน่าจะเป็นนี้เกิน 10% Anthropic กำลังพยายามอย่างเต็มที่ แต่เรายังไม่มีแผนที่ชัดเจนในการแก้ปัญหา alignment ของซูเปอร์อินเทลลิเจนซ์ และยังห่างไกลจากเส้นทางที่ถูกต้องมาก

เสียงปืนสองนัดนี้ ผลักความกังวลที่เดิมหมักหมมอยู่ภายในห้องแล็บเป็นหลักออกมาสู่หน้าสาธารณชนโดยตรง ในบริบทนี้ อาโมเดย์ ผู้ก่อตั้งและ CEO ของ Anthropic จึงเผยแพร่บทความยาวทันที โดยเสนอแนวคิด "ชะลอการวิจัยล้ำสมัย" อย่างเป็นระบบ เขาไม่เพียงพูดถึง "ลงทุนด้านความปลอดภัยมากขึ้น" อีกต่อไป แต่เรียกร้องอย่างชัดเจนให้ควบคุมความเร็วในการก้าวกระโดดของขีดความสามารถอย่างเชิงรุก เพื่อให้กลไกความปลอดภัยมีเวลาตามทัน

เขาเสนอแผนสามขั้นตอน: เริ่มจาก Anthropic ฝ่ายเดียวแนะนำผู้ประเมินอิสระที่มีสิทธิ์ระดับพนักงาน จากนั้นผลักดันให้บริษัท AI ในประเทศประชาธิปไตยสร้างมาตรฐานความปลอดภัยร่วมกันและเพดานการเติบโตของขีดความสามารถ สุดท้ายพยายามประสานงานระดับโลก

อัลต์แมน มัสก์ และฮัสซาบิสตอบรับต่อสาธารณะอย่างรวดเร็ว ก่อตัวเป็น "ฝ่ายหยุดชั่วคราว"

ก่อนที่ข้อเสนอ "ชะลอความเร็ว" ของเจคอบ ค็อกซอนและอาโมเดย์จะปรากฏขึ้น "พ่อผู้ให้กำเนิด AI" อย่างโยชัว เบนจิโอและเจฟฟรีย์ ฮินตัน ได้ออกแถลงการณ์แสดงความกังวลเกี่ยวกับความเสี่ยงมาโดยตลอด

เมื่อพูดถึงการลาออกของค็อกซอน เบนจิโอกล่าวว่านักวิทยาศาสตร์ในห้องแล็บ AI ล้ำสมัยมักมองเห็นขีดความสามารถของโมเดลล่าสุดได้เร็วกว่าสาธารณชน ดังนั้นการประเมินความเสี่ยงของพวกเขาจึงควรได้รับการพิจารณาอย่างจริงจัง

ในขณะเดียวกัน เบนจิโอยกตัวอย่างที่เป็นรูปธรรม กล่าวว่าระบบ AI ปัจจุบันมีความสามารถในการโจมตีทางไซเบอร์และโน้มน้าวใจแล้ว หากถูกใช้เพื่อทำร้ายผลประโยชน์ของมนุษยชาติ อาจก่อให้เกิดผลกระทบร้ายแรงได้ เขายังกังวลว่าเมื่อ AI มีความสามารถในการวางแผนในกรอบเวลาที่ยาวนานขึ้น ความเสี่ยงประเภทนี้อาจขยายวงกว้างขึ้นอีก

เมื่อถูก BBC ถามถึงความน่าจะเป็นที่ AI จะ "ฆ่ามนุษยชาติทั้งหมด" ภายในสิบปีข้างหน้าเกิน 10% เจฟฟรีย์ ฮินตันก็กล่าวว่าตัวเลขนี้ "ไม่ unreasonable" แต่เน้นว่าไม่มีใครรู้จริงๆ ว่าจะให้การประเมินที่น่าเชื่อถือได้อย่างไร เพราะมนุษยชาติไม่เคยเผชิญกับ "การมีอยู่ของสิ่งมีชีวิตที่อาจฉลาดกว่าเราอย่างรวดเร็ว" มาก่อน

ฮินตันเชื่อว่าในอนาคต AI อาจถูกใช้เพื่อออกแบบไวรัสชีวภาพอันตราย ไวรัสคอมพิวเตอร์ และเปิดฉากการโจมตีทางไซเบอร์ขนาดใหญ่ ดังนั้นมนุษย์จำเป็นต้องหาวิธีควบคุมที่มีประสิทธิภาพก่อนที่ความเสี่ยงจะหลุดมือ

แตกต่างจากผู้เสนอ "ทฤษฎีหยุดชั่วคราว" รอบใหม่ในซิลิคอนวัลเลย์ "พ่อผู้ให้กำเนิด AI" เหล่านี้เรียกร้องให้ใส่ใจความเสี่ยงและสำรวจกลไกควบคุมความเสี่ยงมากกว่า แทนที่จะเหยียบเบรกโดยตรง นอกจากนี้ ในแง่จุดยืน ความคิดเห็นและข้อเสนอแนะในวงการวิชาการบริสุทธิ์กว่า ขณะที่ข้อเสนอของห้องแล็บล้ำสมัย แม้จะติดป้าย "เพื่อมนุษยชาติ" ไว้อย่างชัดเจน ก็ยังยากที่จะหลุดพ้นจาก considerations ทางธุรกิจได้ 100%

นี่แหละคือเหตุผลที่เจดี แวนซ์กล่าวว่า "ทฤษฎีหยุดชั่วคราว" เหมือนม้าโทรจัน

ความแตกแยกและการเลือกข้าง

ค่าย "ฝ่ายเร่งความเร็ว" "ฝ่ายชะลอความเร็ว" และ "ฝ่ายกลาง" ที่มา: The New York Times

เมื่อวันที่ 15 กันยายน ผู้บริหารบริษัทเทคโนโลยีหลายรายกล่าวต่อเนื่องในงาน Salesforce Dreamforce ข้อถกเถียงนี้เริ่มกลายเป็นการปะทะทางความคิดเห็นที่ตรงไปตรงมามากขึ้น

ในวันนั้น อาโมเดย์ หวงเหรินซวิน และอัลต์แมนต่างพูดถึงความปลอดภัยของ AI แต่ให้คำตอบที่แตกต่างกันเกี่ยวกับความเร็วในการพัฒนา ความรับผิดชอบด้านความปลอดภัย และสิ่งที่บริษัทควรลงมือทำ

อาโมเดย์ เมื่อขึ้นเวทีร่วมกับมาร์ก เบนิออฟฟ์ CEO ของ Salesforce เน้นย้ำอีกครั้งว่าบริษัท AI ควรสร้างมาตรฐานความปลอดภัยที่สูงขึ้นผ่านการลงมือทำของตนเอง เขาเชื่อว่าการที่บริษัทใช้มาตรการความปลอดภัยที่เข้มงวดขึ้นโดยสมัครใจสามารถเป็นวิธีผลักดันให้ทั้งอุตสาหกรรมก้าวหน้าไปได้

พูดอีกอย่าง ท่าทีของอาโมเดย์เริ่มเปลี่ยน จากเรียกร้องให้ทั้งอุตสาหกรรมชะลอความเร็ว เปลี่ยนเป็นการที่บริษัทติดตั้งราวกั้นความปลอดภัยด้วยตนเอง

หวงเหรินซวินกล่าวว่า "ไม่จำเป็นต้องมีกฎหมายใหม่ ไม่จำเป็นต้องมีกฎระเบียบใหม่" ในมุมมองของเขา ความเร็วและความปลอดภัยไม่ใช่ความสัมพันธ์แบบเลือกอย่างใดอย่างหนึ่ง บริษัทสามารถ推進การพัฒนาโมเดลให้เร็วที่สุดเท่าที่จะเป็นไปได้ หากพบว่าสูญเสียการควบคุม หรือผลิตภัณฑ์ไม่สามารถรับประกันความปลอดภัยได้ ก็ควรหยุดชั่วคราวเพื่อแก้ปัญหา

ท่าทีของเบนิออฟฟ์เปิดกว้างกว่าและเน้นความเป็นอิสระมากกว่า เขากล่าวว่าหากบริษัทคิดว่าควรชะลอ ก็ควรชะลอ หากคิดว่าควรเร่ง ก็ควรเร่ง พร้อมทั้งควรรับผิดชอบต่อการตัดสินใจของตนเองด้วย

อัลต์แมน ผู้ก่อตั้งและ CEO ของ OpenAI กล่าวในงาน Dreamforce ว่าเขามั่นใจมากว่า OpenAI และแม้แต่ทั้งอุตสาหกรรม AI สามารถพัฒนาได้อย่างปลอดภัยโดยไม่สร้างความเสียหายร้ายแรงต่อสาธารณชน เขายังกล่าวว่าเขารู้สึกผิดหวังที่外界ตีความมุมมองของเขาว่าเป็นการสนับสนุนให้ทั้งอุตสาหกรรมชะลอความเร็วในการพัฒนา AI

พูดอีกอย่าง อัลต์แมนก็เริ่มเปลี่ยนเช่นกัน โดยเน้นว่าสิ่งที่เขาต้องการสื่อไม่ใช่การเรียกร้องให้อุตสาหกรรมชะลอความเร็ว แต่เป็นงานด้านความปลอดภัยและการตรวจสอบควรนำหน้าการยกระดับขีดความสามารถ

ซัคเกอร์เบิร์กไม่สนับสนุนให้สร้างการดำเนินการด้านความปลอดภัยของบริษัทหนึ่งบน premise ที่ว่าบริษัท AI อื่นต้องชะลอความเร็วพร้อมกัน เขาเชื่อว่าการนำองค์กรประเมินอิสระและที่ปรึกษาภายนอกมาตรวจสอบความปลอดภัยของโมเดลเป็นแนวปฏิบัติที่ดีที่สุดของอุตสาหกรรม เขายังเปิดเผยว่า Meta ได้ชะลอการพัฒนาเครื่องมือ Muse AI ด้วยตนเองก่อนหน้านี้ แทนที่จะรอให้บริษัทอื่นบรรลุฉันทามติเรื่องการชะลอการพัฒนา AI ก่อน

ท่าทีของสัตยา นเดลลา CEO ของ Microsoft ในแง่หนึ่งสอดคล้องกับอัลต์แมน สนับสนุนการติดตั้งราวกั้น และสนับสนุนการแข่งขันที่เพียงพอ

"สิ่งแรกที่เราต้องทำคือรับใช้มนุษยชาติ และทำให้แน่ใจว่าเทคโนโลยีอยู่ภายใต้การควบคุมของมนุษย์ ในขณะเดียวกัน การแพร่กระจายอย่างกว้างขวางของเทคโนโลยี AI ต่างหากที่เป็นสิ่งสำคัญที่สุด ต้องมีทางเลือก มีการแข่งขัน ต้องจริงจังกับความปลอดภัย แต่ต้องแก้ไขด้วยวิธีทางวิศวกรรมและโปร่งใส ไม่ใช่ทำให้เป็นเรื่องลึกลับ" นเดลลากล่าวเมื่อวันที่ 15 กันยายนขณะเข้าร่วมการประชุมสุดยอด All-In Summit 2026

นอกจากผู้ประกอบการเหล่านี้ เสียงจากวอชิงตันก็เข้ามาเพิ่มเติมด้วย

หลังจากทรัมป์โทรศัพท์ตรงถึงหวงเหรินซวิน แสดงการสนับสนุนการพัฒนาอุตสาหกรรม AI ต่อไปต่อสาธารณะ เดวิด แซ็กส์ (David Sacks) ประธานร่วมคณะที่ปรึกษาวิทยาศาสตร์และเทคโนโลยีประจำทำเนียบประธานาธิบดีสหรัฐ กล่าวต่อมาว่าบริษัทเทคโนโลยีสามารถเดินหน้าผลักดัน AI ล้ำสมัยต่อไปได้ พร้อมทั้งตั้งคำถามต่อแรงจูงใจเบื้องหลังข้อเสนอ "ชะลอความเร็ว" ของบางบริษัท

ใครจะเป็นผู้กำหนดกฎ?

เมื่อการอภิปรายขยายวง ข้อถกเถียงก็ขยายจากตัวความเสี่ยงของ AI ไปสู่คำถามว่ามาตรฐานความปลอดภัยของ AI ล้ำสมัยควรให้บริษัทกำหนดเอง หรือควรให้รัฐบาลและองค์กรอิสระเข้ามาเกี่ยวข้อง?

Bloomberg อ้างแหล่งข่าวที่รู้เรื่อง ระบุว่า Anthropic, Google และ OpenAI เคยหารือเรื่องการจัดตั้งองค์กรมาตรฐานอุตสาหกรรม AI มาก่อน

ในเดือนกรกฎาคม ฮัสซาบิสเผยแพร่บทความ เสนอจัดตั้งองค์กรมาตรฐาน AI ที่สหรัฐนำ โดยมีรูปแบบการดำเนินงานคล้าย FINRA (Financial Industry Regulatory Authority) ของสหรัฐ องค์กรนี้สามารถทดสอบโมเดล AI ขั้นสูงก่อนการนำไปใช้งานจริง เพื่อตัดสินว่าผ่านมาตรฐานความปลอดภัยที่เกี่ยวข้องหรือไม่

ตามแนวคิดของฮัสซาบิส องค์กรนี้ไม่ควรนำโดยรัฐบาลทั้งหมด แต่ควรใช้รูปแบบความร่วมมือภาครัฐ-เอกชน โดยรัฐบาล扮演บทบาทกำกับดูแล อุตสาหกรรม AI เป็นผู้ให้ทุน พร้อมทั้งดึงผู้เชี่ยวชาญทางเทคนิคชั้นนำอิสระและตัวแทนชุมชนโอเพนซอร์สมามีส่วนร่วม

ฮัสซ