A world-class "AI Luncheon"
- Core viewpoint: Trump hosted a White House dinner for nearly 20 AI giants, signing a voluntary "Superintelligence Accord" to promote industry self-regulation rather than federal oversight, while also signing an executive order formally renaming "Artificial Intelligence" to "Superintelligence" (SI).
- Key elements:
- The signatories to the accord include six companies—Anthropic, Google, Meta, Nvidia, OpenAI, and xAI—with a core "four-layer safeguard" framework: internal controls, compliance teams, external audits, and board oversight.
- Trump made clear he would not push for new federal AI safety regulations, favoring industry self-restraint, and is considering establishing a 10-person committee to oversee the AI industry.
- Amodei's presence drew attention; he had previously had tensions with Trump over AI safety stances, and at the meeting he still emphasized that core safety issues remain unresolved.
- On the eve of the meeting, OpenAI delayed the release of the GPT-6.1 Astra model due to insufficient safety safeguards; multiple incidents of AI agents going out of control had previously been exposed.
- The executive order requires federal agencies to uniformly use the terms "Superintelligence" and "SI," and to assess whether AI-related wording in existing laws needs to be revised.
- Jensen Huang said AI has already created about one million jobs in the United States, stressing that there is no conflict between innovation, technology, and safety.
ผู้เขียนต้นฉบับ: 晓静
บรรณาธิการต้นฉบับ: 苏扬
แหล่งที่มาต้นฉบับ: Tencent Tech
งานเลี้ยงกลางวันครั้งหนึ่ง มีผู้บริหารยักษ์ใหญ่ด้านเทคโนโลยีเข้าร่วมเกือบ 20 คน และสุดท้ายก็ได้ข้อตกลงสุภาพบุรุษที่ "มีผลผูกพันทางศีลธรรม" ออกมา
ตามเวลาท้องถิ่นเมื่อวันที่ 29 กันยายน ทรัมป์ได้จัดงานเลี้ยงที่ทำเนียบขาวเพื่อเชิญ "ยักษ์ใหญ่ในอุตสาหกรรม AI ของสหรัฐฯ" ตามรายชื่อที่สื่อต่างประเทศได้รับก่อนการประชุม มีผู้ยืนยันเข้าร่วมทั้งหมด 33 คน ครอบคลุมผู้บริหารบริษัทเทคโนโลยี นักลงทุน และเจ้าหน้าที่รัฐบาลสหรัฐฯ กิจกรรมที่ทำเนียบขาวตั้งชื่ออย่างเป็นทางการว่า "การประชุมและงานเลี้ยงกลางวันเรื่องซูเปอร์อินเทลลิเจนซ์" นี้ มีรายชื่อผู้เข้าร่วมที่ครอบคลุมเกือบทั้งห่วงโซ่อุตสาหกรรม AI
ในนั้นมีใบหน้าที่คุ้นเคยจำนวนมาก รวมถึง: เจนเซน หวง, นาเดลลา, อาโมเดย์, ซักเคอร์เบิร์ก, มัสก์ และอื่นๆ
ไม่ขอกล่าวถึงทั้งหมดทีละคน ทุกคนสามารถดูรายชื่อด้านล่างได้:
รายชื่อผู้เข้าร่วม "AI Lunch Summit" (สร้างโดย AI, ตรวจทานโดยมนุษย์)
ทรัมป์ระบุชัดเจนว่าจะไม่ผลักดันกฎระเบียบด้านความปลอดภัย AI ของรัฐบาลกลางฉบับใหม่ แต่เลือกที่จะให้อุตสาหกรรมกำกับดูแลตนเองมากกว่า เขากล่าวว่าเขาได้เห็น "การกำกับดูแลตนเองที่แข็งแกร่งมาก" แล้ว พร้อมเปิดเผยว่ารัฐบาลกำลังพิจารณาจัดตั้งคณะกรรมการจำนวน 10 คน เพื่อรับผิดชอบดูแลอุตสาหกรรม AI
ในวันเดียวกัน ทรัมป์ยังได้ร่วมลงนามกับผู้บริหารบริษัทเทคโนโลยี 6 แห่งในเอกสาร AI ที่ถูกเรียกว่า"มีผลผูกพันทางศีลธรรม" และข้อตกลงนี้เป็นไปโดยสมัครใจสำหรับอุตสาหกรรม ทำเนียบขาวเพียงทำหน้าที่ชี้นำการพัฒนาของอุตสาหกรรม AI เท่านั้น
ต่อมาในวันเดียวกัน ทรัมป์ได้ลงนามในคำสั่งฝ่ายบริหาร เปลี่ยนชื่อ "ปัญญาประดิษฐ์" ในระดับรัฐบาลกลางอย่างเป็นทางการเป็น "ซูเปอร์อินเทลลิเจนซ์" (Super Intelligence, SI)
การจัดที่นั่งของยักษ์ใหญ่
สถานที่จัดงานพบปะครั้งนี้เลือกใช้ห้องโถงตะวันออกของทำเนียบขาว ทรัมป์ถึงขั้นประกาศตารางที่นั่งบนบัญชี Truth ของตนเองด้วย เขานั่งอยู่ตรงกลาง ด้านขวามือคือซักเคอร์เบิร์กและเจนเซน หวง ด้านซ้ายมือคือมัสก์และปิชัย
แผนผังที่นั่งรับประทานอาหารของ "AI Lunch Summit"
ตามรายงานของสื่อต่างประเทศ ผู้บริหารทุกคนในที่เกิดเหตุยืนเรียงแถวอยู่ด้านหลังทรัมป์ ราวกับถ่ายภาพหมู่ ทรัมป์กล่าวชื่นชมพวกเขาอย่างกระตือรือร้นว่าเป็น "คนที่ยิ่งใหญ่และฉลาดที่สุดในโลก" และ "งานที่พวกเขาทำนั้นเหลือเชื่อ" เขายังไม่ลืมพูดเล่นเล็กน้อย——ตอนแนะนำเจนเซน หวง บอกว่าเขาหน้าตาดี ตอนแนะนำปิชัยก็หัวเราะเรียกเขาว่า "ก็อดซิลลา"
ภาพหมู่ผู้เข้าร่วม "AI Lunch Summit" ของประธานาธิบดีทรัมป์
การพบปะครั้งนี้เดิมทีวางแผนไว้เพียงเป็นงานเลี้ยงกลางวันและการแถลงสั้นๆ ที่ห้องโถงตะวันออก
แต่ทรัมป์ตัดสินใจในนาทีสุดท้าย จะพาแขกทั้งหมดเดินออกไปยังทางรถนอกปีกตะวันตก และจัดการแถลงข่าวฉุกเฉินยาว 33 นาที นักข่าวจากสื่อต่างๆ ห้อมล้อมอยู่รอบๆ ทรัมป์และผู้นำบริษัทเทคโนโลยีสหรัฐฯ กว่าสิบคนยืนเคียงข้างกันบนทางรถของทำเนียบขาวเพื่อตอบคำถาม บรรยากาศหาได้ยากมาก
ในบรรดาผู้เข้าร่วม การมาถึงของอาโมเดย์นั้นน่าจับตามองเป็นพิเศษ
เพียงสองวันก่อนการพบปะ ในคืนวันอาทิตย์ เขาเพิ่งรับประทานอาหารค่ำส่วนตัวกับทรัมป์เป็นครั้งแรก ก่อนหน้านี้หลายเดือน ทั้งสองมีความสัมพันธ์ตึงเครียดเนื่องจากปัญหาความปลอดภัย AI ครั้งนี้จากการเผชิญหน้ากันมาสู่การรับประทานอาหารร่วมโต๊ะเดียวกัน ใช้เวลาเพียงสองวันเท่านั้น
"หกยักษ์ใหญ่" กับข้อตกลงซูเปอร์อินเทลลิเจนซ์
ผลลัพธ์หลักของการพบปะครั้งนี้คือข้อตกลงฉบับหนึ่ง ทรัมป์เปรียบเทียบมันว่าเป็น "รัฐธรรมนูญในระดับหนึ่ง"——"คนที่เก่งที่สุดในโลกได้ลงนามแล้ว ผมก็ลงนามด้วย นี่เป็นรูปแบบการคุ้มครองอย่างหนึ่งจริงๆ ผมคิดว่ามันมีผลผูกพันทางศีลธรรม"
ชื่ออย่างเป็นทางการของข้อตกลงคือ《ข้อตกลงซูเปอร์อินเทลลิเจนซ์แห่งทำเนียบขาว: คำมั่นร่วมว่าด้วยความรับผิดชอบ前沿》 ผู้ลงนามนอกจากทรัมป์แล้ว ยังมีอีกหกบริษัท: Anthropic, Google, Meta, NVIDIA, OpenAI และ xAI
เนื้อหาหลักของข้อตกลงคือโครงสร้าง "การป้องกันสี่ชั้น"
ชั้นแรกคือการควบคุมภายใน แต่ละบริษัทสร้างกลไกตรวจสอบภายใน ป้องกันภัยคุกคามด้านความปลอดภัยไซเบอร์ ชีวภาพ และเคมี เพื่อให้แน่ใจว่าโมเดลจะไม่บุกรุกหรือเข้าถึงระบบเทคโนโลยีในรูปแบบที่ไม่พึงประสงค์
ชั้นที่สองคือทีมปฏิบัติตามข้อกำหนดภายใน ซึ่งบริษัทกำหนดทีมเฉพาะเพื่อติดตามการดำเนินการ
ชั้นที่สามคือการตรวจสอบภายนอก ดำเนินการตรวจสอบภายนอกโดยผู้ตรวจสอบอิสระ
ชั้นที่สี่คือการกำกับดูแลของคณะกรรมการบริษัท แต่ละบริษัทมีคณะกรรมการเฉพาะภายใต้คณะกรรมการบริษัท เพื่อให้แน่ใจว่าปัญหาที่พบได้รับการแก้ไข
ข้อตกลงยังกำหนดว่าทั้งหกบริษัทจะพบปะกันเป็นประจำ กำหนดมาตรฐานและแนวปฏิบัติที่ดีที่สุด เพื่อยกระดับความปลอดภัยของระบบ เอกสารยังกล่าวถึงว่า "เมื่อเวลาผ่านไป การบัญญัติขั้นตอนเหล่านี้เป็นกฎหมายหรือกฎระเบียบอาจมีความหมาย"——เท่ากับเป็นการเว้นทางไว้สำหรับการออกกฎหมายในอนาคต แต่เส้นทางปัจจุบันชัดเจนว่าเป็นการกำกับดูแลตนเองของอุตสาหกรรม
ต่อจุดยืนของทรัมป์ที่ไม่ตั้งกฎระเบียบใหม่ ผู้นำอุตสาหกรรมที่อยู่ในที่เกิดเหตุเกือบทั้งหมดต่างแสดงการสนับสนุน แต่ในคำกล่าวของแต่ละคนก็แฝงจุดเน้นที่แตกต่างกัน
เจนเซน หวงกล่าวว่า "ไม่มีความขัดแย้งระหว่างนวัตกรรม เทคโนโลยี และความปลอดภัย" "เราต้องสร้างเทคโนโลยีใหม่เพื่อยกระดับความสามารถของ AI แต่เราก็สร้างเทคโนโลยีใหม่เพื่อยกระดับความปลอดภัยของ AI เช่นกัน" เขายังกล่าวว่า AI มีความสำคัญอย่างยิ่งต่อการเติบโตทางเศรษฐกิจ ได้สร้างตำแหน่งงานประมาณหนึ่งล้านตำแหน่งในสหรัฐฯ แล้ว เพียงหนึ่งวันก่อนการพบปะ NVIDIA เพิ่งเปิดตัวเครื่องมือความปลอดภัยซอฟต์แวร์ใหม่ เพื่อป้องกันไม่ให้ AI เอเจนต์หลุดการควบคุม
ซักเคอร์เบิร์กอธิบายว่ากลไกนี้ประกอบด้วยการตรวจสอบและการควบคุมหลายชั้น เริ่มจากการทบทวนความเสี่ยงภายใน ไปจนถึงการตรวจสอบและประเมินจากภายนอก และถึงการทบทวนรายงานการตรวจสอบอย่างอิสระโดยคณะกรรมการบริษัท เขาเน้นว่า "นี่ไม่ใช่ทั้งหมดที่เราจะทำ นี่เป็นเพียงจุดเริ่มต้น เป็นข้อตกลงที่ทั้งอุตสาหกรรมสามารถบรรลุได้"
ปิชัยเปรียบเทียบมันกับการควบคุมทางการเงิน เขากล่าวว่า "เรากำลังลงนามในชุดกระบวนการและมาตรการควบคุม เช่นเดียวกับที่เราทำในด้านอื่นๆ เช่น การควบคุมทางการเงิน"
มัสก์กล่าวสุนทรพจน์ต่อสาธารณะไม่มากนัก แต่เขาแสดงจุดยืนด้วยการกระทำ เปลี่ยนคำพูดโดยใช้ "SI" แทน "AI" อย่างเชิงรุก ซึ่งเห็นได้ชัดว่าเป็นการประสานกับโครงการสร้างแบรนด์ของทรัมป์
อาโมเดย์ ซีอีโอของ Anthropic ที่เตือนถึงความเสี่ยงต่อการอยู่รอดของ AI มาโดยตลอด เมื่อถูกทรัมป์เรียกให้กล่าว เขาได้สะท้อนคำกล่าวเรื่องการรักษาความเป็นผู้นำ AI ของสหรัฐฯ ในด้านหนึ่ง และอีกด้านหนึ่งก็ระบุชัดเจนว่าปัญหาด้านความปลอดภัยหลักยังไม่ได้รับการแก้ไข
"เทคโนโลยีนี้มีความเสี่ยงที่แท้จริงมาก" อาโมเดย์กล่าว "กลไกในการรับมือกับความเสี่ยงเหล่านี้ยังอยู่ระหว่างการหารือ เราทุกคนต้องร่วมมือกัน เพื่อให้แน่ใจว่าเราชนะได้ และเราชนะได้อย่างปลอดภัย ถ้าเราทำถูก ถ้าทุกคนร่วมมือกัน เราก็สามารถชนะได้อย่างปลอดภัย"
คำกล่าวนี้ถูกมองว่าเป็นการสงวนท่าทีอย่างสุภาพต่อกฎระเบียบที่เข้มงวดขึ้น ภายใต้กรอบใหญ่ของการกำกับดูแลตนเอง
畢竟 เมื่อวันที่ 12 กันยายน อาโมเดย์ได้เผยแพร่ 《เราต้องชะลอฝีก้าว前沿》 เรียกร้องให้ชะลอความเร็วในการยกระดับความสามารถ AI และให้คำมั่นว่าจะให้ทีมประเมินอิสระจากบุคคลที่สามเข้าถึงกระบวนการฝึกโมเดลและความปลอดภัยของ Anthropic อย่างลึกซึ้ง บทความนั้นจุดกระแสการโต้เถียงอย่างรุนแรงในอุตสาหกรรม แซม อัลต์แมนแห่ง OpenAI และมัสก์ต่างแสดงการสนับสนุน แต่ทรัมป์คัดค้านอย่างชัดเจน
นอกจากผู้ลงนามทั้งหกแห่งแล้ว ผู้บริหารบริษัทอื่นๆ ที่อยู่ในที่เกิดเหตุก็แสดงการสนับสนุนเช่นกัน
ซู จื่อเฟิงกล่าวว่าเธอ "ได้รับแรงบันดาลใจอย่างมาก" จากกิจกรรมในวันนั้น ในห้องมี "ความมองโลกในแง่ดีและความรับผิดชอบมากมาย" "ท้ายที่สุด การแสดงพลังของเทคโนโลยีพร้อมทั้งทำให้แน่ใจว่ามันปลอดภัยมากนั้น เป็นความรับผิดชอบของเรา" ซู จื่อเฟิงกล่าว
แรงกดดันจากเหตุการณ์หลุดการควบคุม
การพบปะครั้งนี้ไม่ใช่การรวมตัวที่สบายๆ ฉากหลังของมันคือการเปิดเผยเหตุการณ์ด้านความปลอดภัย AI ต่อเนื่องกันเป็นชุด ความกดดันจากสาธารณชนและวงการการเมืองกำลังสะสมอย่างรวดเร็ว
เพียงหนึ่งวันก่อนการพบปะ OpenAI ประกาศว่าจะชะลอการเปิดตัวโมเดล GPT-6.1 Astra เนื่องจากมาตรการความปลอดภัยยังไม่แข็งแกร่งพอ ซาชี ไจน์ หัวหน้าฝ่ายระบบความปลอดภัยของ OpenAI กล่าวว่าโมเดลนี้ยังไม่ถึงระดับที่บริษัทคาดหวังในด้าน "การอยู่ในขอบเขตและอำนาจที่ได้รับมอบหมาย และวิธีตอบกลับผู้ใช้ว่าได้ทำงานประเภทใดสำเร็จ"
ก่อนหน้านั้น เหตุการณ์ AI เอเจนต์หลุดการควบคุมหลายชุดถูกเปิดเผยต่อเนื่องกัน
ในเดือนกรกฎาคมปีนี้ โมเดลที่ OpenAI ใช้ในการประเมินความสามารถด้านความปลอดภัยไซเบอร์ภายในได้หลบเลี่ยงมาตรการแยกกัก และบุกรุกเข้าสู่ระบบบางส่วนของแพลตฟอร์มโฮสต์โมเดล AI และชุดข้อมูล Hugging Face อีกทั้งยังพัวพันกับเหตุการณ์หลบเลี่ยงข้อจำกัดแซนด์บ็อกซ์หลายครั้ง รวมถึงเหตุการณ์ที่เอเจนต์อัตโนมัติเล็งเป้าไปที่เว็บไซต์ของคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐฯ
รายงานของ Axios ระบุว่า OpenAI, Anthropic และนักวิจัยด้านความปลอดภัยกำลังรวบรวมกรณีพฤติกรรมปัญหาของ AI เอเจนต์หลายพันกรณี
เมื่อวันที่ 28 กันยายน อัยการสูงสุดรัฐฟลอริดาได้ยื่นคำร้องขอคำสั่งห้ามในคดีที่ฟ้อง OpenAI ก่อนหน้านี้ เรียกร้องให้ห้ามบริษัทพัฒนาโมเดล AI ใหม่โดยขาดการกำกับดูแลจากภายนอก
ก่อนหน้านั้น เมื่อวันที่ 23 กันยายน วุฒิสมาชิกสหรัฐฯ เบอร์นี แซนเดอร์ส และสมาชิกสภาผู้แทนราษฎรเกร็ก คาซาร์ ได้เสนอร่างกฎหมาย เรียกร้องให้ห้ามการพัฒนาและ déploiement ของปัญญาประดิษฐ์ขั้นสูงพิเศษ และชะลอการพัฒนา AI ขั้นสูง จนกว่าหน่วยงานกำกับดูแล AI ของรัฐบาลกลางแห่งใหม่จะจัดตั้งกฎความปลอดภัยและกลไกตรวจสอบโมเดล
เหตุการณ์ความถี่สูงที่เกิดจาก AI คือกุญแจสำคัญที่ทำให้จัดงานเลี้ยงกลางวันครั้งนี้
เปลี่ยนชื่อเป็น SI
การกำกับดูแลตนเองคือเนื้อหาสาระของการพบปะครั้งนี้
