"นิวยอร์กเกอร์" การสืบสวนเชิงลึก: เหตุใดคนใน OpenAI จึงเชื่อว่า Altman น่าเชื่อถือไม่ได้?

ผู้เขียนต้นฉบับ: Xiaobing, Shenchao TechFlow

ฤดูใบไม้ร่วงปี 2023 Ilya Sutskever หัวหน้านักวิทยาศาสตร์ของ OpenAI นั่งอยู่หน้าคอมพิวเตอร์และจัดทำเอกสาร 70 หน้า

เอกสารนี้รวบรวมจากบันทึกข้อความ Slack ไฟล์การสื่อสารของฝ่ายทรัพยากรบุคคล และบันทึกการประชุมภายใน โดยมีเป้าหมายเพื่อตอบคำถามเดียว: Sam Altman ผู้ควบคุมเทคโนโลยีที่อาจเป็นอันตรายที่สุดในประวัติศาสตร์มนุษยชาติ ไว้ใจได้จริงหรือ?

คำตอบของ Sutskever ถูกเขียนไว้ในบรรทัดแรกของหน้าแรกของเอกสาร หัวข้อรายการคือ "Sam แสดงรูปแบบพฤติกรรมที่สม่ำเสมอ..."

ข้อแรก: โกหก

สองปีครึ่งต่อมา Ronan Farrow และ Andrew Marantz นักข่าวสืบสวนได้เผยแพร่รายงานสืบสวนยาวพิเศษใน The New Yorker โดยสัมภาษณ์ผู้เกี่ยวข้องกว่า 100 คน ได้รับบันทึกภายในที่ไม่เคยเปิดเผยมาก่อน รวมถึงบันทึกส่วนตัวกว่า 200 หน้าที่ Dario Amodei ผู้ก่อตั้ง Anthropic ทิ้งไว้ในช่วงที่ทำงานที่ OpenAI เรื่องราวที่ประกอบขึ้นจากเอกสารเหล่านี้ น่าเกลียดกว่าการ "แย่งชิงอำนาจ" ในปี 2023 มาก: OpenAI เปลี่ยนจากองค์กรไม่แสวงหาผลกำไรที่เกิดเพื่อความปลอดภัยของมนุษยชาติ กลายเป็นเครื่องจักรธุรกิจอย่างไร และเกือบทุกมาตรการป้องกันความปลอดภัย ถูกคนคนเดียวกันรื้อถอนด้วยมือของตัวเอง

ข้อสรุปของ Amodei ในบันทึกตรงไปตรงมามากกว่า: "ปัญหาของ OpenAI คือตัว Sam เอง"

การตั้งค่า "บาปดั้งเดิม" ของ OpenAI

เพื่อเข้าใจน้ำหนักของรายงานนี้ ต้องอธิบายก่อนว่า OpenAI เป็นบริษัทที่พิเศษเพียงใด

ในปี 2015 Altman และกลุ่มชนชั้นนำในซิลิคอนวัลเลย์ทำสิ่งที่แทบไม่มีตัวอย่างในประวัติศาสตร์ธุรกิจ: ใช้องค์กรไม่แสวงหาผลกำไรเพื่อพัฒนาเทคโนโลยีที่อาจทรงพลังที่สุดในประวัติศาสตร์มนุษยชาติ หน้าที่ของคณะกรรมการถูกเขียนไว้ชัดเจน ความปลอดภัยมาก่อนความสำเร็จของบริษัท แม้แต่มาก่อนการอยู่รอดของบริษัท พูดง่ายๆ คือ หากวันหนึ่ง AI ของ OpenAI กลายเป็นอันตราย คณะกรรมการมีหน้าที่ปิดบริษัทนี้ด้วยมือของตัวเอง

โครงสร้างทั้งหมดนี้วางเดิมพันบนสมมติฐานเดียว: ผู้ควบคุม AGI ต้องเป็นคนที่ซื่อสัตย์อย่างยิ่ง

แล้วถ้าเดิมพันผิดล่ะ?

ระเบิดหลักของรายงานคือเอกสาร 70 หน้าดังกล่าว Sutskever ไม่เล่นการเมืองในที่ทำงาน เขาเป็นหนึ่งในนักวิทยาศาสตร์ AI ชั้นนำของโลก แต่ในปี 2023 เขามั่นใจมากขึ้นเรื่อยๆ กับสิ่งหนึ่ง: Altman โกหกผู้บริหารและคณะกรรมการอย่างต่อเนื่อง

ตัวอย่างที่เป็นรูปธรรม: ในเดือนธันวาคม 2022 Altman ให้ความมั่นใจในการประชุมคณะกรรมการว่า ฟังก์ชันหลายอย่างของ GPT-4 ที่จะเปิดตัวเร็วๆ นี้ ได้ผ่านการตรวจสอบความปลอดภัยแล้ว สมาชิกคณะกรรมการ Toner ขอดูเอกสารอนุมัติ แต่กลับพบว่าสองฟังก์ชันที่มีข้อถกเถียงมากที่สุด (การปรับแต่งโดยผู้ใช้และการปรับใช้ผู้ช่วยส่วนบุคคล) ไม่ได้รับอนุมัติจากคณะกรรมการความปลอดภัยเลย

สิ่งที่แปลกประหลาดยิ่งกว่าเกิดขึ้นในอินเดีย พนักงานคนหนึ่งรายงานต่อสมาชิกคณะกรรมการอีกคนเกี่ยวกับ "การละเมิดครั้งนั้น": Microsoft ไม่ได้ทำการตรวจสอบความปลอดภัยที่จำเป็นให้เสร็จสิ้น แต่เปิดตัว ChatGPT เวอร์ชันต้นๆ ในอินเดียก่อนกำหนด

Sutskever ยังบันทึกอีกเรื่องหนึ่งในบันทึกช่วยจำ: Altman เคยพูดกับ Mira Murati อดีต CTO ว่า กระบวนการอนุมัติด้านความปลอดภัยไม่สำคัญขนาดนั้น ทนายความทั่วไปของบริษัทเห็นชอบแล้ว Murati ไปยืนยันกับทนายความทั่วไป ซึ่งตอบกลับว่า: "ฉันไม่รู้ว่า Sam ได้ความประทับใจนั้นมาจากไหน"

บันทึกส่วนตัว 200 หน้าของ Amodei

เอกสารของ Sutskever เหมือนคำฟ้องของอัยการ ส่วนบันทึกกว่า 200 หน้าที่ Amodei ทิ้งไว้ 更像เหมือนไดอารี่ที่พยานเขียนที่เกิดเหตุ

ในช่วงหลายปีที่ Amodei ทำงานเป็นหัวหน้าฝ่ายความปลอดภัยที่ OpenAI เขาเห็นด้วยตาตนเองว่าบริษัทถอยหลัง一步一步ภายใต้แรงกดดันทางธุรกิจ เขาบันทึกรายละเอียดสำคัญของข้อตกลงการลงทุนของ Microsoft ในปี 2019: เขาเคยใส่ข้อกำหนด "การควบรวมและการช่วยเหลือ" ลงในกฎบัตรของ OpenAI โดยสรุปคือ หากมีบริษัทอื่นพบเส้นทาง AGI ที่ปลอดภัยกว่า OpenAI ควรหยุดแข่งขันและหันไปช่วยบริษัทนั้น นี่คือการรับประกันความปลอดภัยที่เขามองว่าสำคัญที่สุดในข้อตกลงทั้งหมด

เมื่อใกล้ถึงเวลาลงนาม Amodei พบสิ่งหนึ่ง: Microsoft ได้รับสิทธิ์ยับยั้งข้อกำหนดนี้ หมายความว่าอย่างไร? แม้ว่าวันหนึ่งคู่แข่งจะพบเส้นทางที่ดีกว่าจริงๆ Microsoft สามารถปิดกั้นพันธกรณีในการช่วยเหลือของ OpenAI ด้วยคำพูดเดียว ข้อกำหนดยังอยู่บนกระดาษ แต่ตั้งแต่วันที่ลงนาม มันก็กลายเป็นกระดาษไร้ค่า

Amodei ออกจาก OpenAI ในภายหลัง และก่อตั้ง Anthropic การแข่งขันระหว่างสองบริษัท มีพื้นฐานมาจากความแตกต่างพื้นฐานเกี่ยวกับ "AI ควรได้รับการพัฒนาอย่างไร"

คำมั่นสัญญา 20% ของพลังประมวลผลที่หายไป

ในรายงานมีรายละเอียดหนึ่งที่ทำให้หลังเย็นหลังจากอ่านจบ เกี่ยวกับ "ทีมซูเปอร์อไลน์เมนต์" ของ OpenAI

กลางปี 2023 Altman ส่งอีเมลติดต่อนักศึกษาปริญญาเอกที่ Berkeley ที่วิจัยเรื่อง "การจัดตำแหน่งที่หลอกลวง" (AI แสร้งทำเป็นดีระหว่างทดสอบ แต่ทำตามวิธีของตัวเองหลังปรับใช้จริง) กล่าวว่าเขากังวลเกี่ยวกับปัญหานี้มาก และกำลังพิจารณาตั้งรางวัลการวิจัยระดับโลกมูลค่า 10 พันล้านดอลลาร์ นักศึกษาปริญญาเอกรู้สึกมีแรงบันดาลใจ ลาพักการศึกษา และเข้าร่วม OpenAI

จากนั้น Altman เปลี่ยนใจ: ไม่จัดรางวัลภายนอกแล้ว แต่จัดตั้ง "ทีมซูเปอร์อไลน์เมนต์" ภายในบริษัท บริษัทประกาศอย่างเป็นทางการว่าจะจัดสรร "20% ของพลังประมวลผลที่มีอยู่" ให้กับทีมนี้ ซึ่งมีมูลค่าที่อาจเกิน 10 พันล้านดอลลาร์ ถ้อยคำของประกาศจริงจังอย่างยิ่ง กล่าวว่าหากปัญหาเรื่องการจัดตำแหน่งไม่ได้รับการแก้ไข AGI อาจนำไปสู่ "การถอดถอนอำนาจของมนุษย์ หรือแม้แต่การสูญพันธุ์ของมนุษย์"

Jan Leike ที่ถูกแต่งตั้งให้เป็นผู้นำทีมนี้ บอกกับนักข่าวในภายหลังว่าคำมั่นสัญญานี้เองเป็น "เครื่องมือรักษาบุคลากร" ที่มีประสิทธิภาพมาก

ความเป็นจริงล่ะ? บุคคลสี่คนที่ทำงานในทีมนี้หรือมีส่วนเกี่ยวข้องอย่างใกล้ชิดกล่าวว่า พลังประมวลผลที่จัดสรรจริงมีเพียง 1% ถึง 2% ของพลังประมวลผลทั้งหมดของบริษัท และยังเป็นฮาร์ดแวร์ที่เก่าที่สุด ทีมนี้ถูกยุบในภายหลัง โดยยังไม่บรรลุภารกิจ

เมื่อนักข่าวขอสัมภาษณ์บุคลากรของ OpenAI ที่รับผิดชอบการวิจัย "ความปลอดภัยเชิงอัตถิภาวนิยม" ปฏิกิริยาของฝ่ายประชาสัมพันธ์บริษัทน่าขำ: "นั่นไม่ใช่... สิ่งที่มีอยู่จริง"

ส่วนตัว Altman เองกลับ坦然 เขาบอกกับนักข่าวว่า "สัญชาตญาณของเขาไม่ค่อยเข้ากับหลายสิ่งหลายอย่างเกี่ยวกับความปลอดภัย AI แบบดั้งเดิม" OpenAI จะยังคงทำ "โครงการความปลอดภัย หรืออย่างน้อยก็โครงการที่เกี่ยวข้องกับความปลอดภัย"

CFO ที่ถูกทำให้ไร้อำนาจ และ IPO ที่กำลังจะมาถึง

รายงานของ The New Yorker เป็นเพียงครึ่งหนึ่งของข่าวร้ายในวันนั้น วันเดียวกัน The Information เปิดเผยข่าวสำคัญอีกเรื่อง: เกิดความขัดแย้งรุนแรงระหว่าง Sarah Friar CFO ของ OpenAI กับ Altman

Friar บอกกับเพื่อนร่วมงานเป็นการส่วนตัวว่าเธอคิดว่า OpenAI ยังไม่พร้อมที่จะเข้าตลาดหลักทรัพย์ในปีนี้ ด้วยสองเหตุผล: ปริมาณงานด้านกระบวนการและองค์กรที่ต้องทำให้เสร็จมีมากเกินไป และความเสี่ยงทางการเงินจากคำมั่นสัญญาด้านค่าใช้จ่ายพลังประมวลผล 6 แสนล้านดอลลาร์ใน 5 ปีที่ Altman ให้ไว้สูงเกินไป เธอไม่แน่ใจด้วยซ้ำว่าการเติบโตของรายได้ของ OpenAI จะรองรับคำมั่นสัญญาเหล่านี้ได้หรือไม่

แต่ Altman ต้องการเร่ง IPO ในไตรมาสที่สี่ของปีนี้

ที่แปลกประหลาดยิ่งกว่าคือ Friar ไม่ได้รายงานตรงต่อ Altman อีกต่อไปแล้ว ตั้งแต่เดือนสิงหาคม 2025 เธอเปลี่ยนไปรายงานต่อ Fidji Simo (CEO ธุรกิจแอปพลิเคชันของ OpenAI) และ Simo เพิ่งลาป่วยเนื่องจากปัญหาสุขภาพเมื่อสัปดาห์ที่แล้ว ลองคิดถึงสถานการณ์นี้: บริษัทที่กำลังเร่ง IPO CEO และ CFO มีความขัดแย้งพื้นฐาน CFO ไม่รายงานต่อ CEO และหัวหน้าของ CFO ยังลาพักงาน

แม้แต่ผู้บริหารระดับสูงภายใน Microsoft ก็ยังทนไม่ไหว กล่าวว่า Altman "บิดเบือนข้อเท็จจริง กลับคำพูด กลับลำข้อตกลงที่บรรลุแล้วอย่างต่อเนื่อง" ผู้บริหารระดับสูงของ Microsoft คนหนึ่งถึงกับพูดประโยคนี้: "ฉันคิดว่าเขามีโอกาสที่จะถูกจดจำในที่สุดว่าเป็นนักต้มตุ๋นระดับ Bernie Madoff หรือ SBF"

ภาพลักษณ์ "คนสองหน้า" ของ Altman

อดีตสมาชิกคณะกรรมการ OpenAI คนหนึ่งอธิบายลักษณะสองประการในตัว Altman ต่อนักข่าว ย่อหน้านี้อาจเป็นภาพร่างตัวละครที่โหดร้ายที่สุดในรายงานทั้งหมด

กรรมการคนนี้กล่าวว่า Altman มีการผสมผสานของคุณสมบัติที่หายากอย่างยิ่ง: ในทุกการสื่อสารแบบเผชิญหน้า เขาเต็มไปด้วยความปรารถนาอย่างแรงกล้าที่จะทำให้อีกฝ่ายพอใจและถูกอีกฝ่ายชื่นชอบ ในขณะเดียวกัน เขาไม่แยแสต่อผลที่ตามมาที่การหลอกลวงผู้อื่นอาจนำมา เกือบจะเหมือนกับโรคทางสังคม

การที่สองลักษณะนี้ปรากฏในคนคนเดียวกันพร้อมกัน หายากมาก แต่สำหรับพนักงานขาย นี่คือพรสวรรค์ที่สมบูรณ์แบบที่สุด

ในรายงานมีคำเปรียบเทียบหนึ่งที่พูดได้ดี: Steve Jobs มีชื่อเสียงในเรื่อง "สนามบิดเบือนความเป็นจริง" เขาทำให้โลกเชื่อในวิสัยทัศน์ของเขาได้ แต่แม้แต่ Jobs ก็ไม่เคยบอกลูกค้าว่า "ถ้าคุณไม่ซื้อเครื่องเล่น MP3 ของฉัน คนที่คุณรักจะตาย"

Altman เคยพูดอะไรคล้ายๆ กัน เกี่ยวกับ AI

ปัญหาบุคลิกภาพของ CEO คนหนึ่ง ทำไมจึงเป็นความเสี่ยงของทุกคน

หาก Altman เป็นเพียง CEO ของบริษัทเทคโนโลยีทั่วไป ข้อกล่าวหาเหล่านี้เป็นเพียงข่าวซุบซิบธุรกิจที่น่าสนใจ แต่ OpenAI ไม่ธรรมดา

ตามที่บริษัทอ้างเอง บริษัทกำลังพัฒนาเทคโนโลยีที่อาจทรงพลังที่สุดในประวัติศาสตร์มนุษยชาติ สามารถปรับโครงสร้างเศรษฐกิจโลกและตลาดแรงงานใหม่ (OpenAI เพิ่งเผยแพร่เอกสารนโยบายเกี่ยวกับปัญหาการว่างงานจาก AI ด้วยตัวเอง) และสามารถถูกใช้เพื่อสร้างอาวุธชีวภาพเคมีขนาดใหญ่หรือเปิดการโจมตีทางไซเบอร์

มาตรการป้องกันความปลอดภัยทั้งหมดมีแต่ชื่อแต่ไม่มีจริง ภารกิจไม่แสวงหาผลกำไรของผู้ก่อตั้งถูกแทนที่ด้วยการเร่ง IPO อดีตหัวหน้านักวิทยาศาสตร์และอดีตหัวหน้าฝ่ายความปลอดภัยต่างก็ยืนยันว่า CEO "ไม่น่าเชื่อถือ" พันธมิตรเปรียบเทียบ CEO กับ SBF ในสถานการณ์เช่นนี้ CEO คนนี้มีสิทธิ์อะไรที่จะตัดสินใจฝ่ายเดียวว่าจะเปิดตัวโมเดล AI ที่อาจเปลี่ยนแปลงชะตากรรมของมนุษยชาติเมื่อไร?

Gary Marcus (ศาสตราจารย์ AI แห่งมหาวิทยาลัยนิวยอร์ก ผู้สนับสนุนความปลอดภัย AI มาอย่างยาวนาน) เขียนประโยคหนึ่งหลังจากอ่านรายงาน: หากโมเดล OpenAI ในอนาคตบางโมเดลสามารถสร้างอาวุธชีวภาพเคมีขนาดใหญ่หรือเปิดการโจมตีทางไซเบอร์ที่สร้างหายนะได้ คุณวางใจจริงๆ หรือที่จะให้ Altman ตัดสินใจคนเดียวว่าจะเปิดตัวหรือไม่?

การตอบกลับของ OpenAI ต่อ The New Yorker กระชับดี: "เนื้อหาส่วนใหญ่ของบทความนี้เป็นการนำเสนอเหตุการณ์ที่เคยรายงานไปแล้วใหม่ ผ่านคำพูดที่ไม่เปิดเผยชื่อและเกร็ดเล็กเกร็ดน้อยที่เลือกสรร แหล่งข่าวเห็นได้ชัดว่ามีจุดประสงค์ส่วนตัว"

เป็นการตอบกลับแบบ Altman มาก: ไม่ตอบข้อกล่าวหาเฉพาะ ไม่ปฏิเสธความจริงของบันทึกช่วยจำ เพียงแต่ตั้งคำถามถึงแรงจูงใจ

บนศพที่ไม่แสวงหาผลกำไร ต้นไม้เงินงอกขึ้นมา

สิบปีของ OpenAI เขียนเป็นโครงเรื่องได้ดังนี้:

กลุ่มนักอุดมคติที่กังวลเกี่ยวกับความเสี่ยงของ AI สร้างองค์กรไม่แสวงหาผลกำไรที่ขับเคลื่อนด้วยภารกิจ องค์กรทำการค้นพบทางเทคโนโลยีที่พิเศษ การค้นพบดึงดูดทุนจำนวนมหาศาล ทุนต้องการผลตอบแทน ภารกิจเริ่มหลีกทาง ทีมความปลอดภัยถูกยุบ คนที่ตั้งคำถามถูกกวาดล้าง โครงสร้างไม่แสวงหาผลกำไรถูกเปลี่ยนเป็นนิติบุคคลแสวงหาผลกำไร คณะกรรมการที่เคยมีอำนาจปิดบริษัท ตอนนี้นั่งเต็มไปด้วยพันธมิตรของ CEO บริษัทที่เคยสัญญาจะจัดสรรพลังประมวลผล 20% เพื่อปกป้องความปลอดภัยของมนุษยชาติ ตอนนี้เจ้าหน้าที่ประชาสัมพันธ์บอกว่า "นั่นไม่ใช่สิ่งที่มีอยู่จริง"

ตัวเอกของเรื่อง ผู้มีประสบการณ์