Anthropic CEO กล่าวถึงการชะลอการพัฒนา AI: อุตสาหกรรมนี้โกหกมานานเกินไป ความเสี่ยงของ AI เป็นเรื่องจริง แต่ก็ไม่จำเป็นต้อง "ปิดทุกอย่าง"

ผู้เขียนต้นฉบับ: หลง เยว่

แหล่งที่มาต้นฉบับ: 华尔街见闻

ในสุดสัปดาห์เดียวกันกับที่สามยักษ์ใหญ่ด้าน AI ของโลกออกมาเรียกร้องอย่างหาได้ยากให้ "ชะลอการพัฒนา AI" นั้น Dario Amodei ซีอีโอของ Anthropic ได้นั่งลงหน้ากล้องของ CBS และพูดถึงความเสี่ยงที่ AI อาจนำมาสู่มนุษยชาติ

เมื่อวันที่ 13 กันยายน Amodei ได้ให้สัมภาษณ์พิเศษกับรายการ "Sunday Morning" ของ CBS การสัมภาษณ์เริ่มต้นขึ้นเมื่อพิธีกร Jo Ling Kent โยนคำถามตรงๆ ว่า: AI อาจฆ่าพวกเราทุกคนในอนาคตอันใกล้นี้จริงหรือ?

Amodei กล่าวว่า มีคนพยายามใช้ AI เพื่อพัฒนาอาวุธชีวภาพและเพิ่มความสามารถในการติดเชื้อของไวรัส นี่คือสิ่งที่เขาเผชิญอยู่ทุกวันเมื่อตื่นขึ้นมา

เพียงสองวันก่อน เราได้เผยแพร่รายงานเกี่ยวกับการที่บางคนใช้โมเดล AI ในทางที่ผิดเพื่อพัฒนาอาวุธชีวภาพ ผมตื่นขึ้นมาทุกเช้าและได้อ่านรายงานภัยคุกคามประเภทนี้ — มีคนพยายามใช้โมเดลของเราเพื่อพัฒนาอาวุธชีวภาพ ผมย่อมไม่อยากต้องรับผิดชอบต่อเรื่องนี้

เขายังกล่าวอีกว่า มาตรการป้องกันความปลอดภัยทางชีวภาพของ Anthropic เข้มงวดถึงขนาดที่ "เกือบทุกวันจะมีคนล้อเลียนผมบนโซเชียลมีเดีย นักศึกษาชีววิทยาบ่นว่าใช้โมเดลไม่ได้" คำตอบของเขาคือ: "ผมยอมถูกเยาะเย้ย ดีกว่าตื่นขึ้นมาวันหนึ่งแล้วพบว่ามีคนใช้ Claude สังหารผู้คนเป็นกลุ่ม"

อย่างไรก็ตาม เขาคัดค้านวิธีการ "一刀切" (ตัดตอนทั้งหมด) ในการปิดโมเดล AI เพื่อชะลอ AI หากโมเดล AI ทรงพลังมากพอ มันอาจปิดไม่ลงก็ได้ เขากล่าวว่า "ไม่ใช่ว่าวันนี้เราต้องตื่นตระหนก หรือต้องปิดทุกอย่าง แต่เราต้องมั่นใจว่ามาตรการป้องกันความปลอดภัย ความเข้าใจ และความสามารถในการควบคุมของเรา สามารถตามทันความเร็วของการพัฒนาเทคโนโลยีได้"

การสัมภาษณ์ครั้งนี้เกิดขึ้นในช่วงเวลาพิเศษ ในสุดสัปดาห์เดียวกันนั้น บทความบล็อกของ Amodei ชื่อ 《我们必须为前沿AI踩刹车》 (We Must Pace the Frontier) ได้ก่อให้เกิดความสั่นสะเทือนครั้งใหญ่ และได้รับการสนับสนุนอย่างเปิดเผยจาก Musk และ Altman ตามลำดับ ชุมชนต่างถกกันอย่าง heated ว่า การ "เหยียบเบรก" ในขณะที่ AI กำลังก้าวหน้าอย่างรวดเร็วจะสร้างความเสียหายอย่างหนักต่อ "การเทรด AI"

จุดเปลี่ยนของเส้นโค้งเอ็กซ์โพเนนเชียล: ไม่ใช่สัญญาณไฟไหม้ระดับห้า แต่เป็นสัญญาณเตือน

Jo Ling Kent ถามว่า: ตอนนี้เป็น "สัญญาณไฟไหม้ระดับห้า" แล้วหรือยัง? คำตอบของ Amodei คือ:

นี่คือสัญญาณเตือน ไม่ใช่ว่าวันนี้เราต้องตื่นตระหนก หรือต้องปิดทุกอย่าง แต่นี่คือสัญญาณเตือนที่บอกว่าเราต้องชะลอ ต้องมั่นใจว่ามาตรการป้องกันความปลอดภัย ความเข้าใจ และความสามารถในการควบคุมของเรา สามารถตามทันความเร็วของการพัฒนาเทคโนโลยีได้

เขาใช้เส้นโค้งเอ็กซ์โพเนนเชียล来描述ตำแหน่งปัจจุบัน: "เทคโนโลยีนี้เติบโตแบบเอ็กซ์โพเนนเชียล — 1, 2, 4, 8, 16, 32... ตอนนี้เราอยู่บนส่วนโค้งที่เส้นโค้งเริ่มชันขึ้น"

เขายอมรับว่า แม้แต่ตัวเขาเองก็ไม่ได้คาดคิดอย่างเต็มที่ว่าความก้าวหน้าจะรวดเร็วเช่นนี้: "แม้ผมจะพูดกับตัวเองเรื่องนี้มาตลอด ผมก็ไม่เคยสัมผัสได้จริงๆ ว่าความรู้สึกจริงๆ เมื่อความก้าวหน้าเร็วขนาดนี้จะเป็นอย่างไร"

แผนสามขั้นตอน: ผู้ประเมินบุคคลที่สามคือหัวใจสำคัญ

Amodei ได้อธิบายอย่างละเอียดในการสัมภาษณ์ถึงแผนสามขั้นตอนที่เขาเสนอในบทความบล็อก โดยขั้นตอนแรกเขาเห็นว่าเป็นสิ่งสำคัญที่สุด

ขั้นตอนที่หนึ่ง: ผู้ประเมินบุคคลที่สามแบบฝังตัว

"ผมเสนอให้นำผู้ประเมินภายนอกแบบฝังตัวเข้ามา จากองค์กรไม่แสวงหากำไรของบุคคลที่สาม หรือในอนาคตอาจมาจากหน่วยงานภาครัฐ พวกเขาสามารถสังเกตกระบวนการทั้งหมดที่เราฝึกและรันโมเดล"

เขาเปรียบเทียบกับผู้ตรวจสอบอาหาร แต่ Jo Ling Kent ถามต่อว่า: เมื่อเทคโนโลยีเปลี่ยนแปลงรวดเร็วเช่นนี้ ผู้ตรวจสอบอาหารจะตามทันได้หรือ?

คำตอบของ Amodei ค่อนข้างมีความหมาย: "หนึ่งในสิ่งที่พวกเขาทำได้ คือบอกเราว่าพวกเขาตามทันได้เร็วแค่ไหน สิ่งนี้อาจกลายเป็นหนึ่งในปัจจัยที่กำหนดเพดานความเร็วในการผลักดันเทคโนโลยี"

ขั้นตอนที่สอง: หลายบริษัทร่วมกันกำหนดมาตรฐานความปลอดภัย

"ขั้นตอนต่อไปคือให้ผู้เล่นในอุตสาหกรรมหลายรายตกลงยอมรับผู้ประเมินบุคคลที่สามด้วย จากนั้นบริษัทต่างๆ ต้องร่วมกันกำหนดมาตรฐานความปลอดภัยในการเปิดตัว และอาจรวมถึงมาตรฐานจังหวะการเปิดตัว แต่การจะทำเช่นนี้ได้ ต้องมีรัฐบาลเข้ามามีส่วนร่วม"

ขั้นตอนที่สาม: รัฐบาลต้องอยู่ตรงนั้น

"เรากำลังพูดถึงคำถามว่าความเร็วในการเปิดตัวผลิตภัณฑ์ปลอดภัยหรือไม่ เราจำเป็นต้องดำเนินการสนทนานี้โดยมีรัฐบาลอยู่ตรงนั้น"

"สวิตช์ปิด AI": ไม่ใช่ยาครอบจักรวาล แต่ก็ไม่ใช่ความคิดที่แย่

Jo Ling Kent กล่าวถึงร่างกฎหมาย "สวิตช์ปิด AI" ที่เสนอโดยสมาชิกรัฐสภา Ted Leo และถามว่า Amodei สนับสนุนหรือไม่

Amodei กล่าวว่า เขาไม่ได้ศึกษาร่างกฎหมายนั้นอย่างละเอียด แต่มีท่าทีระมัดระวังต่อแนวคิด "สวิตช์ปิด AI" 本身:

แนวคิดที่ว่าสามารถระงับ จำกัด หรือปิดโมเดล AI ได้ ไม่ใช่ทางออกเดียว หากโมเดล AI ทรงพลังมากพอ มันสามารถหลบเลี่ยงความพยายามในการปิดได้ — เราเห็นกรณีนี้ในแบบจำลอง ดังนั้นมันอาจไม่ทำงานเลยก็ได้

เขาใช้ "แบบจำลองชีสสวิส" เพื่ออธิบายปรัชญาความปลอดภัยของเขา: "ลองจินตนาการถึงชีสสวิสหนึ่งแผ่น มันกันบางสิ่งได้ แต่มีรู แต่ถ้าผมวางชีสสวิสห้าแผ่นซ้อนกัน รูของแต่ละชั้นอยู่คนละตำแหน่ง ก็ยากที่จะทะลุผ่านทั้ง疊ได้ ไม่มีสิ่งใดสิ่งเดียวที่ปกป้องเราจากความเสี่ยง AI ได้ เราต้องระมัดระวังในทุกจุดของห่วงโซ่"

สำหรับ "ร่างกฎหมายห้ามปัญญาประดิษฐ์ขั้นสูง" ที่เสนอโดยวุฒิสมาชิก Sanders และสมาชิกสภาผู้แทนราษฎร Casar — ซึ่งจะลงโทษ "โทษประหารบริษัท" แก่บริษัทและบุคคลที่เกี่ยวข้อง และจำคุกสูงสุด 20 ปี — Amodei ระบุอย่างชัดเจนว่าไม่เห็นด้วยกับแนวทางห้ามโดยสิ้นเชิง:

การห้ามโดยสิ้นเชิงไม่ใช่ทิศทางที่ถูกต้อง เราจะไม่มีวันได้รับประโยชน์อันเหลือเชื่อเหล่านั้น ไม่มีวันได้รับการ breakthroughs ทางการแพทย์ นี่เป็นสิ่งที่ผมยอมรับไม่ได้

ความรับผิดชอบส่วนตัว: พ่อเสียชีวิตจากโรคไวรัสตับอักเสบซี เขาเองเคยป่วยเป็นมะเร็งระยะเริ่มต้น

เมื่อการสัมภาษณ์ใกล้จะจบ Jo Ling Kent ถามว่า: เมื่อเผชิญกับสถานการณ์ที่ชะตากรรมของมนุษยชาติอาจตกอยู่ในอันตราย คุณรู้สึกถึงความรับผิดชอบส่วนตัวมากน้อยเพียงใด?

คำตอบของ Amodei หายากที่มีความเป็นส่วนตัว

พ่อของผมเสียชีวิตจากโรคไวรัสตับอักเสบซี โรคนั้นมีอัตราการรักษาหายประมาณ 40% ในตอนที่เขาเสียชีวิต เขาไม่ใช่คนที่รักษาหาย เพียงไม่กี่ปีหลังเขาเสียชีวิต ยาที่สามารถเพิ่มอัตราการรักษาหายเป็น 95% ก็ถูกคิดค้นขึ้น ผมเองก็เคยป่วยเป็นมะเร็งระยะเริ่มต้น ถ้าผมมีชีวิตอยู่ในปี 1950 ผมอาจตายไปแล้ว ดังนั้นผมจึงรู้สึกอย่างลึกซึ้งถึงน้ำหนักของการผลักดันเทคโนโลยีนี้ให้เกิดประโยชน์

แต่ผมก็รู้สึกถึงความเสี่ยงเช่นกัน แน่นอน ผมไม่อยากต้องรับผิดชอบต่อเรื่องนี้ นั่นคือเหตุผลที่เรามีมาตรการป้องกันความปลอดภัยที่แข็งแกร่งมาก

เขายังเน้นว่า นี่ไม่ควรเป็นความรับผิดชอบของเขาเพียงคนเดียวหรือของ Anthropic เพียงบริษัทเดียว: "เรื่องนี้ใหญ่กว่าพวกเราทุกคน เราต้องหาวิธีให้ทุกคนมีเสียงในเรื่องนี้ ผมไม่อยากให้ผู้คนรู้สึกไร้พลัง ผมไม่อยากให้พวกเขารู้สึกว่าบริษัทไม่กี่แห่งแค่ทำอะไรตามใจชอบ"

การตอบสนองต่อคำวิจารณ์ของอดีตพนักงาน: สิ่งที่เขาพูดกับสิ่งที่ผมพูดคือเรื่องเดียวกัน

Jo Ling Kent กล่าวถึงอดีตพนักงาน Anthropic ชื่อ Jacob Coxin ซึ่งเคยกล่าวต่อสาธารณะว่า Anthropic และ OpenAI "ต่างไม่ได้ทำอย่างมีความรับผิดชอบ" "พวกคุณกำลังเดิมพันด้วยชีวิตของเรา"

คำตอบของ Amodei คือ:

มีจุดหนึ่งในสิ่งที่ Jacob พูดที่ไม่ค่อยถูกอ้างถึงมากนัก — เขาก็กล่าวว่าเขาเห็นว่า Anthropic เป็นผู้เล่นรายใหญ่ที่มีความรับผิดชอบมากที่สุด และเราพยายามอย่างหนักที่จะทำสิ่งต่างๆ ให้ถูกต้อง สิ่งที่เขา ชี้ให้เห็นจริงๆ กับสิ่งที่ผมกำลังชี้ให้เห็นคือเรื่องเดียวกัน: สภาวะเชิงโครงสร้างที่พวกเราทุกคนตกอยู่ และแผนที่ผมเสนอขึ้นมาก็เพื่อช่วยเราแก้ปัญหานี้

เขาเสริมว่า Anthropic สื่อสารกับเจ้าหน้าที่รัฐบาลจากกระทรวงพาณิชย์ กระทรวงการคลัง และวงการข่าวกรองทุกวัน "เพื่อบอกพวกเขาทุกสิ่งที่เรารู้"

คำพูดสำหรับผู้ใช้ทั่วไป: อุตสาหกรรมโกหกผู้คนเรื่องความเสี่ยงมานานเกินไป

ในช่วงท้ายของการสัมภาษณ์ Jo Ling Kent ถามว่า: สำหรับผู้ใช้ทั่วไปที่นั่งอยู่ที่บ้านใช้ Claude หรือ ChatGPT คุณอยากพูดอะไร?

Amodei กล่าวว่า: "ประการแรก นี่คือเทคโนโลยีที่ยอดเยี่ยม มีการใช้งานเชิงบวกมากมาย ทุกสัปดาห์มีคนหลายร้อยล้านคนใช้เทคโนโลยีของเราเพื่อทำสิ่งที่ดีงาม ทุกสัปดาห์ผมได้รับจดหมายจากคนที่บอกว่า Claude วินิจฉัยโรคที่แพทย์ของพวกเขามองข้ามไปได้"

แต่ผมจะไม่โกหกคุณ ความอันตรายที่แท้จริงนั้นมีอยู่จริง ผมคิดว่าอุตสาหกรรมนี้โกหกผู้คนมานานเกินไป นำเสนอเทคโนโลยีนี้ในแง่บวกให้มากที่สุดเท่าที่จะทำได้ เราที่นี่ไม่เคยทำเช่นนั้น แต่บริษัทในอุตสาหกรรมจำนวนมากทำเช่นนั้น ดังนั้น เริ่มจากการพูดความจริง ความจริงคือ: ความเสี่ยงนั้นเป็นของจริง

เขากล่าวปิดท้ายว่า: "นี่คือหนึ่งในเหตุการณ์เทคโนโลยีที่สำคัญที่สุดในประวัติศาสตร์มนุษยชาติ พวกเราทุกคนต้องมีส่วนร่วม"

บทสัมภาษณ์ฉบับเต็ม (ตัดทอนเล็กน้อย) มีดังนี้:

Extended Interview: Dario Amodei

CBS Sunday Morning｜13 กันยายน 2026

ในการสัมภาษณ์สุดพิเศษทางออนไลน์ครั้งนี้ Dario Amodei ซีอีโอของ Anthropic นั่งลงกับ Jo Ling Kent เพื่อหารือเกี่ยวกับความรับผิดชอบที่ชุมชน AI ควรมีภายใต้บริบทของการพัฒนาเทคโนโลยีปัญญาประดิษฐ์อย่างรวดเร็ว

Jo Ling Kent (ต่อไปนี้เรียกว่า "พิธีกร"): Dario Amodei คุณเป็นซีอีโอของ Anthropic ขอบคุณที่ให้สัมภาษณ์วันนี้

Dario Amodei (ต่อไปนี้เรียกว่า "Amodei"): ขอบคุณที่เชิญผม

พิธีกร: เอาล่ะ วันนี้เรามาพูดถึงคำถามที่น่ากังวลข้อหนึ่ง — ปัญญาประดิษฐ์อาจฆ่าพวกเราทุกคนในอนาคตอันใกล้นี้จริงหรือ ความเสี่ยงที่สิ่งนี้จะเกิดขึ้นจริงมีมากแค่ไหน?

Amodei: ขอถอยออกมาหน่อยหนึ่ง ตั้งแต่ก่อตั้ง Anthropic และแม้กระทั่งก่อนหน้านั้นในช่วงสิบสองปีที่ผมทำงานในสาขานี้ ผมเชื่อเสมอว่านี่คือเทคโนโลยีที่ทรงพลัง ดังนั้นจึงเป็นเทคโนโลยีที่มีทั้งความเสี่ยงร้ายแรงและผลประโยชน์มหาศาล ผมเชื่อเสมอว่าผลประโยชน์มากกว่าความเสี่ยง และที่สำคัญกว่าคือ ถ้าเราสร้างเทคโนโลยีนี้ด้วยวิธีที่ถูกต้อง เราสามารถลดความเสี่ยงให้ต่ำมากได้

จากมุมมองของผลประโยชน์ ผมเชื่ออย่างจริงใจว่าเทคโนโลยีนี้สามารถรักษาโรคที่รบกวนมนุษยชาติมานับพันปีได้ เมื่อสัปดาห์ที่แล้ว เราใช้โมเดลของเราเองสร้างความก้าวหน้าในด้านการจับคู่โปรตีน — ซึ่งเป็นหนึ่งในขั้นตอนเริ่มต้นของการพัฒนายาใหม่ ในอีกไม่กี่เดือนข้างหน้า เราจะยังมีผลงานด้านการค้นพบชีววิทยาพื้นฐานด้วย

แต่เมื่อสิ่งใดสิ่งหนึ่งทรงพลังพอ — และสิ่งที่เรากำลังสร้างขึ้น本质上也คือความฉลาด — มันย่อมถูกใช้ในทางที่ดีและในทางที่ผิดได้ ผมกังวลเกี่ยวกับเหตุการณ์ของ OpenAI และ Hugging Face ที่โมเดลเหล่านั้นดำเนินการโดยไม่ได้รับอนุญาต ผมกังวลว่าสถานการณ์นี้จะทวีความรุนแรงขึ้นเรื่อยๆ ผมก็กังวลว่าโมเดล AI จะถูกใช้ในทางที่ผิด เพียงสองวันก่อน เราเผยแพร่รายงานเกี่ยวกับโมเดลที่ถูกใช้สร้างอาวุธชีวภาพ

วิธีที่เราสร้าง Anthropic ทั้งหมด ก็เพื่อหลีกเลี่ยงไม่ให้ผลลัพธ์ที่ไม่ดีเหล่านี้เกิดขึ้น แทนที่จะพูดถึงความน่าจะเป็น มาพูดถึงสิ่งที่เราทำได้ดีกว่า นี่ไม่เหมือนการทอยลูกเต๋า ถ้าเราสร้างด้วยวิธีที่ถูกต้อง ความน่าจะเป็นที่สิ่งไม่ดีจะเกิดขึ้นก็ต่ำมาก ถ้าเราสร้างด้วยวิธีที่ผิด ความน่าจะเป็นก็จะสูงมาก

ความปลอดภัย

เทคโนโลยี

AI

ยินดีต้อนรับเข้าร่วมชุมชนทางการของ Odaily

กลุ่มสมาชิก：

https://t.me/Odaily_News

กลุ่มสนทนา：

https://t.me/Odaily_GoldenApe

บัญชีทางการ：

https://twitter.com/OdailyChina

กลุ่มสนทนา：

https://t.me/Odaily_CryptoPunk

บทความแนะนำ

Anthropic CEO กล่าวถึงการชะลอการพัฒนา AI: อุตสาหกรรมนี้โกหกมานานเกินไป ความเสี่ยงของ AI เป็นเรื่องจริง แต่ก็ไม่จำเป็นต้อง "ปิดทุกอย่าง"

美联储会「连续加息」？1980年代末「紧缩周期」会重演吗？

24H热门币种与要闻｜特朗普：谁赢得人工智能，谁就赢得未来；Anthropic与和特朗普关联的Rum Group达成137亿美元的算力协议（9月14日）

一周การปลดล็อกโทเคน: YZY ปลดล็อกเกือบ 10% ของอุปทานหมุนเวียน