Dragonfly พาร์ทเนอร์: ตราบใดที่ AI ยังมีความเสี่ยงต่อการสูญพันธุ์ของมนุษย์ ก็ไม่ควรเร่งพัฒนาอย่างบุ่มบ่ม

Odaily รายงานว่า Haseeb หุ้นส่วนผู้จัดการของ Dragonfly กล่าวบนแพลตฟอร์ม X ว่าเขาเคยเป็น "นักพนัน" อาชีพ โดยหลักการสำคัญคือต้องไม่แตะต้อง "ความเสี่ยงต่อการล่มสลาย" (risk of ruin) นั่นคือต้องเก็บชิปไว้เสมอเพื่อเริ่มต้นใหม่และรับมือกับสถานการณ์ที่เลวร้ายที่สุด เช่นเดียวกัน ความเสี่ยงของ AI อาจไม่รุนแรงอย่างที่คิด หรืออาจแก้ไขได้ง่าย แต่ตราบใดที่ยังมีความเป็นไปได้ที่สมเหตุสมผล ก็ไม่ควรเสี่ยงโดยยังไม่ยืนยันอย่างเพียงพอ

Haseeb กล่าวว่า หากมีคนคิดว่าโอกาสที่ AI จะทำให้มนุษย์สูญพันธุ์อยู่ที่ 10% แท้จริงแล้วหมายความว่าเขาคิดว่าใน 90% ของกรณีจะไม่เกิดผลร้ายแรง แต่มนุษย์ไม่สามารถตัดสินได้ว่าตนกำลังอยู่ในสถานการณ์ใด ดังนั้น ก่อนที่จะยืนยันได้ว่าความเสี่ยงต่อการสูญพันธุ์ได้หมดไปแล้ว มนุษย์ไม่ควรรับความเสี่ยงนี้โดยสมัครใจ