Anthropic และ OpenAI ปรับเปลี่ยนถ้อยแถลงกฎความปลอดภัยท่ามกลางการแข่งขัน AI ที่เร่งเร้า
Odaily ตามข่าว Anthropic ได้ลบพันธะสัญญาด้านความปลอดภัยหลักหนึ่งข้อออกจากนโยบายการขยายขีดความสามารถอย่างรับผิดชอบ โดยไม่ให้คำมั่นอีกว่าจะหยุดการฝึกฝนโมเดลหากมาตรการบรรเทาความเสี่ยงยังไม่พร้อมสมบูรณ์ Jared Kaplan หัวหน้านักวิทยาศาสตร์ของ Anthropic กล่าวกับ TIME ว่า ในบริบทของการพัฒนา AI ที่รวดเร็ว การให้คำมั่นที่จะหยุดฝึกรูปแบบฝ่ายเดียวไม่มีประโยชน์ในทางปฏิบัติ หากคู่แข่งยังคงเดินหน้าต่อไป
OpenAI ก็ได้แก้ไขคำประกาศพันธกิจของตนด้วย โดยลบคำว่า "safely" ออกจากเอกสาร IRS ปี 2024 ซึ่งก่อนหน้านี้ระบุว่ามีเป้าหมายในการสร้าง AI ทั่วไปที่ "safely benefits humanity" แต่ตอนนี้เปลี่ยนเป็น "เพื่อให้แน่ใจว่า AI ทั่วไปเป็นประโยชน์ต่อมนุษยชาติทั้งหมด"
Edward Geist นักวิจัยนโยบายอาวุโสของ RAND Corporation ระบุว่า AI ขั้นสูงที่ผู้สนับสนุนความปลอดภัย AI ในยุคแรกจินตนาการไว้นั้นแตกต่างโดยพื้นฐานจากโมเดลภาษาขนาดใหญ่ในปัจจุบัน การเปลี่ยนแปลงในคำศัพท์ยังสะท้อนถึงความต้องการของบริษัทที่จะส่งสัญญาณไปยังนักลงทุนและผู้กำหนดนโยบายว่าพวกเขาจะไม่ถอยในด้านการแข่งขันทางเศรษฐกิจเนื่องจากความกังวลด้านความปลอดภัย
Anthropic เพิ่งระดมทุนได้ 300 พันล้านดอลลาร์ โดยมีมูลค่าประมาณ 3.8 ล้านล้านดอลลาร์ ส่วน OpenAI กำลังดำเนินการระดมทุนรอบใหม่ที่ได้รับการสนับสนุนจาก Amazon, Microsoft และ Nvidia ซึ่งอาจสูงถึง 1 ล้านล้านดอลลาร์ ในขณะเดียวกัน Anthropic กำลังเผชิญกับความไม่แน่นอนของสัญญากับกระทรวงกลาโหม หลังจากเกิดความขัดแย้งอย่างเปิดเผยกับ Pete Hegseth รัฐมนตรีกระทรวงกลาโหมสหรัฐฯ เนื่องจากปฏิเสธที่จะให้การเข้าถึง Claude แบบเต็มรูปแบบแก่กระทรวงกลาโหม (Decrypt)
