Anthropic เตือนความเสี่ยงของ AI ในการพัฒนาตนเอง: Claude สร้างโค้ดของบริษัท 80% โดยอัตโนมัติแล้ว

Odaily รายงานว่า บริษัทปัญญาประดิษฐ์ Anthropic ได้ออกมาเตือนว่า การพัฒนาตนเองแบบวนซ้ำ (Recursive Self-Improvement - RSI) อาจนำมาซึ่งความเสี่ยงที่สำคัญ สัปดาห์ที่แล้ว Anthropic ประกาศว่าโมเดล AI ของตนอย่าง Claude สามารถสร้างโค้ดของบริษัทได้ประมาณ 80% ซึ่งบริษัทระบุว่านี่เป็นสัญญาณสำคัญที่ AI ก้าวเข้าสู่ขั้นตอน "การพัฒนาตนเอง" ซึ่งหมายถึงโมเดลสามารถออกแบบระบบ AI รุ่นถัดไปได้โดยไม่ต้องพึ่งพาการแทรกแซงของมนุษย์

แนวคิดการพัฒนาตนเองแบบวนซ้ำกำลังได้รับความสนใจอย่างกว้างขวางในซิลิคอนแวลลีย์เมื่อเร็ว ๆ นี้ เมื่อเดือนที่แล้ว OpenAI ได้จัดงานประชุมที่เกี่ยวข้องในซานฟรานซิสโก ซึ่งดึงดูดนักวิจัยจำนวนมากให้หารือเกี่ยวกับศักยภาพและความเสี่ยงจาก AI ที่พัฒนาตนเอง คำแถลงของ Anthropic เน้นย้ำว่า ด้วยความสามารถของ AI ที่เพิ่มขึ้นอย่างรวดเร็ว การเฝ้าติดตามพฤติกรรมที่อาจควบคุมไม่ได้และการสร้างกลไกความปลอดภัยจึงยิ่งมีความเร่งด่วนมากขึ้น (The Information)