Anthropic: 전 세계에 첨단 AI 개발 유예 촉구

Odaily星球日报讯 Anthropic은 주요 AI 연구소들이 연구 개발 속도를 늦추는 것을 고려할 것을 촉구하며, AI 시스템의 진화 속도가 매우 빨라 인간의 개입 없이 자체적으로 개선할 수 있는 능력을 곧 갖출 수 있으며, 이러한 능력은 심각한 사회적 위험을 초래할 수 있다고 밝혔습니다. Anthropic이 공개한 내부 데이터에 따르면, 최첨단 모델의 성능이 빠르게 향상되고 있으며, AI 모델의 발전이 '재귀적 자기 개선' 방향으로 나아가고 있는 것으로 보입니다. 즉, AI 시스템이 인간의 개입 없이 자율적으로 최적화될 수 있다는 의미입니다. Anthropic은 전 세계가 첨단 AI 개발 속도를 늦추거나 일시적으로 중단하기로 선택할 수 있다면, 사회 구조와 관련 연구가 기술 발전 속도를 따라잡을 수 있어 전 세계적으로 이익이 될 것이라고 말했습니다. Anthropic은 AI 개발 속도를 늦추는 방법을 명확히 하고 경쟁사가 협정을 준수하는지 확인하는 메커니즘을 구축하는 글로벌 협정을 제안했습니다.