Anthropic CEO: 안전을 고려해 AI 개발 속도를 늦출 것

Odaily 보도에 따르면, Anthropic CEO Dario Amodei는 유엔 안전보장이사회 회의에서 효과적인 관리가 없을 경우 AI가 인류에게 존재론적 위험을 초래할 수 있다며, Anthropic은 안전을 고려해 AI 개발 속도를 늦출 것이라고 밝혔다.

Amodei는 AI가 생물무기 제조에 악용될 수 있고, 개발자가 통제할 수 없는 시스템으로 발전할 가능성도 있다며, 글로벌 AI 안전 표준, AI 안전 인증 체계 및 다국적 규제 협력의 수립을 촉구했다. 동시에 그는 AI가 생명과학 연구의 진전을 이끌고 있지만, 관련 기술 역시 중대한 위험을 초래할 수 있다고 덧붙였다.