1178명의 최고 AI 기업 직원들이 연합 성명을 발표하며, 국제 협력을 통해 최첨단 AI 개발 속도를 통제할 것을 촉구하다

Odaily星球日报讯 1178명의 최첨단 AI 기업 직원들이 《Pacing the Frontier》 성명서를 공동으로 발표하며, 미국 정부가 최첨단 AI 개발을 적극적으로 조절하기 위한 기술 및 거버넌스 도구 개발을 위한 국제 협력을 지원할 것을 촉구했습니다.

성명서에 따르면, 글로벌 선도 AI 기업들은 머지않아 자동화된 AI 연구가 실현될 가능성이 있다고 생각하지만, 이것이 AI 발전을 얼마나 가속화할지 정확히 예측할 수는 없으나 AI 능력이 인간의 이해 및 통제 능력을 빠르게 추월할 위험이 존재한다고 밝혔습니다.

서명자들은 업계, 정부 및 사회가 새로운 위험에 대응하고, 안전 조치를 개선하며, 규제를 강화하기 위해 '시간을 벌' 수 있는 선택지를 유지해야 한다고 강조했습니다. 그러나 기업과 국가 모두 경쟁 압력에 직면해 있어, 현재 전 세계적으로 최첨단 AI 개발 속도를 능동적으로 통제할 수 있는 거버넌스 메커니즘은 부재한 상황입니다.

성명서는 최첨단 AI 에이전트가 이미 실제 소프트웨어 취약점을 발견하고 악용할 수 있는 능력을 갖추고 있어, 안전 조치 없이는 대규모 사이버 공격에 활용될 가능성이 있다고 지적했습니다.

OpenAI, Anthropic, Google, Meta 등 여러 기관의 직원들이 서명에 참여했으며, AI 발전을 추진하는 동시에 잠재적 위험을 낮추기 위한 국제적 조정 메커니즘의 구축이 필요하다고 생각합니다.