Anthropic CEO 경고: 오픈소스 AI, 위험한 경로로 향하고 있으며 되돌릴 수 없는 오용 위험이 있다

Odaily는 보도합니다. Anthropic의 CEO인 Dario Amodei가 미국 의회에서 입법자들에게 연설하면서 오픈소스 인공지능의 발전이 "매우 위험한 경로"에 진입하고 있다고 밝혔습니다. 강력한 능력을 갖춘 AI 모델이 오픈소스 형태로 출시되면 개발자는 오용 행위 모니터링, 접근 권한 철회 또는 보안 메커니즘 동적 업데이트를 포함한 모델 사용에 대한 효과적인 규제 능력을 상실하여 잠재적 위험이 크게 증가합니다. Dario Amodei는 폐쇄형 모델 시스템과 비교할 때 완전히 개방된 모델은 보안 거버넌스에서 지속적인 통제를 시행하기가 더 어려워 되돌릴 수 없는 오용 위험을 초래할 수 있다고 강조했습니다. (BitcoinNews)