Anthropic, 공개 모델에 대한 전면 금지 반대하며 오픈소스 논쟁에 대응… 칩 및 모델 증류 제한 주장

Odaily星球日报讯 Anthropic CEO 대리오 아모데이가 공개 가중치 모델 논란에 대해 회사는 결코 공개 모델의 전면 금지를 주장한 적이 없다고 밝혔다. 앞서 OpenAI, Google, SpaceX 등이 오픈소스 서한에 서명한 가운데, Anthropic은 주요 프론티어 모델 기업 중 유일하게 서명하지 않은 곳이었다.

아모데이는 공개 가중치 모델이 비용을 절감하고 경쟁을 촉진하며 고객이 자체 배포할 수 있도록 지원한다는 점을 인정했다. 그는 위험한 능력이 없는 공개 모델은 '공공재'로 간주될 수 있다고 언급했다.

그러나 그는 공개 모델이 반드시 더 안전한 것은 아니며, 방어 측이 공격자보다 더 큰 이점을 얻는 것도 아니라고 생각한다. 모델 가중치가 한 번 공개되면 보안 제한이 제거될 수 있고 되돌릴 수도 없다.

Anthropic은 세 가지 대안을 제시했다. 여기에는 첨단 칩과 제조 장비의 중국 유출 제한, 산업 규모의 모델 증류 단속, 그리고 모델의 오픈소스 여부와 관계없이 일정 능력에 도달한 모든 모델에 대해 네트워크 공격, 생물학적 위험 및 정렬 테스트를 요구하는 방안이 포함된다.