Anthropic, 미국 의회를 상대로 AI 안전 법안 통과 로비… 정부의 모델 운영 중단 기준을 10억 달러 이상 손실 또는 50명 사상으로 설정 추진

Odaily 보도: Anthropic이 미국 의회 의원들을 비공개로 로비하며 프런티어 AI 안전 법안 초안을 추진하고 있다. 이 초안은 AI 모델이 예측 가능하고 임박한 특정 위험을 초래하여 10억 달러 이상의 경제적 손실을 야기하거나 최소 50명의 사망 또는 중상을 초래할 수 있는 경우에만 정부가 모델 운영 중단을 신청할 수 있도록 규정할 예정이다.

초안은 규제 발동 조건을 생물무기 개발 또는 확산, AI 모델이 개발자의 통제를 벗어나는 경우, 그리고 사이버 공격이라는 세 가지 위험 유형으로 한정하고 있다. 동시에 AI 개발사에게 투명한 안전 테스트 실시와 독립적인 제3자 평가 수용을 요구하며, 평가 기관이 관련 위험을 발견한 후 72시간 이내에 미국 상무부에 보고하고, 상무부가 연방법원에 모델 운영 중단을 신청하며, 최종적으로 법원이 판결하도록 하고 있다.

또한 초안은 다른 미국 정부 부처 및 관리들이 AI 모델의 개발, 배포 또는 내부 사용을 독립적으로 중단할 수 있는 권한을 제한할 예정이다. Anthropic은 이 제안이 안전 평가 메커니즘을 구축하는 동시에 정부에 위험한 모델 배포를 저지할 수 있는 능력을 부여하는 것을 목표로 한다고 밝혔다. 현재 초안은 여전히 로비 단계에 있으며 아직 법률이 되지 않았다. (로이터)