Anthropic CEO: 정부는 새로운 모델의 배포를 막을 권리가 있어야 한다

Odaily星球日报讯 Anthropic의 CEO인 다리오 아모데이(Dario Amodei)는 새로운 인공지능 모델에 특정 위험이 존재할 경우, 정부가 해당 모델의 배포를 막을 권리가 있어야 한다고 밝혔다. 아모데이는 수요일에 장문의 글을 게재하여 AI 모델이 여러 분야에서 초래할 수 있는 위험을 평가하기 위해 강제적인 제3자 테스트를 받아야 한다고 주장했다. 그는 AI가 "용납할 수 없는 위험"이 있다고 판단되면 "정부는 그 배포를 막거나 제한할 권한을 가져야 한다"고 적었다. 이는 지금까지 AI 규제 강화에 대한 아모데이의 가장 강력한 발언 중 하나이다. 아모데이는 "적어도 현재의 지수적 발전 단계에서는 자동차, 비행기, 의약품이 가장 적절한 비유라고 생각한다. 이러한 기술은 현대 경제에 필수적이지만, 설계나 사용이 잘못될 경우 많은 사망자를 초래할 수 있다"고 적었다. Anthropic은 자사가 출시한 AI 모델 'Mythos'가 주요 소프트웨어 취약점을 발견하고 악용할 수 있는 능력을 갖추고 있다고 외부에 경고한 바 있으며, 이에 따라 소수의 파트너에게만 모델을 공개하기로 결정했다. 이번 주, Anthropic은 관련 사이버 보안 공격 능력을 제거한 새 버전을 출시했다. (진스)