NVIDIA, Nemotron 3 Nano Omni 모델 출시, 멀티모달 추론 효율성 9배 향상

Odaily星球日报消息 NVIDIA가 X 플랫폼을 통해 오늘 오픈소스 멀티모달 모델 Nemotron 3 Nano Omni를 출시했다고 발표했습니다. 이 모델은 30B-A3B 혼합 전문가 아키텍처(MoE)를 채택하고 256K 컨텍스트를 지원하며 비디오, 오디오, 이미지 및 텍스트 입력을 통합 처리할 수 있습니다. 유사한 상호 작용 수준의 오픈소스 올인원 모델과 비교하여 이 모델의 처리량은 최대 9배 향상되어 추론 비용을 크게 낮추고 확장성을 높였습니다. 현재 Nemotron 3 Nano Omni는 Hugging Face, OpenRouter 및 NVIDIA NIM에서 사용 가능하며 Aible, Applied Scientific Intelligence, H Company 등의 기업에서 채택하고 있습니다.