NVIDIA ra mắt mô hình Nemotron 3 Nano Omni, hiệu suất suy luận đa phương thức tăng gấp 9 lần

Theo tin tức từ Odaily, NVIDIA đã đăng tải trên nền tảng X rằng hôm nay họ đã ra mắt mô hình đa phương thức mã nguồn mở Nemotron 3 Nano Omni. Mô hình này sử dụng kiến trúc chuyên gia hỗn hợp (MoE) 30B-A3B, hỗ trợ ngữ cảnh lên đến 256K, có thể xử lý thống nhất các đầu vào video, âm thanh, hình ảnh và văn bản. So với các mô hình đa năng mã nguồn mở có mức độ tương tác tương tự, thông lượng của mô hình này được cải thiện lên tới 9 lần, giảm đáng kể chi phí suy luận và nâng cao khả năng mở rộng. Hiện tại, Nemotron 3 Nano Omni đã có mặt trên Hugging Face, OpenRouter và NVIDIA NIM, đồng thời đã được các doanh nghiệp như Aible, Applied Scientific Intelligence, H Company áp dụng.