Nemotron es la familia de modelos de NVIDIA; esta variante combina lenguaje y visión para código, documentos y herramientas.
Nemotron 3.5 Super VL llega a los despliegues locales: qué memoria y motor exige
NVIDIA publica pesos BF16 y NVFP4 de un modelo de 120.000 millones de parámetros, con 12.000 millones activos por token. Las recetas y el catálogo de Ollama muestran por qué no es una descarga para cualquier portátil.
Contexto esencialCómo leer los tamaños de un modelo con expertos y distinguir pesos, precisión y memoria de ejecución antes de elegir equipo.Minimizar
Un nombre de modelo reúne varias decisiones
Al descargar un modelo no eliges únicamente una capacidad intelectual. También escoges una representación de sus pesos y una ruta de ejecución. Dos variantes de la misma familia pueden necesitar instalaciones distintas y ofrecer compromisos diferentes. Conviene registrar el identificador completo, la revisión y el motor para poder reproducir una evaluación.
Por qué no basta con los parámetros activos
En una arquitectura con expertos, solo una parte participa en cada paso. Esa organización puede reducir el cálculo sin convertir automáticamente el conjunto en un modelo pequeño. La cifra activa no dice, por sí sola, cuánto habrá que almacenar ni qué memoria necesitará el despliegue.
Por otro lado, la ejecución mantiene información de la conversación y resultados intermedios. Una prueba con una pregunta corta no acredita que el mismo equipo pueda trabajar con documentos extensos y varias peticiones a la vez.
Qué cambia al reducir la precisión
Una variante cuantizada representa parte de los valores con menos bits. Puede disminuir el espacio necesario, pero su formato debe estar admitido por el motor y el hardware elegidos. No se debe trasladar una receta entre formatos como si únicamente hubiera cambiado el nombre del archivo.
Para valorar la utilidad, interesa comprobar resultados de la tarea propia además de memoria y tiempo. Que una variante cargue es un requisito inicial, no una conclusión sobre su calidad.
Un ejemplo de selección práctica
Supón que quieres extraer campos de páginas de facturas. Una evaluación orientativa empezaría con documentos públicos y criterios claros: campos correctos, errores aceptables y tiempo por documento. Después se revisaría qué variante y motor sostienen ese trabajo con la concurrencia prevista. Es un ejemplo razonado, no una medición propia. Ayuda a comparar un despliegue propio con un servicio alojado sin decidir una compra únicamente por la ventana máxima de contexto.
NVIDIA ha publicado Nemotron 3.5 Super VL para tareas de razonamiento, programación, herramientas y comprensión de documentos e imágenes. La ficha de los pesos BF16 fecha su lanzamiento el 15 de octubre. El modelo tiene 120.000 millones de parámetros totales y 12.000 millones activos por token, y admite hasta un millón de tokens de contexto según el despliegue.
La variante NVFP4 reduce los requisitos de memoria y dispone de recetas para DGX Spark y GPU de centro de datos. La configuración inicial de vLLM para DGX Spark limita la concurrencia a una secuencia; no debe confundirse con las recetas de otros equipos. La ficha BF16 plantea infraestructura considerablemente mayor.
Ollama también lo incluye en su catálogo con entrada de texto e imagen y un tamaño indicado de 80 a 90 GB. Esa cifra y los parámetros activos no describen toda la memoria necesaria durante la ejecución: el contexto y la configuración añaden consumo. Conviene elegir primero variante, motor y carga de trabajo, y revisar la licencia OpenMDW 1.1 antes de integrarlo.
A tener en cuenta
Las recetas y capacidades son las documentadas por sus autores; no se han ejecutado comparativas propias. No se acredita compatibilidad equivalente entre Ollama y los despliegues de NVIDIA.