Historial de revisiones.
vLLM 0.32 incorpora decisiones estructuradas y cambia requisitos del servidor
Conservamos las versiones del texto y mostramos qué campos cambiaron. La fecha de registro indica cuándo se guardó cada versión; la fecha original de la noticia se mantiene por separado.
El «Punto de partida» recoge el estado que existía al iniciar este historial. No reconstruye cambios anteriores sin evidencia. Las comprobaciones sin cambios y las sustituciones de audio no crean una versión editorial.
1 versión registrada · Fechas y horas de Canarias.
Primera publicación registrada
Primer estado conservado en este historial.
Consultar el texto de esta versión
Categoría: Programación · Sección: Desarrollo
Fecha de la noticia:
Contexto del titular: vLLM sirve modelos desde infraestructura propia y ofrece una API a las aplicaciones que los utilizan.
vLLM 0.32 incorpora decisiones estructuradas y cambia requisitos del servidor
La versión incorpora /v1/systemone, amplía opciones de memoria y endurece el servidor. Al actualizar hay que revisar Python, CORS y los clientes de Responses.
Resumen: Más capacidad de integración, con cambios que exigen revisar el despliegue.
Por qué importa: Interesa a quienes mantienen un servidor de modelos para interfaces, agentes o aplicaciones propias.
vLLM 0.32.0 añade un endpoint para decisiones estructuradas: /v1/systemone permite plantear preguntas de elección, sí/no y puntuación sobre un estado. Es una vía distinta de pedir un párrafo y extraer después su respuesta; requiere un modelo compatible.
La actualización también amplía la caché KV de baja precisión y añade parsers genéricos que leen response_template del checkpoint. La compatibilidad depende del modelo, del hardware y de la configuración: no convierte cualquier servidor en equivalente ni garantiza las mejoras de rendimiento publicadas.
Hay cambios que afectan a una migración real. Se retira Python 3.10 y CORS deja de aceptar todos los orígenes por defecto. Además, cambian nombres de eventos de razonamiento en streaming de Responses. Conviene comprobar el entorno, el dominio de la interfaz web y cómo procesa esos eventos el cliente antes de sustituir un servicio en uso.
A tener en cuenta: No se ha desplegado ni medido esta versión aquí. Los resultados de las notas pertenecen a configuraciones concretas de sus autores.
Imagen asociada: Rack con un servidor NVIDIA DGX-1, almacenamiento NetApp y conmutadores de red. · Servidor NVIDIA DGX-1 y almacenamiento NetApp fotografiados en 2018; imagen ilustrativa de infraestructura, ajena a las pruebas de vLLM 0.32. · Qdrddr / Wikimedia Commons · CC BY-SA 4.0
Estado en esta versión: Contrastada con fuentes.
Herramientas relacionadas: vllm
Fuentes conservadas
- vLLM: versión 0.32.0
- vLLM: endpoint de decisiones
- vLLM: cambio del CORS predeterminado
- vLLM: servidor compatible con OpenAI
Claves de contexto conservadas
- CORS y autenticación resuelven problemas distintos
- Permitir un dominio web no autentica a sus usuarios. La modificación del valor predeterminado exige revisar el cliente web y mantener por separado la protección del servidor.
Glosario conservado
- vLLM
- Motor y servidor para ofrecer inferencia de modelos a aplicaciones; el modelo, sus pesos y su licencia son componentes separados.
- Caché KV
- Datos intermedios de atención que permiten reutilizar cálculo del contexto durante la generación. Consumen memoria además de los pesos.
- CORS
- Reglas del navegador que controlan qué orígenes web pueden leer respuestas de un servidor; no sustituyen su autenticación.
- Checkpoint
- Conjunto de pesos y configuración necesarios para cargar una versión concreta de un modelo.
Consultar la noticia vigente. Las versiones anteriores documentan la evolución editorial y pueden contener información corregida posteriormente.