Historial de revisiones.
llama.cpp corrige respuestas corruptas y cierres con IQ3 en el backend SYCL de Intel
Conservamos las versiones del texto y mostramos qué campos cambiaron. La fecha de registro indica cuándo se guardó cada versión; la fecha original de la noticia se mantiene por separado.
El «Punto de partida» recoge el estado que existía al iniciar este historial. No reconstruye cambios anteriores sin evidencia. Las comprobaciones sin cambios y las sustituciones de audio no crean una versión editorial.
1 versión registrada · Fechas y horas de Canarias.
Primera publicación registrada
Primer estado conservado en este historial.
Consultar el texto de esta versión
Categoría: Programación · Sección: Desarrollo
Fecha de la noticia:
Contexto del titular: llama.cpp ejecuta modelos en distintos procesadores; SYCL es una de sus vías para utilizar GPU Intel compatibles.
llama.cpp corrige respuestas corruptas y cierres con IQ3 en el backend SYCL de Intel
La compilación b11784 incorpora la corrección de IQ3_S e IQ3_XXS. El autor documenta el fallo en una Intel Arc Pro B70; no es una reparación general de cualquier error de inferencia.
Resumen: Una corrección concreta para distinguir un fallo del backend de una mala respuesta del modelo.
Por qué importa: Ayuda a quienes prueban modelos cuantizados en GPU Intel y necesitan resultados reproducibles.
llama.cpp ha integrado la corrección #30604 en la compilación preliminar b11784. Afecta al backend SYCL y a cómo determinadas operaciones leen tensores IQ3_S e IQ3_XXS después de reorganizar sus datos.
La propuesta describe respuestas corruptas, valores no válidos y cierres del servidor en la configuración analizada. El autor aporta pruebas sobre una Intel Arc Pro B70 y añade comprobaciones de regresión. Son resultados de ese entorno, no mediciones propias ni una afirmación sobre todas las GPU Intel.
Para una instalación afectada, comprueba que el binario realmente contiene el cambio y conserva modelo, cuantización y opciones al comparar. Que el proyecto publique una compilación no implica que LM Studio, Ollama u otra aplicación ya la haya incorporado. La etiqueta b11784 sigue marcada como pre-release.
A tener en cuenta: No se propone cambiar producción a una compilación preliminar sin validar el caso. No se conocen aquí todos los equipos o binarios afectados.
Estado en esta versión: Contrastada con fuentes.
Herramientas relacionadas: llama-cpp
Fuentes conservadas
Claves de contexto conservadas
- El orden de los bytes forma parte del contrato
- La optimización reorganiza datos para calcular con mayor eficiencia. Las operaciones que los leen tienen que reconocer esa disposición; la propuesta corrige rutas que interpretaban ciertos tensores con una disposición distinta.
Glosario conservado
- SYCL
- Modelo de programación utilizado por un backend de llama.cpp para ejecutar cálculo en hardware compatible, incluidas GPU Intel.
- IQ3_S e IQ3_XXS
- Formatos de cuantización de pesos incluidos en el caso corregido; no designan una familia de modelos.
- Tensor
- Estructura de datos numéricos que representa pesos o resultados intermedios de las operaciones del modelo.
- Prueba de regresión
- Comprobación añadida para detectar que un fallo corregido vuelve a aparecer en cambios posteriores.
Consultar la noticia vigente. Las versiones anteriores documentan la evolución editorial y pueden contener información corregida posteriormente.