Las variantes cuantizadas IBM Granite 4.1 3B no muestran gradiente de calidad en benchmark informal de SVG
El lanzamiento reciente de la familia Granite 4.1 de IBM (3B, 8B, 30B; Apache 2.0) llevó a Unsloth a publicar 21 variantes GGUF-cuantizadas del modelo 3B, que van de 1.2 GB a 6.34 GB. El desarrollador Simon Willison ejecutó el mismo prompt creativo de SVG — 'Generate an SVG of a pelican riding a bicycle' — en los 21 archivos para investigar si el tamaño del modelo dentro de una escala de cuantización produce outputs significativamente diferentes.
El resultado fue un nulo limpio: Willison no encontró un patrón de calidad distinguible correlacionado con el nivel de cuantización, describiendo todos los outputs como 'pretty terrible'. Aunque el experimento es informal y limitado a una tarea creativa, el hallazgo es una cautela práctica útil contra la suposición de que pesos cuantizados más pesados de un modelo base débil producirán mejores resultados creativos o de generación visual. Willison señaló que planea repetir la prueba con un modelo que maneje mejor la tarea.
Fuentes
- Primary source
- Simon Willison on Bluesky
“the results weren't as interesting as I had hoped”