Variantes quantizadas do IBM Granite 4.1 3B não mostram gradiente de qualidade em benchmark informal de SVG
A recente release da família Granite 4.1 da IBM (3B, 8B, 30B; Apache 2.0) levou a Unsloth a publicar 21 variantes GGUF-quantizadas do modelo 3B, variando de 1.2 GB a 6.34 GB. O desenvolvedor Simon Willison executou o mesmo prompt criativo de SVG — 'Generate an SVG of a pelican riding a bicycle' — em todos os 21 arquivos para investigar se o tamanho do modelo dentro de uma escala de quantização produz outputs significativamente diferentes.
O resultado foi um nulo limpo: Willison não encontrou padrão de qualidade distinguível correlacionado com o nível de quantização, descrevendo todos os outputs como 'pretty terrible'. Embora o experimento seja informal e limitado a uma tarefa criativa, a descoberta é uma cautela prática útil contra a suposição de que pesos quantizados mais pesados de um modelo base fraco renderão melhores resultados criativos ou de geração visual. Willison notou que planeja repetir o teste com um modelo que lida melhor com a tarefa.
Fontes
- Primary source
- Simon Willison on Bluesky
“the results weren't as interesting as I had hoped”