Cerebras ha publicado un recorrido técnico sobre cómo ajusta modelos de billones de parámetros en sus chips a escala de oblea, usando el modelo de código abierto Kimi K3 —con aproximadamente 3 billones de parámetros— como ejemplo práctico. La empresa afirma que la configuración resultante funciona a 1000-2000+ tokens por segundo, y la publicación destaca menos por la cifra de rendimiento que por mostrar la aritmética que un equipo necesitaría para replicar el ejercicio de dimensionamiento en su propia carga de trabajo.

La restricción de la que parte Cerebras es la memoria, no el cómputo. Un solo wafer Cerebras WSE-3T tiene 44 GB de SRAM en el chip, y los 3 billones de parámetros de Kimi K3, incluso cuantizados a 4 bits, no caben en un solo chip. La publicación de Cerebras detalla directamente la aritmética por capa: con una cuantización de pesos de 4 bits, la carga bruta de parámetros dividida entre las 93 capas del modelo equivale a aproximadamente 16 GB por capa. El propio Kimi K3 se describe en la publicación como compuesto por 69 capas de atención lineal y 24 capas densas.

Dado que las capas densas necesitan espacio en el chip para una caché KV por cada solicitud activa, mientras que las capas de atención lineal solo cargan un estado fijo y pequeño sin importar la longitud del contexto, Cerebras coloca una sola capa densa por wafer, pero empaqueta dos capas lineales por wafer (2 × 16 GB = 32 GB). Ese esquema produce 24 wafers para las capas densas y 35 para las capas lineales —59 wafers en total para alojar una copia de Kimi K3, según los propios cálculos de Cerebras. La empresa plantea esto como un método general, no como un ajuste específico para Kimi: "calcular la memoria necesaria para los pesos y el estado de las solicitudes, distribuir el modelo entre los wafers y conectarlos en una canalización (pipeline)".

Los wafers se encadenan como etapas de una canalización (pipeline), y la afirmación operativa de la publicación es que, dado que el modelo suele mapearse de forma que capas enteras encajen en el chip, los pesos en sí nunca se mueven durante la inferencia —solo las activaciones cruzan los límites entre wafers, mediante RDMA sobre Ethernet, a lo que Cerebras indica que es aproximadamente 2 microsegundos por salto. El relato técnico también aborda una pregunta que la empresa dice recibir con frecuencia: si una canalización estricta de wafer a wafer obliga a un tamaño de lote efectivo de uno. La respuesta de Cerebras es que mantiene ocupada cada etapa de la canalización con solicitudes distintas de forma simultánea —mientras un wafer procesa un token para una solicitud, el siguiente wafer en la cadena atiende una solicitud diferente— y que cada etapa puede además procesar un micro-lote en lugar de una sola solicitud, intercambiando latencia por solicitud por rendimiento total.

El recurso limitante para la concurrencia, según la publicación, es el espacio de caché KV en los wafers de capas densas, ya que cada solicitud en curso necesita su propia caché allí; el ejemplo práctico de Cerebras asume un tamaño promedio de solicitud de 256k y una caché KV de 8 bits para derivar cuántas solicitudes simultáneas admite una determinada asignación de wafers. La empresa es explícita en que ni el número de solicitudes concurrentes ni el tamaño de lote son, por sí solos, una métrica de eficiencia suficiente, y escribe que "la métrica más significativa es el rendimiento total de tokens por unidad de potencia (por ejemplo, tokens por segundo por megavatio), cuando se mide a la misma velocidad de generación de salida" —una métrica que la publicación menciona de manera conceptual pero para la cual no reporta una cifra en este relato.

Lo que el texto no ofrece es una comparación directa de costo o potencia frente a clústeres de GPU que sirvan el mismo modelo, ni una cifra publicada de tokens por segundo por megavatio que respalde su propio planteamiento de eficiencia —por lo que la cifra de 1000-2000+ tokens por segundo queda sin un costo por token o una línea base de utilización de hardware contra la cual compararla. La publicación también cita puntuaciones de referencia de Kimi K3, 88.3% en Terminal-Bench 2.1 y 91.2% en BrowseComp, comparándolas con lo que llama "GPT-5.6 Sol", pero esas son cifras de calidad del modelo y no métricas de despliegue, y no dicen nada sobre la sobrecarga de servicio propia de Cerebras.

Para los equipos que dimensionan la inferencia a escala de oblea frente a un clúster de GPU, la parte operativamente útil de este relato es el propio método de presupuesto capa por capa —el número de parámetros, el ancho de bits de cuantización y la huella de caché KV por solicitud se traducen directamente en un número de wafers y un techo de concurrencia, y esa aritmética puede volver a ejecutarse para cualquier modelo objetivo antes de comprometerse con una u otra pila tecnológica.