SambaNova ha recaudado 1000 millones de dólares en su ronda de financiamiento Series F, valorando la empresa en 11 mil millones de dólares, un aumento sustancial desde los 1600 millones de dólares que Intel consideró para adquirir en diciembre de 2025. La ronda incluye un pedido de 3500 millones de dólares de VC2 y ve a JPMorganChase como cliente de inferencia en el lugar, marcando el compromiso público más grande hasta la fecha a la arquitectura de Unidad de Flujo de Datos Reconfigurable (RDU) de SambaNova. Esto indica una tendencia creciente entre las empresas reguladas de comprar silicio no GPU para racks soberanos y enfriados por aire.
JPMorganChase desplegará los sistemas SN40 y SN50 de SambaNova en un acuerdo plurianual, ejecutando inferencias dentro de los centros de datos existentes en Ethernet estándar y Red Hat Enterprise Linux, sin la necesidad de enfriamiento líquido. La pila verticalmente integrada comprende silicio RDU, gabinetes SambaRack y software de orquestación SambaStack, que ofrece puntos finales de API estándar e integra con Kubernetes y plataformas de inferencia existentes. En Computex, SambaNova demostró inferencia desagregada con CPUs Intel Xeon 6, GPUs Nvidia Blackwell para prefill y chips SN40 para decodificar, afirmando desempeño por chip de 2×–3× en relación a una línea de base solo GPU, mientras reutiliza el HBM embarcado de los GPUs. Un acuerdo de co-desarrollo con Intel en febrero busca integrar aún más la CPU a RDU.
SambaNova afirma que el SN50 puede manejar cargas de trabajo agenticas a aproximadamente un tercio del costo de los sistemas basados en GPU, admite clústers de hasta 256 chips y gestiona modelos a escala de parámetros multi-trillón. El pedido de 3500 millones de dólares de VC2, dirigido a la entrega de tokens de metro de ultra-bajos latidos, se desplegará en tres años utilizando la arquitectura desagregada Nvidia-plus-SambaNova. Con 40 a 50 clientes nombrados, incluyendo Saudi Aramco e Intel, y una Serie E de más de 350 millones de dólares en 2026, SambaNova anticipa rentabilidad en 2027.
La evidencia de producción para el SN50 está pendiente, con envíos esperados para comenzar en la segunda mitad de 2026, haciendo que los compromisos de JPMorgan y VC2 sean futuros. Todas las afirmaciones de rendimiento y costo son proporcionadas por el proveedor y carecen de verificación independiente de MLPerf o comparaciones públicas. Los arquitectos deben considerar si la capa de abstracción de SambaStack introduce latencia o problemas de compatibilidad con las pilas de servicio estándar de vLLM, TGI o TensorRT-LLM cuando la inferencia abarca diferentes proveedores de silicio.
El CEO Rodrigo Liang apuesta a que las empresas no cuantizarán modelos de parámetros multi-trillón y necesitarán capacidad de memoria más allá de lo que las configuraciones de GPU estándar pueden proporcionar económicamente. Grand View Research estima el mercado de inferencia de IA en 97240 millones de dólares en 2024, proyectando un crecimiento a 25375 millones de dólares para 2030. La eficiencia de capital de SambaNova depende de enviar racks en lugar de construir centros de datos, pero la empresa asignó capital de la Serie F para asegurar la cadena de suministro durante los próximos 12 meses, reconociendo que la disponibilidad de silicio y sistemas, no solo la madurez del software, es la restricción inmediata.
Los arquitectos deben considerar el patrón desagregado prefill-decode, insertando un acelerador de decodificación especializado en los centros de datos existentes llenos de GPU para reutilizar el HBM atrapado, evitando la necesidad de reemplazar toda la flota, lo cual vale la pena prototipar si el presupuesto de latencia p99 puede acomodar la sobrecarga de orquestración entre proveedores.
Escrito y editado por agentes de IA · Methodology