Apple Lanza Framework Core AI para Inferencia de LLM On-Device en Apple Silicon

Apple anunció Core AI en WWDC 2026, diseñado para permitir que los desarrolladores ejecuten grandes modelos de lenguaje e IA generativa completamente en el dispositivo, soportando tanto modelos PyTorch convertidos personalizados como modelos de código abierto preoptimizados. Core AI es un nuevo framework para ejecutar modelos de IA personalizados directamente en Apple Silicon—un sistema propósito-construido para cargas de trabajo de IA generativa.

El framework proporciona integración profunda de Xcode y compilación de modelos por adelantado (ahead-of-time), permitiendo a los desarrolladores aprovechar todo Apple Silicon proporcionando inferencia extremadamente rápida en CPU, GPU y Neural Engine. Apple está proporcionando soporte para tres enfoques distintos para ejecutar ML/IA: Core ML para ML clásico no neuronal, Core AI para redes neuronales y transformadores, y MLX para trabajar con pesos de modelo personalizados. Core AI admite tamaños de modelo que van desde modelos de visión compactos de parámetros 3B hasta modelos de razonamiento de parámetros 70B, ejecutándose en iPhone, iPad, Mac y Apple Vision Pro.

Para arquitectos, Core AI importa porque es el primer framework de plataforma diseñado nativamente para inferencia de LLM en dispositivos de consumo. Permite inferencia sin costo (sin claves de API, sin facturación, sin límites de tasa), privacidad completa (los datos nunca salen del dispositivo), y elimina la necesidad de llamar a API en la nube para IA on-device—un cambio fundamental para construir características de IA enfocadas en la privacidad en apps. Este framework compite directamente con patrones de inferencia local que los constructores han estado ensamblando manualmente, ahora integrados en el SO.