Apple Core AI envia framework de LLM em dispositivo suportando modelos de até 70B parâmetros

Apple anunciou Core AI na WWDC 2026, o sucessor oficial do Core ML, projetado para executar grandes modelos de linguagem e IA generativa totalmente em dispositivo em iPhone, iPad, Mac e Apple Vision Pro. O framework suporta modelos PyTorch personalizados e modelos de código aberto pré-otimizados variando de compactos modelos de visão de 3B-parâmetros até grandes LLMs de raciocínio de 70B-parâmetros, com acesso unificado de hardware em CPU, GPU e Neural Engine.

Core AI é a base para Apple Intelligence e está sendo disponibilizado aos desenvolvedores para cargas de trabalho customizadas de IA. Fornece caminhos de dados zero-copy via uma API Swift segura em memória, compilação ahead-of-time para tempos de carregamento quase instantâneos, e especialização automática para versões de hardware e SO. Compressão de modelo via quantização e palettização se alinha com o tempo de execução do Core AI para desempenho eficiente em dispositivo.

O framework garante privacidade de dados do usuário, zero dependências de servidor e zero custos por token de nuvem — eliminando completamente o fardo operacional da inferência em nuvem. Para arquitetos, isso muda a economia da IA em dispositivo: anteriormente, executar modelos de 70B em dispositivo era proibitivo; Core AI torna isso nativo. Desenvolvedores podem converter modelos PyTorch usando TorchConverter().add_exported_program().to_coreai(), ou criar modelos diretamente com ops compostos incorporados e kernels Metal customizados para otimização de nível mais baixo.