SK hynix & TetraMem demonstram chip edge-AI com memristor, eficiência de 21.3 TOPS/W para inferência leve

TetraMem Inc. e SK hynix anunciaram a conclusão bem-sucedida de uma colaboração de tecnologia conjunta, destacada pela publicação de seu artigo de pesquisa "A Memristor-based In-Memory Computing SoC with Efficient Depthwise Convolution" em Advanced Intelligent Systems, também selecionado como capa do jornal. O dispositivo foi projetado para acelerar a inferência de rede neural em modelos leves de IA enquanto consome uma fração da energia que GPUs ou NPUs de gama alta usariam.

O SoC atinge um máximo de cerca de 2,54 TOPS em um cenário de melhor caso teórico, que é 16X abaixo dos requisitos de Copilot+ da Microsoft. No entanto, o SoC oferece uma taxa de transferência de pico de 0,254 TOPS por NPU e alcança eficiência energética de 21,3 TOPS/W em 100 MHz e 11,9 TOPS/W em 400 MHz, superando a eficiência INT8 do A100 da Nvidia por uma ordem de magnitude. O chip opera em um processo de 65nm e usa 10 unidades de processamento neural, com uma dedicada à otimização de convolução em profundidade.

A arquitetura combina computacão em memória baseada em memristor (IMC) com conhecimento de fabricação de SK hynix. TetraMem substituiu crossbars convencionais com topologia em ziguezague, permitindo 28 convoluções 3×3 independentes executarem em paralelo enquanto usando 100% da matriz para armazenamento de peso. O design visa inferência de borda para modelos como MobileNet, abordando o desafio de mover computação de IA mais perto de dados enquanto reduz consumo de energia—uma restrição crítica para dispositivos IoT e borda.

Para profissionais: esta é uma demonstração de prova de conceito de computacão centric em memória, não um produto disponível. O limite teórico de 2,54 TOPS e o processo de 65nm sugerem viabilidade comercial limitada de curto prazo para implantações em larga escala. No entanto, a publicação de capa de jornal e colaboração de fornecedor sinalizam investimento de P&D crescente em arquiteturas em memória conforme o setor explora alternativas aos designs convencionais de GPU/NPU para cargas de trabalho de borda específicas. A afirmação de eficiência energética (21,3 TOPS/W) é significativa para dispositivos restritos por bateria se a manufatura escalar.