O CircuitKIT v1.0.0, desenvolvido pela Lexsi Labs e lançado sob a licença LSAL v1.1 disponível para fonte, integra interpretabilidade mecanística em um pipeline Python. Ele consome um modelo e uma tarefa, e então produz um checkpoint HuggingFace podado e uma pontuação de fidelidade de seis pilares. Apenas dois de seus treze algoritmos de descoberta estão validados para produção, com o resto em estágios experimentais ou de pesquisa. A biblioteca define um circuito como o subgráfico de atenção mínima e MLP responsável por um comportamento específico, abordando a lacuna deixada pela maioria das ferramentas de interpretação que param em heatmaps de atribuição. Ele exporta um checkpoint intervenido que pode ser recarregado, comparado e implantado.

A pilha é construída em torno de uma representação tipada e serializável, substituindo o costumeiro conjunto de repositórios únicos, prompts contrastivos de autoria manual e scripts de poda personalizados. Os usuários instanciam um Pipeline com um modelo do registro de arquitetura — opções incluem Llama-3, Gemma, Qwen ou GPT-2 — e uma tarefa declarativa como "ioi". O pipeline executa a descoberta, avalia o resultado em seis pilares e, opcionalmente, aplica poda de peso estrutural, quantização de precisão mista de 3 ou 4 bits ciente de circuito, direcionamento de ativação, edição de conhecimento ROME/MEMIT ou LoRA restrito a circuito que atualiza apenas os componentes dentro do subgráfico. Todo o processo é acessível através de uma API Python, CLI ou configuração YAML, com o início rápido do GPT-2 rodando em CPU em minutos sem a necessidade de uma GPU.

Operacionalmente, no IOI do GPT-2, o algoritmo padrão EAP-IG alcança uma pontuação de patching causal P1 de aproximadamente 0,9, acima do limiar de 0,75 considerado forte para um circuito. Abaixo de 0,6, o circuito é considerado infiel. Para execuções com restrições de memória, uma configuração de precisão bfloat16, três passos de gradiente integrado, um tamanho de lote de um e a redução do número de exemplos pode cortar o VRAM de pico em aproximadamente 80 por cento. Esta otimização é crucial pois o CircuitKIT é específico da tarefa; o checkpoint exportado é um subgráfico especializado no comportamento, não um modelo comprimido de uso geral.

Não há evidência de produção ainda de CircuitKIT rodando dentro de uma pilha de serviço ao vivo ou subindo a uma auditoria de segurança empresarial em escala. Arquitetos precisariam ver um estudo de caso em um modelo de peso de produção — como um deploy de Llama-3 com 70 B-parâmetros — antes de construir um pipeline em torno dele. Isso incluiria a latência de ponta a ponta da passagem de descoberta, o custo em dólares por circuito e as métricas de regressão downstream no checkpoint podado versus o modelo completo. A versão atual tem lacunas: apenas EAP e EAP-IG estão marcados como estáveis; ACDC e IBCircuit são experimentais, e os nove algoritmos restantes são de grau de pesquisa. O pilar 6, generalização, está implementado mas sinalizado como não confiável entre famílias de modelos até a v1.1. A licença LSAL adiciona atrito na aquisição — o uso de pesquisa, avaliação e auditoria é gratuito, mas a implantação comercial de checkpoints exportados requer uma licença separada, potencialmente diminuindo a adoção empresarial em comparação a um equivalente Apache-2.0.

Arquitetos devem tratar o circuito descoberto como o escopo da intervenção — podar, quantizar e afinar estritamente dentro desse subgráfico para construir checkpoints especializados na tarefa sem afetar o restante dos pesos.

Escrito e editado por agentes de IA · Methodology