Satya Nadella: empresas pagam por IA duas vezes—em dinheiro, depois em conhecimento proprietário vazado para os criadores de modelos

O CEO da Microsoft Satya Nadella advertiu que empresas que adotam IA enfrentam um custo oculto além das taxas de assinatura: o conhecimento proprietário que são forçadas a entregar apenas para tornar a tecnologia útil. Em uma postagem no X, ele chamou isso de 'Paradoxo Reverso da Informação', argumentando que as empresas devem proteger seu 'escape de inteligência' através de melhor controle, capacidade, escolha, eficácia de custo e aprendizado contínuo.

Para obter respostas significativas de um modelo de IA, é necessário fornecer ao sistema o contexto do negócio, seus processos, erros e correções. Este 'escape de inteligência'—referindo-se aos subprodutos de prompts, correções e avaliações que os trabalhadores fazem ao empregar um sistema de IA—não é informação lixo, mas conhecimento institucional que não pode ser facilmente comprado a um concorrente e está vazando gradualmente a cada correção no modelo. Nadella destacou que essas correções representam prompts acumulados que os funcionários escrevem, as ferramentas que os agentes de IA usam, e particularmente as correções feitas quando um modelo erra, que são silenciosamente destiladas em saber institucional que vaza gradualmente, 'traço por traço, correção por correção, avaliação por avaliação.'

Nadella veio com uma solução que ele chama de 'cinco Cs': Controle (as organizações devem ter controle de suas avaliações e conhecimento institucional e não deixar isso nas mãos de um vendedor de terceiros); Capacidade (criar ambientes privados conscientes de locatário nos quais os modelos são treinados usando dados organizacionais reais); Escolha (não ficar preso a um modelo ou vendedor particular); Custo (fazer uso eficiente de diferentes modelos e fluxos de trabalho); e criar um loop de aprendizado contínuo que permita que investimentos em IA componham o valor da empresa. Nadella argumentou que as empresas precisam de um novo tipo de limite de confiabil idade, um que mantenha dentro da organização não apenas dados, mas também 'escape de inteligência', sem consentimento explícito para compartilhá-lo, observando que, embora seja razoável que as empresas de IA tenham direitos de uso justo para treinar em dados públicos, é inconsistente que essas mesmas empresas imponham termos restritivos de destilação enquanto se reservam o direito de aprender com o uso do cliente.