Microsoft reduce el modelo de IA de patología en un 50×, permitiendo la implementación en hospitales

Microsoft Research, Providence Health System y NVIDIA han presentado GigaPath-Flash, un modelo de patología a toda diapositiva de 43 millones de parámetros que reduce los FLOPs de inferencia por diapositiva en un 49,5× en comparación con el original de mil millones de parámetros, manteniendo un 97% de su precisión de referencia. El código se ha lanzado bajo una licencia Apache 2.0, pero los pesos del modelo están restringidos solo para uso de investigación y excluyen explícitamente el despliegue clínico o comercial.

La arquitectura condensa el codificador de mosaicos de un ViT-g de 1.100 millones de parámetros a un ViT-S/16 de 22 millones de parámetros, destilado desde el mismo modelo maestro, y lo combina con un codificador de diapositivas LongNet de 21 millones de parámetros: 12 capas, estado oculto de 384 dimensiones, que procesa las incrustaciones de mosaicos y coordenadas espaciales. El marco de ViT-S destilado también impulsa a GigaTIME-Flash, mejorando el modelo original de GigaTIME para predecir fenotipos del microentorno inmunológico del tumor directamente desde diapositivas H&E de rutina sin tinción de inmunofluorescencia. A pesar del menor marco, GigaTIME-Flash supera al original en calidad de predicción. Ambos modelos están accesibles a través de timm y el HuggingFace Hub, con pesos alojados en prov-gigapath/prov-gigapath-flash; el codificador de diapositivas está disponible como slide_encoder.pth y el codificador de mosaicos en formato timm/HF estándar. La inferencia sigue una tubería de tres etapas: mosaico de la WSI en parches de 256×256 a 20× magnificación, codificación de mosaicos a través del codificador derivado de DINOv2-small, y paso de incrustaciones con coordenadas espaciales al codificador de diapositivas.

Operativamente, la reducción del tamaño permite su uso en estaciones de trabajo de nivel hospitalario, como tarjetas RTX 4090 o de clase A40, mientras que GigaTIME-Flash se ejecuta seis veces más rápido y utiliza ocho veces menos memoria de GPU que su predecesor CNN. El corpus de preentrenamiento consta de 1.300 millones de mosaicos de patología en 171,189 diapositivas completas de una red de 28 centros de cáncer, abordando el sesgo de los datos curados por la investigación que afecta a conjuntos de datos académicos más pequeños.

La destilación logra una reducción de FLOP del 49,5× pero resulta en una pérdida del 3% de la precisión media a nivel de diapositiva en comparación con el maestro; para los flujos de trabajo de cribado, esta brecha requiere calibración downstream o revisión con humano en el bucle. Todavía no hay evidencia de producción: el documento de arXiv informa sobre la precisión de referencia y recuentos relativos de FLOP, no la capacidad de procesamiento clínico en vivo, los archivos de la FDA 510(k), o las métricas de integración de PACS del hospital. Competidores propietarios como Paige AI e Ibex Medical Analytics han navegado la aprobación reguladora, aunque detrás de pilas de código cerrado y dependientes de la nube. Los arquitectos que elijan GigaPath-Flash en el premises asumen la carga de validación y responsabilidad por sí mismos. Tampoco hay ninguna receta de cuantización INT8 o FP8 publicada aún, y el preprocesamiento y E/S siguen siendo cuellos de botella del reloj que la reducción del codificador por sí sola no aborda. El repositorio de GitHub proporciona scripts de finamente para tareas como PANDA y utilidades de conversión, pero el IT del hospital aún necesitará integrar esto en los flujos de trabajo existentes de PACS y LIS sin el soporte del proveedor, y el rendimiento del modelo en protocolos de tintura que no son de Providence sigue siendo una pregunta de generalización abierta.

Lo que un arquitecto robaría: destilar el gran maestro de la visión a un codificador de mosaicos ViT-S, mantener el modelo de contexto a nivel de diapositiva LongNet y lanzar la base de código bajo una licencia permisiva mientras se mantienen las pesas solo para investigación, este patrón redujo el costo de inferencia en casi dos órdenes de magnitud y transformó una pila de nube solo de investigación en algo que un closet de IT de hospital puede ejecutar.