Saltar al contenido
Volver a los resultados

Detección de Anomalías mediante Autoencoder Bayesiano

Propuesto por
Kingma, D. P. & Welling, M.; applied to anomaly detection by An & Cho
Año
2014–2015
Tipo
Probabilistic generative model for unsupervised anomaly detection
Familia
Machine learning

Este texto es una traducción automática y aún no se ha revisado. Leer el original en inglés

Tamaño de letra

¿Qué hace?

La Detección de Anomalías mediante Autoencoder Bayesiano utiliza un Autoencoder Variacional —un modelo generativo probabilístico entrenado con datos normales— para señalar anomalías por su alto error de reconstrucción o baja verosimilitud bajo la distribución aprendida.

Al tratar el espacio latente como una distribución de probabilidad en lugar de un punto fijo, proporciona estimaciones de incertidumbre fundamentadas junto con cada puntuación de anomalía, lo que lo hace especialmente valioso en tareas de detección de alto riesgo.

La intuición detrás del método

Un autoencoder estándar aprende a comprimir y reconstruir sus datos de entrenamiento; los objetos que difieren del conjunto de entrenamiento se reconstruyen mal y, por lo tanto, se califican como anómalos. La versión bayesiana, típicamente implementada como un Autoencoder Variacional, va más allá: en lugar de codificar cada entrada a un único punto en el espacio latente, la codifica a una distribución de probabilidad. Esto significa que el modelo sabe no solo qué es probablemente normal, sino también cuán seguro está de esa evaluación. Las puntuaciones de anomalía se calculan como probabilidades de reconstrucción promediadas sobre la posterior latente, por lo que llevan incertidumbre inherente en lugar de ser estimaciones puntuales frágiles.

Historia

El Autoencoder Variacional fue introducido por Kingma y Welling en 2014 como un marco fundamentado para el modelado generativo profundo, combinando la flexibilidad de las redes neuronales con la inferencia bayesiana de variables latentes a través del truco de la reparametrización. Su aplicación a la detección de anomalías fue formalizada por An y Cho en 2015, quienes demostraron que la probabilidad de reconstrucción —en lugar del error de reconstrucción— proporciona una puntuación de anomalía más fiable. Desde entonces, los autoencoders bayesianos se han convertido en una herramienta estándar en la investigación de detección de anomalías no supervisada, con extensiones a series temporales, datos de grafos y entornos federados.

Cuándo usarlo

Utilice la Detección de Anomalías mediante Autoencoder Bayesiano cuando disponga de abundantes datos normales sin etiquetar pero con pocas o ninguna etiqueta de anomalía confirmada, el espacio de entrada sea de alta dimensionalidad (p. ej., imágenes, arreglos de sensores, series temporales multicanal o datos tabulares amplios), y necesite estimaciones de incertidumbre junto con puntuaciones de anomalía para la toma de decisiones posteriores (p. ej., imágenes médicas, detección de fraude, control de calidad industrial). Supera a métodos más simples como Isolation Forest o One-Class SVM cuando el manifold de datos normales es complejo y no lineal. No lo utilice cuando su conjunto de datos sea pequeño (menos de unos pocos cientos de muestras), su entrada sea de baja dimensionalidad con estructura lineal (los métodos estadísticos clásicos son más simples e interpretables), necesite un rendimiento en tiempo real estricto sin aceleración de GPU, o cuando una clase de anomalía explícita esté disponible y la clasificación supervisada sea factible.

Limitaciones y consideraciones

  • Requiere datos de entrenamiento sustanciales de ejemplos normales; datos escasos o heterogéneos de la clase normal degradan el rendimiento.
  • El entrenamiento es computacionalmente costoso — la aceleración de GPU suele ser necesaria para tamaños de entrada no triviales.
  • Las elecciones de hiperparámetros (dimensión latente, profundidad de la arquitectura, ponderación beta del término KL) afectan fuertemente a los resultados y requieren una cuidadosa sintonización.
  • El colapso posterior —una patología común de VAE donde el codificador ignora la entrada— puede degradar silenciosamente las puntuaciones de anomalía.
  • Interpretar por qué se marca una muestra específica como anómala sigue siendo difícil sin análisis post-hoc adicionales.

Las condiciones de la fuente no sustituyen una revisión científica independiente ni la validación por un motor de análisis.

Fortalezas

  • Proporciona estimaciones de incertidumbre calibradas para cada puntuación de anomalía, apoyando la toma de decisiones consciente del riesgo.
  • Maneja distribuciones de datos de alta dimensionalidad y no lineales que superan a los métodos lineales o de kernel.
  • Completamente no supervisado: no se requieren etiquetas de anomalía para el entrenamiento.
  • El espacio latente aprendido puede visualizarse e interpretarse para comprender qué patrones considera normales el modelo.
  • La arquitectura flexible permite la incorporación de priors específicos del dominio y espacios latentes estructurados.
  • La probabilidad de reconstrucción es más fundamentada que el error cuadrático medio bruto, reduciendo la sensibilidad a la escala arbitraria.

Aplicaciones

  • Detección de defectos industriales en manufactura utilizando datos de inspección visual.
  • Detección de anomalías en imágenes médicas (p. ej., detección de lesiones en resonancias magnéticas entrenadas solo con sujetos sanos).
  • Detección de intrusiones en redes donde los patrones de tráfico normales son abundantes pero los ataques son raros y diversos.
  • Detección de fraude financiero cuando los casos de fraude etiquetados no están disponibles o están rápidamente desactualizados.
  • Mantenimiento predictivo a través de la detección de anomalías en arreglos de sensores en maquinaria industrial.
  • Control de calidad de datos científicos, señalando observaciones inusuales en conjuntos de datos experimentales.

Cómo funciona

Cómo funciona

1

Una red neuronal codificadora mapea cada entrada x a los parámetros (media y varianza) de una posterior Gaussiana sobre la variable latente z, capturando la incertidumbre del modelo sobre la representación comprimida en lugar de comprometerse con un único código.

Fórmula
q_{\phi}(z|x) = \mathcal{N}(\mu_{\phi}(x),\,\sigma^{2}_{\phi}(x))
2

Los códigos latentes se extraen mediante el truco de la reparametrización —añadiendo ruido escalado a la media posterior—, lo que hace que el paso de muestreo sea diferenciable para que toda la red pueda entrenarse mediante retropropagación.

Fórmula
z = \mu_{\phi}(x) + \epsilon\,\sigma_{\phi}(x),\quad \epsilon \sim \mathcal{N}(0,I)
3

Una red decodificadora mapea los códigos latentes muestreados de vuelta a distribuciones de reconstrucción sobre el espacio de entrada, aprendiendo el proceso generativo de datos normales.

Fórmula
p_{\theta}(x|z)
4

El entrenamiento maximiza el Límite Inferior de la Evidencia (ELBO): la log-verosimilitud de reconstrucción esperada menos la divergencia KL que mantiene la posterior cercana a una prior Gaussiana estándar. Solo se utilizan datos normales (en distribución) durante el entrenamiento.

Fórmula
\mathcal{L} = \mathbb{E}_{q}[\log p_{\theta}(x|z)] - D_{\mathrm{KL}}(q_{\phi}(z|x)\|p(z))
5

En la inferencia, se calcula una puntuación de anomalía como la log-verosimilitud esperada negativa de la entrada bajo el decodificador, promediada sobre múltiples muestras posteriores. Las puntuaciones altas indican entradas que el modelo no puede reconstruir bien bajo su distribución de datos normales aprendida.

Fórmula
s(x) = -\mathbb{E}_{z \sim q_{\phi}(z|x)}[\log p_{\theta}(x|z)]

Errores comunes

  • Entrenamiento en un conjunto de datos contaminado que incluye anomalías en la clase 'normal', lo que hace que el modelo aprenda patrones anómalos como normales.
  • Elegir el umbral de puntuación de anomalía arbitrariamente en lugar de usar un conjunto de validación separado de ejemplos normales conocidos.
  • Ignorar el colapso posterior durante el entrenamiento, lo que puede hacer que el error de reconstrucción sea uniformemente poco informativo.
  • Comparar errores de reconstrucción brutos entre conjuntos de datos con diferentes escalas de entrada sin normalización.
  • Evaluar solo con precisión en conjuntos de prueba altamente desequilibrados en lugar de usar AUROC o precisión promedio.

Preguntas frecuentes

¿En qué se diferencia esto de un autoencoder estándar (determinista) para la detección de anomalías?

Un autoencoder estándar mapea entradas a códigos latentes fijos y califica anomalías por error de reconstrucción. Un autoencoder bayesiano (variacional) mapea entradas a distribuciones latentes y califica anomalías por probabilidad de reconstrucción promediada sobre muestras posteriores. La formulación probabilística proporciona puntuaciones más fiables e incertidumbre explícita, a costa de una mayor complejidad de entrenamiento.

¿Qué dimensión latente debo elegir?

La dimensión latente debe ser lo suficientemente grande como para capturar la estructura de los datos normales pero lo suficientemente pequeña como para evitar que el modelo memorice muestras individuales. Comience con una dimensión aproximadamente del 5-20% de la dimensión de entrada y ajuste mediante la calidad de reconstrucción en un conjunto normal separado.

¿Necesito hardware de GPU para ejecutar este método?

Para datos tabulares con ancho moderado (menos de unos pocos cientos de características) una CPU es factible, pero el entrenamiento será lento. Para datos de imágenes o de alta dimensionalidad de sensores, se recomienda encarecidamente una GPU. La inferencia (puntuación) es típicamente mucho más rápida que el entrenamiento.

¿Cómo establezco el umbral de anomalía?

El umbral no se aprende durante el entrenamiento. Utilice un conjunto separado de muestras normales confirmadas y seleccione el percentil de puntuación (p. ej., el 95º o 99º) que proporcione una tasa de falsos positivos aceptable en su dominio. Evite elegir el umbral en los mismos datos utilizados para evaluar el rendimiento final.

¿Puede este método funcionar cuando algunas anomalías aparecen en el conjunto de entrenamiento?

Se toleran pequeñas contaminaciones (unos pocos por ciento) porque el modelo se optimiza en la clase mayoritaria. Sin embargo, una contaminación elevada cambia lo que el modelo aprende como 'normal' y debe minimizarse limpiando los datos de entrenamiento lo más a fondo posible.

Métodos relacionados

Fuentes

  1. Kingma, D. P. & Welling, M. (2014). Auto-Encoding Variational Bayes. Proceedings of the 2nd International Conference on Learning Representations (ICLR 2014).

    Abrir referencia de la publicación
    Copiado.
  2. An, J. & Cho, S. (2015). Variational Autoencoder based Anomaly Detection using Reconstruction Probability. ICDM Workshop on Data Mining in Networks.

    Abrir referencia de la publicación
    Copiado.