Modelo generativo basado en puntuación
- Propuesto por
- Song, Y. & Ermon, S.
- Año
- 2019
- Tipo
- Score-based generative model (SDE framework)
Este texto es una traducción automática y aún no se ha revisado. Leer el original en inglés
¿Qué hace?
Un modelo generativo basado en puntuación, introducido por Yang Song y Stefano Ermon en 2019 y generalizado al marco de ecuaciones diferenciales estocásticas (SDE) en 2021, aprende el gradiente de la densidad de datos —la puntuación— en lugar de predecir ruido directamente, y lo utiliza para generar nuevas muestras.
Es la generalización matemática que unifica los modelos de difusión bajo una formulación de tiempo continuo.
La intuición detrás del método
En lugar de memorizar cómo son los datos, el modelo aprende en qué dirección empujar cualquier punto para que se mueva hacia regiones donde los datos reales son densos. Esa dirección es la puntuación: el gradiente del logaritmo de la densidad. Una vez que se puede apuntar hacia una mayor densidad desde cualquier lugar, se puede empezar desde ruido puro y seguir estas direcciones paso a paso hasta llegar a una muestra realista.
Historia
La modelización generativa basada en puntuación fue introducida por Song y Ermon en 2019 como modelización generativa mediante la estimación de gradientes de la distribución de datos. En 2021, Song y colegas reformularon la idea en un marco de ecuaciones diferenciales estocásticas, demostrando que la coincidencia de puntuaciones en niveles de ruido continuos generaliza los modelos de difusión y unifica varias formulaciones generativas anteriores bajo una única visión de tiempo continuo.
Cuándo usarlo
Adecuado para la generación de alta fidelidad y la estimación de densidad de datos continuos cuando se dispone de un gran conjunto de datos de entrenamiento (alrededor de 1000 observaciones o más) o un modelo preentrenado y se pueden utilizar recursos GPU/TPU. No hace suposiciones de normalidad, pero el muestreador debe coincidir con la SDE elegida. Por debajo de unas 1000 observaciones, un autoencoder variacional es una opción más segura, y por debajo de 500, un método más simple como PCA es preferible.
Limitaciones y consideraciones
- Requiere un gran conjunto de datos (alrededor de 1000+ observaciones) o un modelo preentrenado para estimar la gradiente de densidad de forma fiable.
- Necesita hardware GPU/TPU para entrenar y muestrear.
- El muestreador debe elegirse para que coincida con la formulación de la SDE, lo que añade carga de configuración.
- En muestras pequeñas, la estimación de la puntuación es deficiente y la generación carece de sentido.
Las condiciones de la fuente no sustituyen una revisión científica independiente ni la validación por un motor de análisis.
Fortalezas
- Aprende directamente el gradiente de la densidad de datos, proporcionando una generalización matemática fundamentada de los modelos de difusión.
- El marco de SDE de tiempo continuo unifica múltiples formulaciones de difusión bajo un solo objetivo.
- No hay suposición de normalidad sobre los datos.
- Produce muestras de alta fidelidad de datos continuos y admite la estimación de densidad.
Aplicaciones
- Generación de alta fidelidad de datos continuos como imágenes.
- Estimación de densidad y modelado de distribuciones de datos complejas.
- Modelización generativa de tiempo continuo que subsume formulaciones de difusión discretas.
- Tareas generativas de predicción y explicativas donde se dispone de grandes datos o modelos preentrenados.
Cómo funciona
Cómo funciona
Se entrena una red neuronal para estimar la puntuación de la distribución de datos —el gradiente del logaritmo de la densidad con respecto a la entrada. En lugar de predecir ruido añadido, aprende el campo de direcciones que apuntan hacia dónde se concentran los datos, que es lo que hace que el enfoque sea una generalización matemática de los modelos de difusión.
Fórmula
s_\theta(x) \approx \nabla_x \log p(x)
Una ecuación diferencial estocástica hacia adelante corrompe gradualmente los datos en ruido a lo largo del tiempo continuo, con un término de deriva y un término de difusión que inyectan ruido Gaussiano. Esto define una familia suave de distribuciones cada vez más ruidosas cuyas puntuaciones aprende la red en todos los niveles de ruido.
Fórmula
dx = f(x,t)\,dt + g(t)\,dw
La generación invierte el proceso resolviendo la SDE correspondiente en tiempo inverso, que utiliza la puntuación aprendida para dirigir las muestras desde el ruido de vuelta hacia la distribución de datos. La elección del tipo de SDE determina qué muestreador es apropiado, y la integración se ejecuta en hardware GPU o TPU.
Fórmula
dx = [f(x,t) - g(t)^2 \nabla_x \log p_t(x)]\,dt + g(t)\,d\bar{w}Errores comunes
- Aplicarlo por debajo del umbral de ~1000 observaciones, donde la puntuación no se puede estimar con precisión.
- Usar un muestreador que no coincida con la formulación de SDE elegida.
- Intentar entrenar sin recursos GPU/TPU.
- Caer por debajo de ~500 observaciones, donde la generación basada en SDE carece de sentido y se debe usar un modelo más simple.
Preguntas frecuentes
¿Cuál es la puntuación que aprende el modelo?
La puntuación es el gradiente de la densidad de probabilidad logarítmica con respecto a la entrada. Conocerla en cada punto y nivel de ruido permite al modelo dirigir las muestras hacia donde se concentran los datos reales.
¿Cómo se relaciona esto con los modelos de difusión?
Es la generalización matemática de los modelos de difusión: al formular la corrupción hacia adelante y la generación inversa como ecuaciones diferenciales estocásticas de tiempo continuo, la modelización basada en puntuación unifica los enfoques de difusión bajo un solo marco.
¿Cuántos datos necesito?
Alrededor de 1000 observaciones o más, o un modelo preentrenado. Por debajo de 1000, un autoencoder variacional es más seguro, y por debajo de 500, la generación basada en SDE carece de sentido y es preferible un método más simple como PCA.
¿Qué hardware requiere?
Se necesitan recursos GPU o TPU tanto para el entrenamiento como para el muestreo, y el muestreador debe elegirse para que coincida con el tipo de SDE utilizada.
Métodos relacionados
Fuentes
Song, Y. & Ermon, S. (2019). Generative Modeling by Estimating Gradients of the Data Distribution. NeurIPS 32, 11895–11907.
Abrir referencia de la publicaciónCopiado.Song, Y. et al. (2021). Score-Based Generative Modeling through Stochastic Differential Equations. ICLR.
Abrir referencia de la publicaciónCopiado.