Modelo Generativo Baseado em Score
- Proposto por
- Song, Y. & Ermon, S.
- Ano
- 2019
- Tipo
- Score-based generative model (SDE framework)
Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês
O que ele faz?
Um modelo generativo baseado em score, introduzido por Yang Song e Stefano Ermon em 2019 e generalizado para o framework de equações diferenciais estocásticas (SDE) em 2021, aprende o gradiente da densidade dos dados — o score — em vez de prever ruído diretamente, e o utiliza para gerar novas amostras.
É a generalização matemática que unifica modelos de difusão sob uma formulação de tempo contínuo.
A intuição por trás do método
Em vez de memorizar como os dados se parecem, o modelo aprende para qual direção empurrar qualquer ponto para que ele se mova em direção a regiões onde os dados reais são densos. Essa direção é o score: o gradiente do log-densidade. Uma vez que se pode apontar para uma densidade maior a partir de qualquer lugar, pode-se começar com ruído puro e seguir essas direções passo a passo até chegar a uma amostra realista.
História
A modelagem generativa baseada em score foi introduzida por Song e Ermon em 2019 como modelagem generativa pela estimação de gradientes da distribuição dos dados. Em 2021, Song e colegas reformularam a ideia em um framework de equações diferenciais estocásticas, mostrando que a correspondência de score em níveis de ruído contínuos generaliza modelos de difusão e unifica várias formulações generativas anteriores sob uma única visão de tempo contínuo.
Quando usar
Adequado para geração de alta fidelidade e estimação de densidade de dados contínuos quando um grande conjunto de treinamento (cerca de 1000 observações ou mais) ou um modelo pré-treinado está disponível e recursos de GPU/TPU podem ser usados. Não faz suposição de normalidade, mas o amostrador deve ser compatível com a SDE escolhida. Abaixo de cerca de 1000 observações, um autoencoder variacional é uma escolha mais segura, e abaixo de 500, um método mais simples como PCA é preferível.
Limitações e considerações
- Requer um grande conjunto de dados (cerca de 1000+ observações) ou um modelo pré-treinado para estimar o gradiente de densidade de forma confiável.
- Necessita de hardware GPU/TPU para treinar e amostrar.
- O amostrador deve ser escolhido para corresponder ao tipo de SDE, adicionando carga de configuração.
- Em amostras pequenas, a estimativa do score é pobre e a geração se torna sem sentido.
As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.
Pontos fortes
- Aprende diretamente o gradiente da densidade dos dados, fornecendo uma generalização matemática principiada dos modelos de difusão.
- O framework de SDE em tempo contínuo unifica múltiplas formulações de difusão sob um único objetivo.
- Nenhuma suposição de normalidade sobre os dados.
- Produz amostras de alta fidelidade de dados contínuos e suporta estimação de densidade.
Aplicações
- Geração de alta fidelidade de dados contínuos, como imagens.
- Estimação de densidade e modelagem de distribuições de dados complexas.
- Modelagem generativa de tempo contínuo que abrange formulações de difusão discretas.
- Tarefas de previsão e explicativas generativas onde grandes volumes de dados ou modelos pré-treinados estão disponíveis.
Como funciona
Como funciona
Uma rede neural é treinada para estimar o score da distribuição dos dados — o gradiente do log-densidade em relação à entrada. Em vez de prever ruído adicionado, ela aprende o campo de direções que apontam para onde os dados estão concentrados, o que torna a abordagem uma generalização matemática dos modelos de difusão.
Fórmula
s_\theta(x) \approx \nabla_x \log p(x)
Uma equação diferencial estocástica direta corrompe gradualmente os dados em ruído ao longo do tempo contínuo, com um termo de drift e um termo de difusão injetando ruído Gaussiano. Isso define uma família suave de distribuições progressivamente mais ruidosas cujos scores a rede aprende em todos os níveis de ruído.
Fórmula
dx = f(x,t)\,dt + g(t)\,dw
A geração inverte o processo resolvendo a SDE correspondente no tempo reverso, que usa o score aprendido para direcionar as amostras do ruído de volta para a distribuição dos dados. A escolha do tipo de SDE determina qual amostrador é apropriado, e a integração é executada em hardware GPU ou TPU.
Fórmula
dx = [f(x,t) - g(t)^2 \nabla_x \log p_t(x)]\,dt + g(t)\,d\bar{w}Erros comuns
- Aplicá-lo abaixo do limiar de ~1000 observações, onde o score não pode ser estimado com precisão.
- Usar um amostrador que não corresponde à formulação SDE escolhida.
- Tentar treinar sem recursos de GPU/TPU.
- Cair abaixo de ~500 observações, onde a geração baseada em SDE é sem sentido e um método mais simples deve ser usado.
Perguntas frequentes
Qual é o score que o modelo aprende?
O score é o gradiente da densidade de probabilidade logarítmica em relação à entrada. Conhecê-lo em cada ponto e nível de ruído permite que o modelo impulsione as amostras em direção a onde os dados reais estão concentrados.
Como isso se relaciona com os modelos de difusão?
É a generalização matemática dos modelos de difusão: ao formular a corrupção direta e a geração reversa como equações diferenciais estocásticas de tempo contínuo, a modelagem baseada em score unifica as abordagens de difusão sob um único framework.
Quanta quantidade de dados é necessária?
Cerca de 1000 observações ou mais, ou um modelo pré-treinado. Abaixo de 1000, um autoencoder variacional é mais seguro, e abaixo de 500, a geração baseada em SDE é sem sentido e um método mais simples como PCA é preferível.
Que hardware é necessário?
Recursos de GPU ou TPU são necessários tanto para treinamento quanto para amostragem, e o amostrador deve ser escolhido para corresponder ao tipo de SDE utilizada.
Métodos relacionados
Fontes
Song, Y. & Ermon, S. (2019). Generative Modeling by Estimating Gradients of the Data Distribution. NeurIPS 32, 11895–11907.
Abrir referência da publicaçãoCopiado.Song, Y. et al. (2021). Score-Based Generative Modeling through Stochastic Differential Equations. ICLR.
Abrir referência da publicaçãoCopiado.