Skip to content
Voltar aos resultados

Modelo Generativo Baseado em Score

Proposto por
Song, Y. & Ermon, S.
Ano
2019
Tipo
Score-based generative model (SDE framework)

Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês

Tamanho da fonte

O que ele faz?

Um modelo generativo baseado em score, introduzido por Yang Song e Stefano Ermon em 2019 e generalizado para o framework de equações diferenciais estocásticas (SDE) em 2021, aprende o gradiente da densidade dos dados — o score — em vez de prever ruído diretamente, e o utiliza para gerar novas amostras.

É a generalização matemática que unifica modelos de difusão sob uma formulação de tempo contínuo.

A intuição por trás do método

Em vez de memorizar como os dados se parecem, o modelo aprende para qual direção empurrar qualquer ponto para que ele se mova em direção a regiões onde os dados reais são densos. Essa direção é o score: o gradiente do log-densidade. Uma vez que se pode apontar para uma densidade maior a partir de qualquer lugar, pode-se começar com ruído puro e seguir essas direções passo a passo até chegar a uma amostra realista.

História

A modelagem generativa baseada em score foi introduzida por Song e Ermon em 2019 como modelagem generativa pela estimação de gradientes da distribuição dos dados. Em 2021, Song e colegas reformularam a ideia em um framework de equações diferenciais estocásticas, mostrando que a correspondência de score em níveis de ruído contínuos generaliza modelos de difusão e unifica várias formulações generativas anteriores sob uma única visão de tempo contínuo.

Quando usar

Adequado para geração de alta fidelidade e estimação de densidade de dados contínuos quando um grande conjunto de treinamento (cerca de 1000 observações ou mais) ou um modelo pré-treinado está disponível e recursos de GPU/TPU podem ser usados. Não faz suposição de normalidade, mas o amostrador deve ser compatível com a SDE escolhida. Abaixo de cerca de 1000 observações, um autoencoder variacional é uma escolha mais segura, e abaixo de 500, um método mais simples como PCA é preferível.

Limitações e considerações

  • Requer um grande conjunto de dados (cerca de 1000+ observações) ou um modelo pré-treinado para estimar o gradiente de densidade de forma confiável.
  • Necessita de hardware GPU/TPU para treinar e amostrar.
  • O amostrador deve ser escolhido para corresponder ao tipo de SDE, adicionando carga de configuração.
  • Em amostras pequenas, a estimativa do score é pobre e a geração se torna sem sentido.

As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.

Pontos fortes

  • Aprende diretamente o gradiente da densidade dos dados, fornecendo uma generalização matemática principiada dos modelos de difusão.
  • O framework de SDE em tempo contínuo unifica múltiplas formulações de difusão sob um único objetivo.
  • Nenhuma suposição de normalidade sobre os dados.
  • Produz amostras de alta fidelidade de dados contínuos e suporta estimação de densidade.

Aplicações

  • Geração de alta fidelidade de dados contínuos, como imagens.
  • Estimação de densidade e modelagem de distribuições de dados complexas.
  • Modelagem generativa de tempo contínuo que abrange formulações de difusão discretas.
  • Tarefas de previsão e explicativas generativas onde grandes volumes de dados ou modelos pré-treinados estão disponíveis.

Como funciona

Como funciona

1

Uma rede neural é treinada para estimar o score da distribuição dos dados — o gradiente do log-densidade em relação à entrada. Em vez de prever ruído adicionado, ela aprende o campo de direções que apontam para onde os dados estão concentrados, o que torna a abordagem uma generalização matemática dos modelos de difusão.

Fórmula
s_\theta(x) \approx \nabla_x \log p(x)
2

Uma equação diferencial estocástica direta corrompe gradualmente os dados em ruído ao longo do tempo contínuo, com um termo de drift e um termo de difusão injetando ruído Gaussiano. Isso define uma família suave de distribuições progressivamente mais ruidosas cujos scores a rede aprende em todos os níveis de ruído.

Fórmula
dx = f(x,t)\,dt + g(t)\,dw
3

A geração inverte o processo resolvendo a SDE correspondente no tempo reverso, que usa o score aprendido para direcionar as amostras do ruído de volta para a distribuição dos dados. A escolha do tipo de SDE determina qual amostrador é apropriado, e a integração é executada em hardware GPU ou TPU.

Fórmula
dx = [f(x,t) - g(t)^2 \nabla_x \log p_t(x)]\,dt + g(t)\,d\bar{w}

Erros comuns

  • Aplicá-lo abaixo do limiar de ~1000 observações, onde o score não pode ser estimado com precisão.
  • Usar um amostrador que não corresponde à formulação SDE escolhida.
  • Tentar treinar sem recursos de GPU/TPU.
  • Cair abaixo de ~500 observações, onde a geração baseada em SDE é sem sentido e um método mais simples deve ser usado.

Perguntas frequentes

Qual é o score que o modelo aprende?

O score é o gradiente da densidade de probabilidade logarítmica em relação à entrada. Conhecê-lo em cada ponto e nível de ruído permite que o modelo impulsione as amostras em direção a onde os dados reais estão concentrados.

Como isso se relaciona com os modelos de difusão?

É a generalização matemática dos modelos de difusão: ao formular a corrupção direta e a geração reversa como equações diferenciais estocásticas de tempo contínuo, a modelagem baseada em score unifica as abordagens de difusão sob um único framework.

Quanta quantidade de dados é necessária?

Cerca de 1000 observações ou mais, ou um modelo pré-treinado. Abaixo de 1000, um autoencoder variacional é mais seguro, e abaixo de 500, a geração baseada em SDE é sem sentido e um método mais simples como PCA é preferível.

Que hardware é necessário?

Recursos de GPU ou TPU são necessários tanto para treinamento quanto para amostragem, e o amostrador deve ser escolhido para corresponder ao tipo de SDE utilizada.

Métodos relacionados

Fontes

  1. Song, Y. & Ermon, S. (2019). Generative Modeling by Estimating Gradients of the Data Distribution. NeurIPS 32, 11895–11907.

    Abrir referência da publicação
    Copiado.
  2. Song, Y. et al. (2021). Score-Based Generative Modeling through Stochastic Differential Equations. ICLR.

    Abrir referência da publicação
    Copiado.