Rede Adversarial Generativa
- Proposto por
- Goodfellow, I. et al.
- Ano
- 2014
- Tipo
- Generative deep learning (adversarial two-network game)
Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês
O que ele faz?
Uma Rede Adversarial Generativa (GAN), introduzida por Ian Goodfellow e colegas em 2014, produz dados sintéticos realistas através da competição de duas redes neurais — um gerador e um discriminador.
É amplamente utilizada para síntese de imagens, aumento de dados e estimação de distribuição.
A intuição por trás do método
Pense num falsificador e num detetive trancados numa disputa. O gerador (falsificador) tenta produzir amostras falsas convincentes o suficiente para passar como reais, enquanto o discriminador (detetive) tenta distinguir dados reais de falsos. À medida que cada um melhora no seu trabalho, o gerador é forçado a produzir resultados cada vez mais realistas até que as suas falsificações se tornem difíceis de distinguir dos dados genuínos.
História
A Rede Adversarial Generativa foi introduzida por Ian Goodfellow e colegas em 2014, enquadrando a geração como um jogo de dois jogadores entre um gerador e um discriminador. A ideia gerou uma grande família de variantes para síntese e tradução de imagens. Karras e colegas (2020) avançaram substancialmente a qualidade da imagem com o StyleGAN, analisando e melhorando a sua fidelidade generativa. Mais recentemente, os modelos de difusão emergiram como uma alternativa líder para geração de alta qualidade.
Quando usar
Use uma GAN quando precisar de gerar amostras sintéticas realistas — síntese de imagens, aumento de dados ou estimação de distribuição — a partir de dados contínuos de alta dimensão, como imagens ou áudio, e tiver um conjunto de dados suficientemente grande (cerca de 500 observações como mínimo, com 1000 ou mais fortemente preferidas). Não assume dados distribuídos normalmente, mas requer recursos de GPU, e o equilíbrio gerador-discriminador deve ser vigiado quanto ao colapso de modo. Em conjuntos de dados pequenos, o equilíbrio adversarial não pode ser estabelecido; um autoencoder variacional ou uma abordagem mais simples de aumento de dados é mais segura.
Limitações e considerações
- O treino é instável e propenso ao colapso de modo, onde o gerador cobre apenas parte da distribuição de dados.
- Requer uma GPU e dados de treino substanciais — tipicamente 500 observações no mínimo e 1000 ou mais na prática.
- Abaixo de cerca de 1000 amostras, o equilíbrio gerador-discriminador não pode ser estabelecido e o risco de colapso de modo torna-se muito elevado.
- Abaixo de cerca de 500 amostras, o modelo não consegue produzir dados realistas de todo, e alternativas de aumento são preferíveis.
As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.
Pontos fortes
- Produz dados sintéticos altamente realistas, incluindo imagens e áudio.
- Não requer dados distribuídos normalmente e lida com entradas contínuas de alta dimensão.
- Útil para aumento de dados quando amostras rotuladas reais são escassas.
- Adequado para fins de previsão e de estimação exploratória de distribuição.
Aplicações
- Síntese de imagens e geração de conteúdo visual realista.
- Aumento de dados para expandir conjuntos de dados de treino escassos.
- Estimação de distribuição para dados contínuos de alta dimensão.
- Síntese de áudio e sinal.
Como funciona
Como funciona
Duas redes são configuradas com objetivos opostos. O gerador mapeia ruído aleatório em amostras sintéticas, visando imitar a distribuição de dados real. O discriminador recebe amostras reais e geradas e aprende a classificar qual é qual. Como os dados são tipicamente de alta dimensão (imagens, áudio), o treino geralmente requer uma GPU.
As duas redes são treinadas em conjunto como um jogo minimax: o discriminador é atualizado para maximizar a sua capacidade de separar o real do falso, enquanto o gerador é atualizado para minimizar o sucesso do discriminador — ou seja, para o enganar. O objetivo partilhado acopla ambas as redes, de modo que a melhoria de uma pressiona a outra.
Fórmula
\min_G \max_D \; \mathbb{E}_{x}[\log D(x)] + \mathbb{E}_{z}[\log(1 - D(G(z)))]O treino continua até que um equilíbrio seja aproximado, onde as amostras do gerador se assemelham à distribuição real de forma suficientemente próxima para que o discriminador já não consiga distingui-las de forma fiável. O equilíbrio entre as duas redes deve ser monitorizado de perto, pois a instabilidade pode causar colapso de modo, onde o gerador produz apenas uma fatia estreita das saídas possíveis.
Erros comuns
- Treino com dados insuficientes, de modo que o equilíbrio adversarial falha e o colapso de modo se segue.
- Não monitorizar o colapso de modo e assumir saída variada sem verificar a diversidade de amostras.
- Tentar treinar sem recursos de GPU para dados de imagem ou áudio de alta dimensão.
- Recorrer a uma GAN num conjunto de dados pequeno onde um autoencoder variacional ou um aumento simples seria mais fiável.
Perguntas frequentes
O que é colapso de modo?
Colapso de modo ocorre quando o gerador aprende a produzir apenas um conjunto restrito de saídas que enganam fiávelmente o discriminador, em vez de cobrir toda a variedade dos dados reais. É um modo de falha central do treino de GAN, especialmente em conjuntos de dados pequenos, e a diversidade de amostras deve ser monitorizada ao longo do treino.
Quanta quantidade de dados preciso?
Uma GAN necessita de um conjunto de dados substancial: cerca de 500 observações é um mínimo prático, mas abaixo de aproximadamente 1000, o equilíbrio gerador-discriminador é difícil de estabelecer e o risco de colapso de modo é elevado. Com muito poucos dados, um autoencoder variacional ou um método de aumento mais simples é a escolha mais segura.
Preciso de uma GPU?
Na prática, sim. As GANs trabalham com dados de alta dimensão, como imagens e áudio, e o treino das duas redes concorrentes é computacionalmente intensivo, pelo que uma GPU é efetivamente necessária.
Como é que uma GAN difere de um modelo de difusão?
Uma GAN gera através da competição adversarial de duas redes, o que torna o treino rápido mas instável. Os modelos de difusão, em vez disso, aprendem a reverter um processo de ruído passo a passo e tornaram-se uma forte alternativa para geração de alta qualidade.
Métodos relacionados
Fontes
Goodfellow, I. et al. (2014). Generative Adversarial Nets. NeurIPS.
Abrir referência da publicaçãoCopiado.Karras, T. et al. (2020). Analyzing and Improving the Image Quality of StyleGAN. CVPR.
Abrir referência DOICopiado.