Zum Inhalt springen
Zurück zu den Suchergebnissen

Generative Adversarial Network

Eingeführt von
Goodfellow, I. et al.
Jahr
2014
Typ
Generative deep learning (adversarial two-network game)

Dieser Text ist eine maschinelle Übersetzung und wurde noch nicht geprüft. Original auf Englisch lesen

Schriftgröße

Was leistet sie?

Ein Generative Adversarial Network (GAN), das 2014 von Ian Goodfellow und Kollegen eingeführt wurde, erzeugt realistische synthetische Daten durch den Wettbewerb zweier neuronaler Netze – eines Generators und eines Diskriminators.

Es wird häufig für die Bildsynthese, Datenerweiterung und Verteilungsschätzung verwendet.

Die Intuition hinter der Methode

Stellen Sie sich einen Fälscher und einen Detektiv vor, die in einem Wettstreit gefangen sind. Der Generator (Fälscher) versucht, gefälschte Stichproben zu erzeugen, die überzeugend genug sind, um als echt durchzugehen, während der Diskriminator (Detektiv) versucht, echte Daten von gefälschten zu unterscheiden. Da jeder in seinem Job besser wird, wird der Generator gezwungen, zunehmend realistische Ausgaben zu erzeugen, bis seine Fälschungen von echten Daten kaum noch zu unterscheiden sind.

Geschichte

Das Generative Adversarial Network wurde 2014 von Ian Goodfellow und Kollegen eingeführt und fasste die Generierung als ein Zwei-Spieler-Spiel zwischen einem Generator und einem Diskriminator auf. Die Idee brachte eine große Familie von Varianten für die Bildsynthese und -übersetzung hervor. Karras und Kollegen (2020) verbesserten die Bildqualität mit StyleGAN erheblich, indem sie dessen generative Treue analysierten und verbesserten. In jüngerer Zeit haben sich Diffusionsmodelle als führende Alternative für die hochwertige Generierung herauskristallisiert.

Wann wird sie eingesetzt?

Verwenden Sie ein GAN, wenn Sie realistische synthetische Stichproben – Bildsynthese, Datenerweiterung oder Verteilungsschätzung – aus hochdimensionalen kontinuierlichen Daten wie Bildern oder Audio erzeugen müssen und über einen ausreichend großen Datensatz verfügen (etwa 500 Beobachtungen als Minimum, mit 1000 oder mehr dringend empfohlen). Es wird keine normalverteilte Daten angenommen, aber es erfordert GPU-Ressourcen, und das Gleichgewicht zwischen Generator und Diskriminator muss auf Mode Collapse überwacht werden. Bei kleinen Datensätzen kann das gegnerische Gleichgewicht nicht hergestellt werden; ein Variations-Autoencoder oder ein einfacherer Ansatz zur Datenerweiterung ist sicherer.

Grenzen und Hinweise

  • Das Training ist instabil und anfällig für Mode Collapse, bei dem der Generator nur einen Teil der Datenverteilung abdeckt.
  • Benötigt eine GPU und erhebliche Trainingsdaten – typischerweise mindestens 500 Beobachtungen und in der Praxis 1000 oder mehr.
  • Unter etwa 1000 Stichproben kann das Gleichgewicht zwischen Generator und Diskriminator nicht hergestellt werden und das Risiko von Mode Collapse ist sehr hoch.
  • Unter etwa 500 Stichproben kann das Modell überhaupt keine realistischen Daten erzeugen, und Alternativen zur Erweiterung sind vorzuziehen.

Die Bedingungen der Quelle ersetzen weder eine unabhängige wissenschaftliche Prüfung noch die Validierung durch eine Analyse-Engine.

Stärken

  • Erzeugt hochrealistische synthetische Daten, einschließlich Bilder und Audio.
  • Benötigt keine normalverteilten Daten und verarbeitet hochdimensionale kontinuierliche Eingaben.
  • Nützlich für die Datenerweiterung, wenn echte gelabelte Stichproben knapp sind.
  • Geeignet sowohl für Vorhersage- als auch für explorative Verteilungsschätzungszwecke.

Anwendungen

  • Bildsynthese und die Erzeugung realistischer visueller Inhalte.
  • Datenerweiterung zur Vergrößerung knapper Trainingsdatensätze.
  • Verteilungsschätzung für hochdimensionale kontinuierliche Daten.
  • Audio- und Synthese von Signalen.

So funktioniert es

So funktioniert es

1

Zwei Netzwerke werden mit gegensätzlichen Zielen eingerichtet. Der Generator bildet zufälliges Rauschen auf synthetische Stichproben ab und zielt darauf ab, die reale Datenverteilung nachzuahmen. Der Diskriminator erhält sowohl echte als auch generierte Stichproben und lernt zu klassifizieren, welche welche sind. Da die Daten typischerweise hochdimensional sind (Bilder, Audio), erfordert das Training normalerweise eine GPU.

2

Die beiden Netzwerke werden als Minimax-Spiel zusammen trainiert: Der Diskriminator wird aktualisiert, um seine Fähigkeit, Echt von Falsch zu trennen, zu maximieren, während der Generator aktualisiert wird, um den Erfolg des Diskriminators zu minimieren – das heißt, ihn zu täuschen. Das gemeinsame Ziel koppelt beide Netzwerke, sodass die Verbesserung des einen Druck auf das andere ausübt.

Formel
\min_G \max_D \; \mathbb{E}_{x}[\log D(x)] + \mathbb{E}_{z}[\log(1 - D(G(z)))]
3

Das Training wird fortgesetzt, bis ein Gleichgewicht erreicht ist, bei dem die Stichproben des Generators der realen Verteilung so nahe kommen, dass der Diskriminator sie nicht mehr zuverlässig unterscheiden kann. Das Gleichgewicht zwischen den beiden Netzwerken muss genau überwacht werden, da Instabilität zu Mode Collapse führen kann, bei dem der Generator nur einen schmalen Ausschnitt der möglichen Ausgaben erzeugt.

Häufige Fallstricke

  • Training auf zu wenigen Daten, sodass das gegnerische Gleichgewicht fehlschlägt und Mode Collapse folgt.
  • Nichtüberwachung auf Mode Collapse und Annahme vielfältiger Ausgaben ohne Überprüfung der Stichprobendiversität.
  • Versuch, ohne GPU-Ressourcen für hochdimensionale Bild- oder Audiodaten zu trainieren.
  • Greifen Sie bei einem kleinen Datensatz, bei dem ein Variations-Autoencoder oder eine einfache Erweiterung zuverlässiger wäre, zu einem GAN.

Häufig gestellte Fragen

Was ist Mode Collapse?

Mode Collapse tritt auf, wenn der Generator lernt, nur eine schmale Auswahl von Ausgaben zu erzeugen, die den Diskriminator zuverlässig täuschen, anstatt die gesamte Bandbreite der realen Daten abzudecken. Es ist ein zentraler Fehlermodus beim GAN-Training, insbesondere bei kleinen Datensätzen, und die Stichprobendiversität sollte während des Trainings überwacht werden.

Wie viele Daten benötige ich?

Ein GAN benötigt einen erheblichen Datensatz: etwa 500 Beobachtungen sind ein praktisches Minimum, aber unter etwa 1000 ist das Gleichgewicht zwischen Generator und Diskriminator schwer herzustellen und das Risiko von Mode Collapse ist hoch. Bei sehr wenigen Daten ist ein Variations-Autoencoder oder eine einfachere Erweiterungsmethode die sicherere Wahl.

Benötige ich eine GPU?

In der Praxis ja. GANs arbeiten mit hochdimensionalen Daten wie Bildern und Audio, und das Training der beiden konkurrierenden Netzwerke ist rechenintensiv, sodass eine GPU praktisch erforderlich ist.

Wie unterscheidet sich ein GAN von einem Diffusionsmodell?

Ein GAN generiert durch die gegnerische Konkurrenz zweier Netzwerke, was das Training schnell, aber instabil macht. Diffusionsmodelle lernen stattdessen, einen schrittweisen Verrauschungsprozess umzukehren, und sind zu einer starken Alternative für die hochwertige Generierung geworden.

Verwandte Methoden

Quellen

  1. Goodfellow, I. et al. (2014). Generative Adversarial Nets. NeurIPS.

    Publikationsreferenz öffnen
    Kopiert.
  2. Karras, T. et al. (2020). Analyzing and Improving the Image Quality of StyleGAN. CVPR.

    DOI-Referenz öffnen
    Kopiert.