Textzusammenfassung – Extraktiv und Abstraktiv
- Typ
- NLP text-generation / text-reduction task
Dieser Text ist eine maschinelle Übersetzung und wurde noch nicht geprüft. Original auf Englisch lesen
Was leistet sie?
Die automatische Textzusammenfassung ist eine Aufgabe der natürlichen Sprachverarbeitung, die lange Dokumente zu kürzeren Zusammenfassungen verdichtet, während ihre Schlüsselinformationen erhalten bleiben.
Sie funktioniert über eine von zwei Ansatzfamilien – die extraktive Zusammenfassung, die die wichtigsten Spannen aus der Quelle auswählt, oder die abstraktive Zusammenfassung, die neuen Text generiert. Das Feld wurde von Nenkova und McKeown (2011) konsolidiert, und Sequenz-zu-Sequenz-Modelle wie BART (Lewis et al., 2020) haben die abstraktive Seite vorangebracht.
Die Intuition hinter der Methode
Das Lesen eines langen Dokuments, um dessen Kernbotschaft zu extrahieren, ist langsam und skaliert nicht über viele Dokumente hinweg. Das Ziel der Zusammenfassung ist es, die Schlüsselinformationen zu erhalten, während der Text drastisch gekürzt wird. Ein extraktiver Ansatz verhält sich wie ein Textmarker, der die informativsten Sätze aus der Quelle hervorhebt; ein abstraktiver Ansatz verhält sich eher wie eine Person, die den Kern in weniger Worten umschreibt. So oder so ist das Ergebnis eine kompakte Zusammenfassung, die ein Leser viel schneller erfassen kann als das Original.
Geschichte
Die automatische Zusammenfassung wurde von Nenkova und McKeown (2011) untersucht und konsolidiert, die die Aufgabe der Textreduzierung unter Beibehaltung der Schlüsselinformationen entlang extraktiver und abstraktiver Linien formulierten. Die abstraktive Seite entwickelte sich mit vortrainierten Sequenz-zu-Sequenz-Modellen wie BART (Lewis et al., 2020), die Denoising-Pre-Training zur Generierung verdichteten Textes verwenden, deutlich weiter.
Wann wird sie eingesetzt?
Die Textzusammenfassung ist geeignet, wenn Sie Dokumente haben, die lang genug sind, um eine Verdichtung zu rechtfertigen, und die Quellsprache vom gewählten Ansatz unterstützt wird. Sie eignet sich für deskriptive und explorative Ziele bei Textdaten und arbeitet mit Querschnitts- oder Längsschnittsammlungen. Bei zu wenigen Dokumenten kann ein abstraktives Modell nicht zuverlässig trainiert werden – greifen Sie stattdessen auf die Schlüsselwortextraktion für die Schlüsselinformationen zurück – und ohne Textdaten kann keine Zusammenfassung durchgeführt werden.
Grenzen und Hinweise
- Abstraktive Modelle können bei sehr wenigen Dokumenten nicht zuverlässig trainiert werden.
- Die Leistung hängt davon ab, ob die Quellsprache vom gewählten Ansatz unterstützt wird.
- Dokumente müssen lang genug sein, um aussagekräftigen Inhalt zum Komprimieren zu haben.
Die Bedingungen der Quelle ersetzen weder eine unabhängige wissenschaftliche Prüfung noch die Validierung durch eine Analyse-Engine.
Stärken
- Verdichtet lange Dokumente zu kürzeren Zusammenfassungen, während die Schlüsselinformationen erhalten bleiben.
- Bietet zwei komplementäre Ansätze: extraktive Auswahl von Quellspannen und abstraktive Generierung neuen Textes.
- Skaliert den Leseaufwand über viele oder lange Dokumente, deren vollständiges Lesen langsam wäre.
Anwendungen
- Erstellung kurzer Zusammenfassungen langer Berichte oder Artikel, damit Leser den Kern schnell erfassen.
- Verdichtung großer Dokumentensammlungen für explorative Überprüfungen.
- Generierung von Abstracts oder Kurzfassungen aus umfangreichen Quelltexten.
- Zusammenfassung von Textkorpora in den Geistes-, Sozial-, Wirtschafts- und Naturwissenschaften.
So funktioniert es
So funktioniert es
Ein oder mehrere Quelldokumente ausreichender Länge werden als Eingabe geladen. Die Zusammenfassung benötigt Text mit genügend Inhalt zum Komprimieren, daher bieten sehr kurze Fragmente wenig Reduktionspotenzial; die Methode zielt auf längere Dokumente ab, bei denen die Verdichtung dem Leser tatsächlich Zeit spart.
Der Rohtext wird bereinigt und in analysierbare Einheiten wie Sätze oder Token segmentiert. Da die Quellsprache vom gewählten Ansatz unterstützt werden muss, bestätigt dieser Schritt auch, dass die Dokumentsprache eine ist, die das Modell oder die extraktive Technik verarbeiten kann.
Eine kürzere Zusammenfassung wird erstellt. Ein extraktiver Ansatz bewertet und wählt die wichtigsten Spannen aus dem Quelltext aus, während ein abstraktiver Ansatz ein Sequenz-zu-Sequenz-Modell verwendet, um neue, verdichtete Formulierungen zu generieren. Die Schlüsselinformationen des Originals bleiben erhalten, während die Länge reduziert wird.
Die Zusammenfassung wird auf Abdeckung der Schlüsselinformationen und Länge mit der Quelle abgeglichen, und die Ausgaben werden überprüft, bevor die Methode eingesetzt wird. Dies schützt vor Zusammenfassungen, die wesentliche Inhalte weglassen oder die im abstraktiven Fall Formulierungen einführen, die nicht in der Quelle begründet sind.
Häufige Fallstricke
- Ein abstraktives Modell mit einem zu kleinen Korpus (unter ~100 Dokumenten) ausführen – stattdessen auf Schlüsselwortextraktion zurückgreifen, um die Schlüsselinformationen zu erhalten.
- Die Anwendung der Zusammenfassung auf eine Sprache, die das Modell oder die extraktive Technik nicht unterstützt, verschlechtert die Ausgabe.
- Versuch, zusammenzufassen, wenn keine echten Textdaten vorhanden sind; bei strukturierten Daten sind deskriptive Statistiken die geeignete Alternative.
- Einer Zusammenfassung vertrauen, ohne sie mit der Quelle auf weggelassene Schlüsselinformationen oder, im abstraktiven Fall, unbegründete Formulierungen zu überprüfen.
Häufig gestellte Fragen
Extraktiv oder abstraktiv – was soll ich verwenden?
Die extraktive Zusammenfassung wählt die wichtigsten Spannen direkt aus der Quelle aus und fügt sie zusammen, sodass sie dem Originalwortlaut treu bleibt. Die abstraktive Zusammenfassung verwendet ein Sequenz-zu-Sequenz-Modell, um neuen, verdichteten Text zu generieren, der natürlicher klingen kann, aber ein trainiertes Modell und genügend Daten erfordert. Extraktiv ist die sicherere Standardeinstellung bei kleinen oder sensiblen Korpora; abstraktiv eignet sich für größere Sammlungen, bei denen eine natürliche Umformulierung wichtig ist.
Wie viele Dokumente benötige ich?
Die Zusammenfassung zielt auf Dokumente ausreichender Länge ab, mit einem praktischen Minimum von etwa 20. Das Training oder die Verlassung auf ein abstraktives Modell bei weniger als etwa 100 Dokumenten ist unzuverlässig; in diesem Fall verwenden Sie stattdessen die Schlüsselwortextraktion, um die Schlüsselinformationen zu erfassen.
Funktioniert es auch in anderen Sprachen als Englisch?
Ja, vorausgesetzt, die Quellsprache wird vom gewählten Ansatz unterstützt. Die Anwendung eines Modells oder einer extraktiven Technik auf eine nicht unterstützte Sprache ist eine häufige Ursache für schlechte Zusammenfassungen.
Was ist, wenn ich keine Textdaten habe?
Ohne Text kann keine Zusammenfassung durchgeführt werden. Wenn Ihre Daten strukturiert und nicht freier Text sind, sind deskriptive Statistiken die geeignete Alternative, um deren Schlüsselinformationen zu vermitteln.
Verwandte Methoden
Quellen
Nenkova, A. & McKeown, K. (2011). Automatic Summarization. Foundations and Trends in Information Retrieval.
DOI-Referenz öffnenKopiert.Lewis, M. et al. (2020). BART: Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension. ACL.
DOI-Referenz öffnenKopiert.