Streszczanie tekstu — ekstraktywne i abstrakcyjne
- Typ
- NLP text-generation / text-reduction task
Ten tekst jest tłumaczeniem maszynowym i nie został jeszcze sprawdzony. Przeczytaj oryginał po angielsku
Do czego służy?
Automatyczne streszczanie tekstu to zadanie z zakresu przetwarzania języka naturalnego, które polega na kondensowaniu długich dokumentów w krótsze streszczenia przy jednoczesnym zachowaniu ich kluczowych informacji.
Działa ono poprzez jedno z dwóch podejść — streszczanie ekstraktywne, które wybiera najważniejsze fragmenty ze źródła, lub streszczanie abstrakcyjne, które generuje nowy tekst. Dziedzinę tę skonsolidowały Nenkova i McKeown (2011), a modele sekwencyjno-sekwencyjne, takie jak BART (Lewis et al., 2020), rozwinęły stronę abstrakcyjną.
Intuicja stojąca za metodą
Czytanie długiego dokumentu w celu wydobycia jego głównego przesłania jest czasochłonne i nie skaluje się na wiele dokumentów. Celem streszczania jest zachowanie kluczowych informacji przy jednoczesnym znacznym skróceniu tekstu. Podejście ekstraktywne działa jak zakreślacz, wydobywając najbardziej informacyjne zdania ze źródła; podejście abstrakcyjne bardziej przypomina osobę przepisującą istotę w mniejszej liczbie słów. W obu przypadkach wynikiem jest zwięzłe streszczenie, które czytelnik może przyswoić znacznie szybciej niż oryginał.
Historia
Automatyczne streszczanie zostało przeanalizowane i skonsolidowane przez Nenkova i McKeown (2011), którzy ujęli zadanie redukcji tekstu przy jednoczesnym zachowaniu jego kluczowych informacji w kategoriach ekstraktywnych i abstrakcyjnych. Strona abstrakcyjna znacznie się rozwinęła dzięki wstępnie wytrenowanym modelom sekwencyjno-sekwencyjnym, takim jak BART (Lewis et al., 2020), które wykorzystują wstępne trenowanie przez odszumianie do generowania skondensowanego tekstu.
Kiedy stosować
Streszczanie tekstu sprawdza się, gdy dysponujemy dokumentami wystarczająco długimi, aby warto było je skondensować, a język źródłowy jest obsługiwany przez wybrane podejście. Nadaje się do celów opisowych i eksploracyjnych w odniesieniu do danych tekstowych, działając na kolekcjach przekrojowych lub podłużnych. Przy zbyt małej liczbie dokumentów model abstrakcyjny nie może być niezawodnie trenowany — w celu uzyskania kluczowych informacji należy zastosować ekstrakcję słów kluczowych, a przy braku jakichkolwiek danych tekstowych streszczanie nie może zostać przeprowadzone.
Ograniczenia i uwagi
- Modele abstrakcyjne nie mogą być niezawodnie trenowane na bardzo małej liczbie dokumentów.
- Wydajność zależy od tego, czy język źródłowy jest obsługiwany przez wybrane podejście.
- Dokumenty muszą być wystarczająco długie, aby zawierały znaczącą treść do skompresowania.
Warunki podane w źródle nie zastępują niezależnego przeglądu naukowego ani walidacji przez silnik analityczny.
Mocne strony
- Kondensuje długie dokumenty w krótsze streszczenia, zachowując kluczowe informacje.
- Oferuje dwa uzupełniające się podejścia: ekstraktywne wybieranie fragmentów źródłowych i abstrakcyjne generowanie nowego tekstu.
- Skaluje wysiłek czytelniczy na wiele lub długich dokumentów, których pełne przeczytanie byłoby czasochłonne.
Zastosowania
- Tworzenie krótkich streszczeń długich raportów lub artykułów, aby czytelnicy szybko przyswoili sobie istotę.
- Kondensowanie dużych kolekcji dokumentów do przeglądu eksploracyjnego.
- Generowanie abstraktów lub notatek z długiego tekstu źródłowego.
- Streszczanie korpusów tekstowych w badaniach humanistycznych, społecznych, biznesowych i przyrodniczych.
Jak to działa
Jak to działa
Jako dane wejściowe ładowane są jeden lub więcej dokumentów źródłowych o wystarczającej długości. Streszczanie wymaga tekstu z wystarczającą ilością treści do skompresowania, dlatego bardzo krótkie fragmenty oferują niewiele możliwości redukcji; metoda ta jest ukierunkowana na dłuższe dokumenty, gdzie kondensacja rzeczywiście oszczędza czas czytelnika.
Surowy tekst jest czyszczony i dzielony na jednostki analityczne, takie jak zdania lub tokeny. Ponieważ język źródłowy musi być obsługiwany przez wybrane podejście, ten krok potwierdza również, że język dokumentu jest jednym z tych, które model lub technika ekstraktywna potrafi obsłużyć.
Generowane jest krótsze streszczenie. Podejście ekstraktywne ocenia i wybiera najważniejsze fragmenty z tekstu źródłowego, podczas gdy podejście abstrakcyjne wykorzystuje model sekwencyjno-sekwencyjny do generowania nowego, skondensowanego tekstu. Kluczowe informacje oryginału są zachowane, a długość zredukowana.
Streszczenie jest sprawdzane w stosunku do źródła pod kątem pokrycia kluczowych informacji i długości, a wyniki są inspekcjonowane przed wdrożeniem metody. Zapobiega to powstawaniu streszczeń, które pomijają istotne treści lub które, w przypadku podejścia abstrakcyjnego, wprowadzają sformułowania nieoparte na źródle.
Częste pułapki
- Uruchamianie modelu abstrakcyjnego na zbyt małym korpusie (poniżej ok. 100 dokumentów) — zamiast tego należy zastosować ekstrakcję słów kluczowych w celu uzyskania kluczowych informacji.
- Zastosowanie streszczania do języka, który nie jest obsługiwany przez model lub technikę ekstraktywną, pogarsza jakość wyników.
- Próba streszczania, gdy nie ma rzeczywistych danych tekstowych; w przypadku danych strukturalnych odpowiednią alternatywą są statystyki opisowe.
- Ufanie streszczeniu bez sprawdzenia go w stosunku do źródła pod kątem pominiętych kluczowych informacji lub, w przypadku podejścia abstrakcyjnego, nieobsługiwanych sformułowań.
Najczęściej zadawane pytania
Ekstraktywne czy abstrakcyjne — którego powinienem użyć?
Streszczanie ekstraktywne wybiera i łączy najważniejsze fragmenty bezpośrednio ze źródła, dzięki czemu pozostaje wierne oryginalnemu sformułowaniu. Streszczanie abstrakcyjne wykorzystuje model sekwencyjno-sekwencyjny do generowania nowego, skondensowanego tekstu, który może brzmieć bardziej naturalnie, ale wymaga wytrenowanego modelu i wystarczającej ilości danych. Podejście ekstraktywne jest bezpieczniejszym domyślnym wyborem dla małych lub wrażliwych korpusów; podejście abstrakcyjne nadaje się do większych kolekcji, gdzie liczy się naturalne przepisanie.
Ile dokumentów potrzebuję?
Streszczanie jest ukierunkowane na dokumenty o wystarczającej długości, z praktycznym minimum około 20. Trenowanie lub poleganie na modelu abstrakcyjnym na podstawie mniej niż około 100 dokumentów jest zawodne; w takim przypadku należy zamiast tego zastosować ekstrakcję słów kluczowych w celu uzyskania kluczowych informacji.
Czy działa w językach innych niż angielski?
Tak, pod warunkiem, że język źródłowy jest obsługiwany przez wybrane podejście. Zastosowanie modelu lub techniki ekstraktywnej do nieobsługiwanego języka jest częstą przyczyną słabych streszczeń.
Co jeśli nie mam danych tekstowych?
Streszczanie nie może być przeprowadzone bez tekstu. Jeśli dane są strukturalne, a nie swobodny tekst, statystyki opisowe są odpowiednią alternatywą do przekazania ich kluczowych informacji.
Pokrewne metody
Źródła
Nenkova, A. & McKeown, K. (2011). Automatic Summarization. Foundations and Trends in Information Retrieval.
Otwórz odnośnik DOISkopiowano.Lewis, M. et al. (2020). BART: Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension. ACL.
Otwórz odnośnik DOISkopiowano.