Synthèse de texte — extractive et abstractive
- Type
- NLP text-generation / text-reduction task
Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais
À quoi sert-elle ?
La synthèse automatique de texte est une tâche de traitement du langage naturel qui condense de longs documents en résumés plus courts tout en préservant leurs informations clés.
Elle fonctionne selon l'une des deux familles d'approches — la synthèse extractive, qui sélectionne les passages les plus importants de la source, ou la synthèse abstractive, qui génère du nouveau texte. Le domaine a été consolidé par Nenkova et McKeown (2011), et les modèles séquence-à-séquence tels que BART (Lewis et al., 2020) ont fait progresser le côté abstractif.
L’intuition derrière la méthode
Lire un long document pour en extraire le message principal est lent et ne permet pas de traiter de nombreux documents. L'objectif de la synthèse est de conserver les informations clés tout en rendant le texte considérablement plus court. Une approche extractive se comporte comme un surligneur, extrayant les phrases les plus informatives de la source ; une approche abstractive se comporte davantage comme une personne réécrivant l'essentiel en moins de mots. Dans les deux cas, le résultat est un résumé compact qu'un lecteur peut assimiler beaucoup plus rapidement que l'original.
Histoire
La synthèse automatique a été examinée et consolidée par Nenkova et McKeown (2011), qui ont défini la tâche de réduction de texte tout en préservant ses informations clés selon des lignes extractives et abstractives. Le côté abstractif a considérablement progressé avec les modèles pré-entraînés séquence-à-séquence tels que BART (Lewis et al., 2020), qui utilisent un pré-entraînement par débruitage pour générer du texte condensé.
Quand l’utiliser
La synthèse de texte est pertinente lorsque vous avez des documents suffisamment longs pour mériter d'être condensés et que la langue source est prise en charge par l'approche choisie. Elle convient aux objectifs descriptifs et exploratoires sur des données textuelles, en travaillant sur des collections transversales ou longitudinales. Avec trop peu de documents, un modèle abstractif ne peut pas être entraîné de manière fiable — revenez à l'extraction de mots-clés pour les informations clés — et sans aucune donnée textuelle, la synthèse ne peut pas fonctionner.
Limites et points d’attention
- Les modèles abstractifs ne peuvent pas être entraînés de manière fiable sur très peu de documents.
- Les performances dépendent de la prise en charge de la langue source par l'approche choisie.
- Les documents doivent être suffisamment longs pour contenir un contenu significatif à compresser.
Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.
Points forts
- Condense de longs documents en résumés plus courts tout en préservant les informations clés.
- Offre deux approches complémentaires : la sélection extractive de passages sources et la génération abstractive de nouveau texte.
- Permet de traiter un effort de lecture sur de nombreux documents ou des documents longs qui seraient lents à lire en entier.
Applications
- Produire de courts résumés de longs rapports ou articles afin que les lecteurs en assimilent rapidement l'essentiel.
- Condenser de grandes collections de documents pour une revue exploratoire.
- Générer des résumés ou des briefs à partir de textes sources longs.
- Synthétiser des corpus textuels dans les domaines des sciences humaines, des sciences sociales, des affaires et des sciences naturelles.
Comment ça marche
Comment ça marche
Un ou plusieurs documents sources de longueur suffisante sont chargés en entrée. La synthèse nécessite un texte avec suffisamment de contenu à compresser, de sorte que les fragments très courts offrent peu à réduire ; la méthode cible les documents plus longs où la condensation fait réellement gagner du temps au lecteur.
Le texte brut est nettoyé et segmenté en unités analysables telles que des phrases ou des jetons. Comme la langue source doit être prise en charge par l'approche choisie, cette étape confirme également que la langue du document est l'une de celles que le modèle ou la technique extractive peut gérer.
Un résumé plus court est produit. Une approche extractive attribue des scores et sélectionne les passages les plus importants du texte source, tandis qu'une approche abstractive utilise un modèle séquence-à-séquence pour générer une nouvelle formulation condensée. Les informations clés de l'original sont préservées tandis que la longueur est réduite.
Le résumé est vérifié par rapport à la source pour la couverture des informations clés et pour la longueur, et les sorties sont inspectées avant que la méthode ne soit mise en œuvre. Cela évite les résumés qui omettent du contenu essentiel ou qui, dans le cas abstractif, introduisent une formulation non fondée sur la source.
Pièges courants
- Exécuter un modèle abstractif sur un corpus trop petit (moins d'environ 100 documents) — revenez à l'extraction de mots-clés pour obtenir les informations clés à la place.
- Appliquer la synthèse à une langue que le modèle ou la technique extractive ne prend pas en charge dégrade la sortie.
- Essayer de synthétiser lorsqu'il n'y a pas de données textuelles réelles ; avec des données structurées, les statistiques descriptives sont l'alternative appropriée.
- Faire confiance à un résumé sans le vérifier par rapport à la source pour les informations clés omises ou, dans le cas abstractif, pour la formulation non prise en charge.
Questions fréquentes
Extractive ou abstractive — laquelle devrais-je utiliser ?
La synthèse extractive sélectionne et assemble les passages les plus importants directement de la source, elle reste donc fidèle à la formulation originale. La synthèse abstractive utilise un modèle séquence-à-séquence pour générer un nouveau texte condensé, qui peut sembler plus naturel mais nécessite un modèle entraîné et suffisamment de données. L'approche extractive est la plus sûre par défaut sur des corpus petits ou sensibles ; l'approche abstractive convient aux collections plus importantes où la réécriture naturelle est importante.
Combien de documents me faut-il ?
La synthèse cible les documents de longueur suffisante, avec un minimum pratique d'environ 20. Entraîner ou s'appuyer sur un modèle abstractif avec moins d'environ 100 documents est peu fiable ; dans ce cas, utilisez l'extraction de mots-clés pour capturer les informations clés à la place.
Fonctionne-t-elle dans d'autres langues que l'anglais ?
Oui, à condition que la langue source soit prise en charge par l'approche choisie. Appliquer un modèle ou une technique extractive à une langue non prise en charge est une cause fréquente de résumés médiocres.
Et si je n'ai pas de données textuelles ?
La synthèse ne peut pas fonctionner sans texte. Si vos données sont structurées plutôt que du texte libre, les statistiques descriptives sont l'alternative appropriée pour transmettre leurs informations clés.
Méthodes associées
Sources
Nenkova, A. & McKeown, K. (2011). Automatic Summarization. Foundations and Trends in Information Retrieval.
Ouvrir la référence DOICopié.Lewis, M. et al. (2020). BART: Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension. ACL.
Ouvrir la référence DOICopié.