Skip to content
Retour aux résultats

Similarité sémantique — Mesurer le sens entre les textes

Introduite par
Nils Reimers & Iryna Gurevych (Sentence-BERT)
Année
2019
Type
NLP text-comparison task

Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais

Taille de police

À quoi sert-elle ?

L'analyse de similarité sémantique mesure la proximité de sens entre deux textes, plutôt que le nombre de mots qu'ils partagent en surface.

S'appuyant sur les travaux de Reimers et Gurevych (2019) sur Sentence-BERT, elle représente chaque texte comme un vecteur et compare ces vecteurs de sorte que les paraphrases obtiennent un score élevé même lorsque leur formulation diffère.

L’intuition derrière la méthode

Deux phrases peuvent utiliser des mots complètement différents tout en exprimant la même idée, tandis que deux autres peuvent partager des mots mais signifier quelque chose de différent. Le comptage des mots qui se chevauchent ne permet pas de saisir cette nuance. L'idée ici est de placer chaque texte à un point dans un espace sémantique — en utilisant un modèle d'intégration (embedding model) — de sorte que les textes ayant un sens similaire se retrouvent proches les uns des autres. La distance entre ces points devient alors un score de similarité : élevé pour les paraphrases, faible pour les passages non liés.

Histoire

La similarité sémantique est née des tâches partagées de similarité textuelle sémantique (Semantic Textual Similarity) introduites à *SEM et SemEval (Agirre et al., 2013), qui ont formulé le problème de l'évaluation de la ressemblance de sens entre deux phrases. Le domaine a progressé rapidement avec Sentence-BERT (Reimers & Gurevych, 2019), qui a produit des intégrations de phrases (sentence embeddings) pouvant être comparées directement avec la similarité cosinus, rendant la comparaison sémantique à grande échelle pratique.

Quand l’utiliser

Utilisez la similarité sémantique lorsque vous avez des paires de textes et que vous voulez savoir à quel point ils sont proches en sens plutôt que le nombre de mots qu'ils partagent — pour la détection de plagiat et de doublons, la correspondance de paragraphes ou la recherche d'informations. Elle nécessite un modèle d'intégration qui prend en charge la langue des textes et au moins un petit ensemble de paires de textes à comparer ; sans données textuelles, elle ne peut pas fonctionner.

Limites et points d’attention

  • Nécessite des paires de textes à comparer ; elle ne s'applique pas lorsqu'il n'y a pas de données textuelles.
  • La qualité dépend entièrement du modèle d'intégration correspondant à la langue des textes.
  • Un score de similarité reflète la notion de sens du modèle, qui peut ne pas correspondre à une définition « identique » spécifique à un domaine ou légale.

Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.

Points forts

  • Capture le sens plutôt que le chevauchement de mots en surface, de sorte que les paraphrases avec une formulation différente sont toujours considérées comme similaires.
  • Fonctionne dans plusieurs langues lorsqu'un modèle d'intégration multilingue est utilisé.
  • Produit un score unique et comparable par paire, facile à seuiller pour des tâches comme la détection de doublons ou la récupération.

Applications

  • Détection de plagiat et de copie en comparant le texte soumis à des sources de référence.
  • Correspondance de paragraphes et de passages entre documents.
  • Recherche d'informations — classement des documents par proximité de sens par rapport à une requête.
  • Déduplication de contenu quasi identique dans de grandes collections de textes.

Comment ça marche

Comment ça marche

1

Vous partez de paires de textes que vous souhaitez comparer — par exemple un paragraphe soumis par rapport à un passage de référence, ou une requête par rapport à des documents candidats. Au moins un ensemble modeste de paires est nécessaire pour que la comparaison soit significative, et les deux membres de chaque paire doivent être disponibles ensemble.

2

Chaque texte est traité par un modèle d'intégration (embedding model) qui le transforme en un vecteur numérique capturant son sens. Le modèle d'intégration doit prendre en charge la langue de vos textes ; un modèle d'intégration de phrases multilingue est utilisé lorsque le corpus n'est pas en anglais. C'est cette étape qui permet aux paraphrases avec des mots différents de se mapper à des vecteurs proches.

3

Les vecteurs des deux textes sont comparés, le plus souvent avec la similarité cosinus, produisant un nombre unique qui résume la proximité de sens des textes. Des valeurs plus élevées indiquent un sens plus proche ; le score est borné et comparable entre les paires.

4

Les scores de similarité sont interprétés dans leur contexte — signalant des copies probables, classant des paragraphes correspondants ou récupérant les passages les plus pertinents. Un seuil est généralement choisi pour la tâche à accomplir, et les paires limites sont inspectées avant qu'une décision ne soit prise.

Pièges courants

  • L'application d'un modèle d'intégration qui ne prend pas en charge la langue du corpus produit des scores peu fiables ; faites correspondre le modèle à la langue.
  • Traiter un score de similarité comme un verdict définitif — choisissez un seuil approprié à la tâche et inspectez les paires limites plutôt que de vous fier uniquement au nombre.
  • Comparer trop peu de paires offre peu de base pour choisir un seuil judicieux.

Questions fréquentes

En quoi cela diffère-t-il de la comparaison de mots partagés ?

Les mesures de chevauchement de mots ne comptent que les jetons correspondants, elles ne détectent donc pas les paraphrases qui ont le même sens avec des mots différents. La similarité sémantique intègre chaque texte dans un espace sémantique et compare les vecteurs, de sorte que la proximité de sens est capturée même lorsque la formulation diffère.

Cela fonctionne-t-il dans d'autres langues que l'anglais ?

Oui, à condition que le modèle d'intégration prenne en charge la langue cible. Un modèle d'intégration de phrases multilingue est utilisé lorsque le corpus n'est pas en anglais ; l'application d'un modèle qui ne couvre pas la langue donne des scores peu fiables.

Comment transformer un score de similarité en décision ?

Choisissez un seuil adapté à la tâche — par exemple un seuil élevé pour signaler les copies probables — et inspectez les paires limites avant d'agir. Le score brut est comparable entre les paires mais n'est pas en soi un verdict.

Comment le score de similarité est-il calculé ?

Chaque texte est encodé en un vecteur par un modèle d'intégration, et les deux vecteurs sont comparés, le plus souvent avec la similarité cosinus, produisant un nombre borné unique où des valeurs plus élevées signifient un sens plus proche.

Méthodes associées

Sources

  1. Reimers, N. & Gurevych, I. (2019). Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks. EMNLP.

    Ouvrir la référence de la publication
    Copié.
  2. Agirre, E. et al. (2013). *SEM 2013 shared task: Semantic Textual Similarity. ACL (*SEM).

    Ouvrir la référence de la publication
    Copié.