Skip to content
Torna ai risultati

Classificazione del testo — Categorizzazione del testo

Tipo
Supervised NLP classification task

Questo testo è una traduzione automatica e non è ancora stato revisionato. Leggi l’originale in inglese

Dimensione del carattere

A cosa serve?

La classificazione del testo, detta anche categorizzazione del testo, è un compito di elaborazione del linguaggio naturale (NLP) supervisionato che assegna automaticamente documenti a categorie predefinite.

Basandosi sull'approccio delle macchine a vettori di supporto (SVM) alla categorizzazione del testo stabilito da Joachims (1998) e consolidato nella letteratura sul text mining da Aggarwal e Zhai (2012), potenzia attività quali il rilevamento dello spam e la classificazione per argomento, apprendendo da esempi etichettati.

L’intuizione alla base del metodo

Quando si dispone di molti documenti, ciascuno appartenente a una di un insieme fisso di categorie, ordinarli manualmente non è scalabile. La classificazione del testo apprende i pattern che separano una categoria dall'altra da un insieme di esempi già etichettati, quindi applica tali pattern per etichettare automaticamente nuovi documenti non visti, in modo molto simile all'insegnamento di un selezionatore mostrando pile pre-ordinate e lasciandolo archiviare il resto.

Storia

La classificazione del testo è diventata un problema di riferimento nell'apprendimento automatico grazie a Joachims (1998), che ha dimostrato come le macchine a vettori di supporto gestiscano bene le molte caratteristiche rilevanti della categorizzazione del testo. Aggarwal e Zhai (2012) hanno successivamente consolidato il campo nell'ambito più ampio della letteratura sul text mining, e il compito rimane un blocco fondamentale dell'elaborazione del linguaggio naturale applicata.

Quando usarlo

Utilizzare la classificazione del testo quando si hanno dati testuali ordinati in categorie predefinite e un set di addestramento etichettato da cui apprendere. Richiede almeno circa 100 documenti etichettati e si preferisce una distribuzione equilibrata delle classi in modo che il classificatore possa apprendere ciascuna categoria. Con meno di circa 100 documenti, il classificatore tende all'overfitting, quindi un approccio di classificazione zero-shot è più sicuro; senza alcun dato testuale, il metodo non può essere eseguito e la classificazione generale su variabili categoriali è l'alternativa.

Limiti e considerazioni

  • Richiede dati di addestramento etichettati, che possono essere costosi da produrre.
  • Si preferisce una distribuzione equilibrata delle classi; classi sbilanciate rendono alcune categorie difficili da apprendere.
  • Necessita di un corpus di dimensioni ragionevoli (circa 100 documenti o più) per evitare l'overfitting.

Le condizioni della fonte non sostituiscono una revisione scientifica indipendente né la validazione da parte di un motore di analisi.

Punti di forza

  • Automatizza l'etichettatura di grandi raccolte di documenti che sarebbero impraticabili da ordinare manualmente.
  • Si adatta a molti compiti — rilevamento dello spam, classificazione per argomento e problemi di categorizzazione simili — attraverso lo stesso pipeline supervisionato.
  • Apprende pattern specifici del dominio direttamente da esempi etichettati anziché fare affidamento su regole fisse.

Applicazioni

  • Rilevamento dello spam — separare messaggi indesiderati da quelli legittimi.
  • Classificazione per argomento — instradare documenti o articoli in categorie tematiche.
  • Organizzazione e smistamento di grandi raccolte di documenti per categoria.
  • Compiti di previsione e classificazione in corpora testuali di sanità, scienze sociali, istruzione, ingegneria, scienze naturali e affari.

Come funziona

Come funziona

1

Iniziare da un corpus di documenti in cui ogni esempio porta già una delle etichette di categoria predefinite. Questi dati di addestramento etichettati sono il fondamento del compito supervisionato; più equilibrata è la distribuzione delle classi, più affidabilmente il classificatore apprende ciascuna categoria.

2

Il testo grezzo viene pulito e standardizzato in modo che i documenti diventino comparabili: il rumore viene rimosso e il contenuto viene normalizzato e segmentato in unità analizzabili. Saltare questo passaggio consente ai token rumorosi di degradare tutto ciò che segue.

3

Il testo pulito viene trasformato in caratteristiche numeriche che il classificatore può leggere, ad esempio rappresentazioni di frequenza dei termini che catturano quali parole distinguono le categorie. Questo converte le parole nei numeri su cui opera l'algoritmo di apprendimento.

4

Un classificatore supervisionato viene adattato sui dati di addestramento etichettati e vettorializzati, apprendendo l'associazione tra le caratteristiche del testo e le etichette delle categorie in modo da poter assegnare un'etichetta a ciascun nuovo documento.

5

Il modello addestrato viene valutato su dati etichettati tenuti da parte e le sue errate classificazioni vengono ispezionate prima della distribuzione. Poiché le classi sbilanciate rendono l'accuratezza grezza fuorviante, le prestazioni vengono giudicate sulle categorie che il modello intende separare.

Errori comuni

  • L'addestramento su pochi documenti (meno di ~100) causa overfitting sul piccolo set di addestramento; preferire invece un approccio di classificazione zero-shot.
  • Saltare la pre-elaborazione del testo consente ai token rumorosi di degradare le caratteristiche e il modello.
  • Le classi sbilanciate rendono l'accuratezza semplice fuorviante; ispezionare le prestazioni per categoria piuttosto che fidarsi di una singola cifra di accuratezza.
  • Applicare il metodo quando non ci sono affatto dati testuali — ripiegare sulla classificazione generale su variabili categoriali.

Domande frequenti

Di quanti dati etichettati ho bisogno?

Prevedere almeno circa 100 documenti etichettati. Al di sotto di tale soglia, il classificatore tende all'overfitting sul piccolo set di addestramento, quindi un approccio di classificazione zero-shot è la scelta più sicura.

Il bilanciamento delle classi è importante?

Sì. Si preferisce una distribuzione equilibrata delle classi in modo che il classificatore possa apprendere ciascuna categoria in modo affidabile. Con classi sbilanciate, giudicare le prestazioni per categoria piuttosto che fare affidamento sull'accuratezza complessiva.

Cosa succede se non ho dati testuali?

La classificazione del testo non può essere eseguita senza testo. Se le tue variabili sono categoriali, utilizza metodi di classificazione generali su tali dati strutturati.

In cosa differisce dal clustering di documenti?

La classificazione del testo è supervisionata: assegna documenti a categorie predefinite apprese da esempi etichettati. Il clustering di documenti è non supervisionato e raggruppa documenti simili senza etichette predefinite.

Metodi correlati

Fonti

  1. Joachims, T. (1998). Text Categorization with Support Vector Machines: Learning with Many Relevant Features. ECML 1998. Lecture Notes in Computer Science, vol 1398. Springer.

    Apri il riferimento DOI
    Copiato.
  2. Aggarwal, C. C. & Zhai, C. (2012). Mining Text Data. Springer.

    ISBN: 978-1-4614-3222-7
    Copiato.