Przejdź do treści
Wróć do wyników wyszukiwania

Rozpoznawanie nazw własnych (NER)

Typ
NLP sequence-labelling task

Ten tekst jest tłumaczeniem maszynowym i nie został jeszcze sprawdzony. Przeczytaj oryginał po angielsku

Rozmiar czcionki

Do czego służy?

Rozpoznawanie nazw własnych (NER) to zadanie z zakresu przetwarzania języka naturalnego, które automatycznie wykrywa i oznacza encje w tekście — takie jak osoby, organizacje, lokalizacje i daty.

Przegląd tej metody przeprowadzili Nadeau i Sekine (2007), a rozwój architektur neuronowych nastąpił dzięki Lample et al. (2016); zadanie to przekształca swobodny tekst w oznaczone fragmenty, które mogą być wykorzystane przez narzędzia niższego poziomu.

Intuicja stojąca za metodą

Dokument zawiera nazwy, miejsca i daty zapisane zwykłym językiem, jednak dla maszyny jest to jedynie strumień słów. Celem NER jest odnalezienie fragmentów tekstu odnoszących się do encji ze świata rzeczywistego i przypisanie każdemu z nich odpowiedniej etykiety typu. Zamiast człowieka ręcznie zaznaczającego nazwy, metoda skanuje tekst, decyduje, które słowa tworzą encję, i oznacza ją jako osobę, organizację, lokalizację, datę itd.

Historia

Rozpoznawanie nazw własnych zostało skonsolidowane jako zadanie w przeglądzie Nadeau i Sekine (2007), który omawiał metody oparte na regułach i cechach. Praca Lample et al. (2016) na konferencji NAACL wprowadziła następnie architektury neuronowe dla NER, przesuwając dziedzinę w kierunku modeli etykietowania sekwencji, które uczą się reprezentacji kontekstowych, zamiast polegać na ręcznie tworzonych cechach.

Kiedy stosować

NER sprawdza się, gdy dysponujemy danymi tekstowymi i modelem językowym obsługującym język tych tekstów, po zastosowaniu preprocessingu. Potrzebna jest rozsądna ilość tekstu; przy bardzo małym korpusie model działa słabo i bezpieczniejszym wyborem jest prosta ekstrakcja słów kluczowych oparta na regułach.

Ograniczenia i uwagi

  • Na małym korpusie wydajność modelu spada, a prosta ekstrakcja słów kluczowych oparta na regułach staje się lepszą opcją.
  • Wydajność zależy od tego, czy model językowy obsługuje docelowy język tekstu.
  • Wymaga preprocessingu; bez czystej tokenizacji granice encji są wykrywane nierzetelnie.

Warunki podane w źródle nie zastępują niezależnego przeglądu naukowego ani walidacji przez silnik analityczny.

Mocne strony

  • Przekształca nieustrukturyzowany tekst w ustrukturyzowane, typowane fragmenty encji, które mogą być wykorzystane przez zadania niższego poziomu.
  • Obejmuje wiele podejść: dopasowywanie oparte na regułach dla małych problemów, neuronowe etykietowanie sekwencji dla dużych.
  • Identyfikuje kilka klas encji — osoby, organizacje, lokalizacje, daty — w jednym przebiegu przez tekst.

Zastosowania

  • Ekstrakcja osób, organizacji i lokalizacji z wiadomości i raportów w celu indeksowania.
  • Identyfikacja nazw własnych w tekstach klinicznych lub biomedycznych w celu tworzenia ustrukturyzowanych rekordów.
  • Wydobywanie wzmianek o firmach, miejscach i datach z dużych zbiorów dokumentów.
  • Przekazywanie oznaczonych encji do dalszych potoków ekstrakcji informacji i relacji.

Jak to działa

Jak to działa

1

Surowy tekst jest czyszczony i dzielony na jednostki analityczne — zdania są dzielone, a słowa tokenizowane — tak, aby granice encji mogły być konsekwentnie wykrywane. Wybrany model językowy musi obsługiwać docelowy język, aby zadanie to mogło zostać wykonane.

2

Każdy token jest konwertowany na cechy, które model może odczytać. W zależności od podejścia oznacza to ręcznie tworzone reguły i słowniki (gazetteers), klasyczne wektory cech lub kontekstowe osadzenia (embeddings) z modelu neuronowego — każde z nich dostarcza sygnału potrzebnego do rozpoznania encji.

3

Model przypisuje etykietę typu encji do każdego fragmentu tokenów. Podejście oparte na regułach dopasowuje wzorce i słowniki, podejście oparte na uczeniu maszynowym wykorzystuje wytrenowany sekwencyjny labeller, a podejście neuronowe stosuje architekturę wychwytującą kontekst. Wynikiem jest zbiór fragmentów tekstu oznaczonych typami, takimi jak osoba, organizacja, lokalizacja i data.

4

Oznaczone fragmenty są oceniane w odniesieniu do danych z etykietami przy użyciu precyzji (precision), kompletności (recall) i miary F1, a błędne lub pominięte encje są analizowane przed poleganiem na modelu. Zapobiega to zaufaniu do taggera, który bez ostrzeżenia pomija całą klasę encji.

Częste pułapki

  • Uruchamianie NER na małym korpusie (poniżej ok. 100 dokumentów), gdzie model działa poniżej oczekiwań — zamiast tego należy zastosować ekstrakcję słów kluczowych opartą na regułach.
  • Zastosowanie modelu, który nie obsługuje języka korpusu, co obniża jakość rozpoznawania.
  • Pominięcie preprocessingu, co powoduje, że zaszumiony lub słabo tokenizowany tekst zaburza granice encji.
  • Ocena taggera wyłącznie na podstawie dokładności, gdy pomijana jest cała klasa encji; należy raportować precyzję, kompletność i F1 oraz analizować pominięte encje.

Najczęściej zadawane pytania

Oparte na regułach, uczenie maszynowe czy neuronowe — które podejście wybrać?

Podejście oparte na regułach dopasowuje wzorce i słowniki i działa dla małych problemów bez oznakowanych danych. Sekwencyjny labeller oparty na uczeniu maszynowym uczy się na podstawie oznakowanych przykładów i dostosowuje się do domeny użytkownika. Podejście neuronowe wykorzystuje architektury kontekstowe i zazwyczaj działa najlepiej na dużych korpusach, przy wyższych kosztach obliczeniowych.

Co się stanie, jeśli mój korpus jest bardzo mały?

Na małym korpusie (około poniżej 100 dokumentów) wydajność modelu NER spada. W takim przypadku prostsze podejście ekstrakcji słów kluczowych oparte na regułach jest preferowane nad pełnym modelem rozpoznawania encji.

Czy NER działa w językach innych niż angielski?

Tak, ale wybrany model językowy musi obsługiwać docelowy język tekstu. Model, który nie obejmuje języka korpusu, jest częstą przyczyną słabego rozpoznawania.

Jak ocenia się NER?

Oznaczone fragmenty są porównywane z danymi z etykietami przy użyciu precyzji, kompletności i F1. Analiza pominiętych i błędnych encji jest ważna, ponieważ tagger może cicho zawieść w wykrywaniu całej klasy encji, jednocześnie wyglądając na ogólnie dokładny.

Pokrewne metody

Źródła

  1. Nadeau, D. & Sekine, S. (2007). A survey of named entity recognition. Lingvisticae Investigationes.

    Otwórz odnośnik do publikacji
    Skopiowano.
  2. Lample, G. et al. (2016). Neural Architectures for Named Entity Recognition. NAACL.

    Otwórz odnośnik DOI
    Skopiowano.