Разрешение кореференции
- Автор метода
- Hobbs (1978); Lee et al. (2017, neural end-to-end)
- Год
- 1978
- Тип
- NLP information-extraction task
Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском
Что он делает?
Разрешение кореференции — это задача обработки естественного языка, которая определяет, когда различные выражения в тексте относятся к одной и той же сущности — например, имя, последующее местоимение и описательная фраза, все указывающие на одного человека.
Основанная на ранних лингвистических работах Хоббса (Hobbs, 1978) и развитая сквозной нейронной моделью Ли и др. (Lee et al., 2017), она улучшает качество извлечения информации и понимания текста.
Интуиция метода
Когда мы читаем, мы автоматически понимаем, что «она», «автор» и «Мария Кюри» могут быть одним и тем же человеком. Машина этого не делает. Разрешение кореференции учит систему устанавливать эти связи: она находит каждое выражение, которое может относиться к сущности (упоминание), решает, какие упоминания указывают на одно и то же, и группирует их вместе, чтобы остальная часть конвейера обрабатывала текст так, как это делает человек.
История
Разрешение кореференции выросло из ранней вычислительной лингвистики, в частности, из работы Хоббса (Hobbs, 1978), который формализовал, как ссылки на местоимения могут быть разрешены на основе синтаксической структуры. Позднее эта область перешла от таких систем, основанных на правилах и признаках, к обучаемым моделям, при этом Ли и др. (Lee et al., 2017) представили сквозной нейронный подход, который оценивает упоминания и их связи напрямую без вручную построенного конвейера промежуточных шагов.
Когда применять
Разрешение кореференции подходит, когда у вас есть текст на английском или другом поддерживаемом языке, и вы хотите отслеживать сущности в документе — обычно в качестве строительного блока для извлечения информации или более глубокого понимания текста. Предварительный проход NER помогает. Оно носит описательный и объяснительный характер и требует как минимум небольшого объема текста (около 20 единиц) для осмысленности; без текстовых данных оно не может работать.
Ограничения и замечания
- Работает только для английского или других поддерживаемых языков; охват за их пределами ограничен.
- Точность зависит от надежных вышестоящих шагов — слабое обнаружение упоминаний или отсутствие NER ухудшает кластеры.
- Неоднозначные или дальнодействующие ссылки остаются сложными, поэтому некоторые связи будут ошибочными.
Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.
Сильные стороны
- Связывает разрозненные упоминания — имена, местоимения и описательные фразы — с одной сущностью, что повышает точность извлечения информации.
- Улучшает качество последующих задач по пониманию текста, разрешая, к кому или к чему относится каждое выражение.
- Поддерживает как лингвистические подходы, основанные на правилах, так и современные сквозные нейронные модели.
Применение
- Извлечение информации — консолидация всех ссылок на сущность в документе.
- Улучшение ответов на вопросы и понимания прочитанного путем разрешения местоимений к их референтам.
- Построение графов знаний и сущностно-ориентированных сводок из текста.
- Очистка текста для последующего анализа в корпусах исследований в области здравоохранения, социальных наук, экономики, инженерии и бизнеса.
Как это работает
Как это работает
Текст подготавливается к анализу: он сегментируется на предложения и токены и пропускается через вспомогательный языковой конвейер. Шаг распознавания именованных сущностей (NER) является полезным предшественником здесь, потому что знание того, где находятся сущности, делает последующее обнаружение упоминаний более надежным.
Выявляются упоминания-кандидаты — отрезки текста, которые могут относиться к сущности, такие как имена собственные, именные группы и местоимения. Это формирует набор выражений, референты которых должен определить метод.
Для каждой пары упоминаний-кандидатов система решает, относятся ли они к одной и той же сущности. Классические подходы применяют лингвистические правила к синтаксису и недавности, в то время как нейронные сквозные модели оценивают пары упоминаний непосредственно на основе изученных представлений.
Попарные связи разрешаются в кластеры: каждое упоминание, которое, как считается, указывает на одну и ту же сущность, группируется вместе. Каждый кластер представляет одну реальную сущность, и последующие задачи теперь могут рассматривать «она», «автор» и исходное имя как единый референт.
Частые ошибки
- Пропуск шага NER или обнаружения упоминаний приводит к тому, что компоновщик работает с плохими кандидатами и создает зашумленные кластеры.
- Применение модели, созданной для одного языка, к другому поддерживаемому языку незаметно снижает точность.
- Рассмотрение каждой попарной связи как достоверной — неоднозначные местоимения и отдаленные антецеденты являются распространенными источниками ошибок и должны быть проверены.
Часто задаваемые вопросы
В чем разница между разрешением кореференции и распознаванием именованных сущностей?
NER находит и помечает упоминания сущностей (таких как люди или организации) в тексте. Разрешение кореференции идет дальше, определяя, какие из этих упоминаний — плюс местоимения и описательные фразы — относятся к одной и той же реальной сущности, группируя их в кластеры. NER часто является полезным предшественником кореференции.
Нужен ли мне сначала шаг NER?
Это не является строго обязательным, но проход NER является полезным предшественником: знание того, где находятся сущности, делает обнаружение упоминаний и результирующие кластеры более надежными.
Работает ли это на других языках, кроме английского?
Это работает для английского или других поддерживаемых языков. Охват за пределами языков, поддерживаемых вашей моделью, ограничен, поэтому выбранная модель должна соответствовать языку вашего текста.
На основе правил или нейронные — какой подход мне следует использовать?
Методы, основанные на правилах, в традиции Хоббса (Hobbs, 1978), применяют лингвистические правила к синтаксису и недавности и являются прозрачными. Сквозные нейронные модели, такие как Ли и др. (Lee et al., 2017), учатся оценивать упоминания и их связи напрямую и, как правило, лучше справляются с более сложными случаями при более высоких вычислительных затратах.
Похожие методы
Источники
Lee, K. et al. (2017). End-to-end Neural Coreference Resolution. EMNLP.
Открыть ссылку на публикациюСкопировано.Hobbs, J.R. (1978). Resolving Pronoun References. Lingua, 44(4), 311-338.
Открыть ссылку DOIСкопировано.