Skip to content
Назад к результатам поиска

Разрешение аббревиатур — разрешение акронимов и кратких форм

Автор метода
Schwartz & Hearst (2003) — seminal algorithm for biomedical abbreviation detection
Год
2003
Тип
NLP disambiguation pipeline

Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском

Размер шрифта

Что он делает?

Разрешение аббревиатур и акронимов — это конвейер обработки естественного языка, который сопоставляет каждую краткую форму в тексте с её полным определением, используя контекстные подсказки из окружающего текста.

Это особенно важно в медицинских, юридических и технических документах, где один и тот же акроним может иметь совершенно разные значения в разных областях. Фундаментальный алгоритм этой области был опубликован Шварцем и Херстом (Schwartz and Hearst, 2003) для биомедицинской литературы и с тех пор был расширен нейронными подходами и подходами на основе трансформеров.

Интуиция метода

Документ, полный акронимов, трудно читать и еще труднее анализировать вычислительно — одни и те же три буквы могут означать разные вещи в разных областях или даже в разных абзацах. Разрешение аббревиатур работает как экспертный читатель, который замечает акроним, ищет в тексте его определение и записывает его каждый раз, когда появляется аббревиатура. Вместо того чтобы полагаться только на фиксированный словарь, метод использует контекст: он ищет шаблон, где автор определяет термин ('инфаркт миокарда (ИМ)'), записывает эту пару и затем заменяет полную форму везде, где появляется краткая форма.

История

Проблема разрешения аббревиатур в тексте была формализована для биомедицинской литературы Шварцем и Херстом (Schwartz and Hearst, 2003), которые предложили простой алгоритм левого контекста, ставший базовым в этой области. Их метод показал, что большинство аббревиатур в научных статьях вводятся с явным определением в скобках и что простое правило выравнивания обеспечивает высокую точность. Последующие работы расширили подход с помощью классификаторов машинного обучения, условных случайных полей и, в последнее время, трансформерных энкодеров, которые совместно моделируют краткую форму и её контекст. Набор данных MACRONYM 2022 года от Veyseh et al. продемонстрировал, что разрешение акронимов остается открытой проблемой даже для больших языковых моделей, когда задействована специфическая для области или макроэкономическая терминология.

Когда применять

Разрешение аббревиатур подходит для любого конвейера, где неразрешенные краткие формы будут препятствовать последующим задачам, таким как извлечение информации, индексация поиска или классификация текста. Оно наиболее критично в биомедицинских и клинических текстах — где неоднозначность акронимов может привести к ошибкам, угрожающим безопасности пациентов — но одинаково полезно в юридических, финансовых и научных корпусах. Словарь области или база аббревиатур должны быть доступны; без какого-либо контекстного окна и без словаря метод сводится к угадыванию. Корпус должен содержать по крайней мере некоторые шаблоны определений (краткая форма, представленная рядом с полной формой), если только предварительно созданная база знаний не охватывает область полностью.

Ограничения и замечания

  • Производительность зависит от того, содержит ли корпус явные шаблоны определений; недостаточно определенные аббревиатуры, которые автор никогда не раскрывает полностью, не могут быть разрешены только из контекста.
  • Неоднозначность акронимов — когда одна и та же краткая форма имеет несколько значений в одном документе — требует сигналов разрешения неоднозначности, с которыми системы, основанные на правилах, справляются плохо.
  • Междокументное разрешение (один и тот же акроним определен в одном файле, используется без определения в другом) требует ведения базы данных аббревиатур.
  • Сдвиг области: словарь аббревиатур, обученный на биомедицинском тексте, может неправильно разрешать аббревиатуры в юридических или инженерных документах с той же последовательностью букв.

Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.

Сильные стороны

  • Разрешает аббревиатуры в пределах документа без необходимости полного предварительно созданного словаря, извлекая определения непосредственно из контекста.
  • Масштабируется от простого алгоритма на основе правил (Schwartz–Hearst) до нейронных моделей без изменения общей структуры конвейера.
  • Уменьшает неоднозначность в последующих задачах обработки естественного языка — извлечении информации, классификации и поиске — заменяя непрозрачные краткие формы на интерпретируемые полные термины.
  • Особенно ценно в областях с высокими ставками (клиническая, юридическая), где одна неправильно прочитанная аббревиатура может полностью изменить смысл документа.

Применение

  • Клиническая обработка естественного языка: разрешение аббревиатур названий лекарств, кодов диагнозов и процедур в электронных медицинских картах перед извлечением информации или поиском.
  • Обработка юридических текстов: разрешение аббревиатур нормативных актов и акронимов регулирующих органов для улучшения анализа контрактов и проверки соответствия.
  • Добыча научной литературы: предварительная обработка биомедицинских или инженерных рефератов, чтобы последующее распознавание сущностей и извлечение отношений работали с полными терминами.
  • Индексация поиска: разрешение аббревиатур в запросах и документах для улучшения полноты в системах поиска по конкретной области.

Как это работает

Как это работает

1

Конвейер сканирует текст на наличие кандидатных кратких форм — обычно это последовательности от двух до десяти заглавных букв, инициализмы или токены в скобках, которые соответствуют форме аббревиатуры. Эвристики помечают этих кандидатов, не принимая пока окончательного решения о разрешении.

2

Для каждой обнаруженной краткой формы в окружающем контекстном окне ищется соответствующая кандидатная полная форма. Классический алгоритм Шварца–Херста выравнивает начальные буквы кандидатной фразы с буквами краткой формы, сканируя окно примерно вдвое больше длины аббревиатуры слева. Специализированный словарь аббревиатур или база терминологии могут сузить или дополнить этот поиск.

3

Среди нескольких кандидатных полных форм выбирается наиболее вероятное разрешение. Системы, основанные на правилах, используют оценки выравнивания; модели с учителем используют размеченные пары для обучения; системы на основе трансформеров кодируют как краткую форму, так и её контекст для выбора правильного значения. Когда контекст неоднозначен — один и тот же акроним используется с разными значениями — включаются сигналы разрешения многозначности слов.

4

Разрешенные соответствия проверяются на полноту и точность: какая доля кратких форм была успешно разрешена и сколько разрешений являются правильными. Ошибки проверяются вручную или по эталонной аннотации, а специфические для области крайние случаи (инициализмы без видимого определения в документе) помечаются для ручной проверки.

Частые ошибки

  • Предположение, что аббревиатура всегда означает одно и то же в разных документах — один и тот же акроним может разрешаться по-разному в разных областях или даже в разных разделах одного и того же отчета.
  • Пропуск этапа проверки: даже алгоритмы с высокой точностью допускают ошибки на редких или новых аббревиатурах, и необнаруженные ошибки распространяются на все последующие задачи.
  • Использование только статического словаря без этапа извлечения контекста — если автор вводит новую аббревиатуру, отсутствующую в словаре, она будет пропущена полностью.
  • Обработка всех последовательностей заглавных букв как аббревиатур — некоторые из них являются именами собственными, названиями генов или кодами, которые не следует разрешать.

Часто задаваемые вопросы

Что, если аббревиатура никогда не определяется в документе?

Если в тексте нет шаблона определения, конвейер должен обратиться к предварительно созданному словарю аббревиатур или базе знаний. Если ни того, ни другого нет, краткую форму нельзя надежно разрешить, и её следует пометить как неразрешенную, а не угадывать.

Как метод обрабатывает ситуацию, когда одна и та же аббревиатура означает разные вещи в разных местах?

Это подзадача разрешения неоднозначности аббревиатур. Системы, основанные на правилах, которые полагаются на ближайшее окно определения, плохо справляются с этим, когда появляются несколько определений. Подходы на основе трансформеров, которые кодируют окружающий контекст для каждого вхождения, справляются с этим лучше, но точность разрешения неоднозначности все равно падает, когда контекст скуден или техничен.

Необходим ли предварительно созданный словарь аббревиатур?

Не строго — алгоритм Шварца–Херста извлекает пары определений из контекста документа без словаря. Однако специализированный словарь ускоряет процесс, обрабатывает недостаточно определенные аббревиатуры, которые автор никогда не раскрывает в тексте, и уменьшает неоднозначность. Для клинических текстов эту роль выполняют такие ресурсы, как UMLS или ADAM.

Работает ли метод на разных языках?

Да, но эвристики сопоставления шаблонов и любой сопровождающий словарь должны быть адаптированы к целевому языку. Большинство опубликованных работ посвящено английскому языку; расширение на другие языки обычно требует языково-специфических правил и аннотированных корпусов для обучения или оценки.

Похожие методы

Источники

  1. Schwartz, A.S. & Hearst, M.A. (2003). A Simple Algorithm for Identifying Abbreviation Definitions in Biomedical Text. Pacific Symposium on Biocomputing (PSB), 8, 451-462.

    Открыть ссылку на публикацию
    Скопировано.
  2. Veyseh, A.P.B. et al. (2022). MACRONYM: A Large-Scale Dataset for Macroeconomic Acronym Understanding. Findings of NAACL 2022.

    Открыть ссылку на публикацию
    Скопировано.