Skip to content
Назад к результатам поиска

Анализ тональности — извлечение мнений

Тип
NLP text-classification task

Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском

Размер шрифта

Что он делает?

Анализ тональности, также известный как извлечение мнений (opinion mining), — это задача обработки естественного языка, которая определяет эмоциональный тон текста, обычно классифицируя его как положительный, отрицательный или нейтральный.

Он преобразует неструктурированный текст мнений в структурированные, количественно измеримые сигналы полярности, используя один из трех подходов: словари тональности, обученные классификаторы машинного обучения или предварительно обученные трансформерные модели.

Интуиция метода

Люди выражают мнения свободной речью, но машина не может читать этот текст так, как человек. Цель анализа тональности — обнаружить лежащее в основе мнение или полярность в фрагменте текста и присвоить ему метку. Вместо того чтобы оценивать каждое предложение интуитивно, метод оценивает формулировки — с помощью словарей эмоционально окрашенных слов, статистических закономерностей, изученных на размеченных примерах, или контекста, уловленного языковой моделью — и присваивает каждому документу метку тональности.

История

Анализ тональности вырос из более широкой области извлечения мнений, рассмотренной Pang и Lee (2008), которые консолидировали задачу извлечения мнений и полярности из текста. С тех пор область сместилась от методов на основе словарей и признаков к классификаторам машинного обучения и, в последнее время, к предварительно обученным трансформерным моделям, которые улавливают контекст.

Когда применять

Анализ тональности подходит, когда у вас есть текстовые данные для работы и языковая модель или словарь, соответствующие языку этих текстов. Небольшой корпус можно обработать с помощью простого словаря, в то время как большие размеченные корпуса поддерживают обучение с учителем (supervised classifiers) или трансформеры. Обучаемые модели в частности нуждаются в достаточно большом, сбалансированном размеченном наборе; при очень малом количестве документов безопаснее выбрать метод на основе словарей. Если текстовых данных нет совсем, анализ тональности не может быть выполнен.

Ограничения и замечания

  • Обучаемые модели нуждаются в достаточно большом, сбалансированном размеченном корпусе для изучения надежных закономерностей.
  • Производительность зависит от соответствия языковой модели или словаря языку корпуса.
  • Сарказм, отрицание и сдвиг домена остаются сложными для каждого подхода.

Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.

Сильные стороны

  • Гибкость в подходах: простой словарь работает на небольших корпусах, тогда как трансформеры улавливают контекст в больших.
  • Преобразует неструктурированный текст мнений в структурированные, количественно измеримые сигналы полярности.
  • Масштабируется от быстрого подсчета по словарю до контекстно-зависимых языковых моделей без изменения общего конвейера.

Применение

  • Анализ отзывов о продуктах и услугах для обобщения мнения клиентов.
  • Мониторинг публикаций в социальных сетях для определения общественной реакции и тенденций тональности.
  • Мониторинг бренда — отслеживание того, как организация или продукт воспринимается с течением времени.
  • Исследование и классификация больших корпусов мнений в исследованиях операций и маркетинга.

Как это работает

Как это работает

1

Исходный корпус очищается и стандартизируется: текст приводится к нижнему регистру, удаляется шум, нормализуется содержание, и документы сегментируются (токенизируются) на анализируемые единицы. Последовательная предварительная обработка обеспечивает сопоставимость признаков последующих этапов для разных документов.

2

Очищенный текст преобразуется в признаки, которые может использовать модель. В зависимости от подхода это означает поиск по словарям тональности, векторы TF-IDF или контекстуальные вложения — каждый из которых превращает слова в числа, несущие сигнал, который будет считывать модель.

3

Каждому документу присваивается метка полярности. Подход на основе словарей применяет правила словаря, подход машинного обучения использует классификатор, обученный на размеченных данных, а подход на основе трансформеров применяет предварительно обученную языковую модель, которая улавливает контекст. Результатом является метка тональности для каждого документа.

4

Прогнозы оцениваются по отношению к размеченным данным с использованием точности (accuracy), F1-меры, прецизионности (precision) и полноты (recall), а неправильные классификации проверяются перед вводом модели в эксплуатацию. Этот шаг защищает от чрезмерного доверия к модели, которая плохо работает с определенными классами.

Частые ошибки

  • Сарказм и образный язык могут инвертировать кажущуюся полярность, поэтому буквальное прочтение приводит к неправильной маркировке текста.
  • Сдвиг домена — применение модели или словаря, созданных для одной области или языка, к другой — снижает точность; не применяйте английский словарь к тексту на другом языке.
  • Несбалансированные метки делают точность вводящей в заблуждение; сообщайте F1-меру, прецизионность и полноту, а не только точность.
  • Запуск обучаемого классификатора на слишком малом количестве документов (менее ~100) — вернитесь к методу на основе словарей, и никогда не пропускайте предварительную обработку, иначе шумные токены ухудшат признаки.

Часто задаваемые вопросы

Словарь, машинное обучение или трансформер — какой подход мне использовать?

Подход на основе словарей применяет словарь слов, несущих эмоциональную окраску, и хорошо работает на небольших корпусах без размеченных данных. Классификатор машинного обучения изучает закономерности из размеченного обучающего набора и адаптируется к вашей области. Модель на основе трансформеров использует предварительно обученную языковую модель для улавливания контекста и обычно показывает наилучшие результаты на больших корпусах при более высоких вычислительных затратах.

Насколько точен анализ тональности?

Точность варьируется в зависимости от подхода, корпуса и того, насколько хорошо модель соответствует тексту. Оценивайте с помощью точности, F1-меры, прецизионности и полноты на отложенных размеченных данных; при несбалансированных классах одна только точность может вводить в заблуждение, поэтому полагайтесь на F1-меру, прецизионность и полноту.

Может ли он работать на языках, отличных от английского?

Да, но выбранная языковая модель или словарь должны соответствовать целевому языку корпуса. Применение английского словаря или модели к тексту на другом языке является частой причиной плохих результатов.

Как обрабатываются отрицание и сарказм?

Это остается одними из самых сложных случаев. Отрицание может изменить полярность, а сарказм может полностью инвертировать буквальный смысл. Контекстно-зависимые трансформерные модели справляются лучше, чем простые словари, но ни один подход не обрабатывает сарказм надежно, поэтому проверка ошибок во время оценки имеет значение.

Похожие методы

Источники

  1. Pang, B. & Lee, L. (2008). Opinion Mining and Sentiment Analysis. Foundations and Trends in Information Retrieval, 2(1-2), 1-135.

    Открыть ссылку DOI
    Скопировано.