Классификация текстов — Категоризация текстов
- Тип
- Supervised NLP classification task
Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском
Что он делает?
Классификация текстов, также известная как категоризация текстов, — это задача обучения с учителем в области обработки естественного языка, которая автоматически присваивает документы предопределенным категориям.
Основываясь на подходе к категоризации текстов с использованием машин опорных векторов (support vector machine), разработанном Joachims (1998) и обобщенном в литературе по интеллектуальному анализу текстов (text mining) Aggarwal и Zhai (2012), она обеспечивает работу таких задач, как обнаружение спама и классификация тем, путем обучения на размеченных примерах.
Интуиция метода
Когда у вас есть множество документов, каждый из которых относится к одной из фиксированных категорий, ручная сортировка не масштабируется. Классификация текстов изучает закономерности, разделяющие одну категорию от другой, на наборе уже размеченных примеров, а затем применяет эти закономерности для автоматической разметки новых, невиданных ранее документов — подобно тому, как учат сортировщика, показывая ему предварительно отсортированные стопки и позволяя ему разложить остальные.
История
Классификация текстов стала эталонной задачей машинного обучения благодаря Joachims (1998), который показал, что машины опорных векторов хорошо справляются с множеством релевантных признаков категоризации текстов. Aggarwal и Zhai (2012) позже обобщили эту область в рамках более широкой литературы по интеллектуальному анализу текстов, и эта задача остается основным строительным блоком прикладной обработки естественного языка.
Когда применять
Используйте классификацию текстов, когда у вас есть текстовые данные, отсортированные по предопределенным категориям, и размеченный обучающий набор для обучения. Требуется как минимум около 100 размеченных документов, и предпочтительно сбалансированное распределение классов, чтобы классификатор мог изучить каждую категорию. При количестве документов менее примерно 100 классификатор имеет тенденцию к переобучению, поэтому безопаснее использовать подход классификации с нулевым выстрелом (zero-shot); при полном отсутствии текстовых данных метод не может работать, и альтернативой является общая классификация по категориальным переменным.
Ограничения и замечания
- Требует размеченных обучающих данных, производство которых может быть дорогостоящим.
- Предпочтительно сбалансированное распределение классов; смещенные классы затрудняют обучение некоторых категорий.
- Требуется достаточно большой корпус (около 100 документов или более), чтобы избежать переобучения.
Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.
Сильные стороны
- Автоматизирует маркировку больших коллекций документов, которые было бы непрактично сортировать вручную.
- Адаптируется ко многим задачам — обнаружение спама, классификация тем и аналогичные задачи категоризации — через один и тот же конвейер обучения с учителем.
- Изучает специфичные для предметной области закономерности непосредственно из размеченных примеров, а не полагается на фиксированные правила.
Применение
- Обнаружение спама — отделение нежелательных сообщений от легитимных.
- Классификация тем — маршрутизация документов или статей по тематическим категориям.
- Организация и сортировка больших коллекций документов по категориям.
- Задачи прогнозирования и классификации в текстовых корпусах здравоохранения, социальных наук, образования, инженерии, естественных наук и бизнеса.
Как это работает
Как это работает
Начните с корпуса документов, где каждый пример уже несет одну из предопределенных категорийных меток. Эти размеченные обучающие данные являются основой задачи обучения с учителем; чем более сбалансировано распределение классов, тем надежнее классификатор изучает каждую категорию.
Исходный текст очищается и стандартизируется, чтобы документы стали сопоставимыми: удаляется шум, а содержание нормализуется и сегментируется на анализируемые единицы. Пропуск этого шага позволяет шумным токенам ухудшить все последующие этапы.
Очищенный текст преобразуется в числовые признаки, которые может прочитать классификатор — например, представления частоты терминов (term-frequency), которые определяют, какие слова отличают категории. Это преобразует слова в числа, с которыми работает алгоритм обучения.
На размеченных, векторизованных обучающих данных подбирается классификатор с учителем, который изучает связь между текстовыми признаками и категорийными метками, чтобы присваивать метку каждому новому документу.
Обученная модель оценивается на отложенных размеченных данных, и ее ошибки классификации проверяются перед развертыванием. Поскольку несбалансированные классы делают сырую точность вводящей в заблуждение, производительность оценивается по категориям, которые модель должна разделять.
Частые ошибки
- Обучение на слишком малом количестве документов (менее ~100) вызывает переобучение на малом обучающем наборе; вместо этого предпочтите подход классификации с нулевым выстрелом.
- Пропуск предварительной обработки текста позволяет шумным токенам ухудшить признаки и модель.
- Несбалансированные классы делают простую точность вводящей в заблуждение; проверяйте производительность по категориям, а не полагайтесь на единую цифру точности.
- Применение метода при полном отсутствии текстовых данных — вернитесь к общей классификации по категориальным переменным.
Часто задаваемые вопросы
Сколько размеченных данных мне нужно?
Планируйте как минимум около 100 размеченных документов. Ниже этого количества классификатор имеет тенденцию к переобучению на малом обучающем наборе, поэтому подход классификации с нулевым выстрелом является более безопасным выбором.
Имеет ли значение баланс классов?
Да. Предпочтительно сбалансированное распределение классов, чтобы классификатор мог надежно изучать каждую категорию. При смещенных классах оценивайте производительность по категориям, а не полагайтесь на общую точность.
Что, если у меня нет текстовых данных?
Классификация текстов не может работать без текста. Если ваши переменные являются категориальными, используйте общие методы классификации на этих структурированных данных.
Чем она отличается от кластеризации документов?
Классификация текстов является обучением с учителем: она присваивает документы предопределенным категориям, изученным на размеченных примерах. Кластеризация документов является обучением без учителя и группирует похожие документы без предопределенных меток.
Похожие методы
Источники
Joachims, T. (1998). Text Categorization with Support Vector Machines: Learning with Many Relevant Features. ECML 1998. Lecture Notes in Computer Science, vol 1398. Springer.
Открыть ссылку DOIСкопировано.Aggarwal, C. C. & Zhai, C. (2012). Mining Text Data. Springer.
ISBN: 978-1-4614-3222-7Скопировано.