Активное обучение для поиска правил ассоциаций
- Автор метода
- Dzyuba, V. & van Leeuwen, M.; Boley, M. et al.
- Год
- 2010s
- Тип
- Interactive pattern mining
- Семейство
- Machine learning
Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском
Что он делает?
Активное обучение для поиска правил ассоциаций сочетает итеративный цикл запросов и маркировки данных из активного обучения с интеллектуальным анализом ассоциативных правил, позволяя эксперту-человеку интерактивно направлять процесс обнаружения.
Вместо исчерпывающего перечисления всех правил, превышающих фиксированный порог поддержки-достоверности, система выбирает наиболее информативные кандидатные правила и просит пользователя оценить их интересность, фокусируя поиск на субъективно полезных закономерностях.
Интуиция метода
Стандартный поиск ассоциативных правил перегружает пользователя тысячами правил, превышающих минимальный порог поддержки, большинство из которых избыточны или нерелевантны. Активное обучение меняет этот подход: алгоритм представляет эксперту-человеку только наиболее неопределенные или неожиданные кандидатные правила, собирает отзывы о том, интересно ли каждое правило, и обновляет свою модель предпочтений пользователя после каждого запроса. В течение последовательных раундов он учится отличать правила, которые интересуют аналитика, от шума, резко сужая пространство поиска и выявляя действенные закономерности гораздо эффективнее, чем исчерпывающее перечисление.
История
Активное обучение для поиска правил ассоциаций возникло в 2010-х годах как ответ на известную проблему взрывного роста числа правил при поиске ассоциативных правил. Работы Боули и коллег по прямому сэмплированию закономерностей (2013) и Дзюбы и ван Леувена по субъективной интересности (2017) заложили формальную основу для запроса предпочтений пользователя для управления поиском правил. Подход опирается на более ранние исследования интерактивного интеллектуального анализа данных и связан с более широкой литературой по активному обучению, начатой Коном, Атласом и Лэднер (1994).
Когда применять
Используйте активное обучение для поиска правил ассоциаций, когда база данных транзакций велика, количество правил выше порога неуправляемо (от тысяч до миллионов), и имеется эксперт в предметной области, готовый предоставить итеративную обратную связь во время сеанса интеллектуального анализа. Это особенно ценно в контекстах обнаружения знаний — клинической информатике, анализе рыночных корзин или генерации научных гипотез — где субъективная релевантность так же важна, как и статистическая значимость. Не используйте его, когда нет интерактивного эксперта, когда полный набор правил необходим для последующей автоматизации или когда база данных транзакций настолько мала, что исчерпывающее перечисление тривиально.
Ограничения и замечания
- Требует интерактивного эксперта-человека на протяжении всего сеанса, что непрактично для полностью автоматизированных конвейеров.
- Качество результатов сильно зависит от последовательности и знаний эксперта-маркировщика в предметной области.
- Проблема холодного старта: модель предпочтений в начале неинформативна, поэтому первоначальные запросы могут быть плохо нацелены.
- Подход менее устоявшийся, чем пакетный поиск ассоциативных правил, с меньшим количеством готовых реализаций.
- Оценка по своей сути субъективна и ее сложнее сравнивать с чисто статистическими методами.
Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.
Сильные стороны
- Резко сокращает количество правил, которые должен просмотреть пользователь, фокусируя поиск на субъективно интересных закономерностях.
- Адаптируется к предпочтениям конкретного аналитика, а не навязывает универсальную меру интересности.
- Хорошо сочетается с любым базовым майнером правил (Apriori, FP-growth, случайная выборка) на этапе генерации кандидатов.
- Поддерживает итеративное исследование без необходимости для пользователя заранее указывать пороги поддержки и достоверности.
- Масштабируется до больших пространств правил, которые в противном случае перегрузили бы аналитика.
Применение
- Клиническая информатика: обнаружение ко-возникновений лекарств и нежелательных явлений, которые фармаколог считает клинически правдоподобными.
- Анализ рыночных корзин: выявление возможностей перекрестных продаж, которые менеджер категории считает действенными.
- Генерация научных гипотез: выявление закономерностей ко-возникновения в геномных или социально-научных наборах данных, которые соответствуют интуиции эксперта.
- Обнаружение мошенничества: интерактивный поиск закономерностей транзакций, помеченных аналитиком по мошенничеству как подозрительные.
- Рекомендательные системы: изучение специфичных для пользователя правил ко-возникновения элементов для персонализации рекомендаций.
Как это работает
Как это работает
Генерируется начальный пул кандидатных ассоциативных правил — либо исчерпывающе (например, с помощью Apriori или FP-growth до слабого порога), либо путем выборки. Этот пул может быть огромным в высокоразмерных базах данных транзакций, поэтому компонент активного обучения имеет решающее значение для управляемости.
Система выбирает наиболее информативное кандидатное правило для представления пользователю, обычно используя функцию приобретения, такую как выборка неопределенности, ожидаемое изменение модели или оценки субъективной интересности. Пользователь маркирует правило как интересное или неинтересное.
После каждой метки пользователя система обновляет свою внутреннюю модель предпочтений пользователя — обычно байесовскую или линейную модель, которая улавливает, какие характеристики правила (поддержка, достоверность, лифт, идентификатор элемента) пользователь находит привлекательными — и соответствующим образом переранжирует оставшихся кандидатов.
Используя обновленную модель предпочтений, все оставшиеся кандидатные правила переоцениваются. Правила с высокими оценками получают приоритет для представления в последующих раундах, а доминирующие или почти дублирующиеся правила отбрасываются, чтобы избежать повторного показа схожих закономерностей.
Цикл продолжается до тех пор, пока пользователь не будет удовлетворен, не будет исчерпан фиксированный бюджет запросов или ожидаемый выигрыш от дальнейших запросов не упадет ниже порога. Результатом является небольшой, тщательно отобранный набор правил, ранжированных по прогнозируемому интересу пользователя.
Частые ошибки
- Представление почти дублирующихся правил в последовательных запросах, вызывающее утомление пользователя и шумные метки — используйте ограничения разнообразия или отбрасывание избыточности.
- Игнорирование проблемы холодного старта путем непредоставления разумных правил по умолчанию или краткой фазы разогрева перед началом активных запросов.
- Рассмотрение окончательного ранжированного списка как статистически подтвержденного результата без одновременного сообщения стандартных метрик качества правил (поддержка, достоверность, лифт).
- Смешение оценки субъективной интересности с объективной статистической значимостью, которые являются различными величинами.
Часто задаваемые вопросы
Сколько запросов должен ответить пользователь?
На практике исследования показывают, что полезные модели предпочтений могут быть изучены всего за 20-50 запросов, хотя бюджет зависит от разнообразия пространства правил и последовательности эксперта.
Заменяет ли это стандартный поиск ассоциативных правил?
Нет. Это дополнение: стандартный поиск (Apriori, FP-growth) обычно используется для генерации кандидатов, а затем цикл активного обучения фильтрует и ранжирует их в соответствии с предпочтениями эксперта. Полный набор правил по-прежнему генерируется внутренне.
Что если разные эксперты не согласны по поводу интересных правил?
Активное обучение для поиска правил ассоциаций изучает одну модель предпочтений за сеанс. Когда вовлечено несколько экспертов, модели предпочтений могут быть агрегированы (например, путем голосования по меткам) или могут быть проведены отдельные сеансы, и их правила с наивысшим рангом могут быть объединены.
Чем интересность отличается от достоверности или лифта?
Достоверность и лифт — это объективные статистические меры, вычисляемые на основе данных. Субъективная интересность зависит от пользователя — правило может иметь высокий лифт, но быть тривиально очевидным для эксперта и поэтому неинтересным, или иметь скромный лифт, но быть новым и действенным.
Могу ли я использовать это без эксперта-маркировщика в реальном времени?
Если доступны предварительно собранные метки предпочтений (например, из предыдущего сеанса), модель предпочтений может быть обучена в автономном режиме и применена в пакетном режиме, хотя это и лишает адаптивного преимущества обратной связи в реальном времени.
Похожие методы
Источники
Dzyuba, V., & van Leeuwen, M. (2017). Interactive Discovery of Interesting Association Rules by Subjective Interestingness. In Proceedings of the European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases (ECML PKDD). Springer.
Открыть ссылку на публикациюСкопировано.Boley, M., Lucchese, C., Paurat, D., & Gartner, T. (2013). Direct Local Pattern Sampling by Efficient Two-Step Random Procedures. In Proceedings of the 19th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (pp. 582–590). ACM.
Открыть ссылку на публикациюСкопировано.