Skip to content
返回搜索结果

主动学习关联规则

提出者
Dzyuba, V. & van Leeuwen, M.; Boley, M. et al.
年份
2010s
类型
Interactive pattern mining
类别
Machine learning

本文为机器翻译,尚未经过审校。 阅读英文原文

字号

它有什么作用?

主动学习关联规则将主动学习的迭代查询和标注循环与关联规则挖掘相结合,允许人类专家交互式地指导发现过程。它不是穷举列举所有高于固定支持度-置信度阈值的规则,而是选择信息量最大的候选规则,并要求用户判断其有趣性,从而将搜索重点放在主观上有用的模式上。

方法背后的直觉

标准关联规则挖掘会向用户提供数千条高于最小支持度阈值的规则,其中大部分是冗余或不相关的。主动学习则扭转了这一局面:算法只向人类专家呈现最不确定或最令人惊讶的候选规则,收集关于每条规则是否有趣的反馈,并在每次查询后更新其用户偏好模型。通过连续的迭代,它学会了区分分析师关心的规则和噪声,从而大大缩小了搜索空间,并比穷举列举更有效地发现可操作的模式。

历史学

主动学习关联规则在2010年代出现,旨在解决关联规则挖掘中众所周知的规则爆炸问题。Boley及其同事关于直接模式采样的工作(2013年)以及Dzyuba和van Leeuwen关于主观有趣性的工作(2017年)为查询用户偏好以指导规则发现建立了正式框架。该方法借鉴了早期的交互式数据挖掘研究,并与Cohn、Atlas和Ladner(1994年)发起的主动学习文献更广泛地联系在一起。

何时使用

当事务数据库庞大、高于阈值的规则数量难以管理(数千到数百万条),并且有领域专家可以在挖掘会话期间提供迭代反馈时,请使用主动学习关联规则。它在知识发现场景中尤其有价值——临床信息学、零售购物篮分析或科学假设生成——在这些场景中,主观相关性与统计显著性同样重要。当没有可用的交互式专家、需要完整的规则集用于下游自动化,或者事务数据库非常小以至于穷举列举微不足道时,请勿使用。

局限与注意事项

  • 在整个会话过程中需要交互式人类专家,这对于完全自动化的管道来说是不切实际的。
  • 结果的质量在很大程度上取决于标注专家的一致性和领域知识。
  • 冷启动问题:偏好模型在开始时信息量不足,因此初始查询可能目标不明确。
  • 与批量关联规则挖掘相比,该方法尚未完全成熟,现成的实现较少。
  • 评估本质上是主观的,比纯粹的统计方法更难进行基准测试。

来源中的条件不能替代独立的科学审查或分析引擎的验证。

优势

  • 通过将搜索重点放在主观上有趣的模式上,显著减少了用户需要检查的规则数量。
  • 适应个体分析师的偏好,而不是强加一个普遍的有趣性度量。
  • 可以与任何基础规则挖掘器(Apriori、FP-growth、随机抽样)很好地结合作为候选生成步骤。
  • 支持迭代探索,无需用户预先指定支持度和置信度阈值。
  • 可扩展到庞大的规则空间,否则这些空间会使分析师不堪重负。

应用

  • 临床信息学:发现药理学家认为临床上合理的药物不良事件共现。
  • 零售购物篮分析:发现品类经理认为可操作的交叉销售机会。
  • 科学假设生成:在基因组学或社会科学数据集中识别与专家直觉相符的共现模式。
  • 欺诈检测:交互式挖掘欺诈分析师标记为可疑的交易模式。
  • 推荐系统:学习用户特定的项目共现规则以个性化推荐。

使用方式

使用方式

1

生成一个初始的候选关联规则池——可以通过穷举(例如,通过Apriori或FP-growth达到一个宽松的阈值)或通过抽样。在高维事务数据库中,这个池可能非常庞大,因此主动学习组件对于可处理性至关重要。

2

系统选择信息量最大的候选规则呈现给用户,通常使用获取函数,如不确定性采样、预期模型变化或主观有趣性评分。用户将规则标记为有趣或无趣。

3

在每次用户标注后,系统会更新其内部用户偏好模型——通常是一个贝叶斯或线性模型,它捕捉用户认为哪些规则特征(支持度、置信度、提升度、项目标识)具有吸引力——并相应地重新排序剩余的候选规则。

4

使用更新后的偏好模型,所有剩余的候选规则都会被重新评分。高分规则在后续轮次中优先呈现,并剪除被支配或近似重复的规则,以避免重复显示相似的模式。

5

循环持续进行,直到用户满意、固定查询预算耗尽,或者进一步查询的预期收益低于某个阈值。输出是一个由预测用户兴趣排名的、经过精心筛选的小型规则集。

常见陷阱

  • 在连续查询中呈现近似重复的规则,导致用户疲劳和噪声标签——应使用多样性约束或冗余剪枝。
  • 忽略冷启动问题,没有提供合理的默认规则或在主动查询开始前进行简短的热身阶段。
  • 将最终的排名列表视为统计验证结果,而没有同时报告标准规则质量指标(支持度、置信度、提升度)。
  • 将主观有趣性评分与客观统计显著性混淆,它们是不同的量。

常见问题

用户需要回答多少个查询?

实际上,研究报告显示,只需20到50个查询就可以学习到有用的偏好模型,尽管预算取决于规则空间的多样性和专家的连贯性。

这会取代标准关联规则挖掘吗?

不会。它是一个补充:标准挖掘(Apriori、FP-growth)通常用于生成候选规则,然后主动学习循环根据专家偏好对其进行过滤和排名。完整的规则集仍在内部生成。

如果不同的专家对有趣的规则有分歧怎么办?

主动学习关联规则在每个会话中学习一个单一的偏好模型。当涉及多个专家时,可以聚合偏好模型(例如,通过标签的多数投票)或运行单独的会话并合并其排名靠前的规则。

有趣性与置信度或提升度有何不同?

置信度和提升度是可从数据中计算的客观统计度量。主观有趣性是用户依赖的——一条规则可能具有高提升度但对专家来说是显而易见的,因此无趣;或者具有适度的提升度但新颖且可操作。

我可以在没有实时标注专家的情况下使用它吗?

如果存在预先收集的偏好标签(例如,来自先前的会话),则可以在离线模式下训练偏好模型并以批处理模式应用,尽管这会失去实时反馈的自适应优势。

相关方法

参考文献

  1. Dzyuba, V., & van Leeuwen, M. (2017). Interactive Discovery of Interesting Association Rules by Subjective Interestingness. In Proceedings of the European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases (ECML PKDD). Springer.

    打开出版物文献
    已复制。
  2. Boley, M., Lucchese, C., Paurat, D., & Gartner, T. (2013). Direct Local Pattern Sampling by Efficient Two-Step Random Procedures. In Proceedings of the 19th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (pp. 582–590). ACM.

    打开出版物文献
    已复制。