Skip to content
返回搜索结果

孤立森林 (Isolation Forest)

提出者
Liu, F.T., Ting, K.M. & Zhou, Z.-H.
年份
2008
类型
Unsupervised ensemble (random partitioning trees)

本文为机器翻译,尚未经过审校。 阅读英文原文

字号

它有什么作用?

Isolation Forest 是一种用于异常值和离群点检测的无监督机器学习方法,由 Liu、Ting 和 Zhou 于 2008 年提出,它通过对数据进行随机划分来分离异常值。该方法无需任何标记的异常数据,并且可以扩展到高维数据集。

方法背后的直觉

核心思想很简单:异常值数量少且与众不同,因此很容易将它们与其余数据分开。如果你不断地随机划分数据,一个正常点会位于密集区域,需要多次划分才能分离,而一个离群点则会很快被分离出来。计算分离每个点所需的划分次数即可将此直觉转化为异常分数。

历史学

Isolation Forest 由 Fei Tony Liu、Kai Ming Ting 和 Zhi-Hua Zhou 于 2008 年在 IEEE 数据挖掘国际会议上提出。它引入了一种不同的离群点检测理念:不是通过分析正常数据并测量偏差,而是通过随机划分直接分离异常值,利用异常值数量少且与众不同的特点。该方法已成为一种广泛使用、可扩展的无监督高维数据异常检测工具。

何时使用

使用 Isolation Forest 检测连续的、可能高维的、横截面或时间序列数据中的异常值或离群点,至少需要约 50 个观测值,尤其是在您没有标记的异常值可供学习的情况下。它不需要标记的异常数据,并且随着特征数量的增加而很好地扩展;您需要提供一个表示预期异常率的污染参数。如果观测值少于约 50 个,正常点和异常点之间的界限将不可靠,此时使用统计异常值方法或 PCA 更安全。

局限与注意事项

  • 在小样本(n 小于约 50)上,正常点和异常点之间的界限不清晰,假阳性率很高。
  • 如果没有足够的真实异常值,污染参数将变得无意义,此时统计异常值方法更可取。
  • 它返回异常分数,而不是可解释的系数或明确的规则。
  • 结果取决于所选的污染值,该值必须根据领域知识设定。

来源中的条件不能替代独立的科学审查或分析引擎的验证。

优势

  • 无监督:无需标记的异常数据即可标记离群点。
  • 可很好地扩展到高维数据。
  • 直接分离异常值,而不是对整个正常分布进行建模,这使其效率很高。
  • 单个污染参数表示预期的异常率并设定标记阈值。

应用

  • 连续数据中的无监督离群点和异常值检测。
  • 筛选不存在标记异常值的高维数据集。
  • 在建模之前标记横截面或时间序列数据中的异常观测值。
  • 数据质量检查和不规则记录的探索性检测。

使用方式

使用方式

1

Isolation Forest 颠倒了异常值检测的常规逻辑。它不建立正常点的模型并标记偏离模型的点,而是直接利用异常值数量少且与众不同的事实,因此更容易分离。由于它不需要标记的异常值,因此是完全无监督的,并且可以很好地扩展到高维数据。

2

该方法构建了许多随机划分树。在每棵树中,通过随机选择一个特征和一个随机划分值来递归地划分数据,将空间分割成越来越小的区域,直到每个点单独存在。分离一个正常点——埋没在拥挤的区域中——需要多次划分,而一个孤立的异常点则在几次划分后就被分离出来。

3

每个点的路径长度——分离它所需的划分次数——在整个森林中取平均值并转换为异常分数:平均路径短表示可能是异常值,平均路径长表示可能是正常点。污染参数(预期的异常值比例)设定了最终标记为离群点的阈值。

公式
s(x) = 2^{-\frac{E(h(x))}{c(n)}}

常见陷阱

  • 在少于约 50 个观测值的情况下运行它并信任标记的异常值。
  • 在没有足够实际异常值来支持的情况下设定污染参数。
  • 将异常分数视为精确概率而不是相对排名。
  • 忽略特征缩放以及无关特征对随机划分的影响。

常见问题

我需要标记的异常值才能使用 Isolation Forest 吗?

不需要。它是一种通过随机划分来分离异常值的无监督方法,因此在操作时不需要标记的异常数据。

污染参数的作用是什么?

它表示数据中预期的异常值比例,并设定了最终标记为离群点的阈值。如果没有足够的真实异常值,该参数将变得无意义。

为什么它在小样本上表现不佳?

如果观测值少于约 50 个,正常点和异常点之间的界限不清晰,假阳性率很高。在这种情况下,统计异常值方法或 PCA 是更安全的选择。

异常值是如何评分的?

每个点在随机树中的平均路径长度——分离它所需的划分次数——被转换为异常分数。平均路径短表示可能是异常值;平均路径长表示可能是正常点。

相关方法

参考文献

  1. Liu, F.T., Ting, K.M. & Zhou, Z.-H. (2008). Isolation Forest. IEEE ICDM, 413–422.

    打开 DOI 文献
    已复制。