它有什么作用?
自动文本摘要是一项自然语言处理任务,旨在将长文档压缩成更短的摘要,同时保留其关键信息。它通过两种方法实现——抽取式摘要,选择源文本中最重要的片段;或生成式摘要,生成新的文本。该领域由 Nenkova 和 McKeown (2011) 整合,而像 BART (Lewis et al., 2020) 这样的序列到序列模型则推动了生成式方法的发展。
方法背后的直觉
阅读长文档以提取其核心信息速度慢,且无法处理大量文档。摘要的目标是在使文本显著缩短的同时保留关键信息。抽取式方法类似于荧光笔,将信息量最大的句子从源文本中提取出来;生成式方法更像一个人用更少的词重写要点。无论哪种方式,输出的都是一个紧凑的摘要,读者可以比原文吸收得更快。
历史学
自动摘要由 Nenkova 和 McKeown (2011) 进行调查和整合,他们将文本缩减同时保留关键信息跨抽取式和生成式两条线框定为一项任务。像 BART (Lewis et al., 2020) 这样的预训练序列到序列模型在生成式方面取得了显著进展,它们使用去噪预训练来生成压缩文本。
何时使用
当您拥有足够长的文档值得压缩,并且源语言得到所选方法的支持时,文本摘要就适用。它适用于文本数据的描述性和探索性目标,可用于横断面或纵向数据集。如果文档数量太少,生成式模型无法可靠训练——回退到关键词提取来获取关键信息——如果根本没有文本数据,则无法运行摘要。
局限与注意事项
- 生成式模型在极少量的文档上无法可靠训练。
- 性能取决于源语言是否得到所选方法的支持。
- 文档必须足够长,包含有意义的内容可供压缩。
来源中的条件不能替代独立的科学审查或分析引擎的验证。
优势
- 将长文档压缩成更短的摘要,同时保留关键信息。
- 提供两种互补的方法:抽取式选择源文本片段和生成式生成新文本。
- 将阅读工作扩展到许多或冗长的文档,这些文档如果全部阅读会很慢。
应用
- 为读者快速吸收要点而生成长报告或文章的短摘要。
- 压缩大量文档以进行探索性审查。
- 从冗长的源文本生成摘要或简报。
- 对人文、社会科学、商业和自然科学研究中的文本语料库进行摘要。
使用方式
使用方式
将足够长的源文档或多个源文档作为输入。摘要需要有足够内容可供压缩的文本,因此非常短的片段几乎没有压缩空间;该方法针对较长的文档,因为压缩确实能为读者节省时间。
对原始文本进行清理,并将其分割成可分析的单元,如句子或词元。由于源语言必须得到所选方法的支持,此步骤还确认文档语言是模型或抽取方法可以处理的语言之一。
生成一个较短的摘要。抽取式方法对源文本中最重要的片段进行评分和选择,而生成式方法则使用序列到序列模型生成新的、压缩的措辞。原始文本的关键信息得以保留,同时长度得以缩减。
将摘要与源文本进行比较,检查关键信息的覆盖范围和长度,并在使用该方法之前检查输出。这可以防止摘要丢失关键内容,或在生成式情况下引入源文本中未有的措辞。
常见陷阱
- 在语料库过小(少于约 100 篇文档)的情况下运行生成式模型——回退到关键词提取来获取关键信息。
- 将摘要应用于模型或抽取方法不支持的语言会降低输出质量。
- 尝试在没有实际文本数据的情况下进行摘要;对于结构化数据,描述性统计是替代方案。
- 在未将摘要与源文本进行比较以检查丢失的关键信息或(在生成式情况下)不支持的措辞的情况下,信任摘要。
常见问题
抽取式还是生成式——我应该使用哪种?
抽取式摘要直接从源文本中选择和拼接最重要的片段,因此它忠实于原文措辞。生成式摘要使用序列到序列模型生成新的、压缩的文本,这可能读起来更自然,但需要训练有素的模型和足够的数据。在小型或敏感语料库上,抽取式是更安全的选择;生成式适用于需要自然改写的较大集合。
我需要多少文档?
摘要针对足够长的文档,实际最小数量约为 20 篇。在少于大约 100 篇文档的情况下训练或依赖生成式模型是不可靠的;在这种情况下,请改用关键词提取来捕获关键信息。
它在英语以外的语言中有效吗?
是的,前提是源语言得到所选方法的支持。将模型或抽取方法应用于不支持的语言是导致摘要质量差的常见原因。
如果我没有文本数据怎么办?
没有文本就无法运行摘要。如果您的数据是结构化的而不是自由文本,描述性统计是传达其关键信息的合适替代方案。