简易中文自动文摘系统(一):绪论

    由于毕业设计论文给定的题目是《基于TextRank算法的单文档自动文摘研究》,所以在毕业的前夕有幸接触自然语言处理的相关内容学习,前段时间一直忙于毕业的事情,也准备读研期间认真撰写技术博客,因此在研0暑假开始记录一些之前开发过的项目,下面会简单写一下基于TextRank算法的单文档自动文摘实现。

自动文摘的介绍

    随着大数据时代的到来,对于海量数据,自然语言处理越来越成为计算机科学和深度学习、人工智能领域重要研究方向。自然语言处理基于语言学、计算机科学、统计学等基础科学并重点集成于语言分析的人工智能一大分支。因此,自然语言处理的研究主要涉及自然语言,即人们生活中交流使用的语言,目前来说,国际上主流的语言有汉语、英语、法语、德语等等,它们的单词,句型,语法等都完全不相似,各有各的特点,因此自然语言的研究对于不同语言有着不同的处理方式,这也是自然语言处理的困难之一。总而言之,自然语言处理既与计算机科学息息相关,也与自然语言学有重要联系,但它也不完全等同于计算机科学+自然语言学。自然语言处理重点是对文章的语法语义语境进行分析处理,并经过一些算法,得能够有效分析处理人类自然语言的计算机系统及核心算法。

    人工智能的出现和深度学习的普及,自动文摘的提出,让传统人工文章摘要地位受到冲击。通过获取不同的自然语言,并使用计算机系统对文档进行语法语句语义的分析处理,生成一篇文章的摘要,可以做到对文摘的主要内容进行提取,节省读者的不必要阅读时间,大大提高了文章的阅读效率。但是传统的人工编写文章摘要在大数据时代,成本过于昂贵,并且得到优秀的文章摘要需要耗费大量时间,效率低下,显得力不从心,因此使用计算机进行自然语言处理快速得到文章的摘要技术得到飞速发展。

自动文摘分类

    目前自动文摘的方法主要有两种:机械文摘和理解文摘。

    机械文摘是抽取式的自动文摘方法,通过提取文档中已存在的关键词和句子形成摘要。机械文摘适用范围广,已经有应用于实际工程的抽取式自动文摘系统。抽取式自动文摘,顾名思义,是从整篇文章中获取一些关键句,将这些句子有机组合,得到一篇文章摘要,期间不修改句子本身。其中涉及到的技术有关键词、关键句抽取,句子语义分析,从而完成一篇简单自动文摘的目的。

    理解文摘是生成式的自动文摘方法,通过自然语言处理对文章的内容进行分机器分析、理解,再使用自然语言生成技术,生成不同于文章中原有句子的自动文章摘要。一般来说,抽理解文摘可以比抽取更有效地压缩文本,但是可以做到这一点的自动文摘系统更难以开发,因为它们需要使用自然语言生成技术,而自然语言生成技术本身就是一个仍在不断发展的技术。

    自动文摘是人工智能、自然语言处理领域的一个重要研究方向,经过50多年的研究发展,自动文摘技术已经可以运用于一部分自动文摘任务,但仍需突破很多关键技术,才能提高其应用价值、扩大其应用范围。



猜你喜欢

转载自blog.csdn.net/reigns_/article/details/80981589