文本分类——什么是数据线性可分?

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/baiziyuandyufei/article/details/82715786

分类问题是当下最热的机器学习的一种应用。分类问题主要有三个关键点,分别是数据、模型和评价。数据的好坏关系到模型的准确性,在实际应用中往往会发现,影响系统准确性的因素,往往不是使用了多少不同的分类模型,而是训练数据。本文介绍数据的一个方面即数据的线性可分性。

学过函数的话,一定知道函数可以分为线性函数和非线性函数。在直角坐标系中,对函数描点作图为直线的话,就是线性函数;为曲线的话,就是非线性函数。

因为平面直角坐标系是初中数学知识,所以就从这个维度说明数据的线性可分。假设现在有一堆训练数据,它们是由两类点组成的,其中一类点用三角符号画在坐标系中,另一类点用圆圈画在坐标系中。现在拿出直尺和笔在坐标系中画一条直线,如果可以把三角点分到直线的一边,圆圈点分到直线的另一边的话,就说这个训练数据是线性可分的;否则,数据就是线性不可分的。

在文本分类中,我们用向量表示一篇文章或一句评论。向量在高中时都学过,但那时的向量是可以画在平面坐标系里的,所以那是2维向量,就是一个点有横坐标分量和纵坐标分量。但是在文本向量这里,不能用2维,往往一个向量有几百甚至几千维,也就是说没法画出来。当你看了一些书中可以用点来表示文本的时候,那是使用了特征降维的技术,把几千个分量映射到2个分量。说到这里,不得不说在应用支持向量机进行文本分类时,使用核函数与否,对于系统准确性来讲,没有太大区别。也就是说可以近似认为当前的文本向量表示的数据都是线性可分数据。

更严谨的数学表示为
这里写图片描述

猜你喜欢

转载自blog.csdn.net/baiziyuandyufei/article/details/82715786
今日推荐