提出的原因：给出“数据属于哪一类？” 这种明确的结果，分类器可能会给出错误的结果，可以让分类器给出一个最优的类别猜测结果，同时给出这个猜测的概率估计值。

在文档分类中，整个文档（如一个电子邮件）是实例，而电子邮件的某些元素则构成特征。

把每个词的出现或不出现作为一个特征，这样得到的特征数就和词汇表中的词目一样多。

使用python进行文本分类：

1. 准备数据：从文本中构建词向量

把句子转为向量--->需要建一个不重复词的列表（用set)--->1表示词条出现在文档中，0表示词条未出现在文档中

#创建实验样本
def loadDataSet():
    postingList=[['my', 'dog', 'has', 'flea', 'problems', 'help', 'please'],
                 ['maybe', 'not', 'take', 'him', 'to', 'dog', 'park', 'stupid'],
                 ['my', 'dalmation', 'is', 'so', 'cute', 'I', 'love', 'him'],
                 ['stop', 'posting', 'stupid', 'worthless', 'garbage'],
                 ['mr', 'licks', 'ate', 'my', 'steak', 'how', 'to', 'stop', 'him'],
                 ['quit', 'buying', 'worthless', 'dog', 'food', 'stupid']]
    classVec = [0,1,0,1,0,1]    #1 is abusive, 0 not
    return postingList,classVec

#创建一个包含在所有文档中出现的不重复词的列表，输入参数为某个文档，输出参数为不重复词的列表
def createVocabList(dataSet):
    vocabSet = set([])  #create empty set
    for document in dataSet:
        vocabSet = vocabSet | set(document) #union of the two sets
    return list(vocabSet)

def setOfWords2Vec(vocabList,inputSet):#输入参数是词汇表，文档
    returnVec=[0]*len(vocabList)
    for word in inputSet:
        if word in vocabList:
            returnVec[vocabList.index(word)]=1
        else:
            print"the word :%s is not in my Vocabulary!"%word
    return returnVec

将上述代码保存在bayes.py的文件中。

在python提示符下输入：

>>> import bayes
>>> postingList,classVec=bayes.loadDataSet()
>>> vocabList=bayes.createVocabList(postingList)
>>> vocabList
['love', 'posting', 'ate', 'how', 'not', 'so', 'dalmation', 'help', 'my', 'stop', 'buying', 'park', 'worthless', 'stupid', 'to', 'licks', 'is', 'take', 'mr', 'garbage', 'him', 'I', 'please', 'maybe', 'food', 'problems', 'steak', 'quit', 'has', 'cute', 'dog', 'flea']
>>> returnVec=bayes.setOfWords2Vec(vocabList,postingList[0])
>>> returnVec
[0, 0, 0, 0, 0, 0, 0, 1, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 1, 0, 0, 1, 0, 1, 1]

2.训练算法：从词向量计算概率

def _trainNB0(trainMatrix, trainCategory):
    """
    训练数据原版
    :param trainMatrix: 文件单词矩阵 [[1,0,1,1,1....],[],[]...]
    :param trainCategory: 文件对应的类别[0,1,1,0....]，列表长度等于单词矩阵数，其中的1代表对应的文件是侮辱性文件，0代表不是侮辱性矩阵
    :return:
    """
    # 文件数
    numTrainDocs = len(trainMatrix)
    # 单词数
    numWords = len(trainMatrix[0])
    # 侮辱性文件的出现概率，即trainCategory中所有的1的个数，
    # 代表的就是多少个侮辱性文件，与文件的总数相除就得到了侮辱性文件的出现概率
    pAbusive = sum(trainCategory) / float(numTrainDocs)
    # 构造单词出现次数列表
    p0Num = zeros(numWords) # [0,0,0,.....]
    p1Num = zeros(numWords) # [0,0,0,.....]

    # 整个数据集单词出现总数
    p0Denom = 0.0
    p1Denom = 0.0
    for i in range(numTrainDocs):
        # 是否是侮辱性文件
        if trainCategory[i] == 1:
            # 如果是侮辱性文件，对侮辱性文件的向量进行加和
            p1Num += trainMatrix[i] #[0,1,1,....] + [0,1,1,....]->[0,2,2,...]
            # 对向量中的所有元素进行求和，也就是计算所有侮辱性文件中出现的单词总数
            p1Denom += sum(trainMatrix[i])
        else:
            p0Num += trainMatrix[i]
            p0Denom += sum(trainMatrix[i])
    # 类别1，即侮辱性文档的[P(F1|C1),P(F2|C1),P(F3|C1),P(F4|C1),P(F5|C1)....]列表
    # 即 在1类别下，每个单词出现的概率
    p1Vect = p1Num / p1Denom# [1,2,3,5]/90->[1/90,...]
    # 类别0，即正常文档的[P(F1|C0),P(F2|C0),P(F3|C0),P(F4|C0),P(F5|C0)....]列表
    # 即 在0类别下，每个单词出现的概率
    p0Vect = p0Num / p0Denom
    return p0Vect, p1Vect, pAbusive

使用朴素贝叶斯进行文档分类

使用python进行文本分类：

猜你喜欢