一切尽在代码中
python自己下载数据集 是真的慢…
from sklearn.datasets import fetch_20newsgroups
from sklearn.model_selection import train_test_split
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.naive_bayes import MultinomialNB
# 朴素贝叶斯没有超参数 不需要调参
def naviebayes():
# 朴素贝叶斯进行文本分类
print("*" * 100)
# 分类数据集
# subset 可以指定all train test 表示下载不同的数据集
# 默认下载到家目录下 sklearn_down....
news = fetch_20newsgroups(subset='all')
# 进行数据分割
x_train, x_test, y_train, y_test = train_test_split(news.data, news.target, test_size=0.25)
# 对数据集进行特征抽取 默认使用tfidf
tf = TfidfVectorizer()
# 以训练集中词的列表进行每篇文章重要性统计
x_train = tf.fit_transform(x_train)
print(tf.get_feature_names())
x_test = tf.transform(x_test)
# 进行朴素贝叶斯算法的预测
# 其中alpha是朴素贝叶斯中的拉普拉斯常量 避免因为个别数据 使得概率为0
mlt = MultinomialNB(alpha=1.0)
# print(x_train.toarray())
# 由于训练集转化之后会出现onehot的编码
# 即会出现大量的 0 所以不建议转化.toarray()反正 在我电脑上 转了就跑不出来
# 贼尼玛真实
print(x_train)
mlt.fit(x_train, y_train)
y_predict = mlt.predict(x_test)
# 得出准确率
print("准确率为:" , mlt.score(x_test, y_test))
if __name__ == '__main__':
naviebayes()