【学习笔记】sklearn数据集与估计器

数据集划分

机器学习一般的数据集会划分为两个部分:

  • 训练数据:用于训练,构建模型
  • 测试数据:在模型检验时使用,用于评估模型是否有效

训练数据和测试数据常用的比例一般为:70%: 30%, 80%: 20%, 75%: 25%

sklearn数据集划分API:

sklearn.model_selection.train_test_split

常用参数:

  • 特征值和目标值
  • test_size:测试数据的大小,默认为0.25

返回值:训练数据特征值,测试数据特征值,训练数据目标值,测试数据目标值的元组

scikit-learn数据集API

自己准备数据集耗时耗力,而且不一定真实,scikit-learn提供了非常方便的获取数据集的API。

sklearn.datasets:加载获取流行数据集

  • datasets.load_*():获取小规模数据集,数据包含在datasets里
  • datasets.fetch_*(data_home=None):获取大规模数据集,需要从网络上下载,函数的第一个参数是data_home,表示数据集下载的目录,默认是 ~/scikit_learn_data/
  • datasets.make_*():本地生成数据集

load*和 fetch* 函数返回的数据类型是 datasets.base.Bunch,本质上是一个 dict,它的键值对可用通过对象的属性方式访问。主要包含以下属性:

  • data:特征数据数组,是 n_samples * n_features 的二维 numpy.ndarray 数组
  • target:标签数组,是 n_samples 的一维 numpy.ndarray 数组
  • DESCR:数据描述
  • feature_names:特征名
  • target_names:标签名

数据集目录可以通过datasets.get_data_home()获取,clear_data_home(data_home=None)删除所有下载数据

datasets.get_data_home(data_home=None):返回scikit学习数据目录的路径。这个文件夹被一些大的数据集装载器使用,以避免下载数据。默认情况下,数据目录设置为用户主文件夹中名为“scikit_learn_data”的文件夹。或者,可以通过“SCIKIT_LEARN_DATA”环境变量或通过给出显式的文件夹路径以编程方式设置它。'〜'符号扩展到用户主文件夹。如果文件夹不存在,则会自动创建。

sklearn.datasets.clear_data_home(data_home=None):删除存储目录中的数据

加载小批量数据:

加载并返回鸢尾花数据集,并对其进行划分:

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split

li = load_iris()
# print("获取特征值")
# print(li.data)
# print("获取目标值")
# print(li.target)
# print(li.DESCR)
x_train, x_test, y_train, y_test = train_test_split(
    li.data, li.target, test_size=0.25)
print("训练集特征值和目标值", x_train, y_train)
print("测试集特征值和目标值", x_test, y_test)

加载大批量的数据:

sklearn.datasets.fetch_20newsgroups(data_home=None,subset=‘train’)

  • subset: 'train'或者'test','all',可选,选择要加载的数据集.训练集的“训练”,测试集的“测试”,两者的“全部
from sklearn.datasets import load_iris, fetch_20newsgroups

news = fetch_20newsgroups()

print(news.data)
print(news.target)

加载波士顿房价

from sklearn.datasets import load_boston

lb = load_boston()
print("获取特征值")
print(lb.data)
print("获取目标值")
print(lb.target)
print(lb.DESCR)

sklearn机器学习算法的实现-估计器

在sklearn中,估计器(estimator)是一个重要的角色,分类器和回归器都属于estimator,是一类实现了算法的API。

  • fit方法用于从训练集中学习模型参数
  • transform用学习到的参数转换数据

1、用于分类的估计器:

  • sklearn.neighbors k-近邻算法

  • sklearn.naive_bayes 贝叶斯

  • sklearn.linear_model.LogisticRegression 逻辑回归

2、用于回归的估计器:

  • sklearn.linear_model.LinearRegression 线性回归

  • sklearn.linear_model.Ridge 岭回归

估计器的工作流程:

猜你喜欢

转载自www.cnblogs.com/zhangfengxian/p/10547159.html