数据预处理--持久化预处理后的数据

在做大型项目时,不要每次都做数据预处理!

  一般是一步一步来,1.做完预处理再做训练,2.做完训练再预测,3.然后根据预测的结果迭代调节模型和数据(交叉验证、过/欠采样等)。
  由于需要训练模型预测unknown值,预处理过程的时间代价比较大。因此将预处理后的数据持久化,保存到文件中,之后的学习模型直接读取文件数据进行训练预测,无须再预处理。

  简单的表述就是,将需要参数的部分和不需要参数的部分完全解耦合;将参数类型不同的部分解耦合。
  例如:将预处理的部分和网络的部分隔离开来。

猜你喜欢

转载自blog.csdn.net/wydbyxr/article/details/84754938