数据整理与预处理
– 数据清洗
– 合并数据集
– 数据转换
– 重塑和轴向旋转
– 字符串操作
====================================================
一、数据清洗
缺失值处理
删除记录
数据插补
拉格朗日插值法，牛顿插值法，均值，中位数，固定值，回归法等
不处理
异常值处理
****************************************************************************
拉格朗日插值法
# 环境设置
# -*- coding: utf-8 -*-
from __future__ import division
import numpy as np
import os
import matplotlib.pyplot as plt
from scipy.interpolate import lagrange #导入拉格朗日插值函数
np.random.seed(12345)
plt.rc('figure', figsize=(10, 6))
from pandas import Series, DataFrame
import pandas as pd
np.set_printoptions(precision=4, threshold=500)
pd.options.display.max_rows = 100
###缺失值处理——拉格朗日插值法
inputfile = 'C:/python/socket/data/catering_sale.xls' #销量数据路径
outputfile = 'C:/python/socket/data/sales.xls' #输出数据路径
data = pd.read_excel(inputfile) #读入数据
data[u'销量'][(data[u'销量'] < 400) | (data[u'销量'] > 5000)] = None
#自定义列向量插值函数
#s为列向量，n为被插值的位置，k为取前后的数据个数，默认为5
def ployinterp_column(s, n, k=5):
y = s[list(range(n-k, n)) + list(range(n+1, n+1+k))] #取数
y = y[y.notnull()] #剔除空值
return lagrange(y.index, list(y))(n) #插值并返回插值结果
#逐个元素判断是否需要插值
for i in data.columns:
for j in range(len(data)):
if (data[i].isnull())[j]: #如果为空即插值。
data[i][j] = ployinterp_column(data[i], j)
data.to_excel(outputfile) #输出结果，写入文件
************************************************************************
二、合并数据集
pandas对象
merge方法：根据一个或者多个键将不同的dataframe中的行合并，同关系型数据库的join操作
cancat方法：沿一条轴将多个对象堆叠起来，类似数据库的union操作
数据库风格的dataframe合并
merge
merge参数：left、right、how、on