数据分析08 /数据分析综合项目-用户消费行为分析
第一部分：数据类型处理
数据加载
- 字段含义：
- user_id:用户ID
- order_dt:购买日期
- order_product:购买产品的数量
- order_amount:购买金额
- 字段含义：
观察数据
查看数据的数据类型
数据中是否存储在缺失值
将order_dt转换成时间类型
查看数据的统计描述
- 计算所有用户购买商品的平均数量
- 计算所有用户购买商品的平均花费
在源数据中添加一列表示月份:astype('datetime64[M]')
代码实现：
import pandas as pd import matplotlib.pyplot as plt加载数据
df = pd.read_csv('./data/CDNOW_master.txt',header=None,sep='\s+',names=['user_id','order_dt','order_product','order_amount']) # \s+表示任意多个空串值 # names指定原数据的列索引查看数据的数据类型
df.info() # 1.原数据中没有空值 # 2.order_dt不是时间类型 """ <class 'pandas.core.frame.DataFrame'> RangeIndex: 69659 entries, 0 to 69658 Data columns (total 4 columns): user_id 69659 non-null int64 order_dt 69659 non-null int64 order_product 69659 non-null int64 order_amount 69659 non-null float64 dtypes: float64(1), int64(3) memory usage: 2.1 MB """将order_dt转成时间序列类型
df['order_dt'] = pd.to_datetime(df['order_dt'],format='%Y%m%d') df.info()查看原始数据的统计描述
df.describe()在源数据中添加一列表示月份
df['month'] = df['order_dt'].values.astype('datetime64[M]') df.head() # datetime64[M]表示的月份类型
第二部分：按月数据分析
- 用户每月花费的总金额
- 绘制曲线图展示
- 所有用户每月的产品购买量
- 所有用户每月的消费总次数
统计每月的消费人数
代码实现：
用户每月花费的总金额
df.groupby(by='month')['order_amount'].sum() # 绘制线形图 df.groupby(by='month')['order_amount'].sum().plot() # 可以直接.plot生成线性图
所有用户每月的产品购买量
df.groupby(by='month')['order_product'].sum() # 绘制线性图 df.groupby(by='month')['order_product'].sum().plot()所有用户每月的消费总次数(用户在原数据中出现一次表示消费一次)
df.groupby(by='month')['user_id'].count()统计每月的消费人数
# 方式一：通过nunique df.groupby(by='month')['user_id'].nunique() # nunique()统计去重之后的数量 # 方式2：分组的高级聚合 df.groupby(by='month')['user_id'].apply(lambda x:len(x.drop_duplicates()))
第三部分：用户个体消费数据分析
- 用户消费总金额和消费总次数的统计描述
- 用户消费金额和消费次数的散点图
- 各个用户消费总金额的直方分布图(消费金额在1000之内的分布)
各个用户消费的总数量的直方分布图(消费商品的数量在100次之内的分布)
代码实现：
用户消费总金额和购买总数数量的统计描述
user_datas = df.groupby(by='user_id').sum() df.groupby(by='user_id').sum().describe()用户消费金额和消费次数的散点图
plt.scatter(user_datas['order_product'],user_datas['order_amount']) plt.xlabel('order_product') plt.ylabel('order_amount')
各个用户消费总金额的直方分布图(消费金额在1000之内的分布)
# 筛选各个用户消费总金额 df.groupby(by='user_id')['order_amount'].sum() # 筛选各个用户消费总金额在1000之内的 user_amount = df.groupby(by='user_id').sum().query('order_amount < 1000')['order_amount'] # 绘制直方分布图 plt.hist(user_amount,bins=20)
各个用户消费总购买商品的数量的直方分布图(消费商品的数量在100次之内的分布)
user_product = df.groupby(by='user_id').sum().query('order_product < 100')['order_product'] plt.hist(user_product,bins=20)
第四部分：用户消费行为分析
- 用户第一次消费的月份分布和人数统计
- 绘制线形图
- 用户最后一次消费的时间分布和人数统计
- 绘制线形图
- 新老客户的占比
- 消费一次为新用户
- 消费多次为老用户
- 分析出每一个用户的第一个消费和最后一次消费的时间
- agg(['func1','func2']):对分组后的结果进行指定聚合
- 分析出新老客户的消费比例
- 分析出每一个用户的第一个消费和最后一次消费的时间
- 用户分层
- 分析得出每个用户的总购买量和总消费金额and最近一次消费的时间的表格rfm
- RFM模型设计
- R表示客户最近一次交易时间的间隔。
- /np.timedelta64(1,'D')：去除days
- F表示客户购买商品的总数量,F值越大，表示客户交易越频繁，反之则表示客户交易不够活跃。
- M表示客户交易的金额。M值越大，表示客户价值越高，反之则表示客户价值越低。
- 将R，F，M作用到rfm表中
- R表示客户最近一次交易时间的间隔。
- 根据价值分层，将用户分为：
- 重要价值客户
- 重要保持客户
- 重要挽留客户
- 重要发展客户
- 一般价值客户
- 一般保持客户
- 一般挽留客户
- 一般发展客户
- 使用已有的分层模型即可rfm_func
分析
- 首购时间：将用户消费时间的最小值求出，这个值就是该用户第一次消费的时间
- 最后一次消费时间：将用户消费时间的最大值求出，这个值就是该用户最后一次消费的时间
代码实现：
用户第一次消费的月份分布和人数统计
df.groupby(by='user_id')['month'].min() # 用户第一次消费的月份分布 df.groupby(by='user_id')['month'].min().value_counts() # 统计每个月第一次消费用的人数 # 将首购对应的月份分布绘图 df.groupby(by='user_id')['month'].min().value_counts().plot()
用户最后一次消费的时间分布和人数统计
df.groupby(by='user_id')['month'].max() df.groupby(by='user_id')['month'].max().value_counts() # 绘图 df.groupby(by='user_id')['month'].max().value_counts().plot()
求出新老用户的占比
# 求出新老用户的占比 # 新用户：一次消费的用户 # 老用户：多次消费的用户 # 核心思路：将每一个用户的首购时间和最后一次消费时间求出，判断这两个时间是否一致 # 一致：新用户 # 不一致：老用户 # agg分组后进行多种不同形式的聚合操作 user_left = df.groupby(by='user_id')['order_dt'].agg(['min','max']) user_left['min'] == user_left['max'] # true：新用户，False：老用户 user = (user_left['min'] == user_left['max']).value_counts() # 求出true和false的个数 old = user[0] new = user[1] new/old分析得出每个用户的总购买量和总消费金额and最近一次消费的时间的表格rfm
rfm = df.pivot_table(index='user_id',aggfunc={'order_product':'sum','order_amount':'sum','order_dt':'max'}) rfm.head()
RFM模型设计
import numpy as np # R表示客户最近一次交易时间的间隔 rfm['R'] = -(rfm['order_dt'] - rfm['order_dt'].max())/np.timedelta64(1,'D') rfm.head() # /np.timedelta64(1,'D')为了去除days # 修改order_amount、order_product的列索引 rfm.rename(columns={'order_amount':"M",'order_product':'F'},inplace=True)
根据价值分层
def rfm_func(x): # 存储的是三个字符串形式的0或者1 level = x.map(lambda x :'1' if x >= 0 else '0') label = level.R + level.F + level.M d = { '111':'重要价值客户', '011':'重要保持客户', '101':'重要挽留客户', '001':'重要发展客户', '110':'一般价值客户', '010':'一般保持客户', '100':'一般挽留客户', '000':'一般发展客户' } result = d[label] return result # df.apply(func):可以对df中的行或者列进行某种（func）形式的运算 rfm['label'] = rfm[['R','F','M']].apply(lambda x : x - x.mean()).apply(rfm_func,axis = 1) rfm.head()
统计不同层次用户的个数
rfm.groupby(by='label').count()
第五部分：用户的生命周期
- 将用户划分为活跃用户和其他用户
- 统计每个用户每个月的消费次数
- 统计每个用户每个月是否消费，消费记录为1否则记录为0
- 知识点：DataFrame的apply和applymap的区别
- applymap:返回df
- 将函数做用于DataFrame中的所有元素(elements)
- apply:返回Series
- apply()将一个函数作用于DataFrame中的每个行或者列
- 知识点：DataFrame的apply和applymap的区别
- 将用户按照每一个月份分成：
- unreg:观望用户（前两月没买，第三个月才第一次买,则用户前两个月为观望用户）
- unactive:首月购买后，后序月份没有购买则在没有购买的月份中该用户的为非活跃用户
- new:当前月就进行首次购买的用户在当前月为新用户
- active:连续月份购买的用户在这些月中为活跃用户
- return:购买之后间隔n月再次购买的第一个月份为该月份的回头客
代码实现：
统计每个用户每个月的消费次数
user_order_count_df = df.pivot_table(index='user_id',values='order_dt',aggfunc='count',columns='month').fillna(0)统计每个用户每个月是否消费，消费记录为1否则记录为0
# 将上个需求返回的df中每一个元素（用户的消费次数）进行运算（如果元素值>=1说明消费记为1，否则记为0） df_purchase = user_order_count_df.applymap(lambda x:1 if x >= 1 else 0) df_purchase # 存储的就是用户每个月的是否消费的情况展示将df_purchase中的原始数据0和1修改为new，unactive......,返回新的df叫做df_purchase_new
# 固定算法 def active_status(data): status = [] # 某个用户每一个月的活跃度 for i in range(18): # 若本月没有消费 if data[i] == 0: if len(status) > 0: if status[i-1] == 'unreg': status.append('unreg') else: status.append('unactive') else: status.append('unreg') # 若本月消费 else: if len(status) == 0: status.append('new') else: if status[i-1] == 'unactive': status.append('return') elif status[i-1] == 'unreg': status.append('new') else: status.append('active') return status pivoted_status = df_purchase.apply(active_status,axis = 1) pivoted_status.head()
每月【不同活跃】用户的计数
pivoted_status.apply(lambda x:pd.value_counts(x),axis=0).fillna(0)
转置进行最终结果的查看
pivoted_status.apply(lambda x:pd.value_counts(x),axis=0).fillna(0).T