Pythonデータ分析とマイニング実戦（商品小売買い物カゴ分析）

I.はじめに

        マーケットバスケット分析は、ビジネス分野において最も最先端かつ挑戦的な問題の 1 つであり、多くの企業にとって重要な研究課題でもあります。買い物かご分析は、顧客が購買行動の際に買い物かごに入れるさまざまな商品間の関係を発見し、顧客の購買行動を調査することで、小売企業のマーケティング戦略の策定を支援するデータ分析手法です。
       この記事では、Apriori 相関ルール アルゴリズムを使用して買い物かご分析を実装し、スーパーマーケット内のさまざまな商品間の相関関係を発見し、商品間の相関ルールに従って販売戦略を策定します。

2. データの探索と分析

2.1 データの特性を表示する

各列の属性、最大値、最小値を確認して、データの特徴を検索することが、データを理解するための第一歩です。

import numpy as np
import pandas as pd

inputfile = './data/GoodsOrder.csv'   # 输入的数据文件
data = pd.read_csv(inputfile,encoding = 'gbk')  # 读取数据
data .info()  # 查看数据属性

data = data['id']
description = [data.count(),data.min(), data.max()]  # 依次计算总数、最小值、最大值
description = pd.DataFrame(description, index = ['Count','Min', 'Max']).T  # 将结果存入数据框
print('描述性统计结果：\n',np.round(description))  # 输出结果

結果は次のとおりです

 各列属性に 43367 個の観測値があり、欠損値がないことがわかります。「id」属性の最大値と最小値を使用することで、商品小売業者が収集した169種類の商品カテゴリ、合計43,367個の販売商品を含む合計9,835個の買い物かごデータを取得できます。

2.2 売れ筋商品の分析

売れ筋の分析は製品選択に役立ちます。売上高上位 10 製品の売上高と売上高に占める割合を計算し、棒グラフを描画して上位 10 製品の売上高を表示します。

# 销量排行前10商品的销量及其占比
import pandas as pd
inputfile = './data/GoodsOrder.csv'  # 输入的数据文件
data = pd.read_csv(inputfile,encoding = 'gbk')  # 读取数据
group = data.groupby(['Goods']).count().reset_index()  # 对商品进行分类汇总
sorted=group.sort_values('id',ascending=False)
print('销量排行前10商品的销量:\n', sorted[:10])  # 排序并查看前10位热销商品

# 画条形图展示出销量排行前10商品的销量
import matplotlib.pyplot as plt
x=sorted[:10]['Goods']
y=sorted[:10]['id']
plt.figure(figsize = (8, 4))  # 设置画布大小 
plt.barh(x,y)
plt.rcParams['font.sans-serif'] = 'SimHei'
plt.xlabel('销量')  # 设置x轴标题
plt.ylabel('商品类别')  # 设置y轴标题
plt.title('商品的销量TOP10(3001)')  # 设置标题
plt.savefig('./data//top10.png')  # 把图片以.png格式保存
plt.show()  # 展示图片

# 销量排行前10商品的销量占比
data_nums = data.shape[0]
for idnex, row in sorted[:10].iterrows():
    print(row['Goods'],row['id'],row['id']/data_nums)

結果は次のとおりです

 

 売れ筋商品の結果を分析すると、全乳の販売量が 2513 品目中 5.795% を占めて最も多く、次いでその他の野菜、ロールパン、ソーダが 4.388%、4.171% を占めていることがわかります。 、および 3.955% それぞれ。

2.3 商品構造の分析

各タイプの商品の人気を分析することは、棚上の商品の配置戦略と位置を策定するのに役立ちます。分類後の商品カテゴリーごとの売上高と割合を分析した後、商品カテゴリーごとの売上高の割合を示す円グラフを作成します。

import pandas as pd
inputfile1 = './data/GoodsOrder.csv'
inputfile2 = './data/GoodsTypes.csv'
data = pd.read_csv(inputfile1,encoding = 'gbk')
types = pd.read_csv(inputfile2,encoding = 'gbk')  # 读入数据

group = data.groupby(['Goods']).count().reset_index()
sort = group.sort_values('id',ascending = False).reset_index()
data_nums = data.shape[0]  # 总量
del sort['index']

sort_links = pd.merge(sort,types)  # 合并两个datafreame 根据type
# 根据类别求和，每个商品类别的总量，并排序
sort_link = sort_links.groupby(['Types']).sum().reset_index()
sort_link = sort_link.sort_values('id',ascending = False).reset_index()
del sort_link['index']  # 删除“index”列

# 求百分比，然后更换列名，最后输出到文件
sort_link['count'] = sort_link.apply(lambda line: line['id']/data_nums,axis=1)
sort_link.rename(columns = {'count':'percent'},inplace = True)
print('各类别商品的销量及其占比:\n',sort_link)
outfile1 = './data/percent.csv'
sort_link.to_csv(outfile1,index = False,header = True,encoding='gbk')  # 保存结果

# 画饼图展示每类商品销量占比
import matplotlib.pyplot as plt
data = sort_link['percent']
labels = sort_link['Types']
plt.figure(figsize=(8, 6))  # 设置画布大小   
plt.pie(data,labels=labels,autopct='%1.2f%%')
plt.rcParams['font.sans-serif'] = 'SimHei'
plt.title('每类商品销量占比(3001)')  # 设置标题
plt.savefig('./data/persent.png')  # 把图片以.png格式保存
plt.show()

結果は次のとおりです

 

 商品カテゴリーごとの売上高と割合を分析すると、清涼飲料水、菓子パン、青果の売上高に大きな差はなく、全体の約50％を占めていることがわかります。

1位の清涼飲料と2位の菓子パンの内部構造を詳しく見て、その売上比率を円グラフで表してみる

# 筛选“非酒精饮料”类型的商品，然后求百分比。
alcohol = sort_links.loc[sort_links['Types'] == '非酒精饮料']  # 挑选商品类别为“非酒精饮料”并排序
child_nums = alcohol['id'].sum()  # 对所有的“非酒精饮料”求和
alcohol['child_percent'] = alcohol.apply(lambda line: line['id']/child_nums,axis = 1)  # 求百分比
alcohol.rename(columns = {'id':'count'},inplace = True)
print('非酒精饮料内部商品的销量及其占比:\n',alcohol)
# 筛选“西点”类型的商品，然后求百分比。
desserts = sort_links.loc[sort_links['Types'] == '西点']  # 挑选商品类别为“西点”并排序
child_nums = desserts['id'].sum()  # 对所有的“西点”求和
desserts['child_percent'] = desserts.apply(lambda line: line['id']/child_nums,axis = 1)  # 求百分比
desserts.rename(columns = {'id':'count'},inplace = True)
print('西点内部商品的销量及其占比:\n',desserts)

# 画饼图展示非酒精饮品内部各商品的销量占比
import matplotlib.pyplot as plt
data = alcohol['child_percent']
labels = alcohol['Goods']
plt.figure(figsize = (8,6))  # 设置画布大小 
explode = (0.02,0.03,0.04,0.05,0.06,0.07,0.08,0.08,0.3,0.1,0.3)  # 设置每一块分割出的间隙大小
plt.pie(data,explode = explode,labels = labels,autopct = '%1.2f%%',
        pctdistance = 1.1,labeldistance = 1.2)
plt.rcParams['font.sans-serif'] = 'SimHei'
plt.title("非酒精饮料内部各商品的销量占比(3001)")  # 设置标题
plt.axis('equal')
plt.show()  # 展示图形
# 画饼图展示西点内部各商品的销量占比
data = desserts['child_percent']
labels = desserts['Goods']
plt.figure(figsize = (8,6))  # 设置画布大小 
plt.pie(data,explode = None ,labels = labels,autopct = '%1.2f%%',
        pctdistance = 1.1,labeldistance = 1.2)
plt.rcParams['font.sans-serif'] = 'SimHei'
plt.title("西点内部各商品的销量占比(3001)")  # 设置标题
plt.axis('equal')
plt.show()  # 展示图形

結果は次のとおりです

 

 

 ノンアルコール飲料の売上とその状況を分析すると、全乳の売上がノンアルコール飲料全体の売上の 33% 以上を占め、最初の 3 つのノンアルコール飲料の売上が好調であることがわかります。清涼飲料の売上高に占める割合は3割と7割近くに達しています。

同様に、ウエスト ポイントの社内製品の売上とその状況を分析すると、ロールパンの売上がウエスト ポイントの総売上の 25% 以上を占め、次いでペストリーが 12.17% を占めています。

3. データの前処理

3.1 データ変換

データの探索と分析を通じて、データが完全であり、欠損値がないことがわかります。アソシエーション分析にApriori関数を使用するには、モデリングの前にデータの形式を変更する必要があります

import pandas as pd
inputfile='./data/GoodsOrder.csv'
data = pd.read_csv(inputfile,encoding = 'gbk')

# 根据id对“Goods”列合并，并使用“，”将各商品隔开
data['Goods'] = data['Goods'].apply(lambda x:','+x)
data = data.groupby('id').sum().reset_index()

# 对合并的商品列转换数据格式
data['Goods'] = data['Goods'].apply(lambda x :[x[1:]])
data_list = list(data['Goods'])

# 分割商品名为每个元素
data_translation = []
for i in data_list:
    p = i[0].split(',')
    data_translation.append(p)
print('数据转换结果的前5个元素：\n', data_translation[0:5])

結果は次のとおりです

 4. モデルの構築

4.1 商品買物カゴの協会ルールモデルの構築

モデリング プロセスを図に示します。

       モデルは主に、入力、アルゴリズム処理、出力の 3 つの部分で構成されます。入力部には、モデリングサンプルデータの入力とモデリングパラメータの入力が含まれる。アルゴリズム処理部分は、Apriori 相関ルール アルゴリズムによって処理されます。出力部分は、Apriori 相関ルール アルゴリズムによって処理された結果です。
       モデルの具体的な実装手順: まず、モデリング パラメーターの最小サポートと最小信頼度を設定し、モデリング サンプル データを入力します。次に、アプリオリ相関ルール アルゴリズムを使用してモデル化されたサンプル データを分析し、最小サポートと最小信頼度を使用します。モデルパラメータで設定 次数と解析目的を条件として使用し、すべてのルールが条件を満たさない場合はモデルパラメータを再調整する必要があり、満たさない場合は相関ルールの結果が出力されます。
       現時点では、最小サポートと最小信頼度を設定する方法についての統一された基準はありません。ほとんどの場合、ビジネス経験に基づいて初期値を設定し、いくつかの調整を経て、ビジネスと一致する相関ルールの結果が得られます。この場合、複数の調整を経て、実際のビジネス分析と組み合わせた後、選択されたモデルの入力パラメーターは次のようになります: 最小サポート度は 0.02、最小信頼度は 0.35 です。

from numpy import *
 
def loadDataSet():
    return [['a', 'c', 'e'], ['b', 'd'], ['b', 'c'], ['a', 'b', 'c', 'd'], ['a', 'b'], ['b', 'c'], ['a', 'b'],
            ['a', 'b', 'c', 'e'], ['a', 'b', 'c'], ['a', 'c', 'e']]
 
def createC1(dataSet):
    C1 = []
    for transaction in dataSet:
        for item in transaction:
            if not [item] in C1:
                C1.append([item])
    C1.sort()
    # 映射为frozenset唯一性的，可使用其构造字典
    return list(map(frozenset, C1))     
    
# 从候选K项集到频繁K项集（支持度计算）
def scanD(D, Ck, minSupport):
    ssCnt = {}
    for tid in D:   # 遍历数据集
        for can in Ck:  # 遍历候选项
            if can.issubset(tid):  # 判断候选项中是否含数据集的各项
                if not can in ssCnt:
                    ssCnt[can] = 1  # 不含设为1
                else:
                    ssCnt[can] += 1  # 有则计数加1
    numItems = float(len(D))  # 数据集大小
    retList = []  # L1初始化
    supportData = {}  # 记录候选项中各个数据的支持度
    for key in ssCnt:
        support = ssCnt[key] / numItems  # 计算支持度
        if support >= minSupport:
            retList.insert(0, key)  # 满足条件加入L1中
            supportData[key] = support  
    return retList, supportData
 
def calSupport(D, Ck, min_support):
    dict_sup = {}
    for i in D:
        for j in Ck:
            if j.issubset(i):
                if not j in dict_sup:
                    dict_sup[j] = 1
                else:
                    dict_sup[j] += 1
    sumCount = float(len(D))
    supportData = {}
    relist = []
    for i in dict_sup:
        temp_sup = dict_sup[i] / sumCount
        if temp_sup >= min_support:
            relist.append(i)
# 此处可设置返回全部的支持度数据（或者频繁项集的支持度数据）
            supportData[i] = temp_sup
    return relist, supportData
 
# 改进剪枝算法
def aprioriGen(Lk, k):
    retList = []
    lenLk = len(Lk)
    for i in range(lenLk):
        for j in range(i + 1, lenLk):  # 两两组合遍历
            L1 = list(Lk[i])[:k - 2]
            L2 = list(Lk[j])[:k - 2]
            L1.sort()
            L2.sort()
            if L1 == L2:  # 前k-1项相等，则可相乘，这样可防止重复项出现
                # 进行剪枝（a1为k项集中的一个元素，b为它的所有k-1项子集）
                a = Lk[i] | Lk[j]  # a为frozenset()集合
                a1 = list(a)
                b = []
                # 遍历取出每一个元素，转换为set，依次从a1中剔除该元素，并加入到b中
                for q in range(len(a1)):
                    t = [a1[q]]
                    tt = frozenset(set(a1) - set(t))
                    b.append(tt)
                t = 0
                for w in b:
                    # 当b（即所有k-1项子集）都是Lk（频繁的）的子集，则保留，否则删除。
                    if w in Lk:
                        t += 1
                if t == len(b):
                    retList.append(b[0] | b[1])
    return retList

def apriori(dataSet, minSupport=0.2):
# 前3条语句是对计算查找单个元素中的频繁项集
    C1 = createC1(dataSet)
    D = list(map(set, dataSet))  # 使用list()转换为列表
    L1, supportData = calSupport(D, C1, minSupport)
    L = [L1]  # 加列表框，使得1项集为一个单独元素
    k = 2
    while (len(L[k - 2]) > 0):  # 是否还有候选集
        Ck = aprioriGen(L[k - 2], k)
        Lk, supK = scanD(D, Ck, minSupport)  # scan DB to get Lk
        supportData.update(supK)  # 把supk的键值对添加到supportData里
        L.append(Lk)  # L最后一个值为空集
        k += 1
    del L[-1]  # 删除最后一个空集
    return L, supportData  # L为频繁项集，为一个列表，1，2，3项集分别为一个元素

# 生成集合的所有子集
def getSubset(fromList, toList):
    for i in range(len(fromList)):
        t = [fromList[i]]
        tt = frozenset(set(fromList) - set(t))
        if not tt in toList:
            toList.append(tt)
            tt = list(tt)
            if len(tt) > 1:
                getSubset(tt, toList)
 
def calcConf(freqSet, H, supportData, ruleList, minConf=0.7):
    for conseq in H:  #遍历H中的所有项集并计算它们的可信度值
        conf = supportData[freqSet] / supportData[freqSet - conseq]  # 可信度计算，结合支持度数据
        # 提升度lift计算lift = p(a & b) / p(a)*p(b)
        lift = supportData[freqSet] / (supportData[conseq] * supportData[freqSet - conseq])
 
        if conf >= minConf and lift > 1:
            print(freqSet - conseq, '-->', conseq, '支持度', round(supportData[freqSet], 6), '置信度：', round(conf, 6),
                  'lift值为：', round(lift, 6))
            ruleList.append((freqSet - conseq, conseq, conf))

# 生成规则
def gen_rule(L, supportData, minConf = 0.7):
    bigRuleList = []
    for i in range(1, len(L)):  # 从二项集开始计算
        for freqSet in L[i]:  # freqSet为所有的k项集
            # 求该三项集的所有非空子集，1项集，2项集，直到k-1项集，用H1表示，为list类型,里面为frozenset类型，
            H1 = list(freqSet)
            all_subset = []
            getSubset(H1, all_subset)  # 生成所有的子集
            calcConf(freqSet, all_subset, supportData, bigRuleList, minConf)
    return bigRuleList
 
if __name__ == '__main__':
    dataSet = data_translation
    L, supportData = apriori(dataSet, minSupport = 0.02)
    rule = gen_rule(L, supportData, minConf = 0.35)

結果は次のとおりです

例として、フローズンセット({'フルーツ/野菜ジュース'}) --> フローズンセット({'全乳'}) サポートは 0.02664 信頼度: 0.368495 ライフ値: 1.44216 を取り上げます。顧客はフルーツ ジュースと野菜ジュースを同時に購入し、丸ごと購入します。 3 品目の牛乳の場合、確率は約 36.85%、これが起こる確率は約 2.66%

包括的な分析により、顧客は他の野菜、根菜、全乳を同時に購入する可能性が高いことがわかりました。