Matlab 統計解析 -- クラスタリング アルゴリズム モデル

統計分析 – クラスタリング アルゴリズム モデル

距離分析

データの標準化

ユークリッド距離は次元に関連するため、場合によっては標準化などのデータの前処理が必要になります
。
MATLAB のコマンドは zscore で、呼び出し形式は

Z = zscore(X)
输入X表示N行p列的原始观测矩阵，行为个体，列为指标。

输出Z为X的标准化矩阵:
Z = (X–ones(N,1)*mean(X)) ./(ones(N,1)* std(X))，

mean(X)为行向量，表示各个指标的均值估计，
std（X）表示指标的标准差估计。./表示对应元素相除，
ones(N,1)表示元素全为1的行向量，向量的长度为N。

K 平均法クラスタリング

K-means クラスタリングのアルゴリズム フロー:

1. 分割するクラスタ数(クラス数)のK値を指定します
2. K 個のデータ オブジェクトを初期クラスター中心としてランダムに選択します (サンプル ポイントとは限りません)。
3. 残りの各データ オブジェクトから K 個の初期クラスター中心までの距離を計算し、それに最も近い中心が位置するクラスターにデータ オブジェクトを分類します。
4. 新しいクラスを調整し、新しいクラスの中心を再計算します。
5. ステップ 3 と 4 をループして、中心が収束するかどうかを確認します (変更されていない)。収束するか、反復回数に達した場合は、ループを停止します。
6. 終了。

K-means クラスタリング機能

K-means++ クラスタリング アルゴリズム

SPSSソフトウェアの使用

コード

%% 
% K-means 算法MATLAB实现
%-------------------------------------------------------------
%{
    
    
利用Matlab软件中的命令: kmeans,可以实现k-means聚类
对于要处理的数据 构造矩阵，矩阵X的每一行为每个个体的实际数据，每一列都是不同的指标
如果提供的数据不是按照规范模式，需要进行矩阵转置
x=y';     %矩阵x的行为个体，列为指标  
[a,b]=kmeans(x,2)　　%分为2类，输出:  a为聚类的结果，b为聚类重心, 每一行表示一个类的重心
使用kmeans进行处理 
%}
%% 数据准备和初始化
clc
clear
load kdata.mat


[a,b]=kmeans(x,3);  %%分为3类输出
x1=x(find(a==1),:)   %提取第1类里的样品
x2=x(find(a==2),:)   %提取第2类里的样品
x3=x(find(a==3),:)   %提取第3类里的样品
sd1=std(x1)
sd2=std(x2)　 
sd3=std(x3)　 % 分别计算第1类和第2类第3类的标准差
plot(x(a==1,1),x(a==1,2),'r.',x(a==2,1),x(a==2,2),'b.',x(a==3,1),x(a==3,2),'g.','MarkerSize',10)  %作出聚类的散点图
title('k-means聚类分析散点图');

クラスター分析 – 血統分析

MATLAB によるクラスタリングの実装を調べるための実装手順は、大まかに次のとおりです。

1. データ行列を入力し、行と列の実際の意味に注意してください。
2. サンプル間の距離を計算します (行?列?)
   ユークリッド距離: d=pdist(A) % A の各行間の距離の計算に注意してください;
   絶対距離: d= pdist(A,'cityblock');
   明石距離: d=pdist(A,'minkowski',r); % r には特定の実数を入力する必要があります; 分散
   加重距離: d= pdist(A,'seuclid');
   マハラノビス距離: d= pdist(A,' mahal ');
   注: 上記のコマンドの出力は行ベクトルです。
3. クラスタリングに異なるクラス間距離を選択する
4. 家系図クラスターマップを作成する
5. カテゴリ数に応じてクラスタリング結果を出力

調査データを使用して 16 地域のクラスター分析を実行してみます。

次の表は、1982年に我が国の16地域における農民支出のサンプル調査の要約データです。各地域は、一人当たりの平均生活消費支出を反映する6つの指標を調査しました。

血統クラスター図

a=load('ho2.txt');%导入数据

d1=pdist(a);% 此时计算出各行之间的欧氏距离，

z1=linkage(d1);

z2=linkage(d1,'complete');

z3=linkage(d1,'average');

z4=linkage(d1,'centroid');

z5=linkage(d1,'ward');

R=[cophenet(z1,d1),cophenet(z2,d1),cophenet(z3,d1),cophenet(z4,d1),cophenet(z5,d1)]

H= dendrogram(z3)

T=cluster(z3,4)  %cluster 创建聚类，并作出谱系图

set(get(gca, 'Title'), 'String', '聚类分析-谱系聚类图');

K 平均クラスター分析の散布図

[a,b]=kmeans(x,4);  %%分为4类输出
x1=x(find(a==1),:)   %提取第1类里的样品
x2=x(find(a==2),:)   %提取第2类里的样品
x3=x(find(a==3),:)   %提取第3类里的样品
x4=x(find(a==4),:)   %提取第3类里的样品
sd1=std(x1)
sd2=std(x2)　 
sd3=std(x3)　 % 分别计算第1类和第2类第3类的标准差
sd4=std(x4)　 % 分别计算第1类和第2类第3类的标准差
plot(x(a==1,1),x(a==1,2),'r.',x(a==2,1),x(a==2,2),'b.',x(a==3,1),x(a==3,2),'g.',x(a==4,1),x(a==4,2),'y.','MarkerSize',15)  %作出聚类的散点图
title('k-means聚类分析散点图');

linkage函数
调用格式：Z=linkage(Y,‘method’)
输入值说明：Y为pdist函数返回的M*(M-1)/2个元素的行向量，用‘method’参数指定的算法计算系统聚类树。
method：可取值如下：
‘single’：最短距离法（默认）；
‘complete’：最长距离法；
‘average’：未加权平均距离法；
‘weighted’： 加权平均法；
‘centroid’：质心距离法；
‘median’：加权质心距离法；
‘ward’：内平方距离法（最小方差算法）
返回值说明：Z为一个包含聚类树信息的（m-1）×3的矩阵，其中前两列为索引标识，表示哪两个序号的样本可以聚为同一类，第三列为这两个样本之间的距离。另外，除了M个样本以外，对于每次新产生的类，依次用M+1、M+2、…来标识