第五章 聚类分析
5.1 判别分析和聚类分析有何区别?
答:即根据一定的判别准则,判定一个样本归属于哪一类。具体而言,设有n 个样本,对每个样本测得p 项指标(变量)的数据,已知每个样本属于k 个类别(或总体)中的某一类,通过找出一个最优的划分,使得不同类别的样本尽可能地区别开,并判别该样本属于哪个总体。聚类分析是分析如何对样品(或变量)进行量化分类的问题。在聚类之前,我们并不知道总体,而是通过一次次的聚类,使相近的样品(或变量)聚合形成总体。通俗来讲,判别分析是在已知有多少类及是什么类的情况下进行分类,而聚类分析是在不知道类的情况下进行分类。
5.2 试述系统聚类的基本思想。
答:系统聚类的基本思想是:距离相近的样品(或变量)先聚成类,距离相远的后聚成类,过程一直进行下去,每个样品(或变量)总能聚到合适的类中。
5.3 对样品和变量进行聚类分析时, 所构造的统计量分别是什么?简要说明为什么这样构造?
答:对样品进行聚类分析时,用距离来测定样品之间的相似程度。因为我们把n 个样本看作p 维空间的n 个点。点之间的距离即可代表样品间的相似度。常用的距离为 (一)闵可夫斯基距离:1/1
()()
p
q q
ij ik jk k d q X X ==-∑
q 取不同值,分为 (1)绝对距离(1q =) 1
(1)
p
ij ik jk k d X X ==-∑
(2)欧氏距离(2q =)
21/2
1
(2)
()
p
ij ik jk k d X X ==-∑
(3)切比雪夫距离(q =∞)
1()max ij ik jk
k p
d X X ≤≤∞=-
(二)马氏距离
(三)兰氏距离
对变量的相似性,我们更多地要了解变量的变化趋势或变化方向,因此用相关性进行衡量。
2
1()()()ij i j i j d M -'=--X X ΣX X 11()p ik jk
ij k ik jk
X X d L p X X =-=
+∑
将变量看作p 维空间的向量,一般用
(一)夹角余弦
(二)相关系数
5.4 在进行系统聚类时,不同类间距离计算方法有何区别?选择距离公式应遵循哪些原则?
答: 设d ij 表示样品X i 与X j 之间距离,用D ij 表示类G i 与G j 之间的距离。 (1). 最短距离法
,min
i k j r
kr ij X G X G D d ∈∈=
min{,}kp kq D D =
(2)最长距离法
,max
i p j q
pq ij X G X G D d ∈∈=
,max
i k j r
kr ij X G X G D d ∈∈=
max{,}kp kq D D =
(3)中间距离法
其中
(4)重心法
2()()pq p q p q D X X X X '=-- )(1
q q p p r
r
X n X n n X +=
12
211cos ()()
p
ik jk
k ij p p
ik jk k k X X X X θ====∑
∑∑
12211()()()()p
ik i jk j k ij p p
ik i jk j k k X X X X r X X X X ===--=--∑∑∑
ij G X G X ij d D j
j i i ∈∈=
,min
2
2222
121pq kq kp kr D D D D β++=
22222
p q p q kr
kp
kq
pq r
r
r n n n n D D D D n n n =
+
-
(5)类平均法
2
21
i p j j
pq ij X G X G p q
D d n n ∈∈=
∑∑
221
i k j r
kr ij
X G X G k r
D d n n ∈∈=
∑∑
2
2
p q kp kq
r
r
n n D D n n =+
(6)可变类平均法
其中是可变的且 <1
(7)可变法
2222
1()2
kr kp kq pq D D D D ββ-=
++ 其中是可变的且 <1 (8)离差平方和法
1
()()t
n t it t it t t S X X X X ='=--∑
2222
k p k q k kr
kp
kq pq r k
r k
r k
n n n n n D D D D n n n n n n ++=
+
-
+++
通常选择距离公式应注意遵循以下的基本原则:
(1)要考虑所选择的距离公式在实际应用中有明确的意义。如欧氏距离就有非常明确的空间距离概念。马氏距离有消除量纲影响的作用。
(2)要综合考虑对样本观测数据的预处理和将要采用的聚类分析方法。如在进行聚类分析之前已经对变量作了标准化处理,则通常就可采用欧氏距离。
(3)要考虑研究对象的特点和计算量的大小。样品间距离公式的选择是一个比较复杂且带有一定主观性的问题,我们应根据研究对象的特点不同做出具体分折。实际中,聚类分析前不妨试探性地多选择几个距离公式分别进行聚类,然后对聚类分析的结果进行对比分析,以确定最合适的距离测度方法。
5.5试述K 均值法与系统聚类法的异同。
答:相同:K —均值法和系统聚类法一样,都是以距离的远近亲疏为标准进行聚类的。
2222
(1)(
)p
q kr kp
kq pq
r
r
n n D D D D n n ββ=-+
+
不同:系统聚类对不同的类数产生一系列的聚类结果,而K —均值法只能产生指定类数的聚类结果。
具体类数的确定,离不开实践经验的积累;有时也可以借助系统聚类法以一部分样品为对象进行聚类,其结果作为K —均值法确定类数的参考。
5.6 试述K 均值法与系统聚类有何区别?试述有序聚类法的基本思想。
答:K 均值法的基本思想是将每一个样品分配给最近中心(均值)的类中。系统聚类对不同的类数产生一系列的聚类结果,而K —均值法只能产生指定类数的聚类结果。具体类数的确定,有时也可以借助系统聚类法以一部分样品为对象进行聚类,其结果作为K 均值法确定类数的参考。
有序聚类就是解决样品的次序不能变动时的聚类分析问题。如果用)()2()1(,,,n X X X 表示
n 个有序的样品,则每一类必须是这样的形式,即)()1()(,,,j i i X X X +,其中,1n i ≤≤且
n j ≤,简记为},,1,{j i i G i +=。在同一类中的样品是次序相邻的。一般的步骤是(1)
计算直径{D (i,j )}。(2)计算最小分类损失函数{L[p(l,k)]}。(3)确定分类个数k 。(4)最优分类。
5.7 检测某类产品的重量, 抽了六个样品, 每个样品只测了一个指标,分别为1,2,3,6,9,11.试用最短距离法,重心法进行聚类分析。 (1)用最短距离法进行聚类分析。 采用绝对值距离,计算样品间距离阵
0 1 0 2 1 0 5 4 3 0 8 7 6 3 0 10 9 8 5 2 0
由上表易知 中最小元素是 于是将,,聚为一类,记为
计算距离阵
3 0
6 3 0
8 5 2 0
中最小元素是=2 于是将,聚为一类,记为
计算样本距离阵
3 0
6 3 0
中最小元素是于是将,聚为一类,记为因此,
(2)用重心法进行聚类分析
计算样品间平方距离阵
1 0
4 1 0
25 16 9 0
64 49 36 9 0
100 81 64 25 4 0
易知中最小元素是于是将,,聚为一类,记为
计算距离阵
16 0
49 9 0
81 25 4 0
注:计算方法,其他以此类推。
中最小元素是=4 于是将,聚为一类,记为
计算样本距离阵
16 0
64 16 0
中最小元素是于是将,聚为一类,记为
因此,
5.8 下表是15个上市公司2001年的一些主要财务指标,使用系统聚类法和K-均值法分别对这些公司进行聚类,并对结果进行比较分析。
公司编号净资产
收益率
每股净
利润
总资产
周转率
资产负
债率
流动负
债比率
每股净
资产
净利润增
长率
总资产
增长率
1 11.09 0.21 0.05 96.98 70.53 1.86 -44.04 81.99
11 30.22 0.16 0.4 87.36 94.88 0.53 729.41 -9.97
12 8.19 0.22 0.38 30.31 100 2.73 -12.31 -2.77
13 95.79 -5.2 0.5 252.34 99.34 -5.42 -9816.52 -46.82
14 16.55 0.35 0.93 72.31 84.05 2.14 115.95 123.41
15 -24.18 -1.16 0.79 56.26 97.8 4.81 -533.89 -27.74
解:令净资产收益率为X1,每股净利润X2,总资产周转率为X3,资产负债率为X4,流动负债比率为X5,每股净资产为X6,净利润增长率为X7,总资产增长率为X8,用spss对公司聚类分析的步骤如下:
a)系统聚类法:
1.在SPSS窗口中选择Analyze→Classify→Hierachical Cluster,调出
系统聚类分析主界面,并将变量X8
X1移入Variables框中。在Cluster
-
栏中选择Cases单选按钮,即对样品进行聚类(若选择Variables,则
对变量进行聚类)。在Display栏中选择Statistics和Plots复选框,
这样在结果输出窗口中可以同时得到聚类结果统计量和统计图。
图5.1 系统分析法主界面
2.点击Statistics按钮,设置在结果输出窗口中给出的聚类分析统计量。
我们选择Agglomeration schedule与Cluster Membership中的Range of solution 2-4,如图5.2所示,点击Continue按钮,返回主界面。
(其中,Agglomeration schedule表示在结果中给出聚类过程表,显示
系统聚类的详细步骤;Proximity matrix 表示输出各个体之间的距离矩
阵;Cluster Membership 表示在结果中输出一个表,表中显示每个个体
被分配到的类别,Range of solution 2-4即将所有个体分为2至4类。)
3.点击Plots按钮,设置结果输出窗口中给出的聚类分析统计图。选中
Dendrogram复选框和Icicle栏中的None单选按钮,如图5.3,即只给
出聚类树形图,而不给出冰柱图。单击Continue按钮,返回主界面。