多元统计分析中的降维方法在四川省社会福利中的应用
由于计算机的发展和日益广泛的使用，多元分析方法也很快地应用到社会学、农业、医学、经济学、地质、气象等各个领域。在国外，从自然科学到社会科学的许多方面，都已证实了多元分析方法是一种很有用的数据处理方法；在我国，多元分析对于农业、气象、国家标准和误差分析等许多方面的研究工作都取得了很大的成绩，引起了广泛的注意。在许多领域的研究中，为了全面系统地分析问题，对研究对象进行综合评价，我们常常需要考虑衡量问题的多个指标（即变量），由于变量之间可能存在着相关性，如果采用一元统计方法，把多个变量分开，一次分析一个变量，就会丢失大量的信息，研究结果也会偏差很大。因此需要采用多元统计分析的方法，同时对所有变量的观测数据进行分析。多元统计分析就是一种同时研究多个变量之间的相互关系，经过对变量的综合处理，充分提取变量之间的信息，进行综合分析和评价的统计方法。多元统计分析法主要包括降维、分类、回归及其他统计思想。
一．多元统计分析方法中降维的方法
1.概述
多元统计分析方法是同时对多个变量的观察数据做综合处理和分析。在不损失有价值信息的情况下，简化观测数据或数据结构，尽可能简单地将被研究对象描述出来，使得对复杂现象的解释变得更容易些。同时，采用多元统计分析中的聚类分析或判别分析可以对变量或样品进行分类与分组。根据所测量的特征和分类规则将一些“类似的”对象或变量分组。多元统计分析也可以研究变量间依赖性。即对变量间关系的本质进行研究。是否所有的变量都相互独立?还是一个变量或多个变量依赖于其他变量?它们又是怎样依赖的?通过观测变量数据的散点图，我们可以建立多元回归统计模型，确定出变量之间具体的依赖关系，进而可以根据某些变量的观测值预测另一个或另一些变量的值对事物现象的发展作预测。最后我们需要构造假设，并对所建立的以多元总体参数形式陈述的多种特殊统计假设进行检验。
在多元统计分析方法中数据简化或结构简化，实质上就是数学中的降维方法。多元统计分析中的降维方法主要包括聚类分析、判别分析、主成分分析、因子分析、对应分析和典型相关分析等几种方法。其中主成分分析和因子分析是在作综合评价方面应用最广泛、较为有效的方法。本文主要介绍这两种多元统计分析方法的应用。
2 主成分分析
2.1主成分分析的基本思想
在大部分实际问题中，需要考察的变量多，变量之间是有一定的相关性的，主成分分析就是以损失很少部分信息为代价，保留绝大部分信息的前提下，
将原来众多具有一定线性相关性的p个指标压缩成少数几个互不相关的综合指
标（主成分），并通过原来变量的少数几个的线性组合来给出各个主成分的具有实际背景和意义的解释。由于主成分分析浓缩了众多指标的信息，降低了指标的
维度，从而简化指标的结构，深刻反映问题的内在规律。 2.2 主成分分析的数学模型
设对某一事物的研究涉及指标(变量):12,,,P X X X ，，这p 项指标构成p 维的随机向量()12,,,P X X X X '= ，其均值和协方差矩阵分别是()X μ=E ，∑。
对X 进行线性变换，原来的变量12,,,P X X X 的线性组合可以形成新的综合变量，用Y 表示，满足：
11111221221122221122p p
p p
p
p p pp p Y u X u X u X Y u X u X u X Y u X u X u X
=+++??
=+++??
??=+++?
矩阵表示为：Y U X =，其中
()12,
,
,
p Y Y Y Y '
= ，111211
2
p p p pp u u u U u u u ??
?= ? ???
，()12,
,
,p
X X X X
'=
由于不同的线性变换得到的综合变量Y 的统计特性不同，为了达到较好的效果，我们希望i i Y u X '=的方差尽可能大且新的综合变量i Y 之间相互独立。由以下原则来确定新的综合变量i Y ：
（1）222121i i i i ip u u u u u '=+++= (1,2,,)i p = ；
（2）i Y 与j Y 相互独立，即无重复信息cov(,)0i j Y Y = (;,1,2,,)i j i j p ≠= ；
（3）
1Y 是12,,,P X X X 的一切线性组合(系数满足上述方程组)中方差最大的，2Y 是与1Y 不相关的12,,,P X X X 的一切线性组合中方差最大的，p Y 与
121,
,
,
p Y Y Y - 都不相关的12,,,P X X X 的一切线性组合中方差最大的。
在实际应用时，通常挑选前几个方差比较大的主成分，虽然这样做会丢失一
部分信息，但它使我们抓住了主要矛盾进行深入分析，并从原始数据中进一步提出了某些新的信息，因而在某些实际问题的研究中得益比较大，这种既减少了变量的个数又抓住了主要矛盾的做法有利于问题的分析和处理。 2.3 总体主成分的导出及性质
在实际求解主成分时，常常是从原始变量的协方差矩阵或相关矩阵的结构出发，而从两个出发点求解出的主成分不同。 2.3.1 从协方差矩阵出发求解主成分
性质1：设矩阵A A '=，将A 的特征值12,,,n λλλ 依大小顺序排列，不妨设
12n λλλ≥≥≥ ，12,,,p γγγ 为矩阵A 各特征值对应的标准正交特征向量，则对
任意向量x 有10
m ax
x x A x x x
λ≠'='，0
m in
n
x x A x x x
λ≠'='
性质2：设随机向量12(,,,)p X X X X '= 的协方差矩阵为∑，
12p λλλ≥≥≥ 为∑
的特征值，12,,,p γγγ 为矩阵∑各特征值对应的标准正交向量，则第i 个主成
分为：1122i i i pi p Y X X X γγγ=+++ (1,2,,)i p = ，此时 var()i i i i Y γγλ'=∑=，
cov(,)0i j i i Y Y γγ'=∑=。
由以上性质，我们把原始变量12(,,,)p X X X X '= 的协方差矩阵∑的非零特征值120p λλλ≥≥≥> 对应的标准化特征向量12,,,p γγγ 分别作为系数向量，即11Y X γ'=，22Y X γ'=，……，p p Y X γ'=分别为12(,,,)p X X X X '= 的第一主成分、第二主成分，……，第p 主成分的充要条件是： （1）Y u X '=，u u I '=，即u 为p 阶正交阵； （2）Y 的分量12,,,p Y Y Y 之间相互独立； （3）Y 的p 个分量12,,,p Y Y Y 方差依次递减。
于是随机向量12(,,,)p X X X X '= 与随机向量()12,,,p Y Y Y Y '= 之间存在关
系式：1111
1211121
2222
2
2212
p p
p p pp p p p p u u u u X X u u u X X u Y u X X u u u X X u γγγ??
??''???
?
??
?
?
? ?
? ? ?'' ? ? ?'===
= ? ? ? ? ? ?
? ? ?
? ? ? ? ?
? ? ?''???
???
??
??
由于在无论∑的各特征值是否存在相等的情况，对应的标准化特征向量
12,,,p γγγ 总是存在，所以总是可以找到对应的各特征值的相互正交的特征向
量。故将主成分的求解转换为求解原始变量12(,,,)p X X X X '= 的协方差阵∑的特征值和特征向量。
性质3：第k 个主成分k Y 的方差贡献率为1
k
k p
i
i a λλ
==
∑(1,2,,)k p = ，反映主成
分k Y 提取原始变量总信息的百分比。
性质4：主成分12,,,k Y Y Y 的累积贡献率为11
()k
i
i p
i
i k λ
αλ
===
∑∑（k p ≤），反映
主成分12,,,k Y Y Y 解释原始变量信息的百分比。
性质5：1122i i i pi p Y r X r X r X =+++ ，其中21
1p
ji j r ==∑，称ji r 为主成分i Y 在原始
变量j X 上的载荷。它度量了j X 对i Y 的重要程度。
性质6：第i 个主成分i Y 与原始变量j X 的相关系数(,)i j Y X ρ称为因子负荷量，表示主成分i Y 中包含原始变量j X 信息的百分比，它与载荷ji r 成正比。 2.3.2 从相关矩阵出发求解主成分
为了消除原始变量不同量纲与数量级的影响，对原始变量作标准化变换： 令
i X Z -=
，1,2,,i p = ，其中i μ，ii σ分别表示变量i X 的期望和方差。
令
1
2
00000
B
?? ? ?=
? ?
则原始变量进行标准化变换为：1
12()()Z B X μ-=-
显然有
1211
1
1221
1
221211cov()()()
1p p
p
p
Z B B R ρρρρρρ--?? ?
?=∑== ? ? ???
设求解出相关阵R 的特征值与对应的标准正交特征向量，则求解出的主成分
与原始变量的关系式为：
1
1
2()()i i i Y Z B X γγμ-''==-，1,2,,i p =
2.4 样本主成分的导出
在实际研究工作中，总体协方差阵∑与相关阵R 通常是未知的，于是需要通过样本数据来估计。设有n 个样品，每个样品有p 个指标，这样共得到n p 个数
据，原始资料矩阵为：
1112121
2221
2
p p
n n np x x x x x x X x x x ??
?
?= ? ? ???
记1
1
()()1
n
ki i ki i k S x x x x n ='=
---∑，1
1
n
i ki
k x x n
==
∑，()ij p p
R r ?=
，ij s r =
，1,2,,i p =
样本协方差矩阵S 为总体协方差阵∑的无偏估计，样本相关阵R 为总体相关阵的
估计。若原始资料矩阵X 是经过标准化处理的，则由矩阵X 求得的协方差阵S 就是相关矩阵R 。所以根据相关阵R 来求解主成分。
根据总体主成分的定义，主成分()12,,,p Y Y Y Y '= 的协方差是：
cov()cov()Y u X u u u ''==∑=Λ
其中Λ为对角矩阵
12000000
p λλλ?? ? ?Λ= ? ? ??
?
假定资料矩阵X 为已经作了标准化处理后的数据矩阵，则可以由相关矩阵R 代
替协方差矩阵∑，则上式可表示为：
uR u '=Λ Ru u ''=Λ
即
1112111
12111
1211
2122221222212222
1
2
1
2
1
2
00
p p p p p p
p p pp p p pp p p pp p r r r u u u u u u r r r u u u u
u u r r r u u u u u u λλλ????????
? ? ? ? ? ? ? ?= ? ? ? ? ? ? ? ? ? ? ? ?????????
整理为齐次方程组为
1111112121121112221221111
2121()0
()0
()0
p p p p p p pp p p r u r u r u r u r u r u r u r u r u λλλ-++=??
+-+=??
?
?++-=? 即
111
12121222
21
2
0p p p p pp p
r r r r r r R I r r r λλλλ--=-=-
即所求的新的综合变量（主成分）的方差i λ(1,2,,)i p = 是特征方程组
0R I λ-=的p 个根，λ为相关矩阵的特征值，相应的各个ij u 是其特征向量的分
量。特征值120p λλλ≥≥≥≥ ，其相应的特征向量记为12,,,p γγγ ，则相对于i Y 的方差为var()var()i i i Y X γλ'==。且协方差为：cov(,)cov(,)0i j i j Y Y X X γγ''==
由此可有新的综合变量（主成分）12,,,p Y Y Y 彼此不相关，并且i Y 的方差为i λ，则11Y X γ'=，22Y X γ'=，……，p p Y X γ'=分别为12(,,,)p X X X X '= 的第一主成分、第二主成分，……，第p 主成分。主成分的方差贡献就等于R 的相应特征值。利用样本数据求解主成分的过程就转化为求解相关阵R 或协方差阵S 的特征值和特征向量的过程。 2.5 主成分分析的步骤
2.5.1
将原始变量进行标准化处理i Z =
；
2.5.2 计算标准化指标的相关系数矩阵R
2.5.3 求解相关系数矩阵R 的特征向量()ij p p u u ?=和特征值120p λλλ≥≥≥≥ ； 2.5.4 计算各个主成分的方差贡献率k α及累积贡献率()k α； 2.5.5 确定主成分的个数；
通常根据实际问题的需要由累计贡献率()85%k α≥的前k 个成分来代替原来
p
个变量的信息，或选取所有特征值大于1的成分作为主成分，也可根据特征值
的变化来确定，即根据SPSS 输出的碎石图的转折点来决定选取主成分的个数。 2.5.6 对确定出的主成分作出实际意义的解释；
2.5.7 利用所确定出的主成分的方差贡献率计算综合评价值，从而对被评价对象进行排名和比较。
?∑综合得分＝（各主成分得分各主成分所对应的方差贡献率）
3 因子分析
3.1 因子分析的基本思想
因子分析是根据相关性大小把原始变量进行分组，使得同组内的变量之间相关性高，而不同组的变量之间的相关性低。每组变量代表一个基本结构（即公共因子），并用一个不可观测的综合变量来表示。对于所研究的某一具体问题，原始变量分解为两部分之和。一部分是少数几个不可观测的公共因子的线性函数，另一部分是与公共因子无关的特殊因子。 3.2 因子分析的数学模型
设有p 个指标，则因子分析数学模型为：
11111221221122221122p p p p
p
p p pp p X r Y r Y r Y X r Y r Y r Y X r Y r Y r Y
=+++??
=+++??
??=+++?
其中，12,,,p X X X 是已标准化的可观测的评价指标。12,,,k F F F 出现在每个指标i X 的表达式中，称为公共因子，公共因子是不可观测的，其含义要根据具体问题来解释。i ε是各个对应指标i X 所特有的因子，故称为特殊因子，它与公共因子之间彼此独立。ij r 是指标i X 在公共因子j F 上的系数，称为因子载荷，因子载荷ij r 的统计含义是指标i X 在公共因子j F 上的相关系数，表示i X 与j F 线性相关程度。
用矩阵形式表示为：
X A F ε
=+
其中12(,,,)p X X X X '= ，12(,,,)k F F F F '= ，12(,,,)p εεεε'= ，
11121212221
2
m m
p p pm r r r r r r A r r r ?? ? ?= ? ? ???
，A 称为因子载荷矩阵。 其统计含义是：
A 中的第i 行元素12,,,i i im r r r 说明了指标i X 依赖于各个公共因子的程度。 A
中第j 列元素12,,,j j m j r r r 说明了公共因子j F 与各个指标的联系程度。故常
根据该列绝对值较大的因子载荷所对应的指标来解释这个公共因子的实际意义。
A
中的第i 行元素12,,,i i im r r r 的平方和2
2
1m
i ij
j h r
==
∑称为指标i X 的共同度。
A
中第j 列元素12,,,j j m j r r r 的平方和2
21
p
j ij
i g r ==
∑表示公共因子j
F 对原始指
标所提供的方差贡献的总和，衡量各个公共因子的相对重要性。称
21
1
p
j j ij
i g r
p p
α==
=∑为公共因子j F 的方差贡献率，j α越大，公共因子j F 越重要。
3.3 因子分析的步骤
3.3.1
将原始变量数据进行标准化处理i Z =
；
3.2.2 计算标准化指标的相关系数矩阵R ；
3.2.3 求解相关系数矩阵R 的特征向量()ij p p u u ?=和特征值120p λλλ≥≥≥≥ ； 3.2.4 确定公共因子的个数，设为m 个，即选择特征值≥1的个数m 或根据累积方差贡献率≥85％的准则所确定的个数m 为公共因子个数； 3.2.5
求解初始因子载荷矩阵()(ij p p ij p p A a u ??==；
常用的方法有：主成分法、主轴因子法、极大似然法等。本文用主成分法寻找公因子的方法如下：
设从相关矩阵出发求解主成分，设有p 个变量，则可以找出p 个主成分，将
所得的p 个主成分由大到小排列，记为12,,,p Y Y Y ，则主成分与原始变量之间有
11111221221122221122p p p p
p
p p pp p Y r X r X r X Y r X r X r X Y r X r X r X
=+++??
=+++??
??=+++?
其中ij r 是随机变量X 的相关矩阵的特征值所对应的特征向量的分量，特征向量之间正交，从X 到Y 的转换关系的可逆得到由Y 到X 的转换关系
11111221221122221122p p
p p
p
p p pp p X r Y r Y r Y X r Y r Y r Y X r Y r Y r Y
=+++??
=+++??
??=+++?
只保留前m 个主成分，而把后面的p m -个主成分用特殊因子i ε代替，即
111112211
2211222221122m m m m p p p pm m p X r Y r Y r Y X r Y r Y r Y X r Y r Y r Y εεε=++++??
=++++??
??=++++?
为了把i Y 转化为合适的公因子，需要把主成分i Y 变为方差为1的变量，故 令
i F =
ij ji a γ=
则
1111122112211222221122m m m m p p p pm m p X a F a F a F X a F a F a F X a F a F a F εεε=++++??
=++++??
??=++++?
设样本相关系数矩阵R 的特征值为120p λλλ≥≥≥≥ ，其相应的标准正交特征向量为12,,,p γγγ ，设m p <，则因子载荷矩阵A 的一个估计值为：
12122
?(,m
m m
p p pm u u u u
u u A u
u u γγγ??
== ?
共同度的估计为：22212????i
i i im h a a a =+++ 。 3.2.6 建立因子模型
1
k
j ij
j i i j Z a
F a ε==
+∑，1,2,,i p =
其中12,,,k F F F 为公共因子，12(,,,)p εεεε= 为特殊因子。
3.2.7 对公共因子进行重新命名，并解释公共因子的实际含义
当初始因子载荷矩阵A 难以对公共因子的实际意义作出解释时，先要对A 作方差极大正交旋转，然后再根据旋转后所得的正交因子载荷矩阵作出解释，即根据指标的因子载荷绝对值的大小，值的正负符号来说明公共因子的意义。 3.2.8 对初始因子载荷矩阵进行旋转
由于因子载荷矩阵不唯一，旋转变换可以是使初始因子载荷矩阵的每列或每行的元素的平方值趋于0或1，从而使得因子载荷矩阵结构简化，关系明确。如果初始因子之间不相关，公共因子j F 的解释能力能够用其因子载荷平方的方差来度量时，则可采用方差极大正交旋转法；如果初始因子之间相关，则需要进行斜交旋转，通过旋转后，得到比较理想的新的因子载荷矩阵1()ij p k A r ?'=。 3.2.9 将公共因子变为变量的线性组合，得到因子得分函数
11221
k
i ij
ij i i ip p j F Z Z Z Z β
βββ==
=+++∑ ，1,2,,i m =
系数11B A R β-''=，i F ，ji Z 均为标准化的原始变量和公共因子。因子得分函数的估计值为
11
11111
?p m m p p b b X F A R X b b X -????
? ?'==
? ? ? ?????
其中1A 为因子载荷矩阵，R 为原始变量的相关矩阵，X 为原始变量向量。 3.2.10 求综合评价值，即总因子得分估计值为
1??m
i
i
i Z
F
ω==∑ 其中1
i
i m
j
j λωλ
==
∑时第i 个公共因子i F 的归一化权重。即：
?∑∑（各因子得分各因子所对应的方差贡献率）综合得分＝
各因子的方差贡献率
3.2.11 根据总因子得分估计值?Z
就可以对每个被评价的对象进行排名，从而进行比较。
4 主成分分析与因子分析的联系和区别 4.1 区别
4.1.1 侧重点不同；
主成分分析是通过变量的线性变换，忽略方差较小的主成分，提取前面几个方差较大的主成分来解释总体大部分的信息；而因子分析是忽略特殊因子
12(,,,)p εεεε= ，而重视少数不可观测的公共因子12,,,k F F F 所代表的总体信
息。
4.1.2 数学模型不同；
主成分分析中的主成分是原始变量的线性组合：Y U X =，其中U 为系数矩
阵，即1
p
i ij
j
j Y X
γ
==
∑(,1,2,,)i j p = 其中ij
γ是相关矩阵的特征值所对应的特征向
量矩阵中的元素，j X 表示原始变量的标准化数据；而因子分析中的共同因子是将原始变量分解成公共因子和特殊因子两部分，X A F ε=+，其中A 为因子载荷
矩阵，即：1
m
i ij
j i j X a
F ε==
+∑ (1,2,,,)i p m p =< ，m 是公共因子的个数，p 是原
始变量的个数，ij a 是因子分析过程中的初始因子载荷矩阵中的元素，j F 是第个公共因子，i ε是第个原始变量的特殊因子。
4.1.3 主成分的各系数ij γ是唯一确定的、正交的，不可以对系数矩阵进行任何
的旋转，且系数大小并不代表原变量与主成分的相关程度；而因子模型的系数矩阵是不唯一的、可以进行旋转的，且该矩阵表明了原变量和公共因子的相关程度。 4.1.4 因子旋转；
主成分分析，可以通过可观测的原变量X 直接求得主成分Y ，并具有可逆性；因子分析中的载荷矩阵是不可逆的。只能通过可观测的原变量去估计不可观测的公共因子，即公共因子得分的估计值等于因子得分系数矩阵与原观测变量标准化后的矩阵相乘的结果。还有，主成分分析不可以像因子分析那样进行因子旋转处理。
4.1.5 综合排名；
主成分分析一般依据第一主成分的得分排名，若第一主成分不能完全代替原始变量，则需要继续选择第二个主成分、第三个等等，主成分得分是将原始变量的标准化值，代入主成分表达式中计算得到；而因子分析中因子得分是将原始变量的标准化值，代入因子得分函数中计算得到。 4.2 联系
因子分析是主成分分析的扩展，两种方法的出发点都是变量的相关系数矩阵，都是在损失较少的信息的前提下，把多个存在较强相关性的变量综合成少数几个综合变量，这几个综合变量之间相互独立，能代表总体绝大多数的信息，从而进行深入研究总体的多元统计方法。
由于上文提到主成分可表示为原观测变量的线性组合，其系数为原始变量相关矩阵的特征值所对应的特征向量，且这些特征向量正交，因此，从X 到Y 的转
换关系是可逆的，便得到如下的关系：1
p
i ij
j j X Y γ
==
∑，1
m
i ij
j j X a
F ==
∑是因子分析中
未进行因子载荷旋转时建立的模型， 故如果不进行因子载荷旋转，许多应用者将容易把此时的因子分析理解成主成分分析，这显然是不正确的。然而此时的主
成分的系数阵即特征向量与因子载荷矩阵确实存在如下关系：ij a γ=
。
5主成分分析和因子分析的实例分析
本文利用SPSS 软件对2006年四川省18个主要城市的社会福利发展情况进行主成分分析、因子分析方法及二者分析结果的比较。（除阿坝藏族羌族自治州、甘孜藏族自治州、凉山彝族自治州）
针对所研究的问题，根据指标选择的针对性、可操作性、全面性等原则，选取了以下反映各城市社会福利发展水平的15项指标：城市低保资金(万元)、农村低保资金(万元)、最低生活保障家庭数（户）、最低生活保障人数、养老保险征缴率（％）、失业保险征缴率（％）、医疗保险征缴率（％）、工伤保险征缴率（％）、生育保险征缴率（％）、基本养老保险参保人数（人）、基本医疗保险参保人数（人）、失业保险参保人数（人）、社会福利院数（个）、社会福利院床位数（个）、社区服务设施数（个）。分别记为原始指标变量1215,,,X X X 。数据来源于2007年四川省统计年鉴。原始数据见附录表1－表5。 5.1 原始指标数据处理
由于各个指标都是正向指标，无需对指标的符号做处理。为了消除指标量纲和数量级的影响，对原始指标数据做了标准化处理。标准化后的数据见附录表6。
5.2 运用SPSS软件进行分析
本文从相关矩阵出发，采用主成分分析方法来提取公共因子，并根据来确定因子个数。
5.2.1 指标变量之间的相关性的分析结果和分析
指标变量的相关系数矩阵见附录表7。由SPSS因子分析的输出结果可知：表8
KMO and Bartlett's Test
KMO
著性水平为0.000<0.01，都说明各个指标之间存在着较高的相关性，即说明所选取的15个指标适合作因子分析。
5.2.2 因子分析的初始结果
表9
Communalities
Initial Extraction
城低保金 1.000 .942
乡低保金 1.000 .926
低保家数 1.000 .969
低保人数 1.000 .973
养老保率 1.000 .859
失业保率 1.000 .910
医疗保率 1.000 .896
工伤保率 1.000 .940
生育保率 1.000 .916
养老保数 1.000 .947
医疗保数 1.000 .964
失业保数 1.000 .956
福利院数 1.000 .796
福利床位 1.000 .928
服务设施 1.000 .816
Extraction Method: Principal Component Analysis.
表9中第一列为15个原始指标名，第二列为根据因子分析的初始解计算出来的变量共同度，反映了5个因子提取每个原始指标变量信息的百分比。如：这5个因子提取指标城市最低保障资金信息的0.942％。
5.2.3 因子分析的因子提取和旋转结果及碎石图：
表10
Total Variance Explained
Total
% of
Variance
Cumula
tive % Total
% of
Variance
Cumulati
ve % Total
% of
Variance
Cumulati
ve %
1 6.719 44.793 44.793 6.719 44.793 44.793 5.37
2 35.815 35.815
2 2.946 19.638 64.431 2.946 19.638 64.431 3.622 24.147 59.962
3 1.663 11.088 75.519 1.663 11.088 75.519 2.013 13.421 73.383
4 1.388 9.252 84.771 1.388 9.252 84.771 1.503 10.023 83.405
5 1.023 6.817 91.588 1.023 6.817 91.588 1.227 8.183 91.588
6 .434 2.890 94.478
7 .303 2.018 96.497
8 .252 1.681 98.178
9 .122 .811 98.989
10 .074 .494 99.483
11 .039 .263 99.745
12 .016 .108 99.853
13 .013 .088 99.942
14 .005 .035 99.976
15 .004 .024 100.00
Extraction Method: Principal Component Analysis.
根据特征值大于1的原则，提取了5个公共因子（主成分），它们的累积方差
贡献率为91.588％，说明这5个公因子（主成分）提取了原始指标数据91.588％
的信息，可以用这5个公因子（主成分）来代表四川省18个城市的社会福利发展
状况。
图1
E
i
g
e
n
v
a
l
u
e
从上面的碎石图（图1）也可以判定选取5个公因子（主成分）做主成分分
析和因子分析比较合适。
5.2.4 因子载荷矩阵：
表11
Component Matrix(a)
Extraction Method: Principal Component Analysis. a 5 components extracted.
5.2.4.1 根据因子载荷矩阵建立因子分析的模型：
112345212345
15
123450.9200.0760.1930.1120.1570.8990.2950.2400.0560.090.2240.3430.3420.0310.809X f f f f f X f f f f f X f f f f f
=+-+-??
=+-+-??
?
?=++--?
其中i X (1,2,,15)i = 为原始变量数据，j f (1,2,,18)j = 为提取的公共因子。
5.2.4.2 计算各个特征值所对应的特征向量，建立主成分表达式
由于主成分的系数阵的特征向量与因子载荷矩阵存在的关系：ij a γ=
，故
可利用主成分的系数矩阵和因子载荷初始矩阵，计算出各个特征值所对应的特征
向量：
表12
各个特征值所对应的特征向量表
1121521215
5
12150.3549240.3468230.0864160.0442790.1718720.1998380.155230.088980.79985Y X X X Y X X X Y X X X
=+++??
=+++??
?
?=--+-? 5.2.5 因子旋转
按照方差极大法对因子载荷矩阵进行旋转后所得的因子载荷矩阵如下表。经过旋转后，可以根据因子在某几个变量上分别都具有较高的载荷来对各个因子进行重新命名，从而方便解释各个因子的实际含义。
表13
Rotated Component Matrix(a)
Component
1 2 3 4 5 养老保数X10 .957 .089 .089 .071 .099 医疗保数X11 .953 .131 .090 .077 .154 失业保数X12 .952 .124 .064 .068 .160 福利床位X14 .889 .316 .001 -.092 -.174 乡低保金X2 .885 .325 -.033 .068 .180 服务设施X15 .731 .134 .434 -.004 -.276 低保人数X4 .145 .975 -.030 .032 -.003 低保家数X3 .184 .960 -.060 .100 .022 城低保金X1 .409 .871 .046 .093 .076 福利院数X13 .487 .634 .261 -.290 -.068 失业保率X6 .076 .021 .935 -.167 .041 生育保率X9 .106 -.063 .829 .366 .283 医疗保率X7 .027 .166 -.032 .928 -.076 养老保率X5 .200 -.542 .363 .590 .213 工伤保率X8
.133
.030
.187
-.024
.941
Extraction Method: Principal Component Analysis. Rotation Method: Varimax with Kaiser Normalization. a Rotation converged in 6 i t erations.
因子分析后因子的协方差矩阵：
表14
Component Score Covariance Matrix
Rotation Method: Varimax with Kaiser Normalization. Component Scores.
上表中各个因子之间的协方差都很小，可以看出各个因子之间是正交、几乎是不相关的。
5.2.6 根据因子分析后因子的得分系数矩阵，建立因子得分函数
表15
Component Score Coefficient Matrix
Component
1 2
3
4
5
城低保金X1 -.025 .258 .015 .080 .064 乡低保金X2 .175 .001 -.124 .017 .129 低保家数X3 -.081 .312 -.011 .108 .044 低保人数X4 -.093 .320 .019 .063 .026 养老保率X5 .057 -.163 .096 .341 .054 失业保率X6 -.076 .041 .542 -.174 -.095 医疗保率X7 -.040 .092 -.052 .664 -.144 工伤保率X8 -.034 .034 -.046 -.116 .816 生育保率X9 -.076 .035 .405 .177 .087 养老保数X10 .217 -.087 -.061 .007 .026 医疗保数X11 .207 -.070 -.067 .008 .076 失业保数X12 .210 -.074 -.083 .002 .086 福利院数X13 .025 .154 .163 -.199 -.076 福利床位X14 .196 -.021 -.042 -.065 -.181 服务设施X15
.138
-.039
.228
-.021
-.345
Extraction Method: Principal Component Analysis.
Rotation Method: Varimax with Kaiser Normalization. Component Scores.
由于
112345212345
15
123450.0250.2580.0150.080.0640.1750.0010.1240.0170.1290.1380.0390.2280.0210.345X f f f f f X f f f f f X f f f f f
=-++++??
=+-++??
??=-+--?
该案例是利用回归方法计算出因子得分函数的系数，根据因子得分系数矩
阵，建立因子得分函数：
11214152121415
5
1214150.0250.1750.1960.1380.2580.0010.0210.0390.0640.1290.1810.345f X X X X f X X X X f X X X X
=-+++??
=+--??
??=+--?
5.2.7 根据得分函数，计算出我省每个城市的5个因子的得分分别为：
表16
5.2.8.1 主成分分析
总因子得分估计值为
5
1
?j
i
i
i Z f ω
==∑ (1,2,,18)j =
其中i i ωλ=是第i 个公共因子i f 的方差贡献率。 分别计算出18个城市的综合评价得分为：
表17
5.2.8.2 因子分析
总因子得分估计值为
5
1
?j
i
i
i Z f ω
==∑ (1,2,,18)j =
其中5
1
i
i n
n λωλ
==
∑是第i 个公共因子i f 的归一化权重。分别计算各城市的综合分为：
表18
三．评价
1 主成分分析和因子分析在综合评价时的几点疑问： 1.1 对原始变量数据的处理上
1.1.1 首先在进行主成分分析和因子分析时，必须消除原始变量数据量纲和数量
级的影响，所以需要对原始变量数据作转换。常选用标准化变换i X Z -=
。
有些参考文献中也有说这样的标准化处理仍然存在有不合理的地方，但是在实际应用中，为了简便，常选用上式进行变换。
1.1.2 在选取指标体系时，有可能同时选取了对研究问题有正向（好的）和负向（坏的）影响的指标，这时本人认为应该对这些指标的影响方向作符号处理。即对存在负向影响的指标的观测数据统一变号，添加负号。 1.2 在做主成分分析和因子分析之前，需要对原始变量间作相关性分析。因为并不是所有的变量数据都是可以做主成分分析和因子分析的。主成分分析可以发现 重叠的信息，但是不能剔除重复信息，所以应该注意对主成分的解释，或考虑重新选取原始指标。
1.3 主成分分析与因子分析适宜针对大样本容量做综合分析，对于小样本容量所做的分析不够准确。一般要求样本容量大于指标个数的两倍。
1.4 不能简单地将初始因子载荷矩阵认为是主成分系数矩阵(特征向量矩阵)，否则会造成偏差。
1.5 在综合评价函数的建立时所存在的问题
在许多实际问题的分析中，我们需要一个综合指标来对研究对象进行排名。如本文建立综合函数排名方法，设取定前m 个主成分12,,,m Y Y Y ，则常常建立综合评价函数为1122m m F Y Y Y ααα=++ 。这样建立的综合评价函数存在的疑惑：
1.4.1 所建立的综合评价函数1122m m F Y Y Y ααα=++ 只是给出了一个排名，只是定性说明这个函数包含了原始变量信息量的程度，并没有给出一个百分比等定量的度量。
1.4.2在因子分析重，对因子得分建立类似的综合评价函数的方法也是存在这样的疑问的。
附录
参考文献
1.何晓群，《多元统计分析》，中国人民大学出版社，2004年4月版
2.薛薇，《统计分析与SPSS的应用》，中国人民大学出版社，2001年11月版
3.张崇甫等，《统计分析方法及其应用》，重庆大学出版社，1995年9月版
4.卢纹岱，《SPSS for Windows统计分析》，电子工业出版社，2006年6月版
5.王燕、吴平，《SAS统计分析及应用》，机械工业出版社，2006年1月版
6.段敏芳，《因子分析与主成分分析在自治州评价中的应用》，统计与决策，2006年第9期，第84页
7.阮敏，《主成分分析方法在经济管理综合评价应用中的误区》，统计与决策，2005年第4期，第23页
8.2007年中国统计年鉴
9.2007年四川统计年鉴
第五章 聚类分析 5.1 判别分析和聚类分析有何区别？ 答：即根据一定的判别准则，判定一个样本归属于哪一类。具体而言，设有n 个样本，对每个样本测得p 项指标（变量）的数据，已知每个样本属于k 个类别（或总体）中的某一类，通过找出一个最优的划分，使得不同类别的样本尽可能地区别开，并判别该样本属于哪个总体。聚类分析是分析如何对样品（或变量）进行量化分类的问题。在聚类之前，我们并不知道总体，而是通过一次次的聚类，使相近的样品（或变量）聚合形成总体。通俗来讲，判别分析是在已知有多少类及是什么类的情况下进行分类，而聚类分析是在不知道类的情况下进行分类。 5.2 试述系统聚类的基本思想。 答：系统聚类的基本思想是：距离相近的样品（或变量）先聚成类，距离相远的后聚成类，过程一直进行下去，每个样品（或变量）总能聚到合适的类中。 5.3 对样品和变量进行聚类分析时， 所构造的统计量分别是什么？简要说明为什么这样构造？ 答：对样品进行聚类分析时，用距离来测定样品之间的相似程度。因为我们把n 个样本看作p 维空间的n 个点。点之间的距离即可代表样品间的相似度。常用的距离为 （一）闵可夫斯基距离：1/1 ()() p q q ij ik jk k d q X X ==-∑ q 取不同值，分为 （1）绝对距离（1q =） 1 (1)p ij ik jk k d X X ==-∑ （2）欧氏距离（2q =） 21/2 1 (2)() p i j i k j k k d X X ==-∑ （3）切比雪夫距离（q =∞） 1()max ij ik jk k p d X X ≤≤∞=- （二）马氏距离 （三）兰氏距离 对变量的相似性，我们更多地要了解变量的变化趋势或变化方向，因此用相关性进行衡量。 2 1()()()ij i j i j d M -'=--X X ΣX X 11()p ik jk ij k ik jk X X d L p X X =-=+∑
1. 模糊聚类分析模型 环境区域的污染情况由污染物在4个要素中的含量超标程度来衡量。设这5个环境区域的污染数据为1x =(80, 10, 6, 2), 2x =(50, 1, 6, 4), 3x =(90, 6, 4, 6), 4x =(40, 5, 7, 3), 5x =(10, 1, 2, 4). 试用模糊传递闭包法对X 进行分类。 解 ： 由题设知特性指标矩阵为: * 80106250164906464057310124X ????????=???????? 数据规格化：最大规格化' ij ij j x x M = 其中： 12max(,,...,)j j j nj M x x x = 00.8910.860.330.560.1 0.860.671 0.60.5710.440.510.50.11 0.1 0.290.67X ????????=?? ?????? 构造模糊相似矩阵: 采用最大最小法来构造模糊相似矩阵55()ij R r ?=, 1 0.540.620.630.240.5410.550.700.530.62 0.5510.560.370.630.700.5610.380.240.530.370.381R ?? ??? ???=?? ?????? 利用平方自合成方法求传递闭包t (R ) 依次计算248,,R R R , 由于84R R =，所以4()t R R =
2 10.630.620.630.530.6310.560.700.530.62 0.5610.620.530.630.700.6210.530.530.530.530.531R ?? ??????=?? ??????， 4 10.630.620.630.530.6310.620.700.530.62 0.6210.620.530.630.700.6210.530.53 0.530.530.531R ????????=?? ?????? =8R 选取适当的置信水平值[0,1]λ∈, 按λ截矩阵进行动态聚类。把()t R 中的元素从大到小的顺序编排如下: 1>0.70>0.63>062>053. 依次取λ=1, 0.70, 0.63, 062, 053，得 11 000001000()0 010******* 0001t R ????? ? ??=?? ??????，此时X 被分为5类：{1x }，{2x }，{3x }，{4x }，{5x } 0.7 1000001010()001000101000001t R ?????? ??=?? ??????，此时X 被分为4类：{1x }，{2x ，4x }，{3x }，{5x } 0.63 1101011010()001001101000001t R ?????? ??=?? ??????，此时X 被分为3类：{1x ，2x ，4x }，{3x }，{5x } 0.62 1111011110()11110111100 0001t R ?????? ??=?? ?????? ，此时X 被分为2类：{1x ，2x ，4x ，3x }，{5x }
5.2酿酒葡萄的等级划分 5.2.1葡萄酒的质量分类 由问题1中我们得知，第二组评酒员的的评价结果更为可信，所以我们通过第二组评酒员对于酒的评分做出处理。我们通过excel计算出每位评酒员对每支酒的总分，然后计算出每支酒的10个分数的平均值，作为总的对于这支酒的等级评价。 通过国际酿酒工会对于葡萄酒的分级，以百分制标准评级，总共评出了六个级别（见表5）。 在问题2的计算中，我们求出了各支酒的分数，考虑到所有分数在区间[61.6，81.5]波动，以原等级表分级，结果将会很模糊，不能分得比较清晰。为此我们需要进一步细化等级。为此我们重新细化出5个等级，为了方便计算，我们还对等级进行降序数字等级（见表6）。 通过对数据的预处理，我们得到了一个新的关于葡萄酒的分级表格（见表7）：
考虑到葡萄酒的质量与酿酒葡萄间有比较之间的关系，我们将保留葡萄酒质量对于酿酒葡萄的影响，先单纯从酿酒葡萄的理化指标对酿酒葡萄进行分类，然后在通过葡萄酒质量对酿酒葡萄质量的优劣进一步进行划分。 5.2.2建立模型 在通过酿酒葡萄的理化指标对酿酒葡萄分类的过程，我们用到了聚类分析方法中的ward 最小方差法，又叫做离差平方和法。 聚类分析是研究分类问题的一种多元统计方法。所谓类，通俗地说，就是指相似元素的集合。为了将样品进行分类，就需要研究样品之间关系。这里的最小方差法的基本思想就是将一个样品看作P 维空间的一个点，并在空间的定义距离，距离较近的点归为一类；距离较远的点归为不同的类。面对现在的问题，我们不知道元素的分类，连要分成几类都不知道。现在我们将用SAS 系统里面的stepdisc 和cluster 过程完成判别分析和聚类分析，最终确定元素对象的分类问题。 建立数据阵，具体数学表示为： 1111...............m n nm X X X X X ????=?????? （5.2.1） 式中，行向量1(,...,)i i im X x x =表示第i 个样品； 列向量1(,...,)'j j nj X x x =’，表示第j 项指标。(i=1,2,…,n;j=1,2,…m) 接下来我们将要对数据进行变化，以便于我们比较和消除纲量。在此我们用了使用最广范的方法，ward 最小方差法。其中用到了类间距离来进行比较，定义为： 2||||/(1/1/)kl k l k l D X X n n =-+ （5.2.2） Ward 方法并类时总是使得并类导致的类内离差平方和增量最小。 系统聚类数的确定。在聚类分析中，系统聚类最终得到的一个聚类树，如何确定类的个数，这是一个十分困难但又必须解决的问题；因为分类本身就没有一定标准，人们可以从不同的角度给出不同的分类。在实际应用中常使用下面几种
《应用多元统计分析》 ——报告 班级： 学号： 姓名：
聚类分析的案例分析 摘要 本文主要用SPSS软件对实验数据运用系统聚类法和K均值聚类法进行聚类分析，从而实现聚类分析及其运用。利用聚类分析研究某化工厂周围的几个地区的 气体浓度的情况，从而判断出这几个地区的污染程度。 经过聚类分析可以得到，样本6这一地区的气体浓度值最高，污染程度是最严重的，样本3和样本4气体浓度较高，污染程度也比较严重，因此要给予及时的控制和改善。 关键词：SPSS软件聚类分析学生成绩
一、数学模型 聚类分析的基本思想是认为各个样本与所选择的指标之间存在着不同程度的相 似性。可以根据这些相似性把相似程度较高的归为一类，从而对其总体进行分析和总结，判断其之间的差距。 系统聚类法的基本思想是在这几个样本之间定义其之间的距离，在多个变量之间定义其相似系数，距离或者相似系数代表着样本或者变量之间的相似程度。根据相似程度的不同大小，将样本进行归类，将关系较为密切的归为一类，关系较为疏远的后归为一类，用不同的方法将所有的样本都聚到合适的类中，这里我们用的是最近距离法，形成一个聚类树形图，可据此清楚的看出样本的分类情况。 K 均值法是将每个样品分配给最近中心的类中，只产生指定类数的聚类结果。 二、数据来源 《应用多元统计分析》第一版164 页第6 题 我国山区有一某大型化工厂，在该厂区的邻近地区中挑选其中最具有代表性的 8 个大气取样点，在固定的时间点每日 4 次抽取6 种大气样本，测定其中包含的8 个取样点中每种气体的平均浓度，数据如下表。试用聚类分析方法对取样点及 大气污染气体进行分类。 三、建立数学模型 一、运行过程
k-means聚类”——数据分析、数据挖掘 一、概要 分类作为一种监督学习方法，要求必须事先明确知道各个类别的信息，并且断言所有待分类项都有一个类别与之对应。但是很多时候上述条件得不到满足，尤其是在处理海量数据的时候，如果通过预处理使得数据满足分类算法的要求，则代价非常大，这时候可以考虑使用聚类算法。聚类属于无监督学习，相比于分类，聚类不依赖预定义的类和类标号的训练实例。本文介绍一种常见的聚类算法——k 均值和k 中心点聚类，最后会举一个实例：应用聚类方法试图解决一个在体育界大家颇具争议的问题——中国男足近几年在亚洲到底处于几流水平。 二、聚类问题 所谓聚类问题，就是给定一个元素集合D，其中每个元素具有n 个可观察属性，使用某种算法将D 划分成k 个子集，要求每个子集内部的元素之间相异度尽可能低，而不同子集的元素相异度尽可能高。其中每个子集叫做一个簇。 与分类不同，分类是示例式学习，要求分类前明确各个类别，并断言每个元素映射到一个类别，而聚类是观察式学习，在聚类前可以不知道类别甚至不给定类别数量，是无监督学习的一种。目前聚类广泛应用于统计学、生物学、数据库技术和市场营销等领域，相应的算法也非常的多。本文仅介绍一种最简单的聚类算法——k 均值（k-means）算法。 三、概念介绍 区分两个概念： hard clustering：一个文档要么属于类w，要么不属于类w，即文档对确定的类w是二值的1或0。
soft clustering：一个文档可以属于类w1，同时也可以属于w2，而且文档属于一个类的值不是0或1，可以是这样的小数。 K-Means就是一种hard clustering，所谓K-means里的K就是我们要事先指定分类的个数，即K个。 k-means算法的流程如下： 1）从N个文档随机选取K个文档作为初始质心 2）对剩余的每个文档测量其到每个质心的距离，并把它归到最近的质心的类 3）重新计算已经得到的各个类的质心 4）迭代2～3步直至满足既定的条件，算法结束 在K－means算法里所有的文档都必须向量化，n个文档的质心可以认为是这n 个向量的中心，计算方法如下： 这里加入一个方差RSS的概念： RSSk的值是类k中每个文档到质心的距离，RSS是所有k个类的RSS值的和。 算法结束条件： 1）给定一个迭代次数，达到这个次数就停止，这好像不是一个好建议。
第11章第2题 摘要 本题分析4 种化肥和3 个小麦品种对小麦产量的影响，以及二者交互作用对小麦产量的影响，可视为两因素方差分析，即化肥和小麦品种两个因素，4种化肥可看作是化肥的四个不同水平，3个小麦品种也可以看作是小麦品种的三个不同水平。 试验的目的是分析化肥的四个不同水平以及小麦品种的三个不同水平对小麦产量有无显着性影响。 关键词：方差分析显着性化肥种类小麦品种
一．问题重述 为了分析4 种化肥和3 个小麦品种对小麦产量的影响，把一块试验田等分成36个小块，分别对3种种子和四种化肥的每一种组合种植3 小块田，产量如表1所示（单位公斤），问不同品种、不同种类的化肥及二者的交互作用对小麦产量有无显着影响。 二．问题分析 本题意在分析四种化肥和三种小麦品种对小麦产量的影响，以及二者交互作用对小麦产量的影响，为两因素方差分析问题，即化肥和小麦品种两个因素，4种化肥可看作是化肥的四个不同水平，3个小麦品种也可以看作是小麦品种的三个不同水平。通过对这两种因素的不同水平及交互作用的分析，从而分析 4 种化肥和3 个小麦品种对小麦产量的影响。 三．模型假设 1.假设只有化肥种类和小麦品种两个因素，其他因素对试验结果不构成影响。 2.假设不存在数据记录错误。 3.假设每一块试验田本身各项指标相同，不会影响结果。 四．符号说明 数字1,2,3,4——不同的化肥种类 数字1,2,3——不同的小麦品种 五．模型建立 将化肥种类和小麦品种视为两个因素，四种化肥种类看作是化肥种类的四个不同水平，三个小麦品种看作是小麦品种的三个不同水平，将表1的数据进行整理，如表2所示。
六．模型求解 将表2数据导入到spss软件中，进行两因素方差检验，得到结果如下：表3
聚类分析 聚类分析是将个对象按各自的特征将相似的对象归到同一个类或簇的一种方法，它的原则是同一个类中的对象有很大的相似性，而不同类间的对象有很大的相异性。特点： ①适用于没有先验知识情况下的分类。对于没有先前的经验或一些规则的对象进行分类，则显得很随意和主观，这时需要使用聚类分析法通过对象各自的特性来合理的分类； ②能处理多个维度或属性决定的分类。例如，对于某个地区的全部家庭的富裕程度而言，通过家庭的收入和支出差可以简单分类，容易知道。但是如果要求从家庭的收入、家庭的支出、家庭的固有资产、家庭所在地区的地段等多个变量来分析就比较复杂，然后解决这个问题可以使用聚类分析算法。 ③聚类分析算法也是一种探索性分析方法，能够挖掘对象的潜在规律和特性，并根据相似性原则对事物进行分类。 几类距离公式：
() ()() () () ()()()211112 21 11.2.=,3.,4.||5.1|| 6.2||7p q pq ij i G j G p q pq p q T p q pq p q p q p q p q q ij ik jk k p ij ik jk k p ij ik jk k D d n n D d x x n n ward D x x x x n n Minkowski d q x x d x x d x x ∈∈==== = = -+? ?=-???? =-? ?=-????∑∑∑∑∑类平均距离重心距离 离差平方和距离闵科夫斯基绝对值距离 欧氏距离 () ()( )())1 ||.8.p ik jk ij k ik jk ij x x Wiliams d L x x Mahalanobis d M =-=+= ∑ 兰式距离马氏距离其中是样品协方差 系统聚类法思想 先将每一个样本作为一个单独的类，然后计算各个样本之间的距离i S ，在将计算出来的距离i S 定义为类之间的距离j S ，以为j S 标准的距离，进行合理合并，形成新的一个类，在重新对新类和其他剩余的类进行计算其距离，循环执行合并动作，直到全部的样本都属于一个大类为止。 步骤： ①若有n 个样本点，计算出每两个样本点之间的距离ij d ，即矩阵()ij n n D d ?=； ②建立n 个类，每个类中仅有一个样本点，且每个类的平台高度都为0； ③将距离最近的两个类合并为新类，选取聚类图的平台高度为这两类之间的距离值； ④求出新类和目前各类之间的距离，如果类的个数等于1，执行步骤⑤，否则，返回执行步骤③；
一篇文章透彻解读聚类分析及案例实操 【数盟致力于成为最卓越的数据科学社区，聚焦于大数据、分析挖掘、数据可视化领域，业务范围：线下活动、在线课程、猎头服务、项目对接】【限时优惠福利】数据定义 未来，2016年5月12日-14日DTCC2016中国数据库技术大会登陆北京！大会云集了国内外数据行业顶尖专家，设定2个主会场，24个分会场，将吸引共3000多名IT人士参会！马上领取数盟专属购票优惠88折上折，猛戳文末“阅读原文”抢先购票！ 摘要：本文主要是介绍一下SAS的聚类案例，希望大家都 动手做一遍，很多问题只有在亲自动手的过程中才会有发现有收获有心得。这里重点拿常见的工具SAS+R语言+Python 介绍! 1 聚类分析介绍1.1 基本概念聚类就是一种寻找数据之间 一种内在结构的技术。聚类把全体数据实例组织成一些相似组，而这些相似组被称作聚类。处于相同聚类中的数据实例彼此相同，处于不同聚类中的实例彼此不同。聚类技术通常又被称为无监督学习，因为与监督学习不同，在聚类中那些表示数据类别的分类或者分组信息是没有的。通过上述表述，我们可以把聚类定义为将数据集中在某些方面具有相似性 的数据成员进行分类组织的过程。因此，聚类就是一些数据
实例的集合，这个集合中的元素彼此相似，但是它们都与其他聚类中的元素不同。在聚类的相关文献中，一个数据实例有时又被称为对象，因为现实世界中的一个对象可以用数据实例来描述。同时，它有时也被称作数据点(Data Point)，因为我们可以用r 维空间的一个点来表示数据实例，其中r 表示数据的属性个数。下图显示了一个二维数据集聚类过程，从该图中可以清楚地看到数据聚类过程。虽然通过目测可以十分清晰地发现隐藏在二维或者三维的数据集中的聚类，但是随着数据集维数的不断增加，就很难通过目测来观察甚至是不可能。 1.2 算法概述 目前在存在大量的聚类算法，算法的选择取决于数据的类型、聚类的目的和具体应用。大体上，主要的聚类算法分为几大类。 聚类算法的目的是将数据对象自动的归入到相应的有意义 的聚类中。追求较高的类内相似度和较低的类间相似度是聚类算法的指导原则。一个聚类算法的优劣可以从以下几个方面来衡量： (1)可伸缩性：好的聚类算法可以处理包含大到几百万个对象的数据集;(2)处理不同类型属性的能力：许多算法是针对基 于区间的数值属性而设计的，但是有些应用需要针对其它数据类型(如符号类型、二值类型等)进行处理;(3)发现任意形状
现代统计学 1.因子分析(Factor Analysis) 因子分析的基本目的就是用少数几个因子去描述许多指标或因素之间的联系，即将相关比较密切的几个变量归在同一类中，每一类变量就成为一个因子（之所以称其为因子，是因为它是不可观测的，即不是具体的变量），以较少的几个因子反映原资料的大部分信息。 运用这种研究技术，我们可以方便地找出影响消费者购买、消费以及满意度的主要因素是哪些，以及它们的影响力（权重）运用这种研究技术，我们还可以为市场细分做前期分析。 2.主成分分析 主成分分析主要是作为一种探索性的技术，在分析者进行多元数据分析之前，用主成分分析来分析数据，让自己对数据有一个大致的了解是非常重要的。主成分分析一般很少单独使用：a，了解数据。(screening the data),b,和cluster analysis一起使用，c，和判别分析一起使用，比如当变量很多，个案数不多，直接使用判别分析可能无解，这时候可以使用主成份发对变量简化。（reduce dimensionality）d,在多元回归中，主成分分析可以帮助判断是否存在共线性（条件指数），还可以用来处理共线性。 主成分分析和因子分析的区别 1、因子分析中是把变量表示成各因子的线性组合，而主成分分析中则是把主成分表示成个变量的线性组合。 2、主成分分析的重点在于解释个变量的总方差，而因子分析则把重点放在解释各变量之间的协方差。 3、主成分分析中不需要有假设(assumptions),因子分析则需要一些假设。因子分析的假设包括：各个共同因子之间不相关，特殊因子（specific factor）之间也不相关，共同因子和特殊因子之间也不相关。 4、主成分分析中，当给定的协方差矩阵或者相关矩阵的特征值是唯一的时候，的主成分一般是独特的；而因子分析中因子不是独特的，可以旋转得到不同的因子。 5、在因子分析中，因子个数需要分析者指定（spss根据一定的条件自动设定，只要是特征值大于1的因子进入分析），而指定的因子数量不同而结果不同。在主成分分析中，成分的数量是一定的，一般有几个变量就有几个主成分。 和主成分分析相比，由于因子分析可以使用旋转技术帮助解释因子，在解释方面更加有优势。大致说来，当需要寻找潜在的因子，并对这些因子进行解释的时候，更加倾向于使用因子分析，并且借助旋转技术帮助更好解释。而如果想把现有的变量变成少数几个新的变量（新的变量几乎带有原来所有变量的信息）来进入后续的分析，则可以使用主成分分析。当然，这中情况也可以使用因子得分做到。所以这中区分不是绝对的。 总得来说，主成分分析主要是作为一种探索性的技术，在分析者进行多元数据分析之前，用主成分分析来分析数据，让自己对数据有一个大致的了解是非常重要的。主成分分析一般很少单独使用：a，了解数据。(screening the data),b,
聚类分析作业 例题: country populatn density urban religion lifeexpf lifeexpm literacy pop_incr Afghanistan 20,500 25、0 18 Muslim 44 45 29 2、8 Bangladesh 125,000 800、0 16 Muslim 53 53 35 2、4 Cambodia 10,000 55、0 12 Buddhist 52 50 35 2、9 China 1,205,200 124、0 26 Taoist 69 67 78 1、1 HongKong 5,800 5,494、0 94 Buddhist 80 75 77 -0、1 India 911,600 283、0 26 Hindu 59 58 52 1、9 Indonesia 199,700 102、0 29 Muslim 65 61 77 1、6 Japan 125,500 330、0 77 Buddhist 82 76 99 0、3 Malaysia 19,500 58、0 43 Muslim 72 66 78 2、3 N、Korea 23,100 189、0 60 Buddhist 73 67 99 1、8 Pakistan 128,100 143、0 32 Muslim 58 57 35 2、8 Philippines 69,800 221、0 43 Catholic 68 63 90 1、9 S、Korea 45,000 447、0 72 Protstnt 74 68 96 1、0 Singapore 2,900 4,456、0 100 Taoist 79 73 88 1、2 Taiwan 20,944 582、0 71 Buddhist 78 72 91 0、9 Thailand 59,400 115、0 22 Buddhist 72 65 93 1、4 Vietnam 73,100 218、0 20 Buddhist 68 63 88 1、8 进行聚类分析,步骤如下: 1、标准化的欧式距离聚类 各类所属 得出以上结果,以欧氏距离为计算距离方法,把以上17个亚洲国家地区按6个变量欧氏距离划分为三类。 第一类为:Bangladesh 第二类为:China 第三类为:Malaysia 2、尝试其她类间距离方法
聚类分析 聚类分析是将个对象按各自的特征将相似的对象归到同一个类或簇的一种方法，它的原则是同一个类中的对象有很大的相似性，而不同类间的对象有很大的相异性。特点： ①适用于没有先验知识情况下的分类。对于没有先前的经验或一些规则的对象进行分类，则显得很随意和主观，这时需要使用聚类分析法通过对象各自的特性来合理的分类； ②能处理多个维度或属性决定的分类。例如，对于某个地区的全部家庭的富裕程度而言，通过家庭的收入和支出差可以简单分类，容易知道。但是如果要求从家庭的收入、家庭的支出、家庭的固有资产、家庭所在地区的地段等多个变量来分析就比较复杂，然后解决这个问题可以使用聚类分析算法。 ③聚类分析算法也是一种探索性分析方法，能够挖掘对象的潜在规律和特性，并根据相似性原则对事物进行分类。 几类距离公式： () ()() () () ()()()21 1112 21 11.2.=,3.,4.||5.1|| 6.2||7p q pq ij i G j G p q pq p q T p q pq p q p q p q p q q ij ik jk k p ij ik jk k p ij ik jk k D d n n D d x x n n ward D x x x x n n Minkowski d q x x d x x d x x ∈∈==== == -+? ?=-???? =-? ?=-????∑∑∑∑∑类平均距离重心距离 离差平方和距离闵科夫斯基绝对值距离 欧氏距离 () ()() ())1 ||.8.p ik jk ij k ik jk ij x x Wiliams d L x x Mahalanobis d M =-=+= ∑ 兰式距离马氏距离其中是样品协方差 系统聚类法思想 % 先将每一个样本作为一个单独的类，然后计算各个样本之间的距离i S ，在将计算出来的距离i S 定义为类之间的距离j S ，以为j S 标准的距离，进行合理合并，
各地区各行业工资水平的分析(2009年数据) 小组成员：张艺伟、赵月、陈媛、邹莉、朱海龙、曾磊、胡瑛、候银萍 1.研究背景及意义 1.1 研究背景 工资水平是指一定区域和一定时间内劳动者平均收入的高低程度。生产决定分配，只有经济发展才能提供更多的可分配的社会产品，因此一个地区的工资水平在一定程度上反映了其经济发展的水平。 1.2 研究意义 1. 通过多元统计分析方法，探究一个地区的工资水平与其经济发展水平之间的内在联系。 2. 将平均工资水平划分为3类，分析哪些地区、哪些行业的工资水平较高，可以为大学生就业提供宏观上的方向指引。 2.数据来源与描述 2.1 数据来源——《中国劳动统计年鉴─2010》 （URL：https://www.doczj.com/doc/b4317812.html,/Navi/YearBook.aspx?id=N2011010069&floor=1###） 主编单位：国家统计局人口和就业统计司，人力资源和社会保障部规划财务司 出版社：中国统计出版社 简介：《中国劳动统计年鉴─2010》是一部全面反映中华人民共和国劳动经济情况的资料性年刊。本刊收集了2009年全国和各省、自治区、直辖市、香港特别行政区、澳门特别行政区的有关劳动统计数据。本书资料的取得形式主要有国家和部门的报表统计、行政记录和抽样调查。 2.2 数据描述 本数据集记录了全国31个省市（港、澳、台除外）的工资状况，各省市分别记录了其23个主要行业的平均工资水平，这23个主要行业包括：企业、事业、机关、金融业、制造业、建筑业、房地产业、农林牧渔业等等，具体数据格式参见图-0。
图-0 3.分析方法及原理 3.1 通过描述统计分析方法，判断哪些行业平均工资水平较高 描述统计分析方法主要是从基本统计量（诸如均值、方差、标准差、极大/小值、偏度、峰度等）的计算和描述开始的，并辅助于SPSS提供的图形功能，能够把握数据的基本特征和整体的分布特征。 在本案例中，通过比较不同行业（诸如企业、事业、机关、建筑业、制造业……）工资的均值、极大/小值，可以从总体上判断哪些行业的平均工资水平较高，哪些行业的较低。 3.2 通过聚类分析方法，判断哪些地区平均工资水平较高 聚类分析是依据研究对象的个体特征，对其进行分类的方法，分类在经济、管理、社会学、医学等领域，都有广泛的应用。聚类分析能够将一批样本（或变量）数据根据其诸多特征，按照在性质上的亲疏程度在没有先验知识的情况下进行自动分类，产生多个分类结果。类内部个体特征之间具有相似性，不同类间个体特征的差异性较大。 在本案例中，我们将采用两种方法进行聚类分析：一种是系统聚类法，另一种是K-均值法（快速聚类法）。 3.2.1系统聚类法 系统聚类法的基本原理：首先将一定数量的样本或指标各自看成一类，然后根据样本（或指标）的亲疏程度，将亲疏程度最高的两类进行合并，然后考虑合并后的类与其他类之间的亲疏程度，再进行合并。重复这一过程，直到将所有的样本（或指标）合并为一类。 系统聚类分为Q型聚类和R型聚类两种：Q型聚类是对样本进行聚类，它使具有相似特征的样本聚集在一起，使差异性大的样本分离开来；R型聚类是对变量进行聚类，它使差异性大的变量分离开来，相似的变量聚集在一起，这样就可以在相似变量中选择少数具有代表性的变量参与其他分析，实现减少变量个数、降低变量维度的目的。 在本例中进行的是Q型聚类。 类与类之间距离的计算方法主要有以下几种： （1）最短距离法（Nearest Neighbor），是指两类之间每个个体距离的最小值； （2）最长距离法（Farthest Neighbor），是指两类之间每个个体距离的最大值； （3）组间联接法（Between-groups Linkage），是指两类之间个体之间距离的平均值；
刘向民物流工程 S11085240007 聚类分析方法应用举例 多元统计,就是研究多个随机变量之间相互依赖关系以及内在统计规律性的一门统计学科。多元统计所包括的内容很多、但在实际统计分析中,聚类分析就是应用最广泛的方法之一。聚类分析(cluste:Analysis),就是研究分类问题的一种多元统计分析方法社会经济统计的分类问题,过去在传统方法上,主要就是结合一定的专业知识进行定性分类处理。由于定性分类主要就是靠经验完成,因而其结论难免带有较多的主观性与随意性,故不能很好地揭示客观事物内在的本质差别与联系。而聚类分析能带来定量上的分析可以解决这个问题,下面通过一些实例来描述聚类分析方法在应用上的体现; 1 基于聚类分析的安徽省物流需求研究 选取了分行业统计的年产值类指标构建物流需求指标体系(X组),具体指标包括:农业总产值(万元)(X1)、工业总产值(亿元)(X2)、建筑业总产值(万元)(X3)、社会消费零售总额(万元)(X4)、亿元商品市场成交额(万元)(X5)、进出口总额(万美元)(X6)。该指标体系通过农业、工业、建筑业、批发业、零售业及国际贸易的发生额较全面地反映了地区的物流需求情况。 2 研究方法 分类问题一般的解决法就是聚类分析或者因子分析基础上的聚类分析。由于本文最终期望得安徽省地级市物流需求分类情况,无需了解各个指标体系的内在系统结构,故选择聚类分析方法更简明。进行聚类分析时,本文采用的就是基于样本聚类的Q型系统聚类方法。 3研究过程与结果 3、1地区物流需求指标的聚类分析 由分析软件输出的聚类过程统计量如表1所示。可以瞧出,伪F统计量在归为4类及7类时较大,说明归为4类及7类时较好;伪T2统计量在1类、2类、3类时较大,由于伪T2大说明
SPSS软件操作实例——某移动公司客户细分模型 数据准备：数据来源于telco.sav，如图1所示，Customer_ID表示客户编号，Peak_mins表示工作日上班时期电话时长，OffPeak_mins表示工作日下班时期电话时长等。 图1 telco.sav数据 分析目的：对移动手机用户进行细分，了解不同用户群体的消费习惯，以更好的对其进行定制性的业务推销，所以需要运用聚类分析。 操作步骤： 1，从菜单中选择【文件】——【打开】——【数据】，在打开数据窗口中选择数据位置以及文件类型，将数据telco.sav导入SPSS软件中，如图2所示。 图2 打开数据菜单选项 2，从菜单中选择【分析】——【描述统计】——【描述】，然后在描述性窗口中，将需要标准化的变量选到右边的“变量列表”，勾选“将标准化得分另存为变量”，点确定，如图3所示。
图3 数据标准化 3，从菜单中选择【分析】——【分类】——【K-均值聚类】，在K-均值聚类分析窗口中将标准化之后的结果选入右边“变量列表”，客户编号选入“个案标记依据”，聚类数改为5。点击迭代按钮，在迭代窗口将最大迭代次数改为100，点击继续。点击保存按钮，在保存窗口勾选“聚类成员”、“与聚类中心的距离”，点击继续。点击选项按钮，在选项窗口勾选“ANOV A表”、“每个个案的聚类信息”，点击继续。点击确定按钮，运行聚类分析，如图4所示。 图4 聚类分析操作
由最终聚类中心表可得最终分成的5个类它们各自的均值。 第一类：依据总通话时间长，上班通话时间长，国际通话时间长等特征，将第一类命名为高端商用客户。 第二类：依据其在各项指标中均较低，将第二类命名为不常使用客户。 第三类：依据总通话和上班通话时间居中等特征，将第三类命名为中端商用客户。第四类：依据下班通话时间最长等特征，将第四类命名为日常客户。 第五类：依据平均每次通话时间最长等特征，将第五类命名为长聊客户。 由ANOVA表可根据F值大小近似得到哪些变量对聚类有贡献，本例题中重要程度排序为：总通话时长>工作日上班时期电话时长>工作日下班时期电话时
聚类分析实例分析题 WTD standardization office【WTD 5AB- WTDK 08- WTD 2C】
酿酒葡萄的等级划分葡萄酒的质量分类 由问题1中我们得知，第二组评酒员的的评价结果更为可信，所以我们通过第二组评酒员对于酒的评分做出处理。我们通过excel计算出每位评酒员对每支酒的总分，然后计算出每支酒的10个分数的平均值，作为总的对于这支酒的等级评价。 通过国际酿酒工会对于葡萄酒的分级，以百分制标准评级，总共评出了六个级别（见表5）。 表5：葡萄酒等级表 在问题2的计算中，我们求出了各支酒的分数，考虑到所有分数在区间[，]波动，以原等级表分级，结果将会很模糊，不能分得比较清晰。为此我们需要进一步细化等级。为此我们重新细化出5个等级，为了方便计算，我们还对等级进行降序数字等级（见表6）。 表6：细化后的葡萄酒等级表 通过对数据的预处理，我们得到了一个新的关于葡萄酒的分级表格（见表7）： 表7：各支葡萄酒的等级
经过整理，我们初步得到了对于葡萄酒的质量的分类的表格。 考虑到葡萄酒的质量与酿酒葡萄间有比较之间的关系，我们将保留葡萄酒质量对于酿酒葡萄的影响，先单纯从酿酒葡萄的理化指标对酿酒葡萄进行分类，然后在通过葡萄酒质量对酿酒葡萄质量的优劣进一步进行划分。 在通过酿酒葡萄的理化指标对酿酒葡萄分类的过程，我们用到了聚类分析方法中的ward最小方差法，又叫做离差平方和法。 聚类分析是研究分类问题的一种多元统计方法。所谓类，通俗地说，就是指相似元素的集合。为了将样品进行分类，就需要研究样品之间关系。这里的最小方差法的基本思想就是将一个样品看作P维空间的一个点，并在空间的定义距离，距离较近的点归为一类；距离较远的点归为不同的类。面对现在的问题，我们不知道元素的分
Lab 6 聚类分析 一、分析背景 Chrysler公司为了赢得市场竞争地位，决定推出新产品Viper，该种产品的目标客户是雅皮士阶层。为了进一步了解这种人群的心理特征，定位自己的产品，吸引目标客户，Chrysler公司进行了一次市场调研。研究者使用九点量表测量400名被试者对30项陈述的态度，从而了解这些目标客户的心理特征。调研还询问被试者对Dodge Viper型汽车的态度来测量标准变量，标准变量的测量通过九点量表来测试消费者对“我愿意购买Chrysler公司生产的Dodge Viper型汽车”的态度。 本次分析的目的是：通过聚类分析，将原始变量分别聚成三类和四类，比较两种方法的效果。同时，比较使用原始变量得到的聚类结果和使用因子得分得到的聚类结果，看哪一种方法能更好地解释数据。 二、分析结果 1、根据原始变量进行的聚类分析 首先根据原始变量进行聚类分析，由于样本数较大，采用迭代聚类法，分别将样本聚为三类和四类，下面是聚类分析的结果比较。 表 1 聚为三类后的组重心表 2 聚为四类后的组重心 表 3 聚为三类的每组样本数表 聚为四类的每组样本数
表5 聚为三类后组重心之间的距离 表 6 聚为四类后组重心之间的距离 由方差分析的结果（结果略）可知，在聚为三类和四类的分析中，V8,V9,V18,V19,V20和V27的组间差异均大于0.05，结果不显著。 2、 根据因子得分进行的聚类分析 以下是根据因子得分，采用迭代法将样本聚为三类和四类的结果： 表7 聚为三类后的组重心 -.45298 .16364 .29950 .36038 -.22794 -.15239 .28739 -.32881 .00765 .25444 .70915 -.87203 .52946 -.29355 -.26021 .18363 .11953 -.28471 .00228 .20936 -.18616 .56772 -.64844 .01414 消费因子 时尚因子 社会因子 爱国因子 期望因子 偏好因子 个性因子 家庭因子 1 2 3 Cluster 表 8 聚为三类时的样本数 137.000 123.000 140.000 400.000 .000 1 2 3 Cluster Valid Missing
应用多元统计分析习题 解答聚类分析 TPMK standardization office【 TPMK5AB- TPMK08- TPMK2C- TPMK18】
第五章 聚类分析 5.1 判别分析和聚类分析有何区别？ 答：即根据一定的判别准则，判定一个样本归属于哪一类。具体而言，设有n 个样本，对每个样本测得p 项指标（变量）的数据，已知每个样本属于k 个类别（或总体）中的某一类，通过找出一个最优的划分，使得不同类别的样本尽可能地区别开，并判别该样本属于哪个总体。聚类分析是分析如何对样品（或变量）进行量化分类的问题。在聚类之前，我们并不知道总体，而是通过一次次的聚类，使相近的样品（或变量）聚合形成总体。通俗来讲，判别分析是在已知有多少类及是什么类的情况下进行分类，而聚类分析是在不知道类的情况下进行分类。 5.2 试述系统聚类的基本思想。 答：系统聚类的基本思想是：距离相近的样品（或变量）先聚成类，距离相远的后聚成类，过程一直进行下去，每个样品（或变量）总能聚到合适的类中。 5.3 对样品和变量进行聚类分析时， 所构造的统计量分别是什么？简要说明为什么这样构造？ 答：对样品进行聚类分析时，用距离来测定样品之间的相似程度。因为我们把n 个样本看作p 维空间的n 个点。点之间的距离即可代表样品间的相似度。常用的距离为 （一）闵可夫斯基距离：1/1 ()( )p q q ij ik jk k d q X X ==-∑ q 取不同值，分为
（1）绝对距离（1q =） （2）欧氏距离（2q =） （3）切比雪夫距离（q =∞） （二）马氏距离 （三）兰氏距离 对变量的相似性，我们更多地要了解变量的变化趋势或变化方向，因此用相关性进行衡量。 将变量看作p 维空间的向量，一般用 （一）夹角余弦 （二）相关系数 5.4 在进行系统聚类时，不同类间距离计算方法有何区别？选择距离公式应遵循哪些原则？ 答： 设d ij 表示样品X i 与X j 之间距离，用D ij 表示类G i 与G j 之间的距离。 （1）. 最短距离法 （2）最长距离法 （3）中间距离法 2 2222 121pq kq kp kr D D D D β++=
聚类分析实例分析题 TYYGROUP system office room 【TYYUA16H-TYY-TYYYUA8Q8-
酿酒葡萄的等级划分 葡萄酒的质量分类 由问题1中我们得知，第二组评酒员的的评价结果更为可信，所以我们通过第二组评酒员对于酒的评分做出处理。我们通过excel计算出每位评酒员对每支酒的总分，然后计算出每支酒的10个分数的平均值，作为总的对于这支酒的等级评价。 通过国际酿酒工会对于葡萄酒的分级，以百分制标准评级，总共评出了六个级别（见表5）。 表5：葡萄酒等级表 动，以原等级表分级，结果将会很模糊，不能分得比较清晰。为此我们需要进一步细化等级。为此我们重新细化出5个等级，为了方便计算，我们还对等级进行降序数字等级（见表6）。
考虑到葡萄酒的质量与酿酒葡萄间有比较之间的关系，我们将保留葡萄酒质量对于酿酒葡萄的影响，先单纯从酿酒葡萄的理化指标对酿酒葡萄进行分类，然后在通过葡萄酒质量对酿酒葡萄质量的优劣进一步进行划分。 在通过酿酒葡萄的理化指标对酿酒葡萄分类的过程，我们用到了聚类分析方法中的ward 最小方差法，又叫做离差平方和法。 聚类分析是研究分类问题的一种多元统计方法。所谓类，通俗地说，就是指相似元素的集合。为了将样品进行分类，就需要研究样品之间关系。这里的最小方差法的基本思想就是将一个样品看作P 维空间的一个点，并在空间的定义距离，距离较近的点归为一类；距离较远的点归为不同的类。面对现在的问题，我们不知道元素的分类，连要分成几类都不知道。现在我们将用SAS 系统里面的stepdisc 和cluster 过程完成判别分析和聚类分析，最终确定元素对象的分类问题。 建立数据阵，具体数学表示为： 式中，行向量1(,...,)i i im X x x =表示第i 个样品； 列向量1(,...,)'j j nj X x x =’，表示第j 项指标。(i=1,2,…,n;j=1,2,…m) 接下来我们将要对数据进行变化，以便于我们比较和消除纲量。在此我们用了使用最广范的方法，ward 最小方差法。其中用到了类间距离来进行比较，定义为： Ward 方法并类时总是使得并类导致的类内离差平方和增量最小。 系统聚类数的确定。在聚类分析中，系统聚类最终得到的一个聚类树，如何确定类的个数，这是一个十分困难但又必须解决的问题；因为分类本身就没有一定标准，人们可以从不同的角度给出不同的分类。在实际应用中常使用下面几种方法确定类的个数。由适当的阀值确定，此处阀值为kl D 。 根据样本的散点图直观的确定。当样本所含指标只有2个或3个时，可运用散点图直观观察。如果指标超过3个时，可用主成份法先综合指标。 根据统计量确定分类个数。在SAS 中，提供了一些来自方差分析思想的统计量近似检验类个数如何选择更合适。 1) 2R 统计量: 其中，2A S 为分类数为k 个数时的总类内离差平方和，2T S 为所有样品或变量的总 离差平方和。2R 越大，说明类内的离差平方和在总离差平方和中比例较小，也就是