距离判别法及其应用
一、什么是距离判别
（一）定义
距离判别分析方法是判别样品所属类别的一应用性很强的多因素决策方法，根据已掌握的、历史上每个类别的若干样本数据信息，总结出客观事物分类的规律性，建立判别准则，当遇到新的样本点，只需根据总结得出的判别公式和判别准则，就能判别该样本点所属的类别。
距离判别分析的基本思想是：样本和哪个总体的距离最近，就判它属于哪个总体。
（二）作用
判别个体所属类型。例如在经济学中，可根据各国的人均国人民收入、人均工农业产值和人均消费水平等多种指标来判定一个国家经济发展程度的怕属类型医学上根据口才的体温、白血球数目以及其他病理指标来判断患者所患何病等。
二、距离判别分析原理
（一）欧氏距离
欧氏距离（Euclidean distance ）是一个通常采用的距离定义，最多的应用是对距离的测度。大多情况下，人们谈到距离的时候，都会很自然的想到欧氏距离。从数学的角度来讲，它是在m 维空间中两个点之间的真实距离。
在二维空间中其公式为：
2
21221)()(y y x x d -+-=
推广到n 维空间其公式为：
21)
(1i n i i y x d -=∑=
（二）马氏距离
在判别分析中，考虑到欧氏距离没有考虑总体分布的分散性信息，印度统计学家马哈诺必斯（Mahalanobis ）于1936年提出了马氏距离的概念。
设总体T m X X X G },...,,{21=为m 维总体（考察m 个指标），样本
T m i x x x X },...,,{21=。令μ=E(i X )(i=1,2, …，m)，则总体均值向量为
T m },,{21μμμμ???=。总体G 的协方差矩阵为：
]))([()(T G G E G COV μμ--==∑。
设X ，Y 是从总体G 中抽取的两个样本，则X 与Y 之间的平方马氏距离为：
)()(),(12Y X Y X Y X d T -∑-=-
样本X 与总体G 的马氏距离的平方定义为：
)()(),(12μμ-∑-=-X X G X d T
1．两总体距离判别。设有两总体1G 和2G 的均值分别为1μ和2μ，协方差矩阵分别为1∑和2∑（1∑，2∑>0），1?m X 是一个新样本，判断其
属于哪个总体。定义1?m X 到1G 和2G 的距离为),(12G X d 和
),(22G X d ，则按如下判别规则进行判断：
1G X ∈，若),(12G X d ≤),(22G X d
2G X ∈，若),(22G X d ﹤),(12G X d
(1)当1∑=2∑时，该判别式可进行如下简化：
),(12G X d -),(22G X d =)()(111μμ-∑--X X T -)()(212μμ-∑--X X T
=-2)(221121μμμμ-∑??? ?
?+--T
X =)(2μ--X A T 其中)(2
121μμμ+=，)(211μμ-∑=-A 注意到实数的转置等于实数自身，故有
)(221121μμμμ-∑??? ??+--T
X =()??? ??+--∑-2)(21211μμμμX T 令
)()(μ-=X A X W T ，则判别规则就成为： 1G X ∈，若)(X W 0≥
2G X ∈，若)(X W ﹤0
在实际问题中，由于总体的均值、协方差矩阵通常是未知的，数据资料来自两个总体的训练样本，于是用样本的均值、样本的协方差矩阵代替总体的均值与协方差。
由于实际问题中只能得到两个样本的协方差矩阵1S ，2S ，因此当两个
总体协方差矩阵相等时如何确定总体的协方差矩阵S
2
)1()1(212211-+-+-=n n S n S n S
其中n1,n2分别为两个样本的容量。
(2)当1∑≠2∑时， ),(),()(2212G X d G X d X W -=
)()()()(21221111μμμμ-∑---∑-=-
-X X X X T T
判别规则为：
1G X ∈，若)(X W 0≥
2G X ∈，若)(X W ﹤0
例.设有两个二元总体G1和G2，从中分别抽取样本计算得到
???? ??=∑???? ??-=???? ??=6.71.21.28.5?,23,15)2()1(p X X
假设21∑=∑，试用距离判别法建立判别函数和规则。
样品T X )0,6(=应属于哪个总体。
解：)()'(),(111
12μμ-∑-=-X X G X D ???? ?????? ??-=-)1,5()0,6(6.71.21.28.5))1,5()0,6((1
4436602.0116.71.21.28.5)1,1(1=???
? ??-???? ??-=- 673809.1)()'(),(212
22=-∑-=-μμX X G X D
由于),(22G X D >),(12G X D 所以X 属于1G 。 2．多总体的距离判别。设有g 个m 维总体1G ，2G ，…，g G ，均值向量分别为1μ，2μ，…g μ，协方差矩阵分别为1∑，2∑，…，g ∑，则样本X 到各组的平方马氏距离是：
)()(),(12ααααμμ-∑-=-X X G X d T ，α=1，2，…g
判别规则为：i G X ∈ ，若),(min ),(212j g
j i G X d G X d ≤≤=
三、距离判别法的应用
距离判别法可以应用于医学、建设、环境、城镇规划等多个领域的工程项目中。如距离判别法在类风湿性关节炎中医证候诊断中的应用，距离判别法相似矿区突水水源识别中的应用，在大气环境质量现状评价中的应用以及在城镇土地定级中的应用等。
在实际工程中，经常采用多总体的距离判断。设有g 个m 维总体1G ，2G ，…，g G ，均值向量分别为1μ，2μ，…g μ，协方差矩阵分别为1∑，2∑，…，g ∑，任意给定一个m 维样本T m
x x x X },...,,{21=。假设1∑=2∑=…=g ∑=∑，则新样本到各j G 和i G 的马氏距离平方差为
)()](21[2),(),(12
2j i T j i i j x G x d G x d μμμμ-∑+-=--， 令)()](2
1[)(1j i T j i ij x x W μμμμ-∑+-=-。 利用各总体的训练样本对i μ和i ∑（i=1，2，…g ）进行估计。设)(1k x ，
)(2k x ，…，)(k nk x 为来自总体K G 的训练样本（k=1，2，…，g ），令
∑==k k n i k i n k x 1)(1?μ
（k=1，2，…，g ） T
k k i k n i k i k x x x x S k ))(()()()(1
)(∑== （k=1，2，…，g ） 利用k S 对∑的联合估计为
))(/(1?21g S S S g n +?++-=∑
其中∑==g i i n
n 1，即训练样本的总数。
以k μ
?和∑?代替k μ和∑，便可得到判别函数)(x W ij 的估计为 )??()]??(2
1[)(?1j i T j i ij x x W μμμμ-∑+-=-
SPSS主成分分析操作步骤，详细的很啊^_^ SPSS在调用Factor Analyze过程进行分析时，SPSS会自动对原始数据进行标准化处理，所以在得到计算结果后指的变量都是指经过标准化处理后的变量，但SPSS不会直接给出标准化后的数据，如需要得到标准化数据，则需调用Descriptives过程进行计算。 图表 3 相关系数矩阵
图表 4 方差分解主成分提取分析表 主成分分析在SPSS中的操作应用(3) 图表 5 初始因子载荷矩阵
从图表3可知GDP与工业增加值，第三产业增加值、固定资产投资、基本建设投资、社会消费品零售总额、地方财政收入这几个指标存在着极其显著的关系，与海关出口总额存在着显著关系。可见许多变量之间直接的相关性比较强，证明他们存在信息上的重叠。 主成分个数提取原则为主成分对应的特征值大于1的前m个主成分。注：特征值在某种程度上可以被看成是表示主成分影响力度大小的指标，如果特征值小于1，说明该主成分的解释力度还不如直接引入一个原变量的平均解释力度大，因此一般可以用特征值大于1作为纳入标准。通过图表4（方差分解主成分提取分析）可知，提取2个主成分，即m=2，从图表5（初始因子载荷矩阵）可知GDP、工业增加值、第三产业增加值、固定资产投资、基本建设投资、社会消费品零售总额、海关出口总额、地方财政收入在第一主成分上有较高载荷，说明第一主成分基本反映了这些指标的信息；人均GDP和农业增加值指标在第二主成分上有较高载荷，说明第二主成分基本反映了人均GDP和农业增加值两个指标的信息。所以提取两个主成分是可以基本反映全部指标的信息，所以决定用两个新变量来代替原来的十个变量。但这两个新变量的表达还不能从输出窗口中直接得到，因为“Component Matrix”是指初始因子载荷矩阵，每一个载荷量表示主成分与对应变量的相关系数。用图表5（主成分载荷矩阵）中的数据除以主成分相对应的特征值开平方根便得到两个主成分中每个指标所对应的系数[2]。将初始因子载荷矩阵中的两列数据输入（可用复制粘贴的方法）到数据编辑窗口（为变量B1、B2），然后利用“TransformàCompute Variable”，在Compute Variable对话框中输入“A1=B1/SQR(7.22)” [注：第二主成分SQR后的括号中填1.235]，即可得到特征向量A1(见图表6)。同理，可得到特征向量A2。将得到的特征向量与标准化后的数据相乘，然后就可以得出主成分表达式[注：因本例只是为了说明如何在SPSS进行主成分分析，故在此不对提取的主成分进行命名，有兴趣的读者可自行命名]： F 1=0.353ZX 1 +0.042ZX 2 -0.041ZX 3 +0.364ZX 4 +0.367ZX 5 +0.366ZX 6 +0.352ZX 7 +0.364ZX 8+0.298ZX 9 +0.355ZX 10
第一章： 多元统计分析研究的内容（5点） 1、简化数据结构（主成分分析） 2、分类与判别（聚类分析、判别分析） 3、变量间的相互关系（典型相关分析、多元回归分析） 4、多维数据的统计推断 5、多元统计分析的理论基础 第二三章： 二、多维随机变量的数字特征 1、随机向量的数字特征 随机向量X 均值向量： 随机向量X 与Y 的协方差矩阵： 当X=Y 时Cov （X ，Y ）=D （X ）；当Cov （X ，Y ）=0 ，称X ，Y 不相关。 随机向量X 与Y 的相关系数矩阵： )',...,,(),,,(2121P p EX EX EX EX μμμ='=Λ)')((),cov(EY Y EX X E Y X --=q p ij r Y X ?=)(),(ρ
2、均值向量协方差矩阵的性质 (1).设X ，Y 为随机向量，A ，B 为常数矩阵 E （AX ）=AE （X ）； E （AXB ）=AE （X ）B; D(AX)=AD(X)A ’; Cov(AX,BY)=ACov(X,Y)B ’; (2).若X ，Y 独立，则Cov(X,Y)＝０，反之不成立． (3).X 的协方差阵D(X)是对称非负定矩阵。例2.见黑板 三、多元正态分布的参数估计 2、多元正态分布的性质 (1).若 ,则E(X)= ,D(X)= . 特别地，当 为对角阵时， 相互独立。 (2).若 ，Ａ为sxp 阶常数矩阵，d 为s 阶向量， ＡＸ＋d ～ . 即正态分布的线性函数仍是正态分布． (3).多元正态分布的边缘分布是正态分布，反之不成立． (4).多元正态分布的不相关与独立等价． 例３．见黑板． 三、多元正态分布的参数估计 (1)“ 为来自p 元总体X 的（简单）样本”的理解---独立同截面． (2)多元分布样本的数字特征---常见多元统计量 样本均值向量 ＝ 样本离差阵Ｓ＝ 样本协方差阵Ｖ＝ S ;样本相关阵Ｒ (3) ,Ｖ分别是 和 的最大似然估计； (4)估计的性质 是 的无偏估计； ,Ｖ分别是 和 的有效和一致估计； ； Ｓ～ ， 与Ｓ相互独立； 第五章 聚类分析： 一、什么是聚类分析 ：聚类分析是根据“物以类聚”的道理，对样品或指标进行分类的一种多元统计分析方法。用于对事物类别不清楚，甚至事物总共可能有几类都不能确定的情况下进行事物分类的场合。聚类方法：系统聚类法（直观易懂）、动态聚类法（快）、有序聚类法（保序）...... Q-型聚类分析（样品）R-型聚类分析（变量） 变量按照测量它们的尺度不同，可以分为三类：间隔尺度、有序尺度、名义尺度。 二、常用数据的变换方法:中心化变换、标准化变换、极差正规化变换、对数变换（优缺点） 1、中心化变换（平移变换）：中心化变换是一种坐标轴平移处理方法，它是先求出每个变量的样本平均值，再从原始数据中减去该变量的均值，就得到中心化变换后的数据。不改变样本间的相互位置，也不改变变量间的相关性。 2、标准化变换：首先对每个变量进行中心化变换，然后用该变量的标准差进行标准化。 经过标准化变换处理后，每个变量即数据矩阵中每列数据的平均值为0，方差为1，且也不再具有量纲，同样也便于不同变量之间的比较。 3、极差正规化变换（规格化变换）：规格化变换是从数据矩阵的每一个变量中找出其最大值和最小值，这两者之差称为极差，然后从每个变量的每个原始数据中减去该变量中的最小值，再除以极差。经过规格化变换后，数据矩阵中每列即每个变量的最大数值为1，最小数值为0，其余数据取值均在0－1之间；且变换后的数据都不再具有量纲，便于不同的变),(~∑μP N X μ∑μ p X X X ,,,21Λ),(~∑μP N X ) ,('A A d A N s ∑+μ)()1(,, n X X ΛX )',,,(21p X X X Λ)')(()()(1X X X X i i n i --∑=n 1 X μ∑μX )1,(~∑n N X P μ),1(∑-n W p X X
距离判别法及其应用 一、什么是距离判别 （一）定义 距离判别分析方法是判别样品所属类别的一应用性很强的多因素决策方法，根据已掌握的、历史上每个类别的若干样本数据信息，总结出客观事物分类的规律性，建立判别准则，当遇到新的样本点，只需根据总结得出的判别公式和判别准则，就能判别该样本点所属的类别。 距离判别分析的基本思想是：样本和哪个总体的距离最近，就判它属于哪个总体。 （二）作用 判别个体所属类型。例如在经济学中，可根据各国的人均国人民收入、人均工农业产值和人均消费水平等多种指标来判定一个国家经济发展程度的怕属类型医学上根据口才的体温、白血球数目以及其他病理指标来判断患者所患何病等。 二、距离判别分析原理 （一）欧氏距离 欧氏距离（Euclidean distance ）是一个通常采用的距离定义，最多的应用是对距离的测度。大多情况下，人们谈到距离的时候，都会很自然的想到欧氏距离。从数学的角度来讲，它是在m 维空间中两个点之间的真实距离。 在二维空间中其公式为： 2 21221)()(y y x x d -+-=
推广到n 维空间其公式为： 2 1) (1 i n i i y x d -=∑= （二）马氏距离 在判别分析中，考虑到欧氏距离没有考虑总体分布的分散性信息，印度统计学家马哈诺必斯（Mahalanobis ）于1936年提出了马氏距离的概念。 设总体T m X X X G },...,,{21=为m 维总体（考察m 个指标），样本 T m i x x x X },...,,{21=。令μ=E(i X )(i=1,2, …，m)，则总体均值向量为 T m },,{21μμμμ???=。总体G 的协方差矩阵为： ]))([()(T G G E G COV μμ--==∑。 设X ，Y 是从总体G 中抽取的两个样本，则X 与Y 之间的平方马氏距离为： )()(),(12Y X Y X Y X d T -∑-=- 样本X 与总体G 的马氏距离的平方定义为： )()(),(12μμ-∑-=-X X G X d T 1．两总体距离判别。设有两总体1G 和2G 的均值分别为1μ和2μ，协方差矩阵分别为1∑和2∑（1∑，2∑>0），1?m X 是一个新样本，判断其属于哪个总体。定义1?m X 到1G 和2G 的距离为),(12 G X d 和),(22 G X d ， 则按如下判别规则进行判断： 1G X ∈，若),(12G X d ≤),(22G X d 2G X ∈，若),(22G X d ﹤),(12G X d (1)当1∑=2∑时，该判别式可进行如下简化： ),(12G X d -),(22G X d =)()(111μμ-∑--X X T -)()(212μμ-∑--X X T
为研究1991年中国城镇居民月平均收入状况，按标准化欧氏平方距离、离差平方和聚类方法将30个省、市、自治区．分为三种类型。试建立判别函数，判定广东、西藏分别属于哪个收入类型。判别指标及原始数据见表9-4。 1991年30个省、市、自治区城镇居民月平均收人数据表 单位：元／人 x1：人均生活费收入 x6：人均各种奖金、超额工资(国有+集体) x2：人均国有经济单位职工工资 x7：人均各种津贴(国有+集体) x3：人均来源于国有经济单位标准工资 x8：人均从工作单位得到的其他收入 x4：人均集体所有制工资收入 x9：个体劳动者收入 5
贝叶斯判别的SPSS操作方法： 1. 建立数据文件 2．单击Analyze→ Classify→ Discriminant，打开Discriminant Analysis 判别分析对话框如图1所示： 图1 Discriminant Analysis判别分析对话框 3．从对话框左侧的变量列表中选中进行判别分析的有关变量x1~x9进入Independents 框，作为判别分析的基础数据变量。 从对话框左侧的变量列表中选分组变量Group进入Grouping Variable 框，并点击Define Range...钮，在打开的Discriminant Analysis: Define Range对话框中，定义判别原始数据的类别数，由于原始数据分为3类，则在Minimum（最小值）处输入1，在Maximum（最大值）处输入3（见图2）。。 选择后点击Continue按钮返回Discriminant Analysis主对话框。 图2 Define Range对话框 4、选择分析方法 Enter independent together 所有变量全部参与判别分析（系统默 认）。本例选择此项。 Use stepwise method 采用逐步判别法自动筛选变量。
多个总体距离判别法 及其应用 课程名： 年级： 专业： 姓名： 学号：
目录 一、摘要 (1) 二、引言 (1) 三、原理 (1) 3.1定义 (1) 3.2思想 (1) 3.3判别分析过程 (1) 四、具体应用 (3) 4.1判别分析在医学上的应用 (3) 4.2距离判别法在居民生活水平方面的应用 (9) 4.3判别分析软件的使用 (12) 五、参考文献 (14) 六、附录 (15)
一、 摘要 近年来随着信息化社会的进行，数据分析对我们来说日趋重要，为了对数据的分类进行判别，本文介绍了数据分类判别的一种方法：距离判别法。本文从多个总体距离判别法理论出发并结合例题详细介绍了多个总体距离判别法的在医学领域以及居民生活水平方面的应用，同时也简单介绍了spss 软件一般判别法的具体操作。 关键词： 距离判别法 判别分析 一般判别分析 二、 引言 随着科技的发展，判别分析在经济，医学等很多领域以及气候分类，农业区划，土地类型划分等有着重要的应用， 本文从多个总体距离判别分析理论出发，介绍了多个总体距离判别法在医学以及人民生活方面的应用，并介绍了spss 一般判别分析的应用。 三、 原理 3.1 定义 距离判别法：距离判别分析方法是判别样品所属类别的一应用性很强的多因素决方法，其中包括两个样本总体距离判别法，多个样本距离判别法。 多个总体距离判别法：多个总体距离判别法是距离判别法的一种，是两个总体距离判别法的推广，具有多个总体，将待测样本归为多个样本中的一类。 3.2 思想 计算待测样本与各总体之间的距离，将待测样本归为与其距离最进的一类。 3.3 判别分析过程 对于k 个总体k 21G G G ?， ，，假设其均值分别为：k 21u u u ，，，?，协方差阵
第六章 判别分析 §6.1 什么是判别分析 判别分析是判别样品所属类型的一种统计方法，其应用之广可与回归分析媲美。 在生产、科研和日常生活中经常需要根据观测到的数据资料，对所研究的对象进行分类。例如在经济学中，根据人均国民收入、人均工农业产值、人均消费水平等多种指标来判定一个国家的经济发展程度所属类型；在市场预测中，根据以往调查所得的种种指标，判别下季度产品是畅销、平常或滞销；在地质勘探中，根据岩石标本的多种特性来判别地层的地质年代，由采样分析出的多种成份来判别此地是有矿或无矿，是铜矿或铁矿等；在油田开发中，根据钻井的电测或化验数据，判别是否遇到油层、水层、干层或油水混合层；在农林害虫预报中，根据以往的虫情、多种气象因子来判别一个月后的虫情是大发生、中发生或正常； 在体育运动中，判别某游泳运动员的“苗子”是适合练蛙泳、仰泳、还是自由泳等；在医疗诊断中，根据某人多种体验指标（如体温、血压、白血球等）来判别此人是有病还是无病。总之，在实际问题中需要判别的问题几乎到处可见。 判别分析与聚类分析不同。判别分析是在已知研究对象分成若干类型（或组别）并已取得各种类型的一批已知样品的观测数据，在此基础上根据某些准则建立判别式，然后对未知类型的样品进行判别分类。对于聚类分析来说，一批给定样品要划分的类型事先并不知道，正需要通过聚类分析来给以确定类型的。 正因为如此，判别分析和聚类分析往往联合起来使用，例如判别分析是要求先知道各类总体情况才能判断新样品的归类，当总体分类不清楚时，可先用聚类分析对原来的一批样品进行分类，然后再用判别分析建立判别式以对新样品进行判别。 判别分析内容很丰富，方法很多。判别分析按判别的组数来区分，有两组判别分析和多组判别分析；按区分不同总体的所用的数学模型来分，有线性判别和非线性判别；按判别时所处理的变量方法不同，有逐步判别和序贯判别等。判别分析可以从不同角度提出的问题，因此有不同的判别准则，如马氏距离最小准则、Fisher 准则、平均损失最小准则、最小平方准则、最大似然准则、最大概率准则等等，按判别准则的不同又提出多种判别方法。本章仅介绍四种常用的判别方法即距离判别法、Fisher 判别法、Bayes 判别法和逐步判别法。 §6.2 距离判别法 基本思想：首先根据已知分类的数据，分别计算各类的重心即分组（类）的均值，判别准则是对任给的一次观测，若它与第i 类的重心距离最近，就认为它来自第i 类。 距离判别法，对各类（或总体）的分布，并无特定的要求。 1 两个总体的距离判别法 设有两个总体（或称两类）G 1、G 2，从第一个总体中抽取n 1个样品，从第二个总体中抽取n 2个样品，每个样品测量p 个指标如下页表。 今任取一个样品，实测指标值为),,(1'=p x x X ，问X 应判归为哪一类？ 首先计算X 到G 1、G 2总体的距离，分别记为),(1G X D 和),(2G X D ，按距离最近准则
第四章判别分析 简述欧几里得距离与马氏距离的区别和联系。 答：设p维欧几里得空间中的两点X= 和Y=。则欧几里得距离为 。欧几里得距离的局限有①在多元数据分析中，其度量不合理。②会受到实际问题中量纲的影响。 设X,Y是来自均值向量为，协方差为 的总体G中的p维样本。则马氏距离为D(X,Y)= 。当 即单位阵时，
D(X,Y)==即欧几里得距离。 因此，在一定程度上，欧几里得距离是马氏距离的特殊情况，马氏距离是欧几里得距离的推广。 试述判别分析的实质。 答：判别分析就是希望利用已经测得的变量数据，找出一种判别函数，使得这一函数具有某种最优性质，能把属于不同类别的样本点尽可能地区别开来。设R1，R2，…，Rk是p维空间R p的k个子集，如果 它们互不相交，且它们的和集为，则称为的一个划分。判别分析问题实质上就是在某种意义上，以最优的性质对p维空间 构造一个“划分”，这个“划分”就构成了一个判别规则。 简述距离判别法的基本思想和方法。 答：距离判别问题分为①两个总体的距离判别问题和②多个总体的判别问题。其基本思想都是分别计算样本与各个总体的距离（马氏距离），将距离近的判别为一类。
①两个总体的距离判别问题 设有协方差矩阵∑相等的两个总体G 1和G 2，其均值分别是 1 和 2， 对于一个新的样品X ，要判断它来自哪个总体。计算新样品X 到两个总体的马氏距离D 2（X ，G 1）和D 2（X ，G 2），则 X ，D 2（X ，G 1）D 2（X ，G 2） X ，D 2（X ，G 1）> D 2（X ，G 2， 具体分析， 2212(,)(,) D G D G -X X 111122111111 111222********* ()()()() 2(2)2()-----------''=-----''''''=-+--+'''=-+-X μΣX μX μΣX μX ΣX X ΣμμΣμX ΣX X ΣμμΣμX ΣμμμΣμμΣμ11211212112122()()()2() 22()2() ---''=-++-' +? ?=--- ??? ''=--=--X ΣμμμμΣμμμμX ΣμμX μααX μ 记()()W '=-X αX μ 则判别规则为 X ，W(X)
实验指导之二 判别分析的SPSS软件的基本操作 [实验例题]为研究1991年中国城镇居民月平均收入状况，按标准化欧氏平方距离、离差平方和聚类方法将30个省、市、自治区．分为三种类型。试建立判别函数，判定广东、西藏分别属于哪个收入类型。判别指标及原始数据见表9-4。 1991年30个省、市、自治区城镇居民月平均收人数据表 单位：元／人 x1：人均生活费收入 x6：人均各种奖金、超额工资(国有+集体) x2：人均国有经济单位职工工资 x7：人均各种津贴(国有+集体) x3：人均来源于国有经济单位标准工资 x8：人均从工作单位得到的其他收入 x4：人均集体所有制工资收入 x9：个体劳动者收入 x5：人均集体所有制职工标准工资
贝叶斯判别的SPSS操作方法： 1. 建立数据文件 2．单击Analyze→Classify→Discriminant，打开Discriminant Analysis判别分析对话框如图1所示： 图1 Discriminant Analysis判别分析对话框 3．从对话框左侧的变量列表中选中进行判别分析的有关变量x1~x9进入Independents 框，作为判别分析的基础数据变量。 从对话框左侧的变量列表中选分组变量Group进入Grouping Variable 框，并点击Define Range...钮，在打开的Discriminant Analysis: Define Range 对话框中，定义判别原始数据的类别数，由于原始数据分为3类，则在Minimum（最小值）处输入1，在Maximum（最大值）处输入3（见图2）。。 选择后点击Continue按钮返回Discriminant Analysis主对话框。 图2 Define Range对话框 4、选择分析方法
第四章判别分析 4.1 简述欧几里得距离与马氏距离的区别和联系。 答：设p维欧几里得空间中的两点X=和Y=。则欧几里得距离为 。欧几里得距离的局限有①在多元数据分析中，其度量不合理。②会受到实际问题中量纲的影响。 设X,Y是来自均值向量为，协方差为 的总体G中的p维样本。则马氏距离为D(X,Y)= 。当 即单位阵时， D(X,Y)==即欧几里得距离。 因此，在一定程度上，欧几里得距离是马氏距离的特殊情况，马氏距离是欧几里得距离的推广。 4.2 试述判别分析的实质。
答：判别分析就是希望利用已经测得的变量数据，找出一种判别函数，使得这一函数具有某种最优性质，能把属于不同类别的样本点尽可能地区别开来。设R1，R2，…，Rk 是p 维空 间R p 的k 个子集，如果它们互不相交，且它们的和集为，则称为的一 个划分。判别分析问题实质上就是在某种意义上，以最优的性质对p 维空间构造一个“划 分”，这个“划分”就构成了一个判别规则。 4.3 简述距离判别法的基本思想和方法。 答：距离判别问题分为①两个总体的距离判别问题和②多个总体的判别问题。其基本思想都是分别计算样本与各个总体的距离（马氏距离），将距离近的判别为一类。 ①两个总体的距离判别问题 设有协方差矩阵∑相等的两个总体G 1和G 2，其均值分别是μ1和μ 2，对于一个新的样品X ， 要判断它来自哪个总体。计算新样品X 到两个总体的马氏距离D 2（X ，G 1）和D 2 （X ，G 2），则 X ，D 2 （X ，G 1） D 2（X ，G 2） X ，D 2（X ，G 1）> D 2 （X ，G 2， 具体分析， 2212(,)(,) D G D G -X X 111122111111 111222********* ()()()() 2(2)2()-----------''=-----''''''=-+--+'''=-+-X μΣX μX μΣX μX ΣX X ΣμμΣμX ΣX X ΣμμΣμX ΣμμμΣμμΣμ11211212112122()()()2() 22()2() ---''=-++-' +? ?=--- ?? ?''=--=--X ΣμμμμΣμμμμX ΣμμX μααX μ 记()()W '=-X αX μ 则判别规则为
实验课程名称： __多元统计分析--判别分析___
准则判别归类，则可写成： ?? ? ??=>∈<∈) ,(),( ,),(),(,),(),(,21212211G X D G X D G X D G X D G X G X D G X D G X 当待判当当 题目：表11.5的数据包含三种鸢尾的X2=萼片宽度与X4=花瓣的宽度的观测值。对每种鸢尾有n1=n2=n3=50个观测值。 部分数据:
第二部分：实验过程记录（可加页）（包括实验原始数据记录，实验现象记录，实验过程发现的问题等） 散点图：图形→旧对话框→散点图，打开简单散点图子对话框；将想X2选入X轴变量，X4选入Y轴变量，将总体选入设置标记框中，点击确定。 判别分析： 步骤: 1、选择分析→分类→判别，打开判别分析子对话框。 2、选择变量“总体”，单击→，将其加入到分组变量栏中。 3、打开定义范围子对话框，最小值输入1，最大值输入3。 4、将变量“X2萼片宽度”、“X4花瓣的宽度”选入自变量栏中。选择“一起输入自 变量”的方法。 5、打开统计变量子对话框，选择均值、单变量ANOVA、Box’M、未标准化、组内协 方差、分组协方差及总体协方差，单击继续。 6、打开分类子对话框，选择不考虑该个案时的分类，其余为默认值。 7、打开保存，选择所有的变量。
相关系数矩阵a 总体萼片宽度X2 花瓣宽度X4 合计萼片宽度X2 .190 -.122 花瓣宽度X4 -.122 .581 对数行列式 总体秩对数行列式 1 2 -6.496 2 2 -6.141 3 2 -5.189 汇聚的组内 2 -5.583 检验结果 箱的M 52.832 F 近似。8.632 df1 6 df2 538562.769 Sig. .000 Wilks 的Lambda 函数检 验Wilks 的Lambda 卡方df Sig. 1 到 2 .038 477.868 4 .000 2 .809 31.075 1 .000 典型判别式函数系数 函数 1 2 萼片宽度X2 -1.987 2.680 花瓣宽度X4 5.477 .817 (常量) -.494 -9.174 非标准化系数
spss进行判别分析步骤1．Discriminant Analysis判别分析主对话框 图1-1 Discriminant Analysis 主对话框
（1）选择分类变量及其范围 在主对话框中左面的矩形框中选择表明已知的观测量所属类别的变量(一定是离散变量)， 按上面的一个向右的箭头按钮，使该变量名移到右面的Grouping Variable 框中。 此时矩形框下面的Define Range 按钮加亮，按该按钮屏幕显示一个小对话框如图1-2 所示，供指定该分类变量的数值范围。 图1-2 Define Range 对话框 在Minimum 框中输入该分类变量的最小值在Maximum 框中输入该分类变量的最大值。按Continue 按钮返回主对话框。 (2)指定判别分析的自变量 图1-3 展开Selection Variable 对话框的主对话框 在主对话框的左面的变量表中选择表明观测量特征的变量，按下面箭头按钮。
把选中的变量移到Independents 矩形框中，作为参与判别分析的变量。（3）选择观测量 图1-4 Set Value 子对话框 如果希望使用一部分观测量进行判别函数的推导而且有一个变量的某个值可以作为这些观测量的标识， 则用Select 功能进行选择，操作方法是单击Select 按钮展开Selection Variable。选择框如图1-3 所示。 并从变量列表框中选择变量移入该框中再单击Selection Variable 选择框右侧的Value按钮， 展开Set Value(子对话框)对话框，如图1-4 所示，键入标识参与分析的观测量所具有的该变量值， 一般均使用数据文件中的所有合法观测量此步骤可以省略。 （4）选择分析方法
实验十 距离判别 一、实验目的和要求 掌握距离判别分析的理论与方法、模型的建立与误差率估计；掌握利用判别分析的SAS 过程解决有关实际问题. 实验要求:编写程序，结果分析． 实验内容： 要求:1题必做,2,3,4题可选1-2题 1.写出几种距离公式,两总体距离判别准则; p 维空间两点T p x x x ),,,(21 =x ，T p y y y ),,,(21 =y 1.欧氏距离 ∑=-= p i i i y x d 1 2)()(y x, 2.明氏距离 m p i m i i y x d 11 ])([)(∑=-=y x, 3.马氏距离 2 1 1 )]()[()(y x Σy x y x,--=-T d 线性判别函数)(),(),(21x x x W W W 的估计 ??? ? ?????+=--=+=+=-----) (21)(?),(?)(?)(21b ?,??)(?)(2 1b ?,??)(?)2()1()2()1(1)2(1)2(2 )2(12222)1(1)1(1)1(11111 x x x x x S a x x a x x S x x S a x a x x S x x S a x a x ，＝＝－，＝＝－，＝其中T T T T T W b W b W (5.5) 两个总体的距离判别准则 ???<∈≥∈) (? )(?,)(?)(?,2122 1x x G x x x G x 1W W W W 若若 （5.6） 或 ? ??<∈≥∈0)(?,0)(?,2x G x x G x 1W W 若若 2.书上5.3 （1） 两总体之间的广义平方距离 线性判别函数 ∧ ∧∧ +=j T j j b W x a (x)）
复习题 原文： 答案： 4.2 试述判别分析的实质。 4.3 简述距离判别法的基本思想和方法。 4.4 简述贝叶斯判别法的基本思想和方法。 4.5 简述费希尔判别法的基本思想和方法。 4.6 试析距离判别法、贝叶斯判别法和费希尔判别法的异同。 4.2 试述判别分析的实质。 答：判别分析就是希望利用已经测得的变量数据，找出一种判别函数，使得这一函数具有某种最优性质，能把属于不同类别的样本点尽可能地区别开来。设R1，R2，…，Rk是p维空间R p的k个子集，如果它们互不相交，且它 们的和集为，则称为的一个划分。判别分析问题实质上就是在某种意义上，以最优的性质对p维空
间构造一个“划分”，这个“划分”就构成了一个判别规则。 4.3 简述距离判别法的基本思想和方法。 答：距离判别问题分为①两个总体的距离判别问题和②多个总体的判别问题。其基本思想都是分别计算样本与各个总体的距离（马氏距离），将距离近的判别为一类。 ①两个总体的距离判别问题 设有协方差矩阵∑相等的两个总体G 1和G 2，其均值分别是m 1和m 2，对于一个新的样品X ，要判断它来自哪个总体。计算新样品X 到两个总体的马氏距离D 2 （X ，G 1）和D 2 （X ，G 2），则 X ，D 2 （X ，G 1） D 2（X ，G 2） X ，D 2（X ，G 1）> D 2 （X ，G 2， 具体分析， 2212(,)(,) D G D G -X X 111122111111 111222111 211122 ()()()()2(2)2()-----------''=-----''''''=-+--+'''=-+-X μΣX μX μΣX μX ΣX X ΣμμΣμX ΣX X ΣμμΣμX ΣμμμΣμμΣμ11211212112122()()()2() 22()2() ---''=-++-' +??=--- ???''=--=--X ΣμμμμΣμμμμX ΣμμX μααX μ 记()()W '=-X αX μ 则判别规则为 X ，W(X) X ，W(X)<0 ②多个总体的判别问题。 设有k 个总体k G G G ,,,21 ，其均值和协方差矩阵分别是k μμμ,,,21 和k ΣΣΣ,,,21 ，且 ΣΣΣΣ====k 21。计算样本到每个总体的马氏距离，到哪个总体的距离最小就属于哪个总体。 具体分析，21 (,)()()D G ααα-'=--X X μΣX μ
费希尔判别 费希尔判别（或称典型判别）的基本思想是投影（或降维）：用p 维向量12(,,)p x x x x '=???的少数几个线性组合（称为费希尔判别函数或典型变量）1122,,r r y a x y a x y a x '''==???=（一般r 明显小于p ）来代替原始的p 个变量12,,p x x x ???，以达到降维的目的，并根据这r 个判别函数12,,r y y y ???对样品的归属做出判别或将各组分离。成功的降维将使样品的归类或组的分离更为方便和有效，并且可以对前三个判别函数作图，从直观的几何图像上区别各组。 在降维的过程中难免会有部分有用信息的损失，但只要使用的方法得当，我们可以最大限度地减少这种损失，从而保留尽可能多的有用信息，即关于能够反应组之间差异的信息。为便于理解，我们以下用一个简单的二维例子来加以说明。 图投影到某个方向再判别 如图所示，两个组的所有样品都测量了两个变量1x 和2x ，将所有（12,x x ）点画于直角坐标系上，一组的样品点用“×”表示，另一组的样品点用“○”表示。假定我们希望将二维空间的点投影到某个一维空间，即一条直线上，然后再对两组进行判别，则投影到不同的直线上，判别的效果一般是不同的。从图中可见，如果两组的点都投影到直线z 上则这两组的投影点在该直线上的分布几乎无任何差异，他们完全混合在一起，我们无法将这两组的点区别开来，这样的降维把反应两组间差异的信息都给损失了，显然是不可取的。事实上，最好的投影是投影
到直线y 上，因为它把两组的投影点很清楚地区分了开来，这种降维把有关两组差异的信息很好地保留了下来，几乎没有任何损失，如此就完全可以在一维的直线上作判别分析。 我们现考虑在p R 中将k 组的p 维数据向量投影到某个具有最佳方向的a 上，即投影到a 上的点能最大限度地显现出各组之间的差异。 设来自组i π的p 维观测值为ij x ，1,2,,i j=n ???，1,2,,i=k ???，将它们共同投影 到某一p 维常数向量a 上，得到的投影点可分别对应线性组合i j i j y =a x '，1,2,,i j=n ???，1,2,,i=k ???。这样，所有的p 维观测值就简化为一维观测值。下面我们用i y 表示组i π中ij y 的均值，y 表示所有组k 组的ij y 的总均值，即 11i n i ij i j i y y a x n ='==∑ 11 1i n k i ij i j y y a x n =='==∑∑ 式中1 k i i n n ==∑，11i n i ij j i x x n ==∑，11k i i i x n x n ==∑。 对于任一用来投影的a ，我们需要给出一个能反映组之间分离程度的度量。比较图中的上、下半图，上半图三组均值之间的差异程度与下半图是相同的，而前者组之间的分离程度却明显高于后者，原因就在于前者的组内变差要远小于后者，后者组之间有较多重叠。因此，可以考虑将组之间的分离程度度量为相对其组内变差的组间变差。在以下的讨论中，我们需假定各组的协方差矩阵相同，即12k ∑=∑=???=∑=∑。
作业一： 为研究1991年中国城镇居民月平均收入状况，按标准化欧氏平方距离、离差平方和聚类方法将30个省、市、自治区．分为两种类型。试建立判别函数，判定广东、西藏分别属于哪个收入类型。判别指标及原始数据见表9-4。 1991年30个省、市、自治区城镇居民月平均收人数据表 单位：元／人 x1：人均生活费收入 x6：人均各种奖金、超额工资(国有+集体) x2：人均国有经济单位职工工资 x7：人均各种津贴(国有+集体) x3：人均来源于国有经济单位标准工资 x8：人均从工作单位得到的其他收入 x4：人均集体所有制工资收入 x9：个体劳动者收入 x5：人均集体所有制职工标准工资
一、距离判别法 解：变量个数p＝9，两类总体各有11个样品，即n1＝n2＝11 ，有2个待判样品，假定两总体协差阵相等。由spss可计算出：协方差和平均值
合计x1 123.2881 23.27817 22 22.000 x2 80.4895 22.04796 22 22.000 x3 50.8709 6.14867 22 22.000 x4 10.1450 3.11887 22 22.000 x5 6.0659 2.72297 22 22.000 x6 14.6060 6.73264 22 22.000 x7 15.7215 6.64603 22 22.000 x8 8.7895 3.02700 22 22.000 x9 1.5291 1.31496 22 22.000 知道了均值和协方差可利用matlab计算线性判别函数W（x）的判别系数a和判别常数。程序如下： v=[1.000,0.217,0.299,0.045,-0.054,0.688,0.212,0.121,-0.245;.217,1,.102,-.234,-.211,. 136,-.052,.116,.154;.299,.102,1,-.296,-.062,.091,-.017,-.607,-.034;.045,-.234,-.296,1,. 762,-.172,-.297,.103,-.554;-.054,-.211,-.062,.762,1,-.156,-.342,.022,-.654;.688,.136,.0 91,-.172,-.156,1,.235,.384,-.098;.212,-.052,-.017,-.297,-.342,.235,1,-.040,.424;.121,.1 16,-.607,.103,.022,.384,-.040,1,-.071;-.245,.154,-.034,-.554,-.654,-.098,.424,-.071,1]; >> m1=[139.2664;93.0918;53.9882;11.2073;6.7645;17.9345;17,8327;11.0018;1.6736];m 2=[107.3099;67.8873;47.7536;9.0827;5.3673;11.2775;13.6102;6.5773;1.3845]; >> m=(m1+m2)/2; >> arfa=inv(v)*(m1-m2);
距离判别 一、实验目的和要求 掌握距离判别分析的理论与方法、模型的建立与误差率估计；掌握利用判别分析的SAS 过程解决有关实际问题. 实验要求:编写程序，结果分析． 实验内容： 要求:1题必做,2,3,4题可选1-2题 1.写出几种距离公式,两总体距离判别准则; 一．几种距离公式： 1． 欧氏距离 2 121] )([),(jk ik p k j i x x d -=∑=x x 2． 绝对距离 ∑=-=p k jk ik j i x x d 1 ),(x x 3． Minkowski 距离 m p k m jk ik j i x x d 11 ]||[),(∑=-=x x 其中1≥m ．Minkowski 距离又称m L 距离，2L 距离即欧氏距离，1L 距离即绝对距离． 4． Chebyshev 距离 jk ik p k j i x x d -=≤≤1m ax ),(x x Chebyshev 距离是Minkowski 距离当+∞→m 时的极限． 以上距离与各变量的量纲有关．为消除量纲的影响，可对数据进行标准化，然后用标准化数据计算距离．标准化数据即 p k n i s x x x k k ik ik ,...,2,1;,...,2,1,* ==-= 其中∑∑==--==n i n i k ik k ik k x x n s x n x 11 22 )(11,1. 5． 方差加权距离 2 112 2 ])([),(∑ =-=p k k jk ik j i s x x d x x 易证，标准化数据* ik x 的欧氏距离既是方差加权距离． 6． 马氏距离
2 11 )]()),(j i T j i j i d x x S x [(x x x --=- 其中S 是由样品n x x x ,...,,21算得的样本协方差矩阵： ∑=---=n i T i i n 1 ))((11x x x x S ， 其中.11 ∑==n i i n x x 令nxn ij j i ij d D d d )(),,(==x x 形成n 个样品n x x x ,...,,21两两之间的距离矩阵 ? ???? ???????=0002 1 221 112 n n n n d d d d d d D 其中ij d =ji d 二．两个总体的距离判别准则 1．距离判别准则 21,G G 为两个p 维已知总体，均值向量21,μμ, 协方差矩阵21,ΣΣ， T p x x x ),,,(21 =x 为待判样品，距离判别准则为 ?? ?>∈≤∈) ()(, )()(,121221G x,G x,G x G x,G x,G x d d d d 若若 (5.1) 说明：马氏距离思想——极大似然思想 一般p 维总体,),(~),,(~2211ΣμΣμp p N G N G ,协方差矩阵同为Σ,概率密度为 ??????-∑--∑ =-)()(21exp )2(11112 12 1μx μx T p f π ? ?????-∑--∑ = -)()(21exp )2(12122 12 2μx μx T p f π 则 )()(21G x,G x,d d ≤ ?)()()()(212111μx μx μx μx -∑-≤-∑---T T )()(21x x f f ≥? 距离判别准则转化为 ??? ???? <∈≥∈1)()(,1)()(,21221x x G x x x G x 1f f f f 若若 与似然比准则一致． 2．ΣΣΣ==21情形
SPSS操作方法：判别分析例题
实验指导之二 判别分析的SPSS软件的基本操作 [实验例题] 为研究1991年中国城镇居民月平均收入状况，按标准化欧氏平方 距离、离差平方和聚类方法将30个省、市、自治区．分为三种类型。试建立判别函数，判定广东、西藏分别属于哪个收入类型。判别指标及原始数据见表9-4。 1991年30个省、市、自治区城镇居民月平均收人数据表 单位：元／人 x 1 ：人均生活费收入 x 6 ：人均各种奖金、超额工资(国有+集体) x 2 ：人均国有经济单位职工工资 x 7 ：人均各种津贴(国有+集体) x 3 ：人均来源于国有经济单位标准工资 x 8 ：人均从工作单位得到的其他收入 x 4 ：人均集体所有制工资收入 x 9 ：个体劳动者收入 x 5 ：人均集体所有制职工标准工资 样品序地区x 1x 2 x 3 x 4 x 5 x 6 x 7 x 8 x 9 类序 G 11 北京170.03110.259.768.38 4.4926.8016.4411.90.41 2 天津141.5582.5850.9813.49.3321.3012.369.21 1.05 3 河北119.4083.3353.3911.07.5217.3011.7912.00.70 4 上海194.53107.860.2415.68.8831.0021.0111.80.16 5 山东130.4686.2152.3015.910.520.6l12.149.610.47 6 湖北119.2985.4153.0213.18.4413.8716.478.380.51 7 广西134.46 98.6148.188.90 4.3421.4926.1213.6 4.56 8 海南143.79 99.97 45.60 6.30 1.56 18.67 29.49 11.8 3.82 9 四川128.05 74.96 50.13 13.9 9.62 16.14 10.18 14.5 1.21 10 云南127.41 93.54 50.57 10.5 5.87 19.41 21.20 12.6 0.90