1 简述欧氏距离与马氏距离的区别和联系。 答： 设p 维空间中的两点X =和Y =。则欧氏距离为。欧氏距离的局限有①在多元数据分析中，其度量不合理。②会受到实际问题中量纲的影响。
设X,Y 是来自均值向量为，协方差为的总体G 中的p 维样本。则马氏距离为D(X,Y)=。当即单位阵时，D(X,Y)==即欧氏距离。
因此，在一定程度上，欧氏距离是马氏距离的特殊情况，马氏距离是欧氏距离的推广。 2 试述判别分析的实质。
答：判别分析就是希望利用已经测得的变量数据，找出一种判别函数，使得这一函数具有某种最优性质，能把属于不同类别的样本点尽可能地区别开来。设R1，R2，…，Rk 是p 维空间R p 的k 个子集，如果它们互不相交，且它们的和集为，则称为的一个划分。判别分析问题实质上就是在某种意义上，以最优的性质对p 维空间构造一个“划分”，这个“划分”就构成了一个判别规则。
3 简述距离判别法的基本思想和方法。 答：距离判别问题分为①两个总体的距离判别问题和②多个总体的判别问题。其基本思想都是分别计算样本与各个总体的距离（马氏距离），将距离近的判别为一类。 ①两个总体的距离判别问题
设有协方差矩阵∑相等的两个总体G 1和G 2，其均值分别是μ1和μ2，对于一个新的样品X ，
要判断它来自哪个总体。计算新样品X 到两个总体的马氏距离D 2（X ，G 1）和D 2
（X ，G 2），则
X ，D 2（X ，G 1）D 2
（X ，G 2）
X ，D 2（X ，G 1）>D 2
（X ，G 2， 具体分析，
2212(,)(,)
D G D G -X X 111122111111
111222*********
()()()()
2(2)2()-----------''=-----''''''=-+--+'''=-+-X μΣX μX μΣX μX ΣX X ΣμμΣμX ΣX X ΣμμΣμX ΣμμμΣμμΣμ11211212112122()()()
2()
22()2()
---''=-++-'
+?
?=--- ??
?''=--=--X ΣμμμμΣμμμμX ΣμμX μααX μ 记()()W '=-X αX μ则判别规则为
X ，W(X) X ，W(X)<0
②多个总体的判别问题。
设有k 个总体k G G G ,,,21 ，其均值和协方差矩阵分别是k μμμ,,,21 和k ΣΣΣ,,,21 ，且ΣΣΣΣ====k 21。计算样本到每个总体的马氏距离，到哪个总体的距离最小就属于哪个总体。
具体分析，2
1
(,)()()D G ααα-'=--X X μΣX μ
1111
22()C α
αααα----'''=-+''=-+X ΣX μΣX μΣμX ΣX I X
取ααμΣI 1-=，αααμΣμ1
2
1-'-=C ，k ,,2,1 =α。
可以取线性判别函数为
()W C αα
α'=+X I X ， k ,,2,1 =α 相应的判别规则为i G ∈X 若1()max()i k
W C α
αα≤≤'=+X I X
4 简述贝叶斯判别法的基本思想和方法。
基本思想：设k 个总体k G G G ,,,21 ，其各自的分布密度函数)(,),(),(21x x x k f f f ，假设k 个总体各自出现的概率分别为k q q q ,,,21 ，0≥i q ，
11
=∑=k
i i
q
。设将本来属于i G 总体的样品
错判到总体j G 时造成的损失为)|(i j C ，k j i ,,2,1, =。
设k 个总体k G G G ,,,21 相应的p 维样本空间为),,,(21k R R R R =。 在规则R 下，将属于i G 的样品错判为j G 的概率为
x x d f R i j P j
R i )(),|(?=j i k
j i ≠=,,2,1,
则这种判别规则下样品错判后所造成的平均损失为
∑==k
j R i j P i j C R i r 1
)],|()|([)|(k i ,,2,1 =
则用规则R 来进行判别所造成的总平均损失为
∑==k
i i R i r q R g 1),()(
∑∑===k
i k
j i R i j P i j C q 1
1
),|()|(
贝叶斯判别法则，就是要选择一种划分k R R R ,,,21 ，使总平均损失)(R g 达到极小。 基本方法：∑∑===
k i k
j i R i j P i j C q R g 1
1
),|()|()(
x x d f i j C q k
i k
j R i i j
∑∑?===1
1
)()|(
∑?∑===k j R k
i i i j
d f i j C q 1
1
))()|((x x
令
1
(|)()()k i
i
j
i q C j i f h ==∑x x ，则∑?
==k
j R j j
d h R g 1)()(x x
若有另一划分),,,(**2*1*
k
R R R R =，∑?
==k
j R j j
d h R g 1
*
*)()(x x
则在两种划分下的总平均损失之差为
∑∑?
==?-=-k i k
j R R j i j
i d h h R g R g 11
*
*)]()([)()(x x x
因为在i R 上)()(x x j i h h ≤对一切j 成立，故上式小于或等于零，是贝叶斯判别的解。
从而得到的划分)
,,,(21k R R R R =为1{|()min ()}
i i j j k
R h h ≤≤==x x x k i ,,2,1 =
5 简述费希尔判别法的基本思想和方法。
答：基本思想：从k 个总体中抽取具有p 个指标的样品观测数据，借助方差分析的思想构造一个线性判别函数
1122()p p U u X u X u X '=+++=X u X 系数),,,(21'=p u u u u 可使得总体之间区别最大，而使每个总体内部的离差最小。将新样品的p 个指标值代入线性判别函数式中求出()U X 值，然后根据判别一定的规则，就可以判别新的样品属于哪个总体。
6 试析距离判别法、贝叶斯判别法和费希尔判别法的异同。
答：① 费希尔判别与距离判别对判别变量的分布类型无要求。二者只是要求有各类母体的两阶矩存在。而贝叶斯判别必须知道判别变量的分布类型。因此前两者相对来说较为简单。 ② 当k=2时，若则费希尔判别与距离判别等价。当判别变量服从正态分布时，二者与贝叶斯判别也等价。
③ 当时，费希尔判别用作为共同协差阵，实际看成等协差阵，此与距离判别、贝叶斯判别不同。
④ 距离判别可以看为贝叶斯判别的特殊情形。贝叶斯判别的判别规则是 X ，W(X)
X ，W(X) 距离判别的判别规则是 X ，W(X) X ，W(X)<0 二者的区别在于阈值点。当21q q =，)1|2()2|1(C C =时，1=d ，0ln =d 。二者完全相 同。 7 判别分析和聚类分析有何区别？ 答：即根据一定的判别准则，判定一个样本归属于哪一类。具体而言，设有n 个样本，对每个样本测得p 项指标（变量）的数据，已知每个样本属于k 个类别（或总体）中的某一类，通过找出一个最优的划分，使得不同类别的样本尽可能地区别开，并判别该样本属于哪个总体。聚类分析是分析如何对样品（或变量）进行量化分类的问题。在聚类之前，我们并不知道总体，而是通过一次次的聚类，使相近的样品（或变量）聚合形成总体。通俗来讲，判别分析是在已知有多少类及是什么类的情况下进行分类，而聚类分析是在不知道类的情况下进行分类。 8试述系统聚类的基本思想。 答：系统聚类的基本思想是：距离相近的样品（或变量）先聚成类，距离相远的后聚成类，过程一直进行下去，每个样品（或变量）总能聚到合适的类中。 9 对样品和变量进行聚类分析时， 所构造的统计量分别是什么？简要说明为什么这样构造？ 答：对样品进行聚类分析时，用距离来测定样品之间的相似程度。因为我们把n 个样本看作p 维空间的n 个点。点之间的距离即可代表样品间的相似度。常用的距离为 （一）明氏距离：1/1 ()() p q q ij ik jk k d q X X ==-∑ q 取不同值，分为 （1）绝对距离（1q =）1 (1) p ij ik jk k d X X ==-∑ （2）欧氏距离（2q =）21/2 1 (2)() p ij ik jk k d X X ==-∑ （3）切比雪夫距离（q =∞）1()max ij ik jk k p d X X ≤≤∞=- （二）马氏距离 （三）兰氏距离 对变量的相似性，我们更多地要了解变量的变化趋势或变化方向，因此用相关性进行衡量。 将变量看作p 维空间的向量，一般用 （一）夹角余弦 （二）相关系数 10 在进行系统聚类时，不同类间距离计算方法有何区别？选择距离公式应遵循哪些原则？ 答： 设d ij 表示样品X i 与X j 之间距离，用D ij 表示类G i 与G j 之间的距离。 （1）. 最短距离法 ,min i k j r kr ij X G X G D d ∈∈= min{,}kp kq D D = （2）最长距离法 ,max i p j q pq ij X G X G D d ∈∈= ,max i k j r kr ij X G X G D d ∈∈= max{,}kp kq D D = （3）中间距离法 其中 （4）重心法 2()() pq p q p q D X X X X '=--)(1 q q p p r r X n X n n X += 22222 p q p q kr kp kq pq r r r n n n n D D D D n n n = + - 21 ()()()ij i j i j d M -'=--X X ΣX X cos p ik jk ij X X θ=∑ ()()p ik i jk j ij X X X X r --=∑ 2 2222121pq kq kp kr D D D D β++= 11()p ik jk ij k ik jk X X d L p X X =-= +∑ （5）类平均法 221 i p j j pq ij X G X G p q D d n n ∈∈= ∑∑221 i k j r kr ij X G X G k r D d n n ∈∈=∑∑ 22p q kp kq r r n n D D n n = + （6）可变类平均法 其中β是可变的且β<1 （7）可变法 2222 1()2 kr kp kq pq D D D D ββ-= ++其中β是可变的且β<1 （8）离差平方和法 1 ()()t n t it t it t t S X X X X ='=--∑ 2222 k p k q k kr kp kq pq r k r k r k n n n n n D D D D n n n n n n ++= + - +++ 11通常选择距离公式应注意遵循以下的基本原则： （1）要考虑所选择的距离公式在实际应用中有明确的意义。如欧氏距离就有非常明确的空间距离概念。马氏距离有消除量纲影响的作用。 （2）要综合考虑对样本观测数据的预处理和将要采用的聚类分析方法。如在进行聚类分析之前已经对变量作了标准化处理，则通常就可采用欧氏距离。 （3）要考虑研究对象的特点和计算量的大小。样品间距离公式的选择是一个比较复杂且带有一定主观性的问题，我们应根据研究对象的特点不同做出具体分折。实际中，聚类分析前不妨试探性地多选择几个距离公式分别进行聚类，然后对聚类分析的结果进行对比分析，以确定最合适的距离测度方法。 12试述K 均值法与系统聚类法的异同。 答：相同：K —均值法和系统聚类法一样，都是以距离的远近亲疏为标准进行聚类的。 不同：系统聚类对不同的类数产生一系列的聚类结果，而K —均值法只能产生指定类数的聚类结果。 具体类数的确定，离不开实践经验的积累；有时也可以借助系统聚类法以一部分样品为对象进行聚类，其结果作为K —均值法确定类数的参考。 13试述K 均值法与系统聚类有何区别？试述有序聚类法的基本思想。 答：K 均值法的基本思想是将每一个样品分配给最近中心（均值）的类中。系统聚类对不同的类数产生一系列的聚类结果，而K —均值法只能产生指定类数的聚类结果。具体类数的确定，有时也可以借助系统聚类法以一部分样品为对象进行聚类，其结果作为K 均值法确定类数的参考。 14试述主成分分析的基本思想。 答：我们处理的问题多是多指标变量问题，由于多个变量之间往往存在着一定程度的相关性，人们希望能通过线性组合的方式从这些指标中尽可能快的提取信息。当第一个组合不能提取 222 2 (1)()p q kr kp kq pq r r n n D D D D n n ββ=-++ 更多信息时，再考虑第二个线性组合。继续这个过程，直到提取的信息与原指标差不多时为止。这就是主成分分析的基本思想。 15 主成分分析的作用体现在何处？ 答：一般说来，在主成分分析适用的场合，用较少的主成分就可以得到较多的信息量。以各个主成分为分量，就得到一个更低维的随机向量；主成分分析的作用就是在降低数据“维数”的同时又保留了原数据的大部分信息。 16 简述主成分分析中累积贡献率的具体含义。 答：主成分分析把p 个原始变量12,,,p X X X 的总方差()tr Σ分解成了p 个相互独立的变量 12,,,p Y Y Y 的方差之和 1 p k k λ =∑。主成分分析的目的是减少变量的个数，所以一般不会使用所有 p 个主成分的，忽略一些带有较小方差的主成分将不会给总方差带来太大的影响。这里我们 称1 p k k k k ?λλ ==∑为第k 个主成分k Y 的贡献率。第一主成分的贡献率最大，这表明11Y T ' =X 综 合原始变量12,,,p X X X 的能力最强，而23,,,p Y Y Y 的综合能力依次递减。若只取()m p <个主成分，则称11 p m m k k k k ψλλ ===∑∑为主成分1,,m Y Y 的累计贡献率，累计贡献率表明1,,m Y Y 综合12,,,p X X X 的能力。通常取m ，使得累计贡献率达到一个较高的百分数（如85％以上）。 17 试述根据协差阵进行主成分分析和根据相关阵进行主成分分析的区别。 答：从相关阵求得的主成分与协差阵求得的主成分一般情况是不相同的。从协方差矩阵出发的，其结果受变量单位的影响。主成分倾向于多归纳方差大的变量的信息，对于方差小的变量就可能体现得不够，也存在“大数吃小数”的问题。实际表明，这种差异有时很大。我们认为，如果各指标之间的数量级相差悬殊，特别是各指标有不同的物理量纲的话，较为合理的做法是使用R 代替∑。对于研究经济问题所涉及的变量单位大都不统一，采用R 代替∑后，可以看作是用标准化的数据做分析，这样使得主成分有现实经济意义，不仅便于剖析实际问题，又可以避免突出数值大的变量。 18 试述因子分析与主成分分析的联系与区别。 答：因子分析与主成分分析的联系是：①两种分析方法都是一种降维、简化数据的技术。②两种分析的求解过程是类似的，都是从一个协方差阵出发，利用特征值、特征向量求解。 因子分析与主成分分析的主要区别是：主成分分析本质上是一种线性变换，将原始坐标变换到变异程度大的方向上为止，突出数据变异的方向，归纳重要信息。而因子分析是从显在变量去提炼潜在因子的过程。此外，主成分分析不需要构造分析模型而因子分析要构造因子模型。 19 因子分析主要可应用于哪些方面？ 答：因子分析是一种通过显在变量测评潜在变量，通过具体指标测评抽象因子的统计分析方法。目前因子分析在心理学、社会学、经济学等学科中都有重要的应用。具体来说，①因子分析可以用于分类。如用考试分数将学生的学习状况予以分类；用空气中各种成分的比例对空气的优劣予以分类等等②因子分析可以用于探索潜在因素。即是探索未能观察的或不能观测的的潜在因素是什么，起的作用如何等。对我们进一步研究与探讨指示方向。在社会调查分析中十分常用。③因子分析的另一个作用是用于时空分解。如研究几个不同地点的不同日期的气象状况，就用因子分析将时间因素引起的变化和空间因素引起的变化分离开来从而判断各自的影响和变化规律。 20 简述因子模型中载荷矩阵A 的统计意义。 答：对于因子模型 1122i i i ij j im m i X a F a F a F a F ε=++++++ 1,2,,i p = 因子载荷阵为1112121 2221212 (,,,)m m m p p pm a a a a a a A A A a a a ?? ??? ?==?? ?? ?? ? ? A i X 与j F 的协方差为： 1 Cov(,)Cov(,)m i j ik k i j k X F a F F ε==+∑ =1 Cov( ,)Cov(,)m ik k j i j k a F F F ε=+∑ =ij a 若对i X 作标准化处理，=ij a ,因此ij a 一方面表示i X 对j F 的依赖程度；另一方面也反映了变量 i X 对公共因子 j F 的相对重要性。 变量共同度2 21 1,2,,m i ij j h a i p == =∑ 2221122()()()()()i i i im m i D X a D F a D F a D F D ε=++++ 22 i i h σ=+说明变量i X 的方差由两 部分组成：第一部分为共同度2 i h ，它描述了全部公共因子对变量i X 的总方差所作的贡献，反映了公共因子对变量i X 的影响程度。第二部分为特殊因子i ε对变量i X 的方差的贡献，通常称为个性方差。 而公共因子j F 对X 的贡献2 21 1,2,,p j ij i g a j m == =∑ 表示同一公共因子j F 对各变量所提供的方差贡献之总和，它是衡量每一个公共因子相对重要性的一个尺度。 21 试分析因子分析模型与线性回归模型的区别与联系。 答：因子分析模型是一种通过显在变量测评潜在变量，通过具体指标测评抽象因子的统计分析方法的模型。而线性回归模型回归分析的目的是设法找出变量间的依存(数量)关系, 用函数关系式表达出来。 因子分析模型中每一个变量都可以表示成公共因子的线性函数与特殊因子之和。即 1122i i i im m i X a F a F a F ε=++++ ，（1,2,,i p = ） 该模型可用矩阵表示为：=+X AF ε 而回归分析模型中多元线性回归方程模型为： 其中是常数项，是偏回归系数，是残差。 因子模型满足： （1）m p ≤； （2）(,)0Cov =F ε，即公共因子与特殊因子是不相关的； （3）1 01()0 1F m D ???? ??===???? ??D F I ，即各个公共因子不相关且方差为1； （4）212 220()0p D εσσσ??????==???????? D ε ，即各个特殊因子不相关，方差不要求相等。 而回归分析模型满足（1）正态性：随机误差（即残差）e 服从均值为 0，方差为σ２ 的 正态分布；（2）等方差：对于所有的自变量x ，残差e 的条件方差为σ２ ，且σ为常数；（3）独立性：在给定自变量x 的条件下，残差e 的条件期望值为0（本假设又称零均值假设）；（4）无自相关性：各随机误差项e 互不相关。 两种模型的联系在于都是线性的。因子分析的过程就是一种线性变换。 22什么是典型相关分析？简述其基本思想。 答： 典型相关分析是研究两组变量之间相关关系的一种多元统计方法。用于揭示两组变量之间的内在联系。典型相关分析的目的是识别并量化两组变量之间的联系。将两组变量相关关系的分析转化为一组变量的线性组合与另一组变量线性组合之间的相关关系。 基本思想： （1）在每组变量中找出变量的线性组合，使得两组的线性组合之间具有最大的相关系数。即： 若设(1) (1)(1)(1)12(,,,)p X X X =X 、(2)(2)(2)(2) 12(,,,)q X X X =X 是两组相互关联的随机变量， 分别在两组变量中选取若干有代表性的综合变量Ui 、Vi ，使是原变量的线性组合。 在(1)(1)(1)(2)()()1D D ''==a X b X 的条件下，使得(1)(1)(1)(2) (,)ρ''a X b X 达到最大。（2）选取 和最初挑选的这对线性组合不相关的线性组合，使其配对，并选取相关系数最大的一对。 （3）如此继续下去，直到两组变量之间的相关性被提取完毕为此。 23 什么是典型变量？它具有哪些性质？ 答：在典型相关分析中，在一定条件下选取系列线性组合以反映两组变量之间的线性关系，这被选出的线性组合配对被称为典型变量。具体来说， ()(1)()(1)()(1) ()(1)11 2 2i i i i i P P U a X a X a X ' =+++a X ()(2)()(2)()(2) ()(2)1122i i i i i q q V b X b X b X '=+++b X 在(1)(1)(1)(2)()()1D D ''==a X b X 的条件下，使得(1)(1)(1)(2) (,)ρ''a X b X 达到最大，则称 (1)(1)'a X 、(1)(2)'b X 是(1)X 、(2)X 的第一对典型相关变量。 典型变量性质： 典型相关量化了两组变量之间的联系，反映了两组变量的相关程度。 1. ()1,()1 (1,2,,)k k D U D V k r === (,)0,(,)0()i j i j Cov U U Cov V V i j ==≠ ()(1)()(1)()(1)()(1) 1122i i i i i P P U a X a X a X '=+++a X ()(2)()(2)()(2)()(2)1122i i i i i q q V b X b X b X '=+++b X (1)(1)(1)(1)12 (,,,)p X X X = X 、(2)(2)(2)(2)12(,,,)q X X X = X 2. 0(,1,2,,)(,)0 ()0() i i j i j i r Cov U V i j j r λ≠==?? =≠??>? 24 试分析一组变量的典型变量与其主成分的联系与区别。 答：一组变量的典型变量和其主成分都是经过线性变换计算矩阵特征值与特征向量得出的。主成分分析只涉及一组变量的相互依赖关系而典型相关则扩展到两组变量之间的相互依赖关系之中，度量了这两组变量之间联系的强度。 1. 在进行系统聚类分析时，不同的类间距离计算方法有何区别？请举例说明。 最短距离法为类与之间的距离为两类最近样品的距离；最长距离法为类与之间的距离为两类最远样品的距离；中间距离法用介于最长与最短两者之间的距离；重心法定义类间距离为两类重心（各类样品的均值）的距离；类平均法定义类间距离平方为这两类元素两两之间距离平方的平均数；可变类平均法将G 和合并为新类，反映出和之间的距离的影响；如果中间法的前两项的系数也依赖于i G r G βj G i G pj G q G p G q G pq D q G ，那么用可变法如果将和合并为新类；离差平方和法则是先将个样品各自成一类，然后每次缩小一类，每缩小一类，离差平方和就要增大，选择使方差增加最小的两类合并，直到所有的样品归为一类为止p G r G n 25 试述主成分分析的基本思想。 答：我们处理的问题多是多指标变量问题，由于多个变量之间往往存在着一定程度的相关性，人们希望能通过线性组合的方式从这些指标中尽可能快的提取信息。当第一个组合不能提取更多信息时，再考虑第二个线性组合。继续这个过程，直到提取的信息与原指标差不多时为止。这就是主成分分析的基本思想。 26 主成分分析的作用体现在何处？ 答：一般说来，在主成分分析适用的场合，用较少的主成分就可以得到较多的信息量。以各个主成分为分量，就得到一个更低维的随机向量；主成分分析的作用就是在降低数据“维数”的同时又保留了原数据的大部分信息。 27 简述主成分分析中累积贡献率的具体含义。 答：主成分分析把p 个原始变量12,,,p X X X 的总方差()tr Σ分解成了p 个相互独立的变量 12,,,p Y Y Y 的方差之和 1 p k k λ =∑。主成分分析的目的是减少变量的个数，所以一般不会使用所有 p 个主成分的，忽略一些带有较小方差的主成分将不会给总方差带来太大的影响。这里我们 称1 p k k k k ?λλ ==∑为第k 个主成分k Y 的贡献率。第一主成分的贡献率最大，这表明11Y T ' =X 综 合原始变量12,,,p X X X 的能力最强，而23,,,p Y Y Y 的综合能力依次递减。若只取()m p <个主成分，则称11 p m m k k k k ψλλ ===∑∑为主成分1,,m Y Y 的累计贡献率，累计贡献率表明1,,m Y Y 综合12,,,p X X X 的能力。通常取m ，使得累计贡献率达到一个较高的百分数（如85％以上）。 28 试述根据协差阵进行主成分分析和根据相关阵进行主成分分析的区别。 答：从相关阵求得的主成分与协差阵求得的主成分一般情况是不相同的。从协方差矩阵出发的，其结果受变量单位的影响。主成分倾向于多归纳方差大的变量的信息，对于方差小的 变量就可能体现得不够，也存在“大数吃小数”的问题。实际表明，这种差异有时很大。我们认为，如果各指标之间的数量级相差悬殊，特别是各指标有不同的物理量纲的话，较为合理的做法是使用R代替∑。对于研究经济问题所涉及的变量单位大都不统一，采用R代替∑后，可以看作是用标准化的数据做分析，这样使得主成分有现实经济意义，不仅便于剖析实际问题，又可以避免突出数值大的变量。 .. .. 多元统计分析及R 语言建模考试试卷 一、简答题（共5小题，每小题6分，共30分） 1. 常用的多元统计分析方法有哪些？ （1）多元正态分布检验 （2）多元方差-协方差分析 （3）聚类分析 （4）判别分析 （5）主成分分析 ______________ 课程类别 必修[ ] 选修[ ] 考试方式 开卷[ ] 闭卷[ ] （7）对应分析 （8）典型相关性分析 （ 9）定性数据建模分析 （10）路径分析（又称多重回归、联立方程） （11）结构方程模型 （12）联合分析 （13）多变量图表示法 （14）多维标度法 2. 简单相关分析、复相关分析和典型相关分析有何不同？并举例说明之。 简单相关分析：简单相关分析是研究现象之间是否存在某种依存关系，并对具体有依存关系的现象探讨其相关方向以及相关程度，是研究随机变量之间的相关关系的一种统计方法。例如，以X、Y分别记小学生的数学与语文成绩，感兴趣的是二者的关系如何，而不在于由X去预测Y。 复相关分析；研究一个变量 x0与另一组变量 (x1,x2,…，xn)之间的相关程度。例如,职业声望同时受到一系列因素（收入、文化、权力……）的影响，那么这一系列因素的总和与职业声望之间的关系，就是复相关。复相关系数R0.12…n的测定，可先求出 x0对一组变量x1，x2，…，xn的回归直线，再计算x0与用回归直线估计值悯之间的简单直线回归。复相关系数为R0.12…n的取值围为0≤R0.12…n≤1。复相关系数值愈大，变量间的关系愈密切。 典型相关分析就是利用综合变量对之间的相关关系来反映两组指标之间的整体相关性的多元统计分析方法。它的基本原理是：为了从总体上把握两组指标之间的相关关系，分别在两组变量中提取有代表性的两个综合变量U1和V1（分别为两个变量组中各变量的线性组合），利用这两个综合变量之间的相关关系来反映两组指标之间的整体相关性。 一、判断题 （ 对 ） 1 X ( X 1 , X 2 ,L , X p ) 的协差阵一定是对称的半正定阵 （ 对 （ ） 2 标准化随机向量的协差阵与原变量的相关系数阵相同。 对） 3 典型相关分析是识别并量化两组变量间的关系，将两组变量的相关关系 的研究转化为一组变量的线性组合与另一组变量的线性组合间的相关关系的研究。 （ 对 ）4 多维标度法是以空间分布的形式在低维空间中再现研究对象间关系的数据 分析方法。 （ 错）5 X (X 1 , X 2 , , X p ) ~ N p ( , ) ， X , S 分别是样本均值和样本离 差阵，则 X , S 分别是 , 的无偏估计。 n （ 对） 6 X ( X 1 , X 2 , , X p ) ~ N p ( , ) ， X 作为样本均值 的估计，是 无偏的、有效的、一致的。 （ 错） 7 因子载荷经正交旋转后，各变量的共性方差和各因子的贡献都发生了变化 （ 对） 8 因子载荷阵 A ( ij ) ij 表示第 i 个变量在第 j 个公因子上 a 中的 a 的相对重要性。 （ 对 ）9 判别分析中， 若两个总体的协差阵相等， 则 Fisher 判别与距离判别等价。 （对） 10 距离判别法要求两总体分布的协差阵相等， Fisher 判别法对总体的分布无特 定的要求。 二、填空题 1、多元统计中常用的统计量有：样本均值向量、样本协差阵、样本离差阵、 样本相关系数矩阵． 2、 设 是总体 的协方差阵， 的特征根 ( 1, , ) 与相应的单 X ( X 1,L , X m ) i i L m 位 正 交 化 特 征 向 量 i ( a i1, a i 2 ,L ,a im ) ， 则 第 一 主 成 分 的 表 达 式 是 y 1 a 11 X 1 a 12 X 2 L a 1m X m ，方差为 1 。 3 设 是总体 X ( X 1, X 2 , X 3, X 4 ) 的协方差阵， 的特征根和标准正交特征向量分别 为： 1 2.920 U 1' (0.1485, 0.5735, 0.5577, 0.5814) 2 1.024 U 2' (0.9544, 0.0984,0.2695,0.0824) 3 0.049 U 3' (0.2516,0.7733, 0.5589, 0.1624) 4 0.007 U 4' ( 0.0612,0.2519,0.5513, 0.7930) ，则其第二个主成分的表达式是 一、填空题（20分） 1、若),2,1(),,(~)(n N X p 且相互独立，则样本均值向量X 服从的分布 为 2、变量的类型按尺度划分有_间隔尺度_、_有序尺度_、名义尺度_。 3、判别分析是判别样品 所属类型 的一种统计方法，常用的判别方法有__距离判别法_、Fisher 判别法、Bayes 判别法、逐步判别法。 4、Q 型聚类是指对_样品_进行聚类，R 型聚类是指对_指标(变量)_进行聚类。 5、设样品),2,1(,),,(' 21n i X X X X ip i i i ，总体),(~ p N X ，对样品进行分类常用的距离 2 ()ij d M )()(1j i j i x x x x ，兰氏距离()ij d L 6、因子分析中因子载荷系数ij a 的统计意义是_第i 个变量与第j 个公因子的相关系数。 7、一元回归的数学模型是： x y 10，多元回归的数学模型是： p p x x x y 22110。 8、对应分析是将 R 型因子分析和Q 型因子分析结合起来进行的统计分析方法。 9、典型相关分析是研究两组变量之间相关关系的一种多元统计方法。 二、计算题（60分） 1、设三维随机向量),(~3 N X ，其中 200031014，问1X 与2X 是否独立？),(21 X X 和3X 是否独立？为什么？ 解： 因为1),cov(21 X X ，所以1X 与2X 不独立。 把协差矩阵写成分块矩阵 22211211，),(21 X X 的协差矩阵为11 因为12321),),cov(( X X X ，而012 ，所以),(21 X X 和3X 是不相关的，而正态分布不相关与相互 华南农业大学期末试卷（A 卷） 2006学年第2学期 考试科目：多元统计分析 考试类型：（闭卷） 考试时间：120 分钟 学号 姓名 年级专业 题号 一 二 三 四 五 六 七 八 总分 得分 评阅人 一、填空题（5×6=30） 22121212121~(,),(,),(,),, 1X N X x x x x x x ρμμμμσρ ?? ∑==∑= ???+-1、设其中则Cov(,)=____. 10 31 2~(,),1,,10,()()_________i i i i X N i W X X μμμ=' ∑=--∑、设则=服从。 ()1 2 34 433,4 92,32 16___________________ X x x x R -?? ?'==-- ? ?-? ? =∑、设随机向量且协方差矩阵则它的相关矩阵 4、 __________， __________， ________________。 215,1, ,16(,),(,) 15[4()][4()]~___________i p p X i N X A N T X A X μμμμ-=∑∑'=--、设是来自多元正态总体和分别为正态总体的样本均值和样本离差矩阵,则。 (), 123设X=x x x 的相关系数矩阵通过因子分析分解为 211X h = 的共性方差111 X σ = 的方差21X g =1公因子f 对的贡献121330.93400.1280.9340.4170.83511 00.4170.8940.02700.8940.44730.8350.4470.1032013 R ? ? - ????? ? -?? ? ? ?=-=-+ ? ? ? ??? ? ? ????? ? ??? 一、填空题： 1、多元统计分析是运用数理统计方法来研究解决多指标问题的理论和方法. 2、回归参数显著性检验是检验解释变量对被解释变量的影响是否著. 3、聚类分析就是分析如何对样品（或变量）进行量化分类的问题。通常聚类分析分为 Q型聚类和 R型聚类。 4、相应分析的主要目的是寻求列联表行因素A 和列因素B 的基本分析特征和它们的最优联立表示。 5、因子分析把每个原始变量分解为两部分因素：一部分为公共因子，另一部分为特殊因子。 6、若 () (,), P x N αμα ∑=1,2,3….n且相互独立，则样本均值向量x服从的分布 为_x~N(μ，Σ/n)_。 二、简答 1、简述典型变量与典型相关系数的概念，并说明典型相关分析的基本思想。 在每组变量中找出变量的线性组合，使得两组的线性组合之间具有最大的相关系数。选取和最初挑选的这对线性组合不相关的线性组合，使其配对，并选取相关系数最大的一对，如此下去直到两组之间的相关性被提取完毕为止。被选出的线性组合配对称为典型变量，它们的相关系数称为典型相关系数。 2、简述相应分析的基本思想。 相应分析，是指对两个定性变量的多种水平进行分析。设有两组因素A和B，其中因素A包含r个水平，因素B包含c个水平。对这两组因素作随机抽样调查，得到一个rc的二维列联表，记为。要寻求列联表列因素A和行因素B的基本分析特征和最优列联表示。相应分析即是通过列联表的转换，使得因素A 和因素B 具有对等性，从而用相同的因子轴同时描述两个因素各个水平的情况。把两个因素的各个水平的状况同时反映到具有相同坐标轴的因子平面上，从而得到因素A 、B 的联系。 3、简述费希尔判别法的基本思想。 从k 个总体中抽取具有p 个指标的样品观测数据，借助方差分析的思想构造一个线性判别函数 系数： 确定的原则是使得总体之间区别最大，而使每个总体内部的离差最小。将新样品的p 个指标值代入线性判别函数式中求出 值，然后根据判别一定的规则，就可以判别新的样品属于哪个总体。 5、简述多元统计分析中协差阵检验的步骤 第一，提出待检验的假设 和H1； 第二，给出检验的统计量及其服从的分布； 第三，给定检验水平，查统计量的分布表，确定相应的临界值，从而得到否定域； 第四，根据样本观测值计算出统计量的值，看是否落入否定域中，以便对待判假设做出决策（拒绝或接受）。 协差阵的检验 检验0=ΣΣ 0p H =ΣI ： /2 /21exp 2np n e tr n λ???? =-?? ? ???? S S 00p H =≠ΣΣI ： /2 /2**1exp 2np n e tr n λ???? =-?? ? ???? S S 多元统计分析模拟试 题 多元统计分析模拟试题（两套：每套含填空、判断各二十道） A卷 1)判别分析常用的判别方法有距离判别法、贝叶斯判别法、费歇判别法、逐 步判别法。 2)Q型聚类分析是对样品的分类，R型聚类分析是对变量_的分类。 3)主成分分析中可以利用协方差矩阵和相关矩阵求解主成分。 4)因子分析中对于因子载荷的求解最常用的方法是主成分法、主轴因子法、 极大似然法 5)聚类分析包括系统聚类法、模糊聚类分析、K-均值聚类分析 6)分组数据的Logistic回归存在异方差性，需要采用加权最小二乘估计 7)误差项的路径系数可由多元回归的决定系数算出，他们之间的关系为 = 8)最短距离法适用于条形的类，最长距离法适用于椭圆形的类。 9)主成分分析是利用降维的思想，在损失很少的信息前提下，把多个指标转 化为几个综合指标的多元统计方法。 10)在进行主成分分析时，我们认为所取的m（m 第一章： 多元统计分析研究的内容（5点） 1、简化数据结构（主成分分析） 2、分类与判别（聚类分析、判别分析） 3、变量间的相互关系（典型相关分析、多元回归分析） 4、多维数据的统计推断 5、多元统计分析的理论基础 第二三章： 二、多维随机变量的数字特征 1、随机向量的数字特征 随机向量X 均值向量： 随机向量X 与Y 的协方差矩阵： 当X=Y 时Cov （X ，Y ）=D （X ）；当Cov （X ，Y ）=0 ，称X ，Y 不相关。 随机向量X 与Y 的相关系数矩阵： )',...,,(),,,(2121P p EX EX EX EX μμμ='=Λ)')((),cov(EY Y EX X E Y X --=q p ij r Y X ?=)(),(ρ 2、均值向量协方差矩阵的性质 (1).设X ，Y 为随机向量，A ，B 为常数矩阵 E （AX ）=AE （X ）； E （AXB ）=AE （X ）B; D(AX)=AD(X)A ’; Cov(AX,BY)=ACov(X,Y)B ’; (2).若X ，Y 独立，则Cov(X,Y)＝０，反之不成立． (3).X 的协方差阵D(X)是对称非负定矩阵。例2.见黑板 三、多元正态分布的参数估计 2、多元正态分布的性质 (1).若 ,则E(X)= ,D(X)= . 特别地，当 为对角阵时， 相互独立。 (2).若 ，Ａ为sxp 阶常数矩阵，d 为s 阶向量， ＡＸ＋d ～ . 即正态分布的线性函数仍是正态分布． (3).多元正态分布的边缘分布是正态分布，反之不成立． (4).多元正态分布的不相关与独立等价． 例３．见黑板． 三、多元正态分布的参数估计 (1)“ 为来自p 元总体X 的（简单）样本”的理解---独立同截面． (2)多元分布样本的数字特征---常见多元统计量 样本均值向量 ＝ 样本离差阵Ｓ＝ 样本协方差阵Ｖ＝ S ;样本相关阵Ｒ (3) ,Ｖ分别是 和 的最大似然估计； (4)估计的性质 是 的无偏估计； ,Ｖ分别是 和 的有效和一致估计； ； Ｓ～ ， 与Ｓ相互独立； 第五章 聚类分析： 一、什么是聚类分析 ：聚类分析是根据“物以类聚”的道理，对样品或指标进行分类的一种多元统计分析方法。用于对事物类别不清楚，甚至事物总共可能有几类都不能确定的情况下进行事物分类的场合。聚类方法：系统聚类法（直观易懂）、动态聚类法（快）、有序聚类法（保序）...... Q-型聚类分析（样品）R-型聚类分析（变量） 变量按照测量它们的尺度不同，可以分为三类：间隔尺度、有序尺度、名义尺度。 二、常用数据的变换方法:中心化变换、标准化变换、极差正规化变换、对数变换（优缺点） 1、中心化变换（平移变换）：中心化变换是一种坐标轴平移处理方法，它是先求出每个变量的样本平均值，再从原始数据中减去该变量的均值，就得到中心化变换后的数据。不改变样本间的相互位置，也不改变变量间的相关性。 2、标准化变换：首先对每个变量进行中心化变换，然后用该变量的标准差进行标准化。 经过标准化变换处理后，每个变量即数据矩阵中每列数据的平均值为0，方差为1，且也不再具有量纲，同样也便于不同变量之间的比较。 3、极差正规化变换（规格化变换）：规格化变换是从数据矩阵的每一个变量中找出其最大值和最小值，这两者之差称为极差，然后从每个变量的每个原始数据中减去该变量中的最小值，再除以极差。经过规格化变换后，数据矩阵中每列即每个变量的最大数值为1，最小数值为0，其余数据取值均在0－1之间；且变换后的数据都不再具有量纲，便于不同的变),(~∑μP N X μ∑μ p X X X ,,,21Λ),(~∑μP N X ) ,('A A d A N s ∑+μ)()1(,, n X X ΛX )',,,(21p X X X Λ)')(()()(1X X X X i i n i --∑=n 1 X μ∑μX )1,(~∑n N X P μ),1(∑-n W p X X 一、判断题 （ 对 ）112(,,,)p X X X X '=L 的协差阵一定是对称的半正定阵 （ 对 ）2标准化随机向量的协差阵与原变量的相关系数阵相同。 （ 对）3典型相关分析是识别并量化两组变量间的关系，将两组变量的相关关系 的研究转化为一组变量的线性组合与另一组变量的线性组合间的相关关系的研究。 （ 对 ）4多维标度法是以空间分布的形式在低维空间中再现研究对象间关系的数据分析方法。 （ 错）5),(~),,,(21∑'=μp p N X X X X Λ，,X S 分别是样本均值和样本离差阵，则, S X n 分别是,μ∑的无偏估计。 （ 对）6),(~),,,(21∑'=μp p N X X X X Λ，X 作为样本均值μ的估计，是 无偏的、有效的、一致的。 （ 错）7 因子载荷经正交旋转后，各变量的共性方差和各因子的贡献都发生了变化 （ 对）8因子载荷阵()ij A a =中的ij a 表示第i 个变量在第j 个公因子上的相对重要性。 （ 对 ）9 判别分析中，若两个总体的协差阵相等，则Fisher 判别与距离判别等 价。 （对）10距离判别法要求两总体分布的协差阵相等，Fisher 判别法对总体的分布无特定的要求。 二、填空题 1、多元统计中常用的统计量有：样本均值向量、样本协差阵、样本离差阵、样本相关系数矩阵． 2、设∑是总体1(,,)m X X X =L 的协方差阵，∑的特征根(1,,)i i m λ=L 与相应的单 位正交化特征向量 12(,,,)i i i im a a a α=L ，则第一主成分的表达式是 11111221m m y a X a X a X =+++L ，方差为 1λ。 3设∑是总体1234(,,,)X X X X X =的协方差阵，∑的特征根和标准正交特征向量分别 为：' 112.920(0.1485,0.5735,0.5577,0.5814)U λ==--- ' 221.024(0.9544,0.0984,0.2695,0.0824)U λ==- '330.049(0.2516,0.7733,0.5589,0.1624)U λ==-- 《多元统计分析》课程试卷答案 A 卷 2009年秋季学期 开课学院：理 考试方式：√闭卷、开卷、一纸开卷、其它 考试时间：120 分钟 班级 姓名 学号 散卷作废。 一、（15分）设()∑????? ??=,~3321μN x x x X ，其中????? ??-=132μ，??? ? ? ??=∑221231111， 1．求32123x x x +-的分布； 2. 求二维向量???? ??=21a a a ，使3x 与??? ? ??'-213x x a x 相互独立。 解：1.32123x x x +-()CX x x x ???? ? ? ??-=321123，则()C C C N CX '∑,~μ。（2分） 其中：μC ()13132123=????? ??--=，()9123221231111123=??? ? ? ??-????? ??-='∑C C 。（4分） 所以32123x x x +-()9,13~N （1分） 2. ????? ?????? ??'-213 3x x a x x =AX x x x a a ????? ? ?????? ??--3212 1110 ，则()A A A N AX '∑,~2μ。（1分） 其中： 订 线 装 μA ???? ??++-=???? ? ??-???? ??--=132113********* a a a a ，（1分） ??? ? ??+--+++--+--='???? ??--???? ? ?????? ??--='∑242232222211002212311111100 2121222121212121 a a a a a a a a a a a a a a A A （2分） 要使3x 与???? ??'-213x x a x 相互独立，必须02221=+--a a ，即2221=+a a 。 因为2221=+a a 时24223212122 21 +--++a a a a a a 0>。所以使3x 与??? ? ??'-213x x a x 相互独立，只要 ???? ??=21a a a 中的21,a a 满足2221=+a a 。 （4分） 二、（14分）设一个容量为n=3的随机样本取自二维正态总体，其数据矩阵为 ??? ? ? ??=3861096X ，给定显著性水平05.0=α， 1. 求均值向量μ和协方差矩阵∑的无偏估计 2. 试检验,38:H 0???? ??=μ .38:H 1??? ? ??≠μ （已知F 分布的上α分位数为19)2,2(F ,5.199)1,2(F ,51.18)2,1(F 0.050.050.05===） 解：1、??? ? ??==∑=68X n 1X n 1i i （3分） ???? ??--='--=∑=9334)X X ()X X (1-n 1S i n 1i i （3分） 2、,38:H 0???? ??=μ .38:H 1??? ? ??≠μ…（1分） 近几年，中国房地产业得到了长足的发展，但房地产价格的上涨一直饱受争议，甚至有逃离“北、上、广”的言论，这也从侧面反映了房地产价格的区域性特征，下表为2008年中国31个省、市、自治区房地产业的相关统计数据，试根据这些数据进行聚类分析。 表1中指标说明如下： X1：房屋平均销售价格； X2：住宅平均销售价格； X3：别墅、高档公寓平均销售价格； X4：经济适用房平均销售价格； X5：办公楼平均销售价格； X6：商业营业用房平均销售价格 X7：其他平均销售价格； X8：商品房销售面积； X9：住宅销售面积 表1 为研究某地区人口死亡状况，已按某种方法将15个已知样品分为3类，指标及原始数据见表2，试建立判别函数，并判定另外4个待判样品属于哪类？ 表2 X1：0岁组死亡概率X4：55岁组死亡概率 X2：1岁组死亡概率X5：80岁组死亡概率 X3：10岁组死亡概率X6：平均预期寿命 题3 利用主成分分析综合评价全国重点水泥企业的经济效益。原始数据见表3。 表3 题4 反映城镇居民消费支出状况的指标主要有食品、衣着、居住、家庭设备用品及服务、医疗保健、交通和通信以及教育文化娱乐服务等八项消费支出指标，数据如下表4所示。以2008年为例进行说明。选取反映我国各省、市、自治区的城镇居民人均消费支出8个指标作为原始变量，运用SPSS软件，对全国31个中心城市的人均消费水平水平作因子分析。 题5、在研究国家财政收入时,我们把财政收入按收入形式分为:各项税收收入、企业收入、债务收入、国家能源交通重点建设基金收入、基本建设贷款归还收入、国家预算调节基金收入、其他收入等。为了建立国家财政收入回归模型,我们以财政收入y(亿元)为因变量。自变量如下:x 1 ——农业增 加值(亿元),x 2——工业增加值(亿元),x 3 ——建筑业增加值(亿元),x 4 ——人口数(万人),x 5 ——社会 消费总额(亿元),x 6 ——受灾面积(万公顷)。据《中国统计年鉴》获得1979—1998共20个年分的统计数据,见表5。由定性分析知,所选自变量都与变量y有较强的相关性,试做出一个较为理想的回归方程。 表5 @什么是多元统计分析 多元统计分析是运用数理统计的方法来研究多变量（多指标）问题的理论和方法，是一元统计学的推广 @多元统计分析的内容和方法 1、简化数据结构,将具有错综复杂关系的多个变量综合成数量较少且互不相关的变量，使研究问题得到简化但损失的信息又不太多。（1）主成分分析（2）因子分析（3）对应分析等 2、分类与判别,对所考察的变量按相似程度进行分类。（1）聚类分析：根据分析样本的各研究变量，将性质相似的样本归为一类的方法。（2）判别分析：判别样本应属何种类型的统计方法。 @方差分析的基本思想:方差分析又称变异数分析或F检验，其目的是推断两组或多组资料的总体均数是否相同，检验两个或多个样本均数的差异是否有统计学意义。 应用条件: （1）可比性，若资料中各组均数本身不具可比性则不适用方差分析。（2）正态性，各组的观察数据，是从服从正态分布的总体中随机抽取的样本。 （3）方差齐性，各组的观察数据，是从具有相同方差的相互独立的总体中抽取得到的。 @聚类分析:是根据“物以类聚”的道理，对样品或指标进行分类的一种多元统计分析方法。将个体或对象分类，使得同一类中的对象之间的相似性比与其他类的对象的相似性更强。使类内对象的同质性最大化和类间对象的异质性最大化 @聚类分析的基本思想：是根据一批样品的多个观测指标，具体地找出一些能够度量样品或指标之间相似程度的统计量，然后利用统计量将样品或指标进行归类。把相似的样品或指标归为一类，把不相似的归为其他类。直到把所有的样品（或指标）聚合完毕. @判别分析的特点（基本思想）１、是根据已掌握的、历史上若干样本的p个指标数据及所属类别的信息，总结出该事物分类的规律性，建立判别公式和判别准则。2、根据总结出来的判别公式和判别准则，判别未知类别的样本点所属的类别。@聚类分析的类型有：(1)对样本分类，称为Q型聚类分析(2)对变量分类，称为R型聚类分析 # Q型聚类是对样本进行聚类，它使具有相似性特征的样本聚集在一起，使差异性大的样本分离开来。# R型聚类是对变量进行聚类，它使具有相似性的变量聚集在一起，差异性大的变量分离开来，可在相似变量中选择少数具有代表性的变量参与其他分析，实现减少变量个数，达到变量降维的目的。 @判别分析根据已知对象的某些观测指标和所属类别来判断未知对象所属类别的一种统计学方法。 @判别分析类型及方法（1）按判别的组数来分，有两组判别分析和多组判别分析（2）按区分不同总体所用的数学模型来分，有线性判别和非线性判别（3）按判别对所处理的变量方法不同有逐步判别、序贯判别。（4）按判别准则来分，有费歇尔判别准则、贝叶斯判别准则 @因子分析:因子分析是主成分分析的推广，也是利用降维的思想，由研究原始变量相关矩阵或协方差矩阵的内部依赖关系出发，把一些具有错综复杂关系的多个变量归结为少数几个综合因子的一种多元统计分析方法。 @主成分分析与因子分析的联系和差异：因子分析是主成分分析的推广，是主成分分析的逆问题。主成分分析是将原始变量加以综合、归纳；因子分析是将原始变量加以分解、演绎。（1）主成分分析仅仅是变量变换，而因子分析需要构造因子模型。（2）主成分分析:原始变量的线性组合表示新的综合变量，即主成分；因子分析：用潜在的假想变量（公共因子）和随机影响变量（特殊因子）的线性组合表示原始变量。用假设的公因子来“解释”相关矩阵内部的依赖关系。(3）主成分分析中主成分个数和变量个数相同，它是将一组具有相关关系的变量变换为一组互不相关的变量，在解决实际问题时，一般取前m个主成分；因子分析的目的是用尽可能少的公因子，以便构造一个结构简单的因子模型。 22121212121 ~(,),(,),(,),, 1X N X x x x x x x ρμμμμσρ ?? ∑==∑= ??? +-1、设其中则Cov(,)=____. 10 31 2~(,),1,,10,()()_________i i i i X N i W X X μμμ=' ∑=--∑L 、设则=服从。 ()1 2 34 433,4 92,32 16___________________ X x x x R -?? ?'==-- ? ?-? ? =∑、设随机向量且协方差矩阵则它的相关矩阵 4、 __________， __________， ________________。 215,1,,16(,),(,)15[4()][4()]~___________i p p X i N X A N T X A X μμμμ-=∑∑'=--L 、设是来自多元正态总体和分别为正态总体的样本均值和样本离差矩阵,则。 12332313116421(,,)~(,),(1,0,2),441, 2142X x x x N x x x x x μμ-?? ?'=∑=-∑=-- ? ?-?? -?? + ??? 、设其中试判断与是否独立？ (), 1 2 3设X=x x x 的相关系数矩阵通过因子分析分解为 211X h = 的共性方差111X σ= 的方差21X g = 1公因子f 对的贡献1213 30.93400.1280.9340.4170.8351100.4170.8940.02700.8940.44730.8350.4470.10320 13 R ? ? - ????? ? -?? ? ? ?=-=-+ ? ? ? ??? ? ? ????? ? ??? 多元统计分析期末复习 Document number：WTWYT-WYWY-BTGTT-YTTYU-2018GT 第一章： 多元统计分析研究的内容（5点） 1、简化数据结构（主成分分析） 2、分类与判别（聚类分析、判别分析） 3、变量间的相互关系（典型相关分析、多元回归分析） 4、多维数据的统计推断 5、多元统计分析的理论基础 第二三章： 二、多维随机变量的数字特征 1、随机向量的数字特征 随机向量X 均值向量： 随机向量X 与Y 的协方差矩阵： 当X=Y 时Cov （X ，Y ）=D （X ）；当Cov （X ，Y ）=0 ，称X ，Y 不相关。 随机向量X 与Y 的相关系数矩阵： 2、均值向量协方差矩阵的性质 (1).设X ，Y 为随机向量，A ，B 为常数矩阵 E （AX ）=AE （X ）； E （AXB ）=AE （X ）B; D(AX)=AD(X)A ’; Cov(AX,BY)=ACov(X,Y)B ’; (2).若X ，Y 独立，则Cov(X,Y)＝０，反之不成立． )' ,...,,(),,,(2121P p EX EX EX EX μμμ='= )')((),cov(EY Y EX X E Y X --=q p ij r Y X ?=)(),(ρ (3).X 的协方差阵D(X)是对称非负定矩阵。例2.见黑板 三、多元正态分布的参数估计 2、多元正态分布的性质 (1).若 ,则E(X)= ,D(X)= . 特别地，当 为对角阵时， 相互独立。 (2).若 ，Ａ为sxp 阶常数矩阵，d 为s 阶向量， ＡＸ＋d ～ . 即正态分布的线性函数仍是正态分布． (3).多元正态分布的边缘分布是正态分布，反之不成立． (4).多元正态分布的不相关与独立等价． 例３．见黑板． 三、多元正态分布的参数估计 (1)“ 为来自p 元总体X 的（简单）样本”的理解---独立同截面． (2)多元分布样本的数字特征---常见多元统计量 样本均值向量 ＝ 样本离差阵Ｓ＝ 样本协方差阵Ｖ＝ S ;样本相关阵Ｒ (3) ,Ｖ分别是 和 的最大似然估计； (4)估计的性质 是 的无偏估计； ,Ｖ分别是 和 的有效和一致估计； ； Ｓ～ ， 与Ｓ相互独立； 第五章 聚类分析： 一、什么是聚类分析 ：聚类分析是根据“物以类聚”的道理，对样品或指标进行分类的一种多元统计分析方法。用于对事物类别不清楚，甚至事物总共可能有几类都不能确),(~∑μP N X μ ∑ μ p X X X ,,,21 ),(~∑μP N X ),('A A d A N s ∑+μ) ()1(,,n X X X )',,,(21p X X X )' )(() ()(1X X X X i i n i --∑=n 1X μ∑μX ) 1,(~∑n N X P μ),1(∑-n W p X X 一、聚类分析的基本思想： 我们认为，所研究的样品或指标之间存在着程度不同的相似性。根据一批样品的多个观测指标，具体找出一些能够度量样品或指标之间的相似程度的统计量，以这些统计量为划分类型的依据，把一些相似程度较大的样品聚合为一类，把另一些彼此之间相似程度较大的样品又聚合到另外一类。把不同的类型一一划分出来，形成一个由小到大的分类系统。最后，用分群图把所有的样品间的亲疏关系表示出来。 二、聚类分析的方法 系统聚类法、模糊聚类法、K-均值法、有序样品的聚类、分解法、加入法 三、系统聚类法的种类 最短距离法、最长距离法、重心法、类平均法、离差平方和法 四、判别分析的基本思想 判别分析用来解决被解释变量是非度量变量的情形，预测和解释影响一个对象所属类别。识别一个个体所属类别的情况下有着广泛的应用 判别分析将对象进行分析，通过人们选择的解释变量来预测或者解释每个对象的所属类别。 五、判别分析的假设条件 判别分析的假设条件之一是每一个判别变量不能是其他判别变量的线性组合；判别分析的假设之二是各组变量的协方差矩阵相等。判别分析最简单和最常用的形式是采用线性判别函数。判别分析的假设之三是各判别变量之间具有多元正态分布，即每个变量对于所有其他变量的固定值有正态分布。当违背该假设时，计算的概率将非常的不准确。 六、判别分析的方法 距离判别法、Bayes判别法、Fisher判别法、逐步判别法 七、距离判别法的判别准则 设有两个总体1G 和2G ，x 是一个p 维样品，若能定义样品到总体1G 和2G 的距离d （x ，1G ）和d （x ，2G ），则用如下规则进行判别：若样品x 到总体1G 的距离小于到总体2G 的距离，则认为样品x 属于总体1G ，反之，则认为样品x 属于总体样品x 属于总体2G ，若样品x 到总体1G 和2G 的距离相等，则让它待判。 八、Fisher 判别的思想 Fisher 判别的思想是投影，将k 组p 维数据投影到某一个方向，使的它们的投影与组之间尽可能地分开。 九、Bayes 判别的思想 Bayes 统计的思想是：假定对研究的对象已有一定的认识，常用先验概率分布来描述这种认识，然后我们取得一个样本，用样本来修正已有的认识，得到后验概率分布，各种统计推断都通过后验概率分布来进行。将Bayes 统计的思想用于判别分析，就得到Bayes 判别。 十、判别分析的方法和步骤 1.判别分析的对象 2.判别分析的研究设计 3.判别分析的假定 4.估计判别模型和评估整体拟合 5.结果的解释 6.结果的验证 十一、提取主成分的原则 1.累计方差贡献率大于85%， 2.特征根大于1 ，3碎石图特征根的变化趋势。 十二、因子分析的步骤 1.根据研究问题选取原始变量。 2.对原始变量进行标准化并求其相关阵，分析变量之间的相关性。 3.求解初始公共因子及因子载荷矩阵。 4.因子旋转。 5.因子得分。 6.根据因子得分值进行进一步分析。 二名词解释 1、多元统计分析：多元统计分析是运用数理统计的方法来研究多变量（多指标）问题的理论和方法，是一元统计学的推广 2、聚类分析:是根据“物以类聚”的道理，对样品或指标进行分类的一种多元统计分析方法。将个体或对象分类，使得同一类中的对象之间的相似性比与其他类的对象的相似性更强。使类内对象的同质性最大化和类间对象的异质性最大化 3、随机变量：是指变量的值无法预先确定仅以一定的可能性(概率)取值的量。它是由于随机而获得的非确定值，是概率中的一个基本概念。即每个分量都是随机变量的向量为随机向量。类似地，所有元素都是随机变量的矩阵称为随机矩阵。 4、统计量：多元统计研究的是多指标问题,为了了解总体的特征,通过对总体抽样得到代表总体的样本,但因为信息是分散在每个样本上的,就需要对样本进行加工,把样本的信息浓缩到不包含未知量的样本函数中,这个函数称为统计量 三、计算题 解： 答： 答： 题型三解答题 1、简述多元统计分析中协差阵检验的步骤 答： 第一，提出待检验的假设和H1； 第二，给出检验的统计量及其服从的分布； 第三，给定检验水平，查统计量的分布表，确定相应的临界值，从而得到否定域； 第四，根据样本观测值计算出统计量的值，看是否落入否定域中，以便对待判假设做出决策（拒绝或接受）。 2、简述一下聚类分析的思想 答：聚类分析的基本思想，是根据一批样品的多个观测指标，具体地找出一些能够度量样品或指标之间相似程度的统计量，然后利用统计量将样品或指标进行归类。把相似的样品或指标归为一类，把不相似的归为其他类。直到把所有的样品（或指标）聚合完毕. 3、多元统计分析的内容和方法 答：1、简化数据结构,将具有错综复杂关系的多个变量综合成数量较少且互不相关的变量，使研究问题得到简化但损失的信息又不太多。（1）主成分分析（2）因子分析（3）对应分析等 第一章： 多元统计分析研究的容（5点） 1、简化数据结构（主成分分析） 2、分类与判别（聚类分析、判别分析） 3、变量间的相互关系（典型相关分析、多元回归分析） 4、多维数据的统计推断 5、多元统计分析的理论基础 第二三章： 二、多维随机变量的数字特征 1、随机向量的数字特征 随机向量X均值向量： 随机向量X与Y的协方差矩阵： 当X=Y时Cov（X，Y）=D（X）；当Cov（X，Y）=0 ，称X，Y不相关。 随机向量X与Y的相关系数矩阵： 2、均值向量协方差矩阵的性质 (1).设X，Y为随机向量，A，B 为常数矩阵 E（AX）=AE（X）； E（AXB）=AE（X）B; D(AX)=AD(X)A’; )' ,..., , ( ) , , , ( 2 1 2 1P p EX EX EX EXμ μ μ = ' = )' )( ( ) , cov(EY Y EX X E Y X- - = q p ij r Y X ? =) ( ) , (ρ Cov(AX,BY)=ACov(X,Y)B ’; (2).若X ，Y 独立，则Cov(X,Y)＝０，反之不成立． (3).X 的协方差阵D(X)是对称非负定矩阵。例2.见黑板 三、多元正态分布的参数估计 2、多元正态分布的性质 (1).若 ,则E(X)= ,D(X)= . 特别地，当 为对角阵时， 相互独立。 (2).若 ，Ａ为sxp 阶常数矩阵，d 为s 阶向量， ＡＸ＋d ～ . 即正态分布的线性函数仍是正态分布． (3).多元正态分布的边缘分布是正态分布，反之不成立． (4).多元正态分布的不相关与独立等价． 例３．见黑板． 三、多元正态分布的参数估计 (1)“ 为来自p 元总体X 的（简单）样本”的理解---独立同截面． (2)多元分布样本的数字特征---常见多元统计量 样本均值向量 ＝ 样本离差阵Ｓ＝ 样本协方差阵Ｖ＝ S ;样本相关阵Ｒ (3) ,Ｖ分别是 和 的最大似然估计； (4)估计的性质 是 的无偏估计； ,Ｖ分别是 和 的有效和一致估计； ； Ｓ～ ， 与Ｓ相互独立； 第五章 聚类分析： 一、什么是聚类分析 ：聚类分析是根据“物以类聚”的道理，对样品或指标进行分类的一种多元统计分析方法。用于对事物类别不清楚，甚至事物总共可能有几类都不能确定的情况下进行事物分类的场合。聚类方法：系统聚类法（直观易懂）、动态聚类法（快）、有序聚类法（保序）...... Q-型聚类分析（样品）R-型聚类分析（变量） 变量按照测量它们的尺度不同，可以分为三类：间隔尺度、有序尺度、名义尺度。 二、常用数据的变换方法:中心化变换、标准化变换、极差正规化变换、对数变换（优缺点） 1、中心化变换（平移变换）：中心化变换是一种坐标轴平移处理方法，它是先求出每个变量的样本平均值，再从原始数据中减去该变量的均值，就得到中心化变换后的数据。不改变样本间的相互位置，也不改变变量间的相关性。 2、标准化变换：首先对每个变量进行中心化变换，然后用该变量的标准差进行标准化。 经过标准化变换处理后，每个变量即数据矩阵中每列数据的平均值为0，方差为1，且也不再具有量纲，同样也便于不同变量之间的比较。 3、极差正规化变换（规格化变换）：规格化变换是从数据矩阵的每一个变量中找出其最大值和最小值，这两者之差称为极差，然后从每个变量的每个原始数据中减去该变量中的最小值，再除以极差。经过规格化变换后，数据矩阵中每列即每个变量的最大数值为1，最小数值为0，其余数据取值均在0－1之间；且变换后的数据都不再具有量纲，便于不同的变量之间的比较。 4、对数变换：对数变换是将各个原始数据取对数，将原始数据的对数值作为变换后的新值。它将具有指数特征的数据结构变换为线性数据结构。 三、样品间相近性的度量 研究样品或变量的亲疏程度的数量指标有两种：距离，它是将每一个样品看作p 维空),(~∑μP N X μ∑μp X X X ,,,21 ),(~∑μP N X ),('A A d A N s ∑+μ)()1(,,n X X X )',,,(21p X X X )')(()()(1X X X X i i n i --∑=n 1X μ ∑μX )1,(~∑n N X P μ),1(∑-n W p X X 多元统计分析模拟试题（两套：每套含填空、判断各二十道） A卷 1)判别分析常用的判别方法有距离判别法、贝叶斯判别法、费歇判别法、逐步 判别法。 2)Q型聚类分析是对样品的分类，R型聚类分析是对变量_的分类。 3)主成分分析中可以利用协方差矩阵和相关矩阵求解主成分。 4)因子分析中对于因子载荷的求解最常用的方法是主成分法、主轴因子法、极 大似然法 5)聚类分析包括系统聚类法、模糊聚类分析、K-均值聚类分析 6)分组数据的Logistic回归存在异方差性，需要采用加权最小二乘估计 7)误差项的路径系数可由多元回归的决定系数算出，他们之间的关系为 P e= 1?R2 8)最短距离法适用于条形的类，最长距离法适用于椭圆形的类。 9)主成分分析是利用降维的思想，在损失很少的信息前提下，把多个指标转化 为几个综合指标的多元统计方法。 10)在进行主成分分析时，我们认为所取的m（m多元统计分析与R语言建模考试试卷
多元统计分析模拟考题及答案.docx
多元统计分析期末试题
多元统计分析试题及答案
应用多元统计分析试题及答案
多元统计分析模拟试题教学提纲
多元统计分析期末复习
多元统计分析模拟考题及答案
秋季多元统计分析考试答案
多元统计分析试题(2012)
多元统计分析考试重点
多元统计分析期末试题及答案.doc
多元统计分析期末复习
多元统计分析复习整理
多元统计分析期末考试考点整理
多元统计分析期末复习试题
多元统计分析模拟试题
相关主题
文本预览