第七章 多重共线性
基本概念
(1)多重共线性； (2)完全多重共线性；
(3)不完全多重共线性；
练习题
1、什么是变量之间的多重共线性？举例说明。
3、完全多重共线性和不完全多重共线性之间的区别是什么？
4、产生多重共线性的经济背景是什么?
5、多重共线性的危害是什么?为什么会造成这些危害?检验多重共线性的方法思路是什么?有哪些克服方法?
6、考虑下列一组数据
Y
-10 -8 -6 -4 -2 0 2 4 6 8 10 2X 1 2 3 4 5 6 7 8 9 10 11 3X
1
3
5
7
9
11
13
15
17
19
21
现在我们进行如下的回归分析：
12233i i Y X X u βββ=+++
请回答如下问题：
（1）你能估计出该模型的参数吗？为什么？ （2）如果不能，你能估计哪一参数或参数组合？ 7、将下列函数用适当的方法消除多重共线性： （1）消费函数为
012C W P u βββ=+++
其中C 、W 、P 分别表示消费、工资收入和非工资收入，W 和P 可能高度相关，但研究表明
1
22ββ=。
（2）需求函数为
0123s Q Y P P u ββββ=++++
其中Q 、Y 、P 和s P 分别为需求量、收入水平、该商品价格水平及其替代品价格水平，P 和s P
可能高度相关。
基本概念解释
(1)多重共线性指两个或两个以上解释变量之间存在某种线性相关关系。
(2)完全多重共线性指，在有多个解释变量模型中，解释变量之间的线性关系是准确的。在此情况下，不能估计解释变量各自对被解释变量的影响。
(3)不完全多重共线性指，在实际经济活动中，多个解释变量之间存在多重共线性问题，但解释变量之间的线性关系是近似的，而不是完全的。
练习题答案
1、如果在经典回归模型Y X U β=+中，如果基本假定6遭到破坏，则有()1k r x k <+，此时称解释变量之间存在完全多重共线性。解释变量之间的完全多重共线性也就是，解释变量之间存在严格的线性关系。在实际中还有另外一种情况，即解释变量之间虽然不存在严格的线性关系，却有近似的线性关系，即指解释变量之间高度相关，这种解释变量之间高度相关称之为不完全多重共线性。完全多重共线性和不完全重共线性，统称为多重共线性。 3、完全多重共线性指的是变量之间的线性关系是准确的，而不完全多重共线性指的是变量之间的线性关系是近似的。
4、在现实经济运行中，许多经济变量在随时间的变化过程中往往存在共同的变化趋势，使之产生多重共现性；使用截面数据建立回归模型时，根据研究的具体问题选择的解释变量常常从经济意义上存在着密切的关联度；在建模过程中由于认识上的局限造成变量选择不当，从而引起变量之间的多重共线性；在模型中大量采用滞后变量也容易产生多重共线性。
5、对于模型01122i i i k ki i Y X X X ββββμ=+++++()1,2,,i n =，如果某两个或多个解释变量之间出现了相关性，则称为模型存在多重共线性。多重共线性的危害有几个方面：一是在完全共线性下参数估计量不存在，理由是()
1
'X X -不存在；二是近似共线性下OLS 参数估计量非有效，理由是参数估计量的方差将可能变得很大；三是参数估计量经济意义不合理，如当2X 与3X 存在线性关系时，2X 与3X 前的参数并不能反映各自与被解释变量之间的结构关系：四是变量的显著性检验失去意义，因为无论是t 检验还是F 检验，都与参数估计量的方差有关；五是模型的预测功能失效。
检验多重共线性的方法思路：用统计上求相关系数的原理，如果变量之间的相关系数较大则认为它们之间存在多重共线性。克服多重共线性的方法主要有：排除引起共线性的变量，差分法，减少参数估计量的方差，利用先验信息改变参数的约束形式，增加样本容量，岭回归法等。
6、（1）不能，因为模型存在多重共线性的问题，即3X =22X -1，所以不能得到参数的唯一估计值。
（2）我们可以估计出来（31ββ-）和(322ββ+)。
7、（1）将先验信息1
22ββ=代入到模型中，然后估计（W+P/2）对消费的影响。 （2）可以考虑对模型中的变量取对数，然后进行回归。
第6章 多重共线性 本章专门讨论古典假设中无多重共线性假定被违反的情况，主要内容包括多重共线性的概念、产生的原因和表现、产生的后果、多重共线性的检验方法及无多重共线性假定违反后的解决方法。 6.1多重共线性的概念 在第三章的多元线性回归模型的建立中，强调了无多重共线性，即假定各解释变量之间不存在线性关系，或者各解释变量的观测值之间线性无关。计量经济学中的多重共线性是指模型中各解释变量的线性关系，它不仅包括解释变量之间精确的线性关系，还包括解释变量之间近似的线性关系，因此多重共线性也就表现为完全多重共线性和近似多重共线性。 6.1.1完全多重共线性 从数学意义上去说明多重共线性，就是对于解释变量k X 、、X X 32，如果存在不全为0的数k λλλ,2,1 ，能使得 n ,2, ,1i 033221 ==++++ki k i i X X X λλλλ ( 6.1.1 ) 则称解释变量k X X X ,,,32 之间存在着完全的多重共线性 用矩阵表示，解释变量的数据矩阵为： X=?? ??? ???????kn n n k k X X X X X X X X X 322 32 22 1 31211 11 （6.1.2） 当矩阵X 的秩小于k 时，表明其中至少有一个列向量可以用其余的列向量线性表示，则说明存在完全多重共线性。 6.1.2不完全的多重共线性 在实际经济问题中，完全的多重共线性并不多见。比较常见的是解释变量 k X X X ,,,32 之间存在不完全的多重共线性。所谓不完全的多重共线性，是指对于解释变 量k X 、、X X 32，存在不全为0的数k λλλ,2,1 ，使得 n ,2, ,1i 033221 ==+++++i ki k i i u X X X λλλλ （6.1.3） 其中,i u 为随机变量。这表明解释变量k X 、、X X 32存在一种近似的线性关系。 如果k 个解释变量之间不存在完全或不完全的线性关系，则称无多重共线性①。若用矩阵表示，这时X 为满秩矩阵，即Rank(X)=k 。 总之，回归模型中解释变量的关系用相关系数表示出来有三种情形： ①0=j x i x r ，解释变量间不存在线性关系，变量间相互正交。这时不需要作多元回归，可以通过Y 对X j 的多个一元回归来估计每个参数值βj 。 ②1=j x i x r ，解释变量间存在完全共线性。此时模型参数将无法估计。当两变量按同一方式 ① 解释变量之间不存在线性关系，并非不存在非线性关系，当解释变量存在非线性关系时，并不违反无多 重共线性假定。
第四章 多重共线性 一、判断题 1、多重共线性是一种随机误差现象。（F ） 2、多重共线性是总体的特征。（F ） 3、在存在不完全多重共线性的情况下，回归系数的标准差会趋于变小，相应的t 值会趋于变大。（F ） 4、尽管有不完全的多重共线性，OLS 估计量仍然是最优线性无偏估计量。（T ） 5、在高度多重共线的情形中，要评价一个或多个偏回归系数的个别显著性是不可能的。（T ） 6、变量的两两高度相关并不表示高度多重共线性。（F ） 7、如果分析的目的仅仅是预测，则多重共线性一定是无害的。（T ） 8、在多元回归中，根据通常的t 检验，每个参数都是统计上不显著的，你就不会得到一个高的2R 值。（F ） 9、如果简单相关系数检测法证明多元回归模型的解释变量两两不相关，则可以判断解释变量间不存在多重共线性。（ F ） 10、多重共线性问题的实质是样本问题，因此可以通过增加样本信息得到改善。（T ） 11、虽然多重共线性下，很难精确区分各个解释变量的单独影响，但可据此模型进行预测。（T ） 12、如果回归模型存在严重的多重共线性，可不加分析地去掉某个解释变量从而消除多重共线性。（F ） 13、多重共线性的存在会降低OLS 估计的方差。（F ） 14、随着多重共线性程度的增强，方差膨胀因子以及系数估计误差都在增大。（T ） 15、解释变量和随机误差项相关，是产生多重共线性的原因。（F ） 16、对于模型i ni n i 110i u X X Y ++++=βββ ，n 1i ,, =；如果132X X X -=,模型必然存在解释变量的多重共线性问题。（T ） 17、多重共线性问题是随机扰动项违背古典假定引起的。（F ） 18、存在多重共线性时，模型参数无法估计。（F ） 二、单项选择题 1、在线性回归模型中，若解释变量1X 和2X 的观测值成比例，既有12i i X kX =，其中k 为 非 零 常 数 ， 则 表 明 模 型 中 存 在 （ B ） A 、异方差 B 、多重共线性 C 、序列相关 D 、随机解释变量 2、 在多元线性回归模型中，若某个解释变量对其余解释变量的可决系数接近1，则表明模型 中存在
第八章 多重共线性 一、多重共线性及其产生原因 定义：对于多元线性回归模型： 01122...i i i k ki i y x x x u ββββ=+++++ 如果模型的解释变量之间存在着较强的线性相关关系，或者说，存在一组不全为零的常数12,,....,k λλλ，使得： 1122...0i i k ki i x x x v λλλ+++=，i v 是随机误差项。 则称模型存在着多重．．共线性，如果0i v =，则称存在完全的多重共线性。 ?直观地看，多重共线性是不是造成了冗余变量，这里的冗余的含义是什么？ 思考：只有一个解释变量会出现多重共线性吗？ 产生原因： 1．经济变量的内在联系，这是根本原因，这导致多重共线性无法克服。 2．经济变量变化趋势的“共向性”。 3．解释变量中含有滞后变量。 二、多重共线性的影响 古典回归模型要求模型不存在完全的多重共线性。所以，即使存在严重的多重共线性，OLS 估计仍然是最佳线性无偏估计（BLUE ）。但会产生以下问题： （一） 增大OLS 估计的方差 设模型为二元线性， 01122i i i i y x x u βββ=+++ 可以证明， 2 12 21112 1 ()()1i D x x r σβ= ? --∑ VIF 被称为方差膨胀因子。 分别计算12r 分别等于0，0.5，0.9时的方差膨胀因子。 ？方差变得过大，有什么不好？？ （二） 难以区分每个解释变量的独立影响 对于多元线性回归模型，回归系数为
i i y x β?= ?，根据偏导数的概念，i β的经济含义是什么？ （三） T 检验的可靠性降低 可能使T 检验失效，原来显著的T 值变成不显著的，从而将有重要影响的变量剔除出模型。 思考：比较一下和模型存在异方差及自相关时对T 检验的影响有何不同？ （四） 回归模型缺乏稳定性 参数估计值对样本的变化比较敏感，这实际上也是OLS 估计方差较大的另一个表现。 例子来说明： 见表一 如果改成： 再重新进行回归，看会发生什么情况？ 一个理念：多重共线性不可避免。 三、多重共线性的检验 外在症兆：R-平方很高，但只有极个别或少数几个解释变量前的系数显著（T 值偏小）。 1．相关系数检验 利用相关系数可以分析解释变量之间的两两相关情况。 例：服装需求函数。根据理论和经验分析，影响居民服装需求的主要因素有：可支配收入X ，流动资产拥有量K ，服装类价格指数P1和总物价指数P0。下表给出了有关统计资料。
第七章 多重共线性习题与答案 1、多重共线性产生的原因是什么？ 2、检验多重共线性的方法思路是什么?有哪些克服方法? 3、考虑一下模型： Y t ＝β1＋β2X t ＋β3X 1-t ＋4βX 2-t ＋5βX 3-t ＋6βX 4-t ＋u t 其中Y ＝消费，X ＝收入，t ＝时间。上述模型假定了时间t 的消费支出不仅是时间t 的收入，而且是以前多期的收入的函数。例如，1976年第一季度的消费支出是同季度收入合1975年的四个季度收入的函数。这类模型叫做分布滞后模型（distributed lag models ）。我们将在以后的一掌中加以讨论。 （1） 你预期在这类模型中有多重共线性吗？为什么？ (2)如果预期有多重共线性，你会怎么样解决这个问题？ 4、已知回归模型μβα++=N E ，式中E 为某类公司一名新员工的起始薪金（元），N 为所受教育水平（年）。随机扰动项μ的分布未知，其他所有假设都满足。 （1）从直观及经济角度解释α和β。 （2）OLS 估计量α ?和β?满足线性性、无偏性及有效性吗？简单陈述理由。 （3）对参数的假设检验还能进行吗？简单陈述理由。 5、根据1899—1922年在美国制造业部门的年度数据，多尔蒂（Dougherty ）获得如下回归结果： LogY=2.81 － 0.53logK+ 0.91logL + 0.047t Se ＝（1.38）（0.34） （0.14） （0.021） R 2＝0.97 F=189.8 其中Y ＝实际产生指数,K=实际资本投入指数，L=实际劳力投入指数，t ＝时间或趋势。利用同样数据，他又获得一下回归： （1）回归中有没有多重共线性？你怎么知道？ （2）在回归（1）中，logK 的先验符号是什么？结果是否与预期的一致？为什么或为什么不？ （3）你怎样替回归的函数形式（1）做辩护：（提示：柯柏—道格拉斯生产函数。） （4）解释回归（1）在此回归中趋势变量的作用为何？ （5）估计回归（2）的道理何在？ （6）如果原先的回归（1）有多重共线性，是否已被回归（2）减弱？你怎样知道？
计量经济学课程教案
第7章 分布滞后模型与自回归模型 7.1 滞后效应与滞后变量模型 在经济运行过程中，广泛存在时间滞后效应。某些经济变量不仅受到同期各种因素的影响，而且也受到过去某些时期的各种因素甚至自身的过去值的影响。 通常把这种过去时期的，具有滞后作用的变量叫做滞后变量（Lagged Variable ），含有滞后变量的模型称为滞后变量模型。 滞后变量模型考虑了时间因素的作用，使静态分析的问题有可能成为动态分析。含有滞后解释变量的模型，又称动态模型（Dynamical Model ）。 一、滞后效应与与产生滞后效应的原因 因变量受到自身或另一解释变量的前几期值影响的现象称为滞后效应。 表示前几期值的变量称为滞后变量。 如：消费函数 通常认为，本期的消费除了受本期的收入影响之外，还受前1期，或前2期收入的影响： C t =β0+β1Y t +β2Y t-1+β3Y t-2+μt Y t-1，Y t-2为滞后变量。 产生滞后效应的原因 1、心理因素：人们的心理定势，行为方式滞后于经济形势的变化，如中彩票的人不可能很快改变其生活方式。 2、技术原因：如当年的产出在某种程度上依赖于过去若干期内投资形成的固定资产。 3、制度原因：如定期存款到期才能提取，造成了它对社会购买力的影响具有滞后性。 二、滞后变量模型 以滞后变量作为解释变量，就得到滞后变量模型。它的一般形式为： q ，s ：滞后时间间隔 自回归分布滞后模型（autoregressive distributed lag model, ADL ）：既含有Y 对自身滞后变量的回归，还包括着X 分布在不同时期的滞后变量 有限自回归分布滞后模型：滞后期长度有限 无限自回归分布滞后模型：滞后期无限， （1）分布滞后模型（distributed-lag model ） 分布滞后模型：模型中没有滞后被解释变量，仅有解释变量X 的当期值及其若干期的滞后值： β0：短期(short-run)或即期乘数(impact multiplier)，表示本期X 变化一单位对Y 平均值的影响程度。 βi (i=1,2…,s)：动态乘数或延迟系数，表示各滞后期X 的变动对Y 平均值影响的大小。 称为长期（long-run ）或均衡乘数（total distributed-lag multiplier ），表示X 变动一 个单位，由于滞后效应而形成的对Y 平均值总影响的大小。 如果各期的X 值保持不变，则X 与Y 间的长期或均衡关系即为： X Y E s i i )()(0 ∑=+=βα∑=s i i 0β t i t i s i t X Y μβα++=-=∑0 t s t s t t q t q t t t X X X Y Y Y Y μαααββββ+++++++++=----- 11022110
第六章多重共线性 前面两章所讲的异方差性和自相关性都是表现在随机误差项中的，我们下面所讲的多重共线性讨论的是模型中的解释变量违背基本假设的问题。 回忆以下我们在讲多元线性回归模型时，基本假定与简单线性回归模型不同的是哪一点？——就是无多重共线性假定：即假定各解释变量之间不存在线性关系，或者说各解释变量的观测值之间线性无关。 这一章我们讨论的多重共线性就是当解释变量违背了这一条基本假定的情形。 第一节多重共线性概念 先看一个实例：我们研究某个地区家庭消费及其影响因素。我们除了引入收入X1以外，还引入了消费者的家庭财产X2作为第2个解释变量。根据抽样数据回归得到以下结果： Y^=24.7747+0.9415X1-0.0424X2 t=(3.6690) (1.1442) (-0.5261) R2=0.9635 R2——=0.9531 F=92.4020 这一回归结果说明什么? 1、可决系数和修正可决系数都很理想 2、F统计量高度显著，说明X1、X2联合对Y的影响显著 3、各变量参数的t检验都不显著，不能否定等于零的假设 4、财产变量的系数竟然与预期的符号相反。 为什么会出现这样的结果呢？ 再看一个例子：分析某地区汽车保养费用支出与汽车的行程数以及汽车拥有的时间建立模型，通过样本数据估计得：Y^=7.29+27.58X1-151.15X2 t= (0.06) (0.958) (-7.06) R2——=0.946 F=52.53 这个结果修正可决系数理想,F检验也显著,但X的T检验不显著,X2的T检验虽然显著,但系数符号与经济意义不符。为什么也出现这种结果？ 一、多重共线性的概念： 如果某两个或多个解释变量之间出现了相关性，则称为多重共线性。 完全共线性与不完全共线性表示的是一种线性相关程度。比如我们在第一个例子中，发现可支配收入与家庭财富之间有明显的共线性关系，他们的相关系数高达0.9989,第二个例子中汽车的行程数与拥有汽车的时间的相关系数也为0.9960,表明两个变量之间存在一种不完全的线性相关关系,我们可以认为他们之间有程度很高的多重共线性. 不存在多重共线性只说明解释变量之间没有线性关系,而不排除他们之间存在某种非线性关系。 二、产生多重共线性的原因 1、许多经济变量在随时间的变化过程中往往存在共同的变动趋势。这就使得它们之间 容易产生多重共线性。例如在经济繁荣时期，收入、消费、储蓄、投资、就业都趋 向于增长；在经济衰退时期，都趋向于下降。如果将这些变量作为解释变量同时引 入模型，则它们之间极有可能存在很强的相关性。时间序列中的这种增长因素和趋 向因素是造成多重共线性的主要根源 2、用截面数据建立回归模型时，根据研究的具体问题选择的解释变量常常从经济意义 上存在着密切的关联度。比如P69以某一行业的企业为样本建立企业生产函数模型，以产出量为解释变量，选择资本、劳动、技术等投入要素为解释变量。而这些投入 要素的数量往往与产出量呈正比，产出量高的企业，投入的各种要素都比较多，这 就使得投入要素之间出现线性相关性。 3、在模型中大量采用滞后变量也容易产生多重共线性。因为滞后变量从经济性质来看 与原来的变量无区别，只是时间上有所不同，从经济意义上这些变量之间的关联度 比较紧密。P69 一般来讲，解释变量之间存在多重共线性是难以避免的，所以在多元线性回归模型中，我们关心的并不是多重共线性的有无，而是多重共线性的程度。当多重共线性程度过高时，给最小二乘估计量带来严重的后果。因此，我们追求的也是使多重共线性的程度尽可能地减弱。
第七章 多重共线性 若线性模型不满足假定6，就称模型有多重共线性。 §7.1 多重共线性的概念 一. 基本概念： 假定6 ()1k r X k n =+<，是指模型中所有自变量12,,,,k x x x ??????1线性 无关，也可理解为矩阵X 的列向量线性无关。若不满足该假定，即 ()1k r X k <+， 则称12,,,,k x x x ??????1存在完全多重共线性，12,,,,k x x x ??????1存在严格的线性关系，这 是一种极端情况；若12,,,,k x x x ??????1之间的线性关系不是严格的，而是一种近似的线性关系，则称高度相关或存在不完全多重共线性。如，01122i i i i y x x u βββ=+++ 若12,λλ?不全为零， 使11220i i x x λλ+=， 完全多重共线性 11220i i i x x v λλ++= 不完全多重共线性 完全多重共线性和不完全多重共线性统称为多重共线性。 解释变量（自变量）之间的线性关系可用拟合优度2i R 描述，2i R 表示i x 对其它解 释变量的拟合优度，21i R = 完全 21i R ≈ 高度 20i R = 无 二. 产生的原因： 在实际经济问题中主要是不完全多重共线性。其产生的主要原因是： 1. 两个解释变量具有相同或相反的变化趋势；（家庭能耗与住房面积、人口） 生产、需求....... 2. 数据收集的范围过窄，造成解释变量之间有相同或相反变化的假象； 3. 某些解释变量之间存在某种近似的线性关系；（各解释变量有相同的时间趋势） 4. 一个变量是另一个变量的滞后值；供给 5. 解释变量的选择不当也可能引起变量间的多重共线性。 6. 过度决定模型。(观测值个数少于参数个数) 对于正确设置的模型，多重共线性基本上是一种样本现象。 §7.2 多重共线性的后果 一. 完全多重共线性
第六章 6.6 （1）判断多重共线性 做y 与x1,x2,x3,x4x5,x6的线性回归方程，得到 由表中的VIF 值可知x1,x2,x3,x4,x5的方差膨胀因子远大于10，这几个变量之间存在很高的线性相关性，说明回归方程存在多重共线性。 （2）逐步回归法 得到回归方程：215^ 353.0611.0637.06.874x x x y --+= 方程通过了三大检验。 其中，x1为农业，x2为工业，x5为社会消费总额，由方程表明农业每增加一亿元，财政收入减少0.611亿元；工业每增加一亿元，财政收入减少0.353亿元；社会消费总额每增加一亿元，财政收入增加0.637亿元。结合实际可看出该回归方程不合理。 由表中的VIF 值可知三个自变量的方差膨胀因子远大于10，说明逐步回归法得到的回归方程仍然存在多重共线性。 （3）VIF 后退法 由（1）判断得知原方程存在严重的多重共线性，要消除多重共线性利用VIF 后退法。 首先剔除VIF 值最大的自变量x2，得到
由表中的VIF 值可知除x6外其他自变量的方差膨胀因子仍然大于10 ，方程仍存在多重共线性。 再剔除VIF 值最大的自变量x5，得到 由表中的VIF 值可知除x6外其他自变量的方差膨胀因子仍然大于10，方程仍存在多重共线性。 再剔除VIF 值最大的自变量x1，得到 由表中的VIF 值可知剩余自变量的方差膨胀因子都小于10，说明方程的多重共线性已消除。 所以得到回归方程：643^ 004.0.031.0359.1332.2296 x x x y +++-= 方程通过了R 检验和F 检验，但是x6没有通过t 检验，说明不显著，所以剔除x6，得到
第八章练习题参考解答： 练习题 8.1 Sen 和Srivastava （1971）在研究贫富国之间期望寿命的差异时，利用101个国家的数据，建立了如下的回归模型： 2.409.39ln 3.36((ln 7))i i i i Y X D X =-+-- (4.37) (0.857) (2.42) R 2=0.752 其中：X 是以美元计的人均收入； Y 是以年计的期望寿命； Sen 和Srivastava 认为人均收入的临界值为1097美元（ln10977=），若人均收 入超过1097美元，则被认定为富国；若人均收入低于1097美元，被认定为贫穷国。 括号内的数值为对应参数估计值的t-值。 （1）解释这些计算结果。 （2）回归方程中引入()ln 7i i D X -的原因是什么？如何解释这个回归解释变量？ （3）如何对贫穷国进行回归？又如何对富国进行回归？ （4）从这个回归结果中可得到的一般结论是什么？ 8.2 表中给出1965—1970年美国制造业利润和销售额的季度数据。假定利润不仅与销售额有关，而且和季度因素有关。要求： （1）如果认为季度影响使利润平均值发生变异，应如何引入虚拟变量？ （2）如果认为季度影响使利润对销售额的变化率发生变异，应当如何引入虚拟变量？ （3）如果认为上述两种情况都存在，又应当如何引入虚拟变量？ （4）对上述三种情况分别估计利润模型，进行对比分析。 8.3 在统计学教材中，采用了方差分析方法分析了不同班次对劳动效率的影响，其样本数据为 早班 中班 晚班
34 49 39 37 47 40 35 51 42 33 48 39 33 50 41 35 51 42 36 51 40 试采用虚拟解释变量回归的方法对上述数据进行方差分析。 8.4 Joseph Cappelleri 基于1961—1966年的200只Aa 级和Baa 级债券的数据（截面数据和时间序列数据的合并数据），分别建立了LPM 和Logit 模型： LPM i i i i i i u X X X X Y ++++++=5544332 211βββββ Logit i i i i i i i u X X X X p p In Li ++++++=-=5544332 211)1( βββββ 其中：i Y =1 债券信用等级为Aa （穆迪信用等级） i Y =1 债券信用等级为Baa （穆迪信用等级） 2X =债券的资本化率，作为杠杆的测度（100?=总资本的市值 长期债券的市值） =3X 利润率（100?=总资产净值 税后收入） =4X 利润率的标准差，测度利润率的变异性 =5X 总资产净值，测度规模 上述模型中2β和4β事先期望为负值，而3β和5β期望为正值（为什么）。 对于LPM ，Cappeleri 经过异方差和一阶自相关校正，得到以下结果： i Y ?=0.6860－0.017922i X +0.0486i X 3+0.0572i X 4+0.378×10－7×5i Se=(0.1775)(0.0024) (0.0486) (0.0178) (0.039×10－ 8) R 2=0.6933 对于Logit 模型，Cappeleri 在没有对异方差进行弥补的情形下用ML 得以下结果： i i i i i i X X X X p p In 56 43221092.09041.06248.03185.06622.1)1(-?+-+--=- 试解下列问题： （1）为什么要事先期望2β和4β为负值？ （2）在LPM 中，当4β>0是否合理？
第七章 多重共线性及其处理 第一部分 学习辅导 一、本章学习目的与要求 1．理解多重共线性的概念； 2．掌握多重共线性存在的主要原因； 3．理解多重共线性可能造成的后果； 4．掌握多重共线性的检验与修正的方法。 二、本章内容提要 本章主要介绍计量经济模型的计量经济检验。即多重共线性问题。 多重共线性是多元回归模型可能存在的一类现象，分为完全共线与近似共线两类。模型的多个解释变量间出现完全共线性时，模型的参数无法估计。更多的情况则是近似共线性，这时，由于并不违背所有的基本假定，模型参数的估计仍是无偏、一致且有效的，但估计的参数的标准差往往较大，从而使得t 统计值减小，参数的显著性下降，导致某些本应存在于模型中的变量被排除，甚至出现参数正负号方面的一些混乱。显然，近似多重共线性使得模型偏回归系数的特征不再明显，从而很难对单个系数的经济含义进行解释。多重共线性的检验包括检验多重共线性是否存在以及估计多重共线性的范围两层递进的检验。而解决多重共线性的办法通常有逐步回归法、差分法以及使用额外信息、增大样本容量等方法。 （一）多重共线性及其产生的原因 当我们利用统计数据进行分析时，解释变量之间经常会出现高度多重共线性的情况。 1．多重共线性的基本概念 多重共线性(Multicollinearity )一词由弗里希（Frish ）于1934年在其撰写的《借助于完全回归系统的统计合流分析》中首次提出。它的原义是指一个回归模型中的一些或全部解释变量之间存在有一种“完全”或准确的线性关系。 如果在经典回归模型Y X βε=+中，经典假定（5）遭到破坏，则有()1R X k <+，此时称解释变量k X X X ,,,21ΛΛ间存在完全多重共线性。解释变量的完全多重共线性，也就是解释变量之间存在严格的线性关系，即数据矩阵X 的列向量线性相关。因此，必有一个列向量可由其余列向量线性表示。 同时还有另外一种情况，即解释变量之间虽然不存在严格的线性关系，但是却有近似的线性关系，即解释变量之间高度相关。 2．多重共线性产生的原因 多元线性回归模型产生多重共线性的原因很多，主要有： （1）经济变量的内在联系 这是产生多重共线性的根本原因。 （2）解释变量中含有滞后变量 （3）经济变量变化趋势的“共向性” 必须指出，多重共线性基本上是一种样本现象。因为人们在设定模型时，总是尽量避免将理论上具有严格线性关系的变量作为解释变量收集在一起，因此，实际问题中的多重共线性并不是解释变量之间存在理论上或实际上的线性关系造成的，而是由所收集的数据(解释变量观察值)之间存在近似的线性关系所致。 （二）多重共线性的影响 多重共线性会产生以下问题： （1）增大了OLS 估计量的方差 （2）难以区分每个解释变量的单独影响 （3）回归模型缺乏稳定性 （4）t 检验的可靠性降低 （三）多重共线性的判别 在应用多元回归模型中，人们总结了许多检验多重共线性的方法。 1．系数判定法
第四章 多重共线性 一、填空题 1. 在多元线性回归模型中，解释变量间呈现近似线性关系的现象为________问题，给计量经济建模带来不利影响，因此需检验和处理它。 2. 在回归分析中，当检验回归系数所得的t 值不显著时，我们往往将它归结为多重共线性。但也可能是其他原因的影响，如 或 。 3. 存在多重共线时，回归系数的标准差趋于 ，t 值趋于 。方差膨胀因子越大，OLS 估计量的 将越大。 4. 检验样本是否存在多重共线性的常见方法有：________ 、 和 。 5. 处理多重共线性的方法主要有两大类：__________和_________。 二、问答题 1. 简述多重共线性的含义。 2. 简述多重共线性的后果。 3. 方差膨胀因子（Variance Inflation Factor, VIF ）及其含义？ 4. 列举多重共线性的检验方法。 5. 多重共线性的补救办法？ 6. 假设在模型i i i i u X X Y +++=22110βββ中，1X 与2X 之间的相关系数为零，于是有人建议你进行如下回归： i i i i i i u X Y u X Y 22201110++=++=γγαα (1) 是否存在11??βα=且22??βγ=？为什么？ (2) 0?β会等于0?α 或0?γ或某两个的某个线性组合吗？ (3) 是否有() ()11 ?var ?var αβ=且() ()22?var ?var γβ=？ 7. 在决定一个回归模型的“最优”解释变量集时人们常用逐步回归的方法。在逐步回归中既可采取每次引进一个解释变量的程序(逐步向前回归)，也可以先把所有可能的解释变量都放在一个多元回归中，然后逐一地将它们剔除(逐步向后回归)。加进或剔除一个变量，通常是根据F 检验看其对ESS 的贡献而作出决定的。根据你现在对多重共线性的认识，你赞成任何一种逐步回归的程序吗？为什么？ 8．克莱因与戈德伯格曾用1921-1950年(1942-1944年战争期间略去)美国国内消费Y 和工资收入X1、非工资—非农业收入X2、农业收入X3的时间序列资料，利用OLSE 估计得出了下列回归方程：
第七章：多重共线性 第一部分：学习目的和要求 在经典多元线性回归模型中，其中一个重要假设就是各变量之间是线性无关的。但在现实中我们建立的多元线性回归模型的各变量之间都会存在一定程度上的线性相关——即存在多重共线性。本章就是讨论存在多重共线性的情形，主要介绍了多重共线性的概念，多重共线性的理论后果，几种检测多重共线性的方法，以及对多重共线性进行补救的措施。通过本章的学习我们需要掌握以下几个问题： (1)多重共线性的概念，完全多重共线性和近似多重共线性的异同。 (2)了解多重共线性产生的原因。 (3)理解多重共线性的理论及实际后果，对统计量估计的后果、对参数显著性检验和预测的影响。 (4)掌握并学会运用多重共线性的几种监测方法，主要有样本决定系数检验法、相关系数检验法、辅回归模型检验法、容许度与方差膨胀因子检验法及特征值检验法。 (5)掌握并学会运用多重共线性的补救措施：利用先验信息法、变换模型法、综合使用横截面数据和时间序列数据法、增加样本容量法、删除变量和设定偏误法。 第二部分：练习题 一、术语解释 1、多重共线性 2、完全多重共线性与近似多重共线性 3、辅回归 4、容许度与方差膨胀因子 5、条件指数与病态指数 二、简答题 1、导致多重共线性的原因有哪些？ 2、多重共线性为什么会使得模型的预测功能失效？ 3、如何利用辅回归模型来检验多重共线性？ 4、判断以下说法正确、错误，还是不确定？并简要陈述你的理由。 (1)尽管存在完全的多重共线性，OLS估计量还是最优线性无偏估计量（BLUE）。 (2)在高度多重共线性的情况下，要评价一个或者多个偏回归系数的个别显著性是不可能的。 R值，则必然会存在高度的多重共线性。 (3)如果某一辅回归显示出较高的2 i (4)变量之间的相关系数较高是存在多重共线性的充分必要条件。 (5)如果回归的目的仅仅是为了预测，则变量之间存在多重共线性是无害的。 (6)和VIF相比，容许度（TOL）是多重共线性的更好度量指标。
第八章 多重共线性：其中的某一个解释变量可以表示为其它解释变量的线性函数。 完全多重共线性的存在对计量经济学方程的估计产生的影响？ 当存在完全多重共线性时，运用普通最小二乘估计将无法得出回归参数的估计值，并且，大多数通最小二乘估计程序会意识错误信息。 完全多重共线性举例：可以观察一个解释变量是不是另一个解释变量的倍数，或者观察一个解释变量是不是另一个解释变量加上一个常数项。 简答题：多重共线性 产生的后果：（1）估计量是无偏的；（2）估计量的方差和标准差将会增大（3）多重共线性下的t统计量会变小（4）估计量对模型设定的变化变得及其敏感。当存在显著的多重共线性时，增加或者删除某个解释变量，或者某些观测值的增加或减少，通常会导致参数估计β有较大的改变。 （5）方程的整体拟合优度以及不存在多重共线性的变量的参数估计几乎不受影响。 多重共线性的诊断：（1）考察两个解释变量之间的简单相关系数，一般r>0.8,则认为存在多重共线性。 （2）有较高的方差膨胀因子，一般VIF>5，则认为存在严重的多重共线性 多重共线性的补救措施：（1）什么都不做。（方程中的多重共线性并非总是减少t统计量使其减少到不显著的程度，对β的影响也并非总是导致它的符号与预期的不同。 （2）去掉多余的变量 （3）增大样本容量 第十四章 分析题 内生变量：由系统本身确定的变量 外生变量：由系统外部因素所决定的变量前定变量：外生变量和置后的内生变量 结构式方程：是以外生变量和内生变量的方式，描述了隐含在每个内生变量背后的内在经济理论。 简约式方程：每个特定的内生变量都单独用用所有的前定变量和随机误差项表示的方程。 简答使用简约式方程的三个原因：（1）由于简约式方程没有内在的联动性，因而没有违背古典假设。（2）简约式参数被解释为效应乘数，意味着它们有着经济意义和应用价值。 （3）简约式方程在最常用的的联立方程估计方法中扮演着重要的角色， 二阶段最小二乘估计法：第一阶段：对与每个内生变量相对应的简约式方程进行回归，这里的内生变量在联立方程系统中作为解释变量。第二阶段：用简约式方程中 得到的 S Y?替代出现在结构式方程右边的Ys，然后用普通最小二乘估计修正后的结构式方程。 模型识别的阶条件：是判断联立系统中的特定方程是否可惜别的一种系统方法。（1）整个联立系统中前定变量的个数（2）所考察方程中需要估计的斜率参数的个数。 第十章 名词解释：异方差性的本质，后果，诊断，修正 非纯异方差性：有模型设定误差（比如遗漏误差）引起的。 异方差的后果：（1）纯异方差性并不会导致参数估计量有偏 （2）异方差性通常会导致普通最小二乘估计量不再具有最小方差性 （3）异方差性将导致SE（β?）的最小二乘估计量有偏，因而导致假设检验结果不可信。 第九章 名词解释序列相关：误差项的序列之间存在相关性 一阶序列相关： t t t μ ρε ε+ = -1 ε代表回归方程中的误差项。 简答序列相关性的后果：（1）纯序列相关不会导致对参数的有偏估计。 （2）序列相关是普通最小二乘估计量不再是线性无偏估计量 （3）序列相关性导致SE（β?）的普通最小二乘估计是有偏的，并使假设检验不可靠。 杜宾-沃森检验重点自己去翻书 序列相关性的修正：如果确定是纯序列相关，则应考虑用广义最小二乘法或者
第七章 多重共线性 基本概念 (1)多重共线性； (2)完全多重共线性； (3)不完全多重共线性； 练习题 1、什么是变量之间的多重共线性？举例说明。 3、完全多重共线性和不完全多重共线性之间的区别是什么？ 4、产生多重共线性的经济背景是什么? 5、多重共线性的危害是什么?为什么会造成这些危害?检验多重共线性的方法思路是什么?有哪些克服方法? 6、考虑下列一组数据 Y -10 -8 -6 -4 -2 0 2 4 6 8 10 2X 1 2 3 4 5 6 7 8 9 10 11 3X 1 3 5 7 9 11 13 15 17 19 21 现在我们进行如下的回归分析： 12233i i Y X X u βββ=+++ 请回答如下问题： （1）你能估计出该模型的参数吗？为什么？ （2）如果不能，你能估计哪一参数或参数组合？ 7、将下列函数用适当的方法消除多重共线性： （1）消费函数为 012C W P u βββ=+++ 其中C 、W 、P 分别表示消费、工资收入和非工资收入，W 和P 可能高度相关，但研究表明 1 22ββ=。 （2）需求函数为 0123s Q Y P P u ββββ=++++ 其中Q 、Y 、P 和s P 分别为需求量、收入水平、该商品价格水平及其替代品价格水平，P 和s P 可能高度相关。 基本概念解释 (1)多重共线性指两个或两个以上解释变量之间存在某种线性相关关系。 (2)完全多重共线性指，在有多个解释变量模型中，解释变量之间的线性关系是准确的。在此情况下，不能估计解释变量各自对被解释变量的影响。 (3)不完全多重共线性指，在实际经济活动中，多个解释变量之间存在多重共线性问题，但解释变量之间的线性关系是近似的，而不是完全的。
第7章 多重共线性 习 题 一、单项选择题 1．如果回归模型中解释变量之间存在完全的多重共线性，则最小二乘估计量（A ） A.不确定，方差无限大 B.确定，方差无限大 C.不确定，方差最小 D.确定，方差最小 2．多元线性回归模型中，发现各参数估计量的t 值都不显著，但模型的 F 值确很显著，这说明模型存在（ A ） A ．多重共线性 B ．异方差 C ．自相关 D ．设定偏误 3．逐步回归法既检验又修正了（ D ） A ．异方差性 B.自相关性 C ．随机解释变量 D.多重共线性 4．如果模型中的解释变量存在完全的多重共线性，参数的最小二乘估计量是（ C ） A ．无偏的 B. 有偏的 C. 不确定 D. 确定的 5．设线性回归模型为 ，下列表明变量之间具有完全多 重共线性的是（ A ） A ． B ． C ． D ． 其中v 为随机误差项 6．简单相关系数矩阵方法主要用于检验（ D ） A ．异方差性 B.自相关性 C ．随机解释变量 D.多重共线性 7．设为解释变量，则完全多重共线性是( A ) 8．下列说法不正确的是（ C ） A. 多重共线性产生的原因有模型中大量采用滞后变量 B. 多重共线性是样本现象 ,)(22很大或R R 01122i i i i Y X X u βββ=+++1202*0*0i i X X ++=1202*0*0i i X X v +++=1200*0*0 i i X X ++=1200*0*0 i i X X v +++=21,x x 221211211 .0.0 21 . 0(.0 2x x A x x B x e C x x v v D x e +==++=+=为随机误差项）
多重共线性的解决之 法
第七章多重共线性 教学目的及要求： 1、重点理解多重共线性在经济现象中的表现及产生的原因和后果 2、掌握检验和处理多重共线性问题的方法 3、学会灵活运用Eviews软件解决多重共线性的实际问题。 第一节多重共线性的产生及后果 一、多重共线性的含义 1、含义 在多元线性回归模型经典假设中，其重要假定之一是回归模型的解释变量之间不存在线性关系，也就是说，解释变量X1，X2，……，X k中的任何一个都不能是其他解释变量的线性组合。如果违背这一假定，即线性回归模型中某一个解释变量与其他解释变量间存在线性关系，就称线性回归模型中存在多重共线性。多重共线性违背了解释变量间不相关的古典假设，将给普通最小二乘法带来严重后果。 2、类型 多重共线性包含完全多重共线性和不完全多重共线性两种类型。 （1）完全多重共线性 完全多重共线性是指线性回归模型中至少有一个解释变量可以被其他解释变量线性表示，存在严格的线性关系。 如对于多元线性回归模型
i ki k i i i X X X Y μββββ+++++= 22110 （7- 1） 存在不全为零的数k λλλ,,,21 ，使得下式成立： 0X X X 2211=+++ki k i i λλλ （7-2） 则可以说解释变量k X ,,X ,X 21 之间存在完全的线性相关关系，即存在完全多重共 线性。 从矩阵形式来看，就是0'=X X ， 即1)(- 第6章多重共线性 一、单项选择题 1、当模型存在严重的多重共线性时，OLS估计量将不具备（） A、线性 B、无偏性 C、有效性 D、一致性 2、经验认为某个解释与其他解释变量间多重共线性严重的情况是这个解释变量的VIF（） A、大于 B、小于 C、大于5 D、小于5 3、模型中引入实际上与解释变量有关的变量，会导致参数的OLS估计量方差（） A、增大 B、减小 C、有偏 D、非有效 4、对于模型y t=b0+b1x1t+b2x2t+u t，与r12=0相比，r12＝0.5时，估计量的方差将是原来的（） A、1倍 B、1.33倍 C、1.8倍 D、2倍 5、如果方差膨胀因子VIF＝10，则什么问题是严重的（） A、异方差问题 B、序列相关问题 C、多重共线性问题 D、解释变量与随机项的相关性 6、在多元线性回归模型中，若某个解释变量对其余解释变量的判定系数接近于1，则表明模型中存在( ) A 异方差 B 序列相关 C 多重共线性 D 高拟合优度 7、存在严重的多重共线性时，参数估计的标准差（） A、变大 B、变小 C、无法估计 D、无穷大 8、完全多重共线性时，下列判断不正确的是（） A、参数无法估计 B、只能估计参数的线性组合 C、模型的拟合程度不能判断 D、可以计算模型的拟合程度 二、多项选择题 1、下列哪些回归分析中很可能出现多重共线性问题（） A、资本投入与劳动投入两个变量同时作为生产函数的解释变量 B、消费作被解释变量，收入作解释变量的消费函数 C、本期收入和前期收入同时作为消费的解释变量的消费函数 D、商品价格、地区、消费风俗同时作为解释变量的需求函数 E、每亩施肥量、每亩施肥量的平方同时作为小麦亩产的解释变量的模型 2、当模型中解释变量间存在高度的多重共线性时（） A、各个解释变量对被解释变量的影响将难以精确鉴别 B、部分解释变量与随机误差项之间将高度相关 C、估计量的精度将大幅度下降 D、估计对于样本容量的变动将十分敏感 E、模型的随机误差项也将序列相关 3、下述统计量可以用来检验多重共线性的严重性（） A、相关系数 B、DW值 C、方差膨胀因子 D、特征值 E、自相关系数 4、多重共线性产生的原因主要有（） A、经济变量之间往往存在同方向的变化趋势 B、经济变量之间往往存在着密切的关联 C、在模型中采用滞后变量也容易产生多重共线性 D、在建模过程中由于解释变量选择不当，引起了变量之间的多重共线性 E、以上都正确 5、多重共线性的解决方法主要有（） A、保留重要的解释变量，去掉次要的或替代的解释变量 B、利用先验信息改变参数的约束形式 C、变换模型的形式 D、综合使用时序数据与截面数据 E、逐步回归法以及增加样本容量 6、关于多重共线性，判断错误的有（） A、解释变量两两不相关，则不存在多重共线性 B、所有的t检验都不显著，则说明模型总体是不显著的 第七章 多重共线性及其处理 一、简答题 1．什么是变量之间的多重共线性? 2．什么是完全多重共线性？什么是不完全多重共线性？ 3．多重共线性在多元线性回归模型中普遍存在的主要原因有哪些？ 4．多重共线性可能造成哪些不利后果? 5．多重共线性的检验有哪些适当的方法? 6．多重共线性的修正方法有哪些？ 二、计算题分析题 1．某地区供水部门利用最近20年的用水年度数据得出如下估计模型： 12345 ?326.90.3050.3630.00517.87 1.123Y X X X X X =-++--- （-1.7） (0.9) (1.4) (-0.6) (-1.2) (-0.8) 93.02=R F=38.9 式中，y ——用水总量（百万立方米）,1x ——住户总数（千户）,2x ——总人口（千人）, 3x ——人均收入（元）,4x ——价格（元/100立方米）,5x ——降雨量（毫米） 。 （1）根据经济理论和直觉,请计回归系数的符号是什么(不包括常量)，为什么？观察符 号与你的直觉相符吗？ （2）在10%的显著性水平下，请进行变量的t 检验与方程的F-检验。T 检验与F 检验结果有相矛盾的现象吗？ （3）你认为估计值是（1）有偏的；（2）无效的；（3）不一致的吗？详细阐述理由。 2．下表是某地区1995年~2004年食品需求量Y 、可支配收入1X 、食品类价格指数2X 、 物价总指数3X 和流动资产拥有量4X 的数据资料。 食品需求函数有关统计资料 问题： （1）检验变量间的多重共线性。 （2）利用Frish 法，建立适当的回归方程。 第四部分 习题答案 一、简答题 1．多重共线性指两个或多个解释变量之间不再彼此独立，而是出现了相关性。 2．完全多重共线性指：在有多个解释变量模型中，其中一个变量可以表示为其他多个变量的完全线性函数，即k k X B X B X B X ++=33221，其中至少有一个 ),,3,2(,0k i B i =≠，1X 与等式右边线性组合的相关系数为1，则这种情况被称为完全 多重共线性。在此情况下，不能估计解释变量各自对被解释变量的影响。 不完全多重共线性指：在实际经济活动中，多个解释变量之间存在多重共线性问题，但与等式右边线性组合的相关系数不为1。 3．多重共线性产生的原因 多元线性回归模型产生多重共线性的原因很多，主要有： （1）经济变量的内在联系。这是产生多重共线性的根本原因； （2）解释变量中含有滞后变量； （3）经济变量变化趋势的“共向性”。 4．多重共线性会产生以下问题： （1）增大了OLS 估计量的方差； （2）难以区分每个解释变量的单独影响； （3）回归模型缺乏稳定性； （4）t 检验的可靠性降低。 5．在应用多元回归模型中，人们总结了许多检验多重共线性的方法。 （1）系数判定法 （2）用解释变量之间所构成的回归方程的决定系数2R 进行判别 （3）逐步回归判别法 以Y 为被解释变量逐个引入解释变量，构成回归模型，进行参数估计，根据决定系数的变化决定新引入的变量是否能够加入模型之中。首先将Y 对所有的解释变量分别作回归，得到所有的模型，取决定系数最大的模型中的解释变量加入模型，作为第一个引入模型的变量；其次，将Y 再对剩余的解释变量分别加入模型，进行二元回归，再次，取决定系数最大的解释变量加入模型；依次做下去，直到模型的决定系数不再改善为止。 （4）方差膨胀因子VIF 判别法 对于多元线性回归模型，?i β 的方差可以表示成 () () () VIF X X r X X Var i i i i i i .1 11 .?2 2 2 2 ∑∑-=--=σβ 一般当V I F ＞10时(此时2i r ＞0.9)，认为模型存在较严重的多重共 线性。 （5）修正的Frish 判别法 该方法不仅可以对多重共线性进行判别，同时也是处理多重共线性问题的一种有效方法。其步骤为：第一，用被解释变量分别对每个解释变量进行线性回归，根据经济理论和统计检验从中选择一个最合适的回归模型作为基本回归模型，通常选取决定系数2R 最大的回计量经济学习题第6章 多重共线性
第七章 多重共线性及其处理
相关主题
文本预览