多重共线性的几点认识

多重共线性：

可分为完全多重共线性和近似多重共线性“或称高度相关性”

检验多重共线性问题是否严重：

1.若回归模型的R2值高（如>0.8），或F检验值显著，但单个解释变

量系数估计值却不显著；

2.若两个解释变量之间的相关系数高，比如说大于0.8，则可以认为

存在严重的共线性。

对多重共线性本质的认识：

1.多重共线性是由变量之间的性质引起的：这一认识沿袭了传统经

济计量学对多重共线性的认识，而现代经济计量学否定了这一认识；

不管数据以什么形式取得，数据取样是大是小，都会出现解释变量间高度相关问题。

2.多重共线性是数据问题引起的：指即使总体诸解释变量没有线性关系，

但在具体样本中仍可能有线性关系。当n=2时，两点总能连成一条直线，即时，使性质上原本并不存在线性关系的两个变量，由于样本数据问题产生了共线性；时序解释变量之间几乎肯定会出现谬回归，必然导致多重共线性。

线性回归模型解释变量间存在多重共线性可能产生如下后果：

1.增大最小二乘估计量的方差；

2.参数估计值不稳定，对样本变化敏感；

3.检验可靠性降低，产生弃真错误。由于参数估计量方差增大，在进

行显著性检验时，t检验值将会变小，可能使某些本该参数显著的检

验结果变得不显著，从而将重要变量舍弃。

多重共线性的修正：

若多重共线性程度较轻微，并不严重影响系数估计值（符号正确，t 值显著），则可以忽略多重共线性问题。

1.删除不必要的变量

2.改变解释变量的形式：差分法，对于时间序列数据而言，若原始

变量存在严重的多重共线性，则可以考虑对变量取差分形式，可在一定程度上降低多重共线性的程度

3.当模型中有较多解释变量的滞后值，并存在严重共线性时，可以

考虑用被解释变量的滞后值代替解释变量的滞后值；以人均形式的变量代替总体变量在某些状况下也可以在一定程度上降低多重共线性的程度

多重共线性的解决之法

第七章 多重共线性 教学目的及要求： 1、重点理解多重共线性在经济现象中的表现及产生的原因和后果 2、掌握检验和处理多重共线性问题的方法 3、学会灵活运用Eviews 软件解决多重共线性的实际问题。 第一节 多重共线性的产生及后果 一、多重共线性的含义 1、含义 在多元线性回归模型经典假设中，其重要假定之一是回归模型的解释变量之间不存在线性关系，也就是说，解释变量X 1，X 2，……，X k 中的任何一个都不能是其他解释变量的线性组合。如果违背这一假定，即线性回归模型中某一个解释变量与其他解释变量间存在线性关系，就称线性回归模型中存在多重共线性。多重共线性违背了解释变量间不相关的古典假设，将给普通最小二乘法带来严重后果。 2、类型 多重共线性包含完全多重共线性和不完全多重共线性两种类型。 （1）完全多重共线性 完全多重共线性是指线性回归模型中至少有一个解释变量可以被其他解释变量线性表示，存在严格的线性关系。 如对于多元线性回归模型 i ki k i i i X X X Y μββββ+++++= 22110 （7-1） 存在不全为零的数k λλλ,,,21 ，使得下式成立： X X X 2211=+++ki k i i λλλ （7-2） 则可以说解释变量k X ,,X ,X 21 之间存在完全的线性相关关系，即存在完全多重共线性。 从矩阵形式来看，就是0' =X X ， 即1)(-

（2）不完全多重共线性 不完全多重共线性是指线性回归模型中解释变量间存在不严格的线性关系，即近似线性关系。 如对于多元线性回归模型（7-1）存在不全为零的数k λλλ,,,21 ，使得下式成立： X X X 2211=++++i ki k i i u λλλ （7-3） 其中i u 为随机误差项，则可以说解释变量k X ,,X ,X 21 之间存在不完全多重共线性。随机误差项表明上述线性关系是一种近似的关系式，大体上反映了解释变量间的相关程度。 完全多重共线性与完全非线性都是极端情况，一般说来，统计数据中多个解释变量之间多少都存在一定程度的相关性，对多重共线性程度强弱的判断和解决方法是本章讨论的重点。 二、多重共线性产生的原因 多重共线性在经济现象中具有普遍性，其产生的原因很多，一般较常见的有以下几种情况。 （一）经济变量间具有相同方向的变化趋势 在同一经济发展阶段，一些因素的变化往往同时影响若干经济变量向相同方向变化，从而引起多重共线性。如在经济上升时期，投资、收入、消费、储蓄等经济指标都趋向增长，这些经济变量在引入同一线性回归模型并作为解释变量时，往往存在较严重的多重共线性。 （二）经济变量间存在较密切关系 由于组成经济系统的各要素之间是相互影响相互制约的，因而在数量关系上也会存在一定联系。如耕地面积与施肥量都会对粮食总产量有一定影响，同时，二者本身存在密切关系。 （三）采用滞后变量作为解释变量较易产生多重共线性 一般滞后变量与当期变量在经济意义上关联度比较密切，往往会产生多重共线性。如在研究消费规律时，解释变量因素不但要考虑当期收入，还要考虑以往各期收入，而当期收入与滞后收入间存在多重共线性的可能很大。 （四）数据收集范围过窄，有时会造成变量间存在多重共线性问题。 三、多重共线性产生的后果 由前述可知，多重共线性分完全多重共线性和不完全多重共线性两种情况，两种情况都会对模

(完整版)多重共线性检验与修正.doc

问题： 选取粮食生产为例，由经济学理论和实际可以知道，影响粮食生产y 的因素有：农业化肥施 用量x1，粮食播种面积x2，成灾面积x3，农业机械总动力x4，农业劳动力x5，由此建立以下方程： y=β0+β1x1+β2x2+β3x3+β4x4+β5x5，相关数据如下： 解： 1、检验多重共线性 （1）在命令栏中输入： ls y c x1 x2 x3 x4 x5，则有； 可以看到，可决系数R2 和 F 值都 很高，二自变量x1 到 x5 的 t 值 均较小，并且x4 和 x5 的 t 检验 不显著，说明方程很可能存在多 重共线性。 （2）对自变量做相关性分析： 将x1—— x5 作为组打开， view —— covariance analysis—— correlation ，结果如下： 可以看到x1 和 x4 的相关系数 为 0.96，非常高，说明原模型 存在多重共线性

2、多重共线性的修正 （1）逐步回归法 第一步：首先确定一个基准的解释变量，即从 x1， x2， x3， x4， x5 中选择解释 y 的最好的一个建 立基准模型。分别用 x1， x2， x3， x4， x5 对 y 求回归，结果如下： 从上面 5 个输出结果可以知道，y 对 x1 的可决系数R2=0.89（最高），因此选择 第一个方程作为基准回归模型。即： Y = 30867.31062 + 4.576114592* x1 在基准模型的基础上，逐步将x2， x3 等加入到模型中， 加入 x2，结果：

拟合优度R2=0.961395 ，显著提高； 并且参数符号符合经济常识，且均显著。 所以将模型修改为： Y= -44174.52+ 4.576460*x1+ 0.672680*x2 再加入 x3，结果： 拟合优度R2=0.984174 ，显著提高； 并且参数符号符合经济常识（成灾面积越大，粮食产 量越低），且均显著。 所以将模型修改为： Y=-12559.35+5.271306*x1+0.417257*x2-0.212103*x3 再加入 x4，结果： 拟合优度R2=0.987158 ，虽然比上一次拟 合提高了； 但是变量x4 的系数为 -0.091271 ，符号不 符合经济常识（农业机械总动力越高， 粮食产量越高），并且 x4 的 t 检验不显著。 因此应该从模型中剔除x4。

EVIEWS案例：(消除多重共线性)影响国内旅游市场收入的主要因素分析

第四章 案例分析 一、研究的目的要求 近年来，中国旅游业一直保持高速发展，旅游业作为国民经济新的增长点，在整个社会经济发展中的作用日益显现。中国的旅游业分为国内旅游和入境旅游两大市场，入境旅游外汇收入年均增长 22.6%，与此同时国内旅游也迅速增长。改革开放20多年来，特别是进入90年代后，中国的国内旅游收入年均增长14.4%，远高于同期GDP 9.76%的增长率。为了规划中国未来旅游产业的发展，需要定量地分析影响中国旅游市场发展的主要因素。 二、模型设定及其估计 经分析，影响国内旅游市场收入的主要因素，除了国内旅游人数和旅游支出以外，还可能与相关基础设施有关。为此，考虑的影响因素主要有国内旅游人数2X ，城镇居民人均旅游支出3X ，农村居民人均旅游支出4X ，并以公路里程5X 和铁路里程6X 作为相关基础设施的代表。为此设定了如下对数形式的计量经济模型： 23456123456t t t t t t t Y X X X X X u ββββββ=++++++ 其中 ：t Y ——第t 年全国旅游收入 2X ——国内旅游人数 （万人） 3X ——城镇居民人均旅游支出 （元） 4X ——农村居民人均旅游支出 （元） 5X ——公路里程（万公里） 6X ——铁路里程（万公里） 为估计模型参数，收集旅游事业发展最快的 1994—2003年的统 计数据，如表4.2所示： 表4.2 1994年—2003年中国旅游收入及相关数据

数据来源:《中国统计年鉴2004》 利用Eviews 软件，输入Y 、X2、X3、X4、X5、X6等数据，采用这些数据对模型进行OLS 回归，结果如表4.3： 表4.3 由此可见，该模型9954.02=R ，9897.02 =R 可决系数很高，F 检验值173.3525,明 显显著。但是当05.0=α时776 .2)610()(025.02=-=-t k n t α,不仅2X 、6X 系数的t 检 验不显著，而且6X 系数的符号与预期的相反，这表明很可能存在严重的多重共线性。 计算各解释变量的相关系数，选择X2、X3、X4、X5、X6数据， Views/Open Selected/One Windows/Open Group 点”view/correlations ”得相关系数矩阵（如表4.4）： 表4.4 由相关系数矩阵可以看出：各解释变量相互之间的相关系数较高，证实确实存在严重多重共线性。

计量经济学习题及全部答案

《计量经济学》习题(一) 一、判断正误 1．在研究经济变量之间的非确定性关系时，回归分析是唯一可用的分析方法。（） 2．最小二乘法进行参数估计的基本原理是使残差平方和最小。（） 3．无论回归模型中包括多少个解释变量，总离差平方和的自由度总为（n-1）。（） 4．当我们说估计的回归系数在统计上是显着的，意思是说它显着地异于0。（） 5．总离差平方和（TSS）可分解为残差平方和（ESS）与回归平方和（RSS）之和，其中残差平方和（ESS）表示总离差平方和中可由样本回归直线解释的部分。（） 6．多元线性回归模型的F检验和t检验是一致的。（） 7．当存在严重的多重共线性时，普通最小二乘估计往往会低估参数估计量的方差。（） 8．如果随机误差项的方差随解释变量变化而变化，则线性回归模型存在随机误差项的 自相关。（） 9．在存在异方差的情况下，会对回归模型的正确建立和统计推断带来严重后果。（） 10．.. DW检验只能检验一阶自相关。（） 二、单选题

1．样本回归函数（方程）的表达式为（ ）。 A ．i Y =01i i X u ββ++ B ．(/)i E Y X =01i X ββ+ C ．i Y =01??i i X e ββ++ D ．?i Y =01??i X ββ+ 2．下图中“｛”所指的距离是（ ）。 A ．随机干扰项 B ．残差 C ．i Y 的离差 D ．?i Y 的离差 3．在总体回归方程(/)E Y X =01X ββ+中，1β表示（ ）。 A ．当X 增加一个单位时，Y 增加1β个单位 B ．当X 增加一个单位时，Y 平均增加1β个单位 C ．当Y 增加一个单位时，X 增加1β个单位 D ．当Y 增加一个单位时，X 平均增加1β个单位 4．可决系数2R 是指（ ）。 A ．剩余平方和占总离差平方和的比重 B ．总离差平方和占回归平方和的比重 C ．回归平方和占总离差平方和的比重 D ．回归平方和占剩余平方和的比重 5．已知含有截距项的三元线性回归模型估计的残差平方和为2i e ∑=800，估

多重共线性问题的几种解决方法

多重共线性问题的几种解决方法 在多元线性回归模型经典假设中，其重要假定之一是回归模型的解释 变量之间不存在线性关系，也就是说，解释变量X 1，X 2 ，……，X k 中的任何一个 都不能是其他解释变量的线性组合。如果违背这一假定，即线性回归模型中某一个解释变量与其他解释变量间存在线性关系，就称线性回归模型中存在多重共线性。多重共线性违背了解释变量间不相关的古典假设，将给普通最小二乘法带来严重后果。 这里，我们总结了8个处理多重共线性问题的可用方法，大家在遇到多重共线性问题时可作参考： 1、保留重要解释变量，去掉次要或可替代解释变量 2、用相对数变量替代绝对数变量 3、差分法 4、逐步回归分析 5、主成份分析 6、偏最小二乘回归 7、岭回归 8、增加样本容量 这次我们主要研究逐步回归分析方法是如何处理多重共线性问题的。 逐步回归分析方法的基本思想是通过相关系数r、拟合优度R2和标准误差三个方面综合判断一系列回归方程的优劣，从而得到最优回归方程。具体方法分为两步： 第一步，先将被解释变量y对每个解释变量作简单回归: 对每一个回归方程进行统计检验分析（相关系数r、拟合优度R2和标准误差），并结合经济理论分析选出最优回归方程，也称为基本回归方程。

第二步，将其他解释变量逐一引入到基本回归方程中，建立一系列回归方程，根据每个新加的解释变量的标准差和复相关系数来考察其对每个回归系数的影响，一般根据如下标准进行分类判别： １.如果新引进的解释变量使R2得到提高,而其他参数回归系数在统计上和经济理论上仍然合理，则认为这个新引入的变量对回归模型是有利的，可以作为解释变量予以保留。 ２.如果新引进的解释变量对R2改进不明显，对其他回归系数也没有多大影响，则不必保留在回归模型中。 ３.如果新引进的解释变量不仅改变了R2，而且对其他回归系数的数值或符号具有明显影响，则认为该解释变量为不利变量，引进后会使回归模型出现多重共线性问题。不利变量未必是多余的，如果它可能对被解释变量是不可缺少的，则不能简单舍弃，而是应研究改善模型的形式，寻找更符合实际的模型，重新进行估计。如果通过检验证明回归模型存在明显线性相关的两个解释变量中的其中一个可以被另一个很好地解释，则可略去其中对被解释变量影响较小的那个变量，模型中保留影响较大的那个变量。 下边我们通过实例来说明逐步回归分析方法在解决多重共线性问题上的具体应用过程。 具体实例 例1设某地10年间有关服装消费、可支配收入、流动资产、服装类物价指数、总物价指数的调查数据如表1，请建立需求函数模型。 表1 服装消费及相关变量调查数据

多重共线性习题及答案

多重共线性 一、单项选择题 1、当模型存在严重的多重共线性时，OLS估计量将不具备（） A、线性 B、无偏性 C、有效性 D、一致性 2、经验认为某个解释与其他解释变量间多重共线性严重的情况是这个解释变量的VIF（） A、大于 B、小于 C、大于5 D、小于5 3、模型中引入实际上与解释变量有关的变量，会导致参数的OLS估计量方差（） A、增大 B、减小 C、有偏 D、非有效 4、对于模型y t=b0+b1x1t+b2x2t+u t，与r12=0相比，r12＝0.5时，估计量的方差将是原来的（） A、1倍 B、1.33倍 C、1.8倍 D、2倍 5、如果方差膨胀因子VIF＝10，则什么问题是严重的（） A、异方差问题 B、序列相关问题 C、多重共线性问题 D、解释变量与随机项的相关性 6、在多元线性回归模型中，若某个解释变量对其余解释变量的判定系数接近于1，则表明模型中存在( ) A 异方差 B 序列相关 C 多重共线性 D 高拟合优度 7、存在严重的多重共线性时，参数估计的标准差（） A、变大 B、变小 C、无法估计 D、无穷大 8、完全多重共线性时，下列判断不正确的是（） A、参数无法估计 B、只能估计参数的线性组合 C、模型的拟合程度不能判断 D、可以计算模型的拟合程度 二、多项选择题 1、下列哪些回归分析中很可能出现多重共线性问题（） A、资本投入与劳动投入两个变量同时作为生产函数的解释变量 B、消费作被解释变量，收入作解释变量的消费函数 C、本期收入和前期收入同时作为消费的解释变量的消费函数 D、商品价格、地区、消费风俗同时作为解释变量的需求函数 E、每亩施肥量、每亩施肥量的平方同时作为小麦亩产的解释变量的模型 2、当模型中解释变量间存在高度的多重共线性时（） A、各个解释变量对被解释变量的影响将难以精确鉴别 B、部分解释变量与随机误差项之间将高度相关 C、估计量的精度将大幅度下降 D、估计对于样本容量的变动将十分敏感 E、模型的随机误差项也将序列相关 3、下述统计量可以用来检验多重共线性的严重性（） A、相关系数 B、DW值 C、方差膨胀因子 D、特征值 E、自相关系数 4、多重共线性产生的原因主要有（） A、经济变量之间往往存在同方向的变化趋势 B、经济变量之间往往存在着密切的关联 C、在模型中采用滞后变量也容易产生多重共线性 D、在建模过程中由于解释变量选择不当，引起了变量之间的多重共线性 E、以上都正确 5、多重共线性的解决方法主要有（） A、保留重要的解释变量，去掉次要的或替代的解释变量 B、利用先验信息改变参数的约束形式 C、变换模型的形式 D、综合使用时序数据与截面数据 E、逐步回归法以及增加样本容量 6、关于多重共线性，判断错误的有（） A、解释变量两两不相关，则不存在多重共线性 B、所有的t检验都不显著，则说明模型总体是不显著的

多重共线性的检验与修正

计量经济学实验报告成绩 课程名称计量经济学指导教师苏卫东实验日期 2014-6-24 院（系）财政与金融学院专业班级金融二专实验地点实验楼八机房 学生姓名单一芳学号 201212041018 同组人无 实验项目名称多重共线性的检验与修正 一、实验目的和要求 1、理解多重共线性的含义与后果 2、掌握Eviews软件的操作和多重共线性的检验与修正 二、实验原理 Eviews软件的操作和多重共线性的检验修正方法 三、主要仪器设备、试剂或材料 Eviews软件，计算机 四、实验方法与步骤 1、准备工作：建立工作文件，并输入数据 CREATE A 1974 1981; DATA Y X1 X2 X3 X4 X5 2、OLS估计： LS Y C X1 X2 X3 X4 X5; 3、计算简单相关系数 COR X1 X2 X3 X4 X5 4、多重共线性的解决 LS Y C X1; LS Y C X2; LS Y C X3; LS Y C X4; LS Y C X5;

LS Y C X1 X3; LS Y C X1 X3 X2; LS Y C X1 X3 X4; LS Y C X1 X3 X5 五、实验数据记录、处理及结果分析 1、建立工作组，输入以下数据： obs Y X1 X2 X3 X4 X5 1974 98.45 560.2 153.2 6.53 1.23 1.89 1975 100.7 603.11 190 9.12 1.3 2.03 1976 102.8 668.05 240.3 8.1 1.8 2.71 1977 133.95 715.47 301.12 10.1 2.09 3 1978 140.13 724.27 361 10.93 2.39 3.29 1979 143.11 736.13 420 11.85 3.9 5.24 1980 146.15 748.91 497.16 12.28 5.13 6.83 1981 144.6 760.32 501 13.5 5.47 8.36 1982 148.94 774.92 529.2 15.29 6.09 10.07 1983 158.55 785.3 552.72 18.1 7.97 12.57 1984 169.68 795.5 771.16 19.61 10.18 15.12 1985 162.14 804.8 811.8 17.22 11.79 18.25 1986 170.09 814.94 988.43 18.6 11.54 20.59 1987 178.69 828.73 1094.65 23.53 11.68 23.37 2、OLS估计 LS Y C X1 X2 X3 X4 X5 Dependent Variable: Y Method: Least Squares Date: 06/24/14 Time: 18:45 Sample: 1974 1987 Included observations: 14 Variable Coefficient Std. Error t-Statistic Prob. C -3.650950 30.00144 -0.121692 0.9061 X1 0.125752 0.059087 2.128275 0.0660 X2 0.072656 0.037445 1.940317 0.0883 X3 2.681426 1.258639 2.130418 0.0658 X4 3.405866 2.444896 1.393052 0.2011 X5 -4.430561 2.194164 -2.019248 0.0781 R-squared 0.970397 Mean dependent var 142.7129

多重共线性 多重共线性实验案例与独立实验问题

实验五 多重共线性模型的检验与处理（1） 一、研究的目的要求 近年来，中国旅游业一直保持高速发展，旅游业作为国民经济新的增长点，在整个社会经济发展中的作用日益显现。中国的旅游业分为国内旅游和入境旅游两大市场，入境旅游外汇收入年均增长22.6%，与此同时国内旅游也迅速增长。改革开放20多年来，特别是进入90年代后，中国的国内旅游收入年均增长14.4%，远高于同期GDP 9.76%的增长率。为了规划中国未来旅游产业的发展，需要定量地分析影响中国旅游市场发展的主要因素。 二、模型设定及其估计 经分析，影响国内旅游市场收入的主要因素，除了国内旅游人数和旅游支出以外，还可能与相关基础设施有关。为此，考虑的影响因素主要有国内旅游人数2X ，城镇居民人均旅游支出3X ，农村居民人均旅游支出4X ，并以公路里程5X 和铁路里程6X 作为相关基础设 施的代表。为此设定了如下对数形式的计量经济模型： 23456123456t t t t t t t Y X X X X X u ββββββ=++++++ 其中 ：t Y ——第t 年全国旅游收入 2X ——国内旅游人数 （万人） 3X ——城镇居民人均旅游支出 （元） 4X ——农村居民人均旅游支出 （元） 5X ——公路里程（万公里） 6X ——铁路里程（万公里） 为估计模型参数，收集旅游事业发展最快的1994—2003年的统计数据，如表4.2所示： 利用Eviews 软件，输入Y 、X2、X3、X4、X5、X6等数据，采用这些数据对模型进行OLS 回归，结果如表4.3： 表4.3

由此可见，该模型9954.02=R ，9897.02 =R 可决系数很高，F 检验值173.3525,明 显显著。但是当05.0=α时776 .2)610()(025.02=-=-t k n t α,不仅2X 、6X 系数的t 检 验不显著，而且6X 系数的符号与预期的相反，这表明很可能存在严重的多重共线性。 计算各解释变量的相关系数，选择X2、X3、X4、X5、X6数据，点”view/correlations ”得相关系数矩阵（如表4.4）： 表4.4 由相关系数矩阵可以看出：各解释变量相互之间的相关系数较高，证实确实存在严重多重共线性。 三、消除多重共线性 采用逐步回归的办法，去检验和解决多重共线性问题。分别作Y 对X2、X3、X4、X5、X6的一元回归，结果如表4.5所示： 表4.5

第四章多重共线性答案(1)

第四章 多重共线性 一、判断题 1、多重共线性是一种随机误差现象。（F ） 2、多重共线性是总体的特征。（F ） 3、在存在不完全多重共线性的情况下，回归系数的标准差会趋于变小，相应的t 值会趋于变大。（F ） 4、尽管有不完全的多重共线性，OLS 估计量仍然是最优线性无偏估计量。（T ） 5、在高度多重共线的情形中，要评价一个或多个偏回归系数的个别显著性是不可能的。（T ） 6、变量的两两高度相关并不表示高度多重共线性。（F ） 7、如果分析的目的仅仅是预测，则多重共线性一定是无害的。（T ） 8、在多元回归中，根据通常的t 检验，每个参数都是统计上不显著的，你就不会得到一个高的2R 值。（F ） 9、如果简单相关系数检测法证明多元回归模型的解释变量两两不相关，则可以判断解释变量间不存在多重共线性。（ F ） 10、多重共线性问题的实质是样本问题，因此可以通过增加样本信息得到改善。（T ） 11、虽然多重共线性下，很难精确区分各个解释变量的单独影响，但可据此模型进行预测。（T ） 12、如果回归模型存在严重的多重共线性，可不加分析地去掉某个解释变量从而消除多重共线性。（F ） 13、多重共线性的存在会降低OLS 估计的方差。（F ） 14、随着多重共线性程度的增强，方差膨胀因子以及系数估计误差都在增大。（T ） 15、解释变量和随机误差项相关，是产生多重共线性的原因。（F ） 16、对于模型i ni n i 110i u X X Y ++++=βββ ，n 1i ,, =；如果132X X X -=,模型必然存在解释变量的多重共线性问题。（T ） 17、多重共线性问题是随机扰动项违背古典假定引起的。（F ） 18、存在多重共线性时，模型参数无法估计。（F ） 二、单项选择题 1、在线性回归模型中，若解释变量1X 和2X 的观测值成比例，既有12i i X kX =，其中k 为 非 零 常 数 ， 则 表 明 模 型 中 存 在 （ B ） A 、异方差 B 、多重共线性 C 、序列相关 D 、随机解释变量 2、 在多元线性回归模型中，若某个解释变量对其余解释变量的可决系数接近1，则表明模型 中存在

第七章 多共线性及其处理

第七章 多重共线性及其处理 第一部分 学习辅导 一、本章学习目的与要求 1．理解多重共线性的概念； 2．掌握多重共线性存在的主要原因； 3．理解多重共线性可能造成的后果； 4．掌握多重共线性的检验与修正的方法。 二、本章内容提要 本章主要介绍计量经济模型的计量经济检验。即多重共线性问题。 多重共线性是多元回归模型可能存在的一类现象，分为完全共线与近似共线两类。模型的多个解释变量间出现完全共线性时，模型的参数无法估计。更多的情况则是近似共线性，这时，由于并不违背所有的基本假定，模型参数的估计仍是无偏、一致且有效的，但估计的参数的标准差往往较大，从而使得t 统计值减小，参数的显著性下降，导致某些本应存在于模型中的变量被排除，甚至出现参数正负号方面的一些混乱。显然，近似多重共线性使得模型偏回归系数的特征不再明显，从而很难对单个系数的经济含义进行解释。多重共线性的检验包括检验多重共线性是否存在以及估计多重共线性的范围两层递进的检验。而解决多重共线性的办法通常有逐步回归法、差分法以及使用额外信息、增大样本容量等方法。 （一）多重共线性及其产生的原因 当我们利用统计数据进行分析时，解释变量之间经常会出现高度多重共线性的情况。 1．多重共线性的基本概念 多重共线性(Multicollinearity )一词由弗里希（Frish ）于1934年在其撰写的《借助于完全回归系统的统计合流分析》中首次提出。它的原义是指一个回归模型中的一些或全部解释变量之间存在有一种“完全”或准确的线性关系。 如果在经典回归模型Y X βε=+中，经典假定（5）遭到破坏，则有()1R X k <+，此时称解释变量k X X X ,,,21ΛΛ间存在完全多重共线性。解释变量的完全多重共线性，也就是解释变量之间存在严格的线性关系，即数据矩阵X 的列向量线性相关。因此，必有一个列向量可由其余列向量线性表示。 同时还有另外一种情况，即解释变量之间虽然不存在严格的线性关系，但是却有近似的线性关系，即解释变量之间高度相关。 2．多重共线性产生的原因 多元线性回归模型产生多重共线性的原因很多，主要有： （1）经济变量的内在联系 这是产生多重共线性的根本原因。 （2）解释变量中含有滞后变量 （3）经济变量变化趋势的“共向性” 必须指出，多重共线性基本上是一种样本现象。因为人们在设定模型时，总是尽量避免将理论上具有严格线性关系的变量作为解释变量收集在一起，因此，实际问题中的多重共线性并不是解释变量之间存在理论上或实际上的线性关系造成的，而是由所收集的数据(解释变量观察值)之间存在近似的线性关系所致。 （二）多重共线性的影响 多重共线性会产生以下问题： （1）增大了OLS 估计量的方差 （2）难以区分每个解释变量的单独影响 （3）回归模型缺乏稳定性 （4）t 检验的可靠性降低 （三）多重共线性的判别 在应用多元回归模型中，人们总结了许多检验多重共线性的方法。 1．系数判定法

异方差性习题及答案

异方差性 一、单项选择 1.Goldfeld-Quandt 方法用于检验（ ） A.异方差性 B.自相关性 C.随机解释变量 D.多重共线性 2.在异方差性情况下，常用的估计方法是（ ） A.一阶差分法 B.广义差分法 C.工具变量法 D.加权最小二乘法 3.White 检验方法主要用于检验（ ） A.异方差性 B.自相关性 C.随机解释变量 D.多重共线性 4.Glejser 检验方法主要用于检验（ ） A.异方差性 B.自相关性 C.随机解释变量 D.多重共线性 5.下列哪种方法不是检验异方差的方法 （ ） A.戈德菲尔特——匡特检验 B.怀特检验 C.戈里瑟检验 D.方差膨胀因子检验 6.当存在异方差现象时，估计模型参数的适当方法是 （ ） A.加权最小二乘法 B.工具变量法 C.广义差分法 D.使用非样本先验信息 7.加权最小二乘法克服异方差的主要原理是通过赋予不同观测点以不同的权数，从而提高估计精度，即 （ ） A.重视大误差的作用，轻视小误差的作用 B.重视小误差的作用，轻视大误差的作用 C.重视小误差和大误差的作用 D.轻视小误差和大误差的作用 8.如果戈里瑟检验表明，普通最小二乘估计结果的残差i e 与i x 有显著的形式 i i i v x e +=28715.0的相关关系（i v 满足线性模型的全部经典假设），则用加权最小二 乘法估计模型参数时，权数应为 （ ） A. i x B. 21i x C. i x 1 D. i x 1 9.如果戈德菲尔特——匡特检验显著，则认为什么问题是严重的 （ ） A.异方差问题 B.序列相关问题 C.多重共线性问题 D.设定误差问题 10.设回归模型为i i i u bx y +=，其中i i x u Var 2)(σ=，则b 的最有效估计量为（ ） A. ∑∑=2?x xy b B. 2 2)(?∑∑∑∑∑--=x x n y x xy n b C. x y b =? D. ∑=x y n b 1? 二、多项选择 1.下列计量经济分析中那些很可能存在异方差问题（ ） A.用横截面数据建立家庭消费支出对家庭收入水平的回归模型 B.用横截面数据建立产出对劳动和资本的回归模型 C.以凯恩斯的有效需求理论为基础构造宏观计量经济模型

解决多元线性回归中多重共线性问题的方法分析

解决多元线性回归中多重共线性问题的方法分析 谢小韦，印凡成 河海大学理学院，南京 (210098) E-mail ：xiexiaowei@https://www.doczj.com/doc/2214093340.html, 摘 要：为了解决多元线性回归中自变量之间的多重共线性问题，常用的有三种方法: 岭回 归、主成分回归和偏最小二乘回归。本文以考察职工平均货币工资为例，利用三种方法的 SAS 程序进行了回归分析，根据分析结果总结出三种方法的优缺点，结果表明如果能够使用 定性分析和定量分析结合的方法确定一个合适的k 值，则岭回归可以很好地消除共线性影 响；主成分回归和偏最小二乘回归采用成份提取的方法进行回归建模，由于偏最小二乘回归 考虑到与因变量的关系，因而比主成分回归更具优越性。 关键词：多重共线性；岭回归；主成分回归；偏最小二乘回归 1. 引言 现代化的工农业生产、社会经济生活、科学研究等各个领域中，经常要对数据进行分析、 拟合及预测，多元线性回归是常用的方法之一。多元线性回归是研究多个自变量与一个因变 量间是否存在线性关系,并用多元线性回归方程来表达这种关系，或者定量地刻画一个因变 量与多个自变量间的线性依存关系。 在对实际问题的回归分析中，分析人员为避免遗漏重要的系统特征往往倾向于较周到地 选取有关指标，但这些指标之间常有高度相关的现象，这便是多变量系统中的多重共线性现 象。在多元线性回归分析中，这种变量的多重相关性常会严重影响参数估计，扩大模型误差， 破坏模型的稳健性，从而导致整体的拟合度很大，但个体参数估计值的t 统计量却很小，并 且无法通过检验。由于它的危害十分严重，存在却又十分的普遍，因此就要设法消除多重线 性的不良影响。 常用的解决多元线性回归中多重共线性问题的模型主要有主成分回归、岭回归以及偏最 小二乘回归。三种方法采用不同的方法进行回归建模，决定了它们会产生不同的效果。本文 以统计职工平均货币工资为例，考察一组存在共线性的数据，运用SAS 程序对三种回归进 行建模分析，并对结果进行比较，总结出它们的优势与局限，从而更好地指导我们解决实际 问题。 2. 共线性诊断 拟合多元线性回归时，自变量之间因存在线性关系或近似线性关系，隐蔽变量的显著性， 增加参数估计的方差，导致产生一个不稳定的模型，因此共线性诊断的方法是基于自变量的 观测数据构成的矩阵T x x 进行分析，使用各种反映自变量间相关性的指标。共线性诊断常 用统计量有方差膨胀因子VIF (或容限TOL )、条件指数和方差比例等。 一般认为：若VIF>10，说明模型中有很强的共线性关系；若条件指数值在10与30间 为弱相关，在30与100间为中等相关，大于100为强相关；在大的条件指数中由方差比例 超过0.5的自变量构成的变量子集就认为是相关变量集[1]。 3. 三种解决方法 岭回归基本思想: 当出现多重共线性时，有0T X X ≈，从而使参数的1?()T T X X X Y β ?=很不稳定，出现不符合含义的估计值，给T X X 加上一个正常数矩阵(0)KI K >，则T X X KI +等

计量经济学多重共线性

2014-8-8 商学院 王中昭 教学内容 一、多重共线性 二、实际经济问题中的多重共线性 三、多重共线性的后果 四、多重共线性的检验 五、克服多重共线性的办法和实例 §4.3 多重共线性

2014-8-8商学院 王中昭 对于模型Y i =β0+ β1x 1i + β2x 2i +…… βk x ki +μi 如果某两个或多个解释变量之间出现相关性，即：C 1x 1i +C 2X 2i +……C k X ki =0 其中C i 不全为0，即某一个解释变量是其他解释变量的线性组合，则称为完全多重共线性。 完全多重共线性的情况并不多见，一般是出现不同程度的多重共线性。 注意多重共线性不 是指因变量与解释 一、多重共线性概念

2014-8-8商学院 王中昭 Y=Xβ+μ完全共线性:∣X′X ∣=0，(X′X)-1不存在， 使B ^=(X′X)-1X′Y 无法求解。 例如：, 0)(0020 1631084104213211 x x x 3213322113 21≠'=+-=++??????? ??=X X x x x X i i i i i i x c x c x c 这里，完全多重共线性

2014-8-8商学院 王中昭完全多重共线性的情况不多，一般出现不同程度的多重共线性。 多重共线性:∣X′X∣≈0,(X′X)-1存在，但 (X′X)-1主对角线上的元素很大。 ????? ?='≈'?≈+??????? ??=400300000300000100040030000030000010002100010004X)X ( ,0)( 0,0x x - x 199 .2993001001.4004001099.1992001101.1001001 x x x 1 -3i 2i 1i 3 21｜｜这里，X X X 近似多重共线性

第11章 多重线性回归分析思考与练习参考答案

第11章 多重线性回归分析 思考与练习参考答案 一、 最佳选择题 1. 逐步回归分析中，若增加自变量的个数，则（ D ）。 A. 回归平方和与残差平方和均增大 B. 回归平方和与残差平方和均减小 C. 总平方和与回归平方和均增大 D. 回归平方和增大，残差平方和减小 E. 总平方和与回归平方和均减小 2. 下面关于自变量筛选的统计学标准中错误的是（ E ）。 A. 残差平方和（残差SS ）缩小 B. 确定系数（2 R ）增大 C. 残差的均方（残差MS ）缩小 D. 调整确定系数（2 ad R ）增大 E. p C 统计量增大 3. 多重线性回归分析中，能直接反映自变量解释因变量变异百分比的指标为 （ C ）。 A. 复相关系数 B. 简单相关系数 C.确定系数 D. 偏回归系数 E. 偏相关系数 4. 多重线性回归分析中的共线性是指（ E ）。 A.Y 关于各个自变量的回归系数相同 B.Y 关于各个自变量的回归系数与截距都相同 C.Y 变量与各个自变量的相关系数相同 D.Y 与自变量间有较高的复相关 E. 自变量间有较高的相关性 5. 多重线性回归分析中，若对某一自变量的值加上一个不为零的常数K ,则有（ D ）。 A. 截距和该偏回归系数值均不变 B. 该偏回归系数值为原有偏回归系数值的K 倍 C. 该偏回归系数值会改变，但无规律 D. 截距改变，但所有偏回归系数值均不改变 E. 所有偏回归系数值均不会改变 二、思考题 1. 多重线性回归分析的用途有哪些？ 答：多重线性回归在生物医学研究中有广泛的应用，归纳起来，可以包括以下几个方面：定量地建立一个反应变量与多个解释变量之间的线性关系，筛选危险因素，通过较易测量的变量估计不易测量的变量，通过解释变量预测反应变量，通过反应变量控制解释变量。

最新多重共线性的解决之法

多重共线性的解决之 法

第七章多重共线性 教学目的及要求： 1、重点理解多重共线性在经济现象中的表现及产生的原因和后果 2、掌握检验和处理多重共线性问题的方法 3、学会灵活运用Eviews软件解决多重共线性的实际问题。 第一节多重共线性的产生及后果 一、多重共线性的含义 1、含义 在多元线性回归模型经典假设中，其重要假定之一是回归模型的解释变量之间不存在线性关系，也就是说，解释变量X1，X2，……，X k中的任何一个都不能是其他解释变量的线性组合。如果违背这一假定，即线性回归模型中某一个解释变量与其他解释变量间存在线性关系，就称线性回归模型中存在多重共线性。多重共线性违背了解释变量间不相关的古典假设，将给普通最小二乘法带来严重后果。 2、类型 多重共线性包含完全多重共线性和不完全多重共线性两种类型。 （1）完全多重共线性 完全多重共线性是指线性回归模型中至少有一个解释变量可以被其他解释变量线性表示，存在严格的线性关系。 如对于多元线性回归模型

i ki k i i i X X X Y μββββ+++++= 22110 （7- 1） 存在不全为零的数k λλλ,,,21 ，使得下式成立： 0X X X 2211=+++ki k i i λλλ （7-2） 则可以说解释变量k X ,,X ,X 21 之间存在完全的线性相关关系，即存在完全多重共 线性。 从矩阵形式来看，就是0'=X X ， 即1)(-

多重共线性案例分析实验报告

《多重共线性案例分析》实验报告

表2 由此可见，该模型，可决系数很高，F 检验值 173.3525,明显显著。但是当时,不仅、 系数的t 检验不显著，而且系数的符号与预期的相反，这表明很可能存在严重的多重共线性。 9954.02=R 9897.02 =R 05.0=α776 .2)610()(025.02=-=-t k n t α2X 6X 6X

②.计算各解释变量的相关系数，选择X2、X3、X4、X5、X6数据，点”view/correlations ”得相关系数矩阵 表3 由关系数矩阵可以看出：各解释变量相互之间的相关系数较高，证实确实存在严重多重共线性相。 4.消除多重共线性 ①采用逐步回归的办法，去检验和解决多重共线性问题。 分别作Y 对X2、X3、X4、X5、X6的一元回归 如下图所示 变量 X2 X3 X4 X5 X6 参数估计值 0.0842 9.0523 11.6673 34.3324 2014.146 t 统计量 8.6659 13.1598 5.1967 6.4675 8.7487 0.9037 0.9558 0.7715 0.8394 0.9054 表4 按的大小排序为：X3、X6、X2、X5、X4。 以X3为基础，顺次加入其他变量逐步回归。首先加入X6回归结果为： t=(2.9086) (0.46214) 2R 2 R 6 31784.285850632.7639.4109?X X Y t ++-=957152.02 =R

1995 1375.7 62900 464.0 61.5 115.70 5.97 1996 1638.4 63900 534.1 70.5 118.58 6.49 1997 2112.7 64400 599.8 145.7 122.64 6.60 1998 2391.2 69450 607.0 197.0 127.85 6.64 1999 2831.9 71900 614.8 249.5 135.17 6.74 2000 3175.5 74400 678.6 226.6 140.27 6.87 2001 3522.4 78400 708.3 212.7 169.80 7.01 2002 3878.4 87800 739.7 209.1 176.52 7.19 2003 3442.3 87000 684.9 200.0 180.98 7.30 表1：1994年—2003年中国游旅收入及相关数据

多重共线性考试考试与答案

第七章 多重共线性习题与答案 1、多重共线性产生的原因是什么？ 2、检验多重共线性的方法思路是什么?有哪些克服方法? 3、考虑一下模型： Y t ＝β1＋β2X t ＋β3X 1-t ＋4βX 2-t ＋5βX 3-t ＋6βX 4-t ＋u t 其中Y ＝消费，X ＝收入，t ＝时间。上述模型假定了时间t 的消费支出不仅是时间t 的收入，而且是以前多期的收入的函数。例如，1976年第一季度的消费支出是同季度收入合1975年的四个季度收入的函数。这类模型叫做分布滞后模型（distributed lag models ）。我们将在以后的一掌中加以讨论。 （1） 你预期在这类模型中有多重共线性吗？为什么？ (2)如果预期有多重共线性，你会怎么样解决这个问题？ 4、已知回归模型μβα++=N E ，式中E 为某类公司一名新员工的起始薪金（元），N 为所受教育水平（年）。随机扰动项μ的分布未知，其他所有假设都满足。 （1）从直观及经济角度解释α和β。 （2）OLS 估计量α ?和β?满足线性性、无偏性及有效性吗？简单陈述理由。 （3）对参数的假设检验还能进行吗？简单陈述理由。 5、根据1899—1922年在美国制造业部门的年度数据，多尔蒂（Dougherty ）获得如下回归结果： LogY=2.81 － 0.53logK+ 0.91logL + 0.047t Se ＝（1.38）（0.34） （0.14） （0.021） R 2＝0.97 F=189.8 其中Y ＝实际产生指数,K=实际资本投入指数，L=实际劳力投入指数，t ＝时间或趋势。利用同样数据，他又获得一下回归： （1）回归中有没有多重共线性？你怎么知道？ （2）在回归（1）中，logK 的先验符号是什么？结果是否与预期的一致？为什么或为什么不？ （3）你怎样替回归的函数形式（1）做辩护：（提示：柯柏—道格拉斯生产函数。） （4）解释回归（1）在此回归中趋势变量的作用为何？ （5）估计回归（2）的道理何在？ （6）如果原先的回归（1）有多重共线性，是否已被回归（2）减弱？你怎样知道？