多重共线性,多重共线性对回归分析有哪些影响

多重共线性

判断标准

常见的直观判断方法共有四个,如下:
(1)某些自变量的相关系数值较大(比如大于0.8)等,可以利用pearson相关系数检验法一般是利用解释变量之间的线性相关程度判断,一般标准是系数大于0.8则认为可能存在多重共线性。
(2)如果增加一个变量或者删除一个变量,回归系数的观测值变化很大。
(3)如果说F检验通过,并且决定系数值也较大,但是t检验并不显著,也可能存在多重共线性。
(4)回归系数的正负符号与专业知识相反或与实际分析结果不符,也会存在多重共线性的可能。
以上方法可能会存在误差,更多偏向于主观,还有一种正规检验方法,观察回归分析中的VIF值(方差膨胀因子),这个检验方法更为严谨、准确。通常的判断标准是VIF大于10即具有多重共线性,有的文献也说大于5即有共线性。
其中VIF值如下:
VIF=(1−R2)−1
从公式中我们发现VIF和R方是有直接关系的。
当VIF>5,1- R2

处理多重共线性

多重共线性

处理多重共线性经验式做法:

(1)删除不重要的共线性变量

但是删除变量后可能会导致模型和原本分析的模型不一样,可能会出现决策错误等现象。

(2)增加样本容量

多重共线性有可能与样本量过少有关,所以如果存在也可以加大样本量。但是加大样本量具有局限性比如实验已经结束或者其它原因。

(3)变量转换

构造一个新的变量,这一新变量是多重共线性变量的函数,然后用这个新的变量代替多重共线性的变量,但是要注意组合后的数据需要有实际意义否则模型不好解释。

其它处理方法:

多重共线性

1、岭回归

岭回归分析是一种修正的最小二乘估计法,当自变量系统中存在多重共线性时,它可以提供一个有偏估计量,这个估计量虽有微小偏差,但它的精度却能大大高于无偏估计。

如果使用SPSSAU进行分析岭回归一般有两个步骤:岭回归通过引入k个单位阵,使得回归系数可估计;单位阵引入会导致信息丢失,但同时可换来回归模型的合理估计。针对岭回归:其研究步骤共为2步,分别是结合岭迹图寻找最佳K值;输入K值进行回归建模。

2、逐步回归

逐步回归分析方法视自变量对因变量的影响显著性大小从大到小逐个引入回归方程,从处理角度来看逐步回归比岭回归和主成分回归要好一些。逐步回归面临着检验的显著性水平的选择困难它通常得不到最优变量子集,可以利用SPSSAU进阶方法中逐步回归进行分析。

多重共线性

3、主成分回归

主成分回归根据主成分分析的思想提出的。主成分估计和岭回归类似都是一种有偏估计。主成分分析利用降维的思想对数据信息进行浓缩,将多个分析项浓缩成几个关键概括性指标;剔除对系统影响微弱的部分。通过对各个主成分的重点分析,来达到对原始变量进行分析的目的。主成分回归就是用对原变量进行主成分分析后得到的新的指标来代替原变量,再使用最小二乘法进行回归分析。由于对原变量的综合,就可以起到克服多重共线性所造成的信息重叠的作用,从而消除多重共线性对回归建模的影响。

4、偏最小二乘法

偏最小二乘法不仅可以用单变量回归分析方法,也可以用于多变量回归分析方法,一般情况下处理样本量相对较小,自变量多的数据。

本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。E-MAIL:dandanxi6@qq.com

(0)
上一篇 2022-12-26 09:19
下一篇 2022-12-26 09:29

相关推荐

  • 地板上的胶怎么快速去除,地板上有地板胶怎样去除

    木地板给人的感觉是温馨简洁,即使赤脚走在木地板上也会感到寒冷,但是在铺木地板的过程中需要用胶水来胶合地板,待装修后地板上一般都会残留一些胶质物,这是无法避免的,那地板上的胶如何清理…

    2023-10-23
  • 戊戌变法时期,维新派提出的政治主张

    今年是戊戌变法120周年。清朝光绪二十四年(1898年,戊戌年),光绪帝颁布《定国是诏》,进行朝政体制的变革,希望中国走上君主立宪的道路。然而,变法遭到慈禧太后为首的保守派反对,最…

    2024-01-11
  • 归档档案盒的标准不一样

    6.4.1 档案盒 6.4.1.1 档案盒封面应标明全宗名称。档案盒的外形尺寸为310mm×220mm(长×宽),盒脊厚度可以根据需要设置为20 mm、30mm、40mm、50mm…

    2023-10-17
  • 养胃的食物帮你摆脱胃病纠缠

    炎热的天气里,人们吃的东西很容易变质,尤其是现在大家都喜欢在外面点外卖,商家放的调料都比较重,就算变质了也很难吃出来,这一下子胃就撑不住了。它是夏季“养胃高手”,隔三差五吃一点,养…

    2023-05-11
  • 干果小知识大全(干果知识)

    食用水果通常有两种方式:一是鲜果马上食用,另一种是压榨风干成干果。很多人的心目中都认为坚果是非常健康的小零食,所以现在的人都很喜欢吃干果,那干果到底是什么呢?它包括哪些呢?以下内容…

    2024-01-02
  • 孕期睡觉很重要,这两种睡姿要避免,容易伤胎盘吗

    文|孕育乖宝宝 随着孕期时间慢慢增加,胎儿在肚子中也越来越大,妈妈床上休息的时候,翻来覆去,总是难以找到舒服的姿势,这就影响了孕期睡眠的质量,如何才能改善是非常重要的,因为孕妈妈睡…

    2024-01-23
  • 蓝田的由来知多少(蓝田白村的由来)

    玉之美者为蓝(周礼),故得县名“蓝田”。秦始皇传国玉玺为蓝田水苍玉所制。 秦宁公十二年(前704年),弭为荡氏所灭。秦宁公灭荡氏,弭改隶秦国,称“蓝”…… 秦献公六年(前379年)…

    2023-01-30
  • 十几年前就有玳瑁犯法吗

    “我听人说,玳瑁标本放在家里能够镇宅辟邪,我就想着正好能放到新买的房子里。因为迷信触犯了法律,我悔不当初。”近日,北京市海淀区检察院对一起非法买卖玳瑁标本案的犯罪嫌疑人马某作出相对…

    2023-04-11
  • 健脑的蔬菜水果(吃什么水果可以健脑)

    我们的大脑每天日理万机,非常劳累!试试多吃这7种蔬果,给大脑增加动力! 1、南瓜 β-胡萝卜素可以维持较为敏锐的思考能力。锌摄取不足,容易导致记忆力衰退、注意力不集中等问题。而南瓜…

    2023-10-06
  • 宝宝蛋白过敏换奶粉要转奶么,宝宝牛奶蛋白过敏如何换奶粉

    宝宝牛奶蛋白过敏是很痛苦的事,在饮食上需要规避很多食物,同时喝的奶粉也比较特殊,需要食用特殊医学用途配方食品。不过在给宝宝吃水解奶粉时,宝妈们会存在不少育儿疑惑,其中“转奶”问题就…

    2023-10-17