线性回归

线性回归的思维导图，如经济显著性和统计显著性：在统计上拒绝零假设不一定英文中它是经济上显著的。

线性回归

• 假设
  • 干扰项e条件独立于解释变量X
    • 当干扰项的均值不随解释变量值的改变时，意味着干扰项和解释变量不相关
    • 当干扰项的均值对于任何给定的解释变量值X=x都为0时，那么他总的均值必然为零
    • 每个观测点的干扰项的均值不会随着其他观测点的解释变量的变化而变化
    • 保证了我们可以通过重复抽样，是的误差项的均值为0 ，从而估计系数的均值等于真实值，即系数估计是无偏的估计
    • 通常在时间序列数据中，不通气的解释变量可能包含了当期干扰项的信息你，因此在又时间序列的数据中（包括面板数据）要避免干扰项对因果关系的估计，会要求强外生假设。
    • 在固定解释变量的情况下，如果缺失变量，会造成干扰项的均值不等于0，并且不同观测点的均值是不同的，从而影响因果关系的估计（无法被重复抽样所消除）
    • 附录一
  • • 不同观测点干扰项同方差
      • 异方差意味着每个观测点的干扰项来源不同
    • 不同观测点干扰项不相关
      • 一个观测点干扰项的线性不包含预测另一个观测点干扰项的信息
      • 如果观测点是时间序列，由于干扰因素的发生通常在时间上具有连续性 ，会造成不同时间点的干扰项相关，此时干扰项的方差就存在自相关的问题
    • 异方差和自相关问题的处理
      • 邱书p91
    • 集群相关
      • Moulton因子
        • 邱书p109
      • 处理
        • 邱书p110
  • 邱书p43表格
• 最小二乘法
  • • 残差由于是使用最小二乘法计算得出的，所以总是与解释变量不相关
    • 残差与解释变量不相关不意味着模型中干扰项与解释变量不相关
  • • 变量相关变量之间的相关性
      • 在回归时，共线性的信息将被去除
        • 当出现严重共线性时，由于变量可供估计的独立信息很少，回归得到的系数很难体现出统计显著，极端情况下（完全共线性时），将无法计算系数。
      • 当存在严重的共线性时，可能会出现R^2很大，但是系数却不显著。
• 内生性问题
  • 干扰项与解释变量相关
  • 相关关系系数对因果关系系数的偏差
  • 最小二乘法得到的估计系数可能并非我们希望的因果关系系数，而是有偏的
  • 来源
    • 遗漏解释变量
    • 测量误差
      • 解释变量的观测误差造成了干扰项中包含测量误差，进而导致干扰项里包含了测量误差，进而导致干扰变量与观测的解释变量相关
      • 被解释变量的测量误差虽然不会造成偏差，但是由于噪声变大，所以回归结果的显著性会降低
    • 变量互为因果
• 经济显著性和统计显著性
  • 在统计上拒绝零假设不一定英文中它是经济上显著的
• 多余变量/共线性
  • 虽然得到的系数仍然是一致无偏估计，但是会影响假设检验的结果
• 检验分组系数的不同
  • 邱书p85
• 包含交叉项的模型
  • 正确解释系数
    • 邱书p83