线性回归

现代心理与教育统计线性回归思维导图分享，回归分析的目的，是在于确定自变量X与因变量Y的关系为显著相关，之后借助回归模型来预测在自变量X一定值时因变量Y的发展变化，欢迎大家学习。

线性回归

• 概述
  • 回归
    • 回归分析
      • 通过大量的观测发现变量之间存在的统计规律性，并用一定的数学模型表示大量相关关系的方法
    • 一元线性回归分析
      • 当只有一个自变量并且统计量大体成一次函数的线性关系的回归分析
  • 模型和系数
    • ^Y=a+bX
    • ^X=a+bY
    • 回归模型用来表达变量之间规律的数学模型
    • X:自变量/预测变量
    • Y：对应于X的Y变量的估计值/结果变量
    • a：表示该直线在Y轴的截距
    • b：表示该直线的斜率，即X变化时Y的变化率，表示X变化一个单位时，Y变化b个单位
    • 又叫 Y对X的回归系数
      • 用bY·X表示或X®Y
  • 基本假设
    • 线性关系假设
      • X与Y在总体上具有线性关系，这是线性回归的最基本假设
    • 正态性假设
      • 在回归分析中的Y服从正态分布
    • 独立性假设
      • 一个X对应的Y值与另一个X对应的Y值间独立
      • 不同X产生的误差相互独立，误差与X间也相互独立
    • 误差等分散性假设
      • X对应的误差，除呈随机化的常态分布，其变异量也应相等，称为误差等分散性
  • 大纲
• 内容
  • 建立散点图
    • 直观判断是非存在线性关系
      • 选择方法
        • 平均数法
          • 设Y=a+bX
          • 将数据按照奇偶分成两组，然后分别代入回归方程，形成二元一次方程组后分别解出a和b
        • 最小二乘法
          • 原理
            • 误差平方和最小原理，即 散点图中每一点沿Y轴方向到直线的距离的平方和最小
            • • 看SSR在总的比重，越大越好
              • 若SSR回归造成变异比误差造成变异还大，那回归直线有效
              • 回归直线与红蓝线相差比较大，那回归效果较好
              • 蓝线:X不能预测Y
              • 红线：X可以预测Y
              • 若红蓝线斜率差距大，则回归直线建立得好
          • 计算
  • 建立回归模型
  • 检验回归模型
    • • • b：红斜率
        • b：蓝斜率
          • 一般b=0
    • 决定系数（SSR/SST)
      • 决定系数（r²）来衡量回归效果
      • r²=回归平方和在总平方和中所占的比例
      • 若r²=0.64，则表明Y的变异中有64%是由变量X的变异引起的，或说有64%可由X的变异解释
    • 回归模型的有效性检验（方差分析F=MSR/MSE)
      • 对求得的回归方差进行显著性检验
    • 回归系数的显著性检验（假设检验b&b）
      • 对求得的回归系数进行显著性检验
      • 对于回归模型的检验而言，这两种检验方法（回归系数&回归方程）是一致的，所以采用其中一种即可）
  • 检验回归效果
  • 估计及预测
• 应用
  • 回归分析的目的，在于确定自变量X与因变量Y的关系为显著相关，之后借助回归模型来预测在自变量X一定值时因变量Y的发展变化
  • 回归方程的主要应用在于应用建立的回归模型进行估计和预测
    • 点预测
      • 直接将确定的自变量Xi的值代入回归模型，得到相应的Yi值
    • 区间预测
      • 以一定的概率为保证，预测当自变量X取一定的值Xi时，因变量Yi的可能范围
      • Y的区间范围为
        • df=N-2