2 简单线性回归模型

简单线性回归是利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。

2 简单线性回归模型

• 回归分析与回归函数
  • 变量间的关系
    • 确定的函数关系
    • 相关关系
      • 相关系数
        • 相关关系的度量，只反映——线性相关程度，不能说明非线性相关关系
        • 总体相关系数
        • 样本相关系数
    • 没有关系
  • 几个概念
    • Y的条件分布和条件概率
      • 条件分布
        • 当X取某个固定值（条件），Y的值形成的分布
      • 条件概率
        • X取某个固定值，Y取不同值的概率
    • Y的条件期望
      • 条件分布的均值
    • 回归函数
  • 总体回归函数 PRF
    • 概念
    • 表现形式
      • 条件期望的
      • 个别值的
        • 引入随机扰动项u
          • u的概念
            • Yi与E(Y|Xi)的偏差
          • u的性质
  • 样本回归函数 SRF
    • 概念
    • 表现形式
      • 条件期望
      • 个别值
        • 引入残差项e
  • 关系
    • 明确
      • E（）：总体条件期望
      • Yi^：样本估计值，是对总体条件期望E的估计
      • Yi：观测值
    • ei是ui的估计
• 简单线性回归模型参数估计
  • 模型基本假定
    • 对模型和变量的假定
    • 对u的假定
      • 零均值假定
      • 同方差假定
        • 对于不同的X取值的波动程度相同
      • 无自相关假定
        • 随机扰动项序列之间无自相关
      • xi是非随机的，或者Xi与ui不相关
      • 正态性假定
  • 最小二乘法
    • 基本思想
      • 寻找估计值，使 残差平方和最小
    • 数学性质
      • ei的均值为0
      • OLS回归线通过样本均值
    • 统计性质
      • 参数估计量的评价标准
        • 无偏性
          • 均值角度
        • 有效性
          • 方差角度
          • Var(β^)越小，越有效
        • 一致性
          • 随n增大，渐进无偏，渐进有效
      • OLS估计量的统计性质
        • 高斯定理BLUE： OLS估计量是最佳线性无偏估计量
          • 线性特征：βk^是Y的线性函数
          • 有效性
          • 无偏性：OLS估计的估计量 具有最小方差
• 拟合优度的度量
  • 度量方法——可决系数R^
    • ESS在TSS中所占的比重
    • 公式
    • 可决系数与相关系数
      • 同
      • 异
  • 总变差的分解
• 回归系数的假设检验和区间估计
  • βk的分布
    • 服从正态分布
    • 标准化变换
      • 总体σ^已知
      • 总体σ^未知
        • 大样本
          • 用无偏估计量代替真实方差
        • 小样本
          • 不再服从N分布，而是服从t分布
  • βk的区间估计
    • 总体σ^已知
    • 总体σ^未知
      • 大样本
      • 小样本
  • βk的假设检验
    • t检验
      • 总体σ^已知
      • 总体σ^未知
        • 大样本
          • z
        • 小样本
          • t
    • P检验
• 回归模型的预测
  • Y的平均值预测
  • Y的个别值预测
  • Y区间的预测特点