现代心理与教育统计 回归分析

现代心理与教育统计考研复习 应用心理复习资料，一起来看回归模型、回归分析和相关分析的区别和联系的知识。

回归分析

• 回归模型
  • 表达变量之间规律的数学模型
  • 分类
    • 线性回归模型
      • 线性回归方程
    • 非线性回归模型
  • 研究两个变量之间的线性关系时就是直线回归
  • 只有一个自变量的线性回归叫一元线性回归或简单线性回归
  • 用线性方程来表达一个因变量与一组自变量的数量关系使是多元线性回归
  • 元→自变量的个数
    • 多元方差分析中因变量有多个，与此处不同
  • 回归模型建立方法
    • 做散点图，判断两变量之间是否大致成一种直线关系
    • 设直线为线性关系
    • 通过方法计算ab
      • 平均数方法
      • 最小二乘法
        • 在散点图中，每个点沿着y轴方向到直线的距离的平方和最小
        • 简单来说使得误差的平方和最小
          • 
        • 这条线的代表性最好，其表达式就是所求的回归方程
    • ab代入表达式，得到回归方程
      • 
    • 回归系数和相关系数的关系
      • 
  • 线性回归的基本假设
    • 先答含义再答假设
    • 线性关系假设
    • 正态性假设
      • 回归分析中的Y必须服从正态分布
    • 独立性假设
      • 不同X对应的一组Y相互无关相互独立，且不同X的误差相互独立
    • 误差等分散性假设
      • 在特定的X水平下的误差除了应呈随机化的常态分布
      • 变异量也应该相等
  • 回归模型的检验和估计
    • 回归方程的有效性检验→对求得的回归方程进行显著性检验
      • 即考察方程是否真实反映了变量之间的数量关系，判断方程是否有意义
    • 检验方法
      • 回归方程整体检验
        • 通常使用方差分析的思想和方法进行
        • 分解Y值变异的几个来源
        • 
      • 回归系数b的显著性检验
        • 如果b显著则回归方程显著，或XY有显著的线性关系
        • b不显著则回归方程不显著，XY无显著的的线性关系
        • b检验方法
          • 即总体回归系数β为0时采用t检验
            • 
            • F=t*t 所以对回归系数的显著性检验和对回归方程的方差分析是等效的在实际研究中，对回归方程的检验只用其中一种方法即可
      • 测定系数和相关系数的拟合
        • 测定系数（决定系数）
          • 衡量回归方程效度高低
            • 因变量的变异中可以从自变量的变异来解释的比例
              • 
          • 
            • 比值越大回归效果越好
            • 若为1则Y的变异完全由X的变异解释，没有误差
            • 比例为0说明Y的变异与x的变异无关，回归方程无效
      • 估计标准误差的计算
  • 回归方程的应用
    • 通过XY之间的对应关系，用X估计Y
      • 只要r2≠1运用方程预测的时候一定存在误差
      • 回归预测
        • 点预测
          • 将确定的自变量Xi值直接代入回归模型，得到相应的Yi值
        • 区间预测
          • 以一定的概率为保证，当自变量X取一定的Xi值时，Yi的可能范围
            • 要以估计标准误为基础
          • 
            • 说明在回归线上下波动比在平均数上下波动要小
    • 真值的预测区间
    • 回归分析与相关分析的综合运用
      • 具体步骤
        • 将成对数据绘制成散点图，判断是否线性相关
        • 建立回归方程
        • 回归方程显著性检验
        • 计算回归估计标准误差
        • 根据建立的回归模型进行预测，估计真值预测区间
      • 应注意的问题
        • 进行回归与相关分析时，不要认为某一变量的变化一定是由于另一变量或另几个变量的变化所引起，回归分析不能准确确定因果关系
        • 变量之间不存在相关关系，不要刻意追求，还进行回归与相关分析，这样做没有意义
        • 模型在抽取样本的同一范围内应用才有效
• 回归分析和相关分析的区别和联系
  • 联系：回归分析与相关分析都是研究两个或两个以上变量之间关系的方法
  • 区别
    • 回归分析是以数学方式表示变量间的关系，相关分析检验度量这些关系的密切程度
    • 分析变量间密切程度时一般使用相关系数，这个过程是相关分析
    • 确定变量之间数学关系的可能形式，并用这个数学模型来表达这种关系形式，这个过程是回归分析
    • 回归分析中Y是因变量，处于被解释的地位，相关分析中XY是平等地位
    • 相关分析中XY全是随机变量，回归分析中因变量Y是随机变量，X不定，通常回归模型中假定X是非随机变量
    • 相关分析是为了刻画两个变量之间线性相关的密切程度，回归分析不仅揭示X对Y的影响大小，还可以由回归方程进行预测和控制
• 定义
  • 用一定数据模型来表述变量相关关系的方法
    • 通过大量的观测数据可以发现变量之间存在的统计规律性，并用一定数据的数学模型表示出来
  • 典型特点：数学模型

回归分析

• 回归模型
  • 表达变量之间规律的数学模型
  • 分类
    • 线性回归模型
      • 线性回归方程
    • 非线性回归模型
  • 研究两个变量之间的线性关系时就是直线回归
  • 只有一个自变量的线性回归叫一元线性回归或简单线性回归
  • 用线性方程来表达一个因变量与一组自变量的数量关系使是多元线性回归
  • 元→自变量的个数
    • 多元方差分析中因变量有多个，与此处不同
  • 回归模型建立方法
    • 做散点图，判断两变量之间是否大致成一种直线关系
    • 设直线为线性关系
    • 通过方法计算ab
      • 平均数方法
      • 最小二乘法
        • 在散点图中，每个点沿着y轴方向到直线的距离的平方和最小
        • 简单来说使得误差的平方和最小
          • 
        • 这条线的代表性最好，其表达式就是所求的回归方程
    • ab代入表达式，得到回归方程
      • 
    • 回归系数和相关系数的关系
      • 
  • 线性回归的基本假设
    • 先答含义再答假设
    • 线性关系假设
    • 正态性假设
      • 回归分析中的Y必须服从正态分布
    • 独立性假设
      • 不同X对应的一组Y相互无关相互独立，且不同X的误差相互独立
    • 误差等分散性假设
      • 在特定的X水平下的误差除了应呈随机化的常态分布
      • 变异量也应该相等
  • 回归模型的检验和估计
    • 回归方程的有效性检验→对求得的回归方程进行显著性检验
      • 即考察方程是否真实反映了变量之间的数量关系，判断方程是否有意义
    • 检验方法
      • 回归方程整体检验
        • 通常使用方差分析的思想和方法进行
        • 分解Y值变异的几个来源
        • 
      • 回归系数b的显著性检验
        • 如果b显著则回归方程显著，或XY有显著的线性关系
        • b不显著则回归方程不显著，XY无显著的的线性关系
        • b检验方法
          • 即总体回归系数β为0时采用t检验
            • 
            • F=t*t 所以对回归系数的显著性检验和对回归方程的方差分析是等效的在实际研究中，对回归方程的检验只用其中一种方法即可
      • 测定系数和相关系数的拟合
        • 测定系数（决定系数）
          • 衡量回归方程效度高低
            • 因变量的变异中可以从自变量的变异来解释的比例
              • 
          • 
            • 比值越大回归效果越好
            • 若为1则Y的变异完全由X的变异解释，没有误差
            • 比例为0说明Y的变异与x的变异无关，回归方程无效
      • 估计标准误差的计算
  • 回归方程的应用
    • 通过XY之间的对应关系，用X估计Y
      • 只要r2≠1运用方程预测的时候一定存在误差
      • 回归预测
        • 点预测
          • 将确定的自变量Xi值直接代入回归模型，得到相应的Yi值
        • 区间预测
          • 以一定的概率为保证，当自变量X取一定的Xi值时，Yi的可能范围
            • 要以估计标准误为基础
          • 
            • 说明在回归线上下波动比在平均数上下波动要小
    • 真值的预测区间
    • 回归分析与相关分析的综合运用
      • 具体步骤
        • 将成对数据绘制成散点图，判断是否线性相关
        • 建立回归方程
        • 回归方程显著性检验
        • 计算回归估计标准误差
        • 根据建立的回归模型进行预测，估计真值预测区间
      • 应注意的问题
        • 进行回归与相关分析时，不要认为某一变量的变化一定是由于另一变量或另几个变量的变化所引起，回归分析不能准确确定因果关系
        • 变量之间不存在相关关系，不要刻意追求，还进行回归与相关分析，这样做没有意义
        • 模型在抽取样本的同一范围内应用才有效
• 回归分析和相关分析的区别和联系
  • 联系：回归分析与相关分析都是研究两个或两个以上变量之间关系的方法
  • 区别
    • 回归分析是以数学方式表示变量间的关系，相关分析检验度量这些关系的密切程度
    • 分析变量间密切程度时一般使用相关系数，这个过程是相关分析
    • 确定变量之间数学关系的可能形式，并用这个数学模型来表达这种关系形式，这个过程是回归分析
    • 回归分析中Y是因变量，处于被解释的地位，相关分析中XY是平等地位
    • 相关分析中XY全是随机变量，回归分析中因变量Y是随机变量，X不定，通常回归模型中假定X是非随机变量
    • 相关分析是为了刻画两个变量之间线性相关的密切程度，回归分析不仅揭示X对Y的影响大小，还可以由回归方程进行预测和控制
• 定义
  • 用一定数据模型来表述变量相关关系的方法
    • 通过大量的观测数据可以发现变量之间存在的统计规律性，并用一定数据的数学模型表示出来
  • 典型特点：数学模型