统计分析与机器学习

机器学习致力于研究：如何通过计算的手段，利用经验来改善系统自身的性能，从而在计算机上从数据中产生“模型”，用于对新的情况给出判断。

统计分析与机器学习

• 统计分析
  • 统计学习
    • 算法
      • 在线学习（online learning）
      • 批量学习（batch learning）
    • 技巧
      • 贝叶斯学习（Bayesian learning）
      • 核方法（Kernel method）
        • 使用核函数表示和学习非线性模型，将线性模型学习方法扩展到非线性模型的学习 不显式地定义输入空间到特征空间的映射，而是直接定义核函数，即映射之后在特征空间的内积 假设x1，x2是输入空间的任意两个实例，内积为<x1, x2>，输入空间到特征空间的映射为φ， 核方法在输入空间中定义核函数 K(x1, x2)，使其满足 K(x1, x2) = < φ(x1), φ(x2)>
    • 三要素
      • • 模型
          • 决策函数的集合
          • 参数空间
          • 条件概率的集合
          • 参数空间
        • 策略
          • 损失函数：一次预测的好坏
          • 风险函数：平均意义下模型预测的好坏
          • 0-1损失函数 0-1 loss function
          • 平方损失函数 quadratic loss function
          • 绝对损失函数 absolute loss function
          • 对数损失函数 logarithmic loss function 或对数似然损失函数 loglikelihood loss function
          • 损失函数的期望
          • 风险函数 risk function 期望损失 expected loss 由P(x,y)可以直接求出P(x|y),但不知道，
          • 经验风险 empirical risk 经验损失 empirical loss
          • 经验风险最小化与结构风险最小化
            • 经验风险最小化最优模型
            • 当样本容量很小时，经验风险最小化学习的效果未必很好，会产生“过拟合over-fitting”
            • 结构风险最小化 structure risk minimization，为防止过拟合提出的策略，等价于正则化（regularization），加入正则化项regularizer，或罚项 penalty term：
          • 求最优模型就是求解最优化问题：
        • 算法
          • 如果最优化问题有显式的解析式，算法比较简单 但通常解析式不存在，就需要数值计算的方法
    • 模型评估与模型选择
      • 训练误差，训练数据集的平均损失
      • 测试误差，测试数据集的平均损失
      • 损失函数是0-1 损失时
      • 测试数据集的准确率
      • 过拟合与模型选择
        • 假设给定训练数据集
        • 经验风险最小
    • 正则化与交叉验证
      • 正则化一般形式
      • 回归问题中
      • 交叉验证
        • 训练集 training set： 用于训练模型
        • 验证集 validation set： 用于模型选择
        • 测试集 test set： 用于最终对学习方法的评估
        • 简单交叉验证
        • S折交叉验证
        • 留一交叉验证
    • 泛化能力 generalization ability
      • 泛化误差 generalization error
        • 泛化误差上界
        • 比较学习方法的泛化能力------比较泛化误差上界
        • 性质：样本容量增加，泛化误差趋于0，假设空间容量越大， 泛化误差越大
      • 二分类问题
      • 期望风险和经验风险
      • 经验风险最小化函数
      • 泛化能力
      • 定理：泛化误差上界，二分类问题，当假设空间是有限个函数的结合 ，
      • 对任意一个函数f， 至少以概率1-δ，以下不等式成立：
    • 生成模型与判别模型
      • 监督学习的目的就是学习一个模型：
      • 决策函数
      • 条件概率分布
      • 生成方法Generative approach 对应生成模型：generative model
      • 朴素贝叶斯法和隐马尔科夫模型
    • 分类问题
      • 二分类评价指标 TP true positive FN false negative FP false positive TN true negative
      • 精确率
      • 召回率
      • F1值
    • 标注问题
      • 标注：tagging， 结构预测：structure prediction
      • 输入：观测序列， 输出：标记序列或状态序列
      • 学习和标注两个过程
      • 训练集
      • 观测序列
      • 输出标记序列
      • 模型：条件概率分布
    • 回归问题
      • 回归学习最常用的损失函数是平方损失函数，在此情况下，回归问题可以由 著名的最小二乘法(least squares)求解。
• 方法
  • supervised learning 监督学习
    • 基础关键词
      • 训练数据 training data
      • 模型 model
      • 假设空间 hypothesis
      • 评价准则 evaluation criterion
      • 策略 strategy
      • 算法 algorithm
      • Instance
      • feature vector
      • feature space
    • 输入实例x的特征向量
    • x(i)与xi 不同,后者表示多个输入变量中的第i个
    • 训练集
    • 输入变量和输出变量： 分类问题、回归问题、标注问题
    • 联合概率分布
      • 假设输入与输出的随机变量X和Y遵循联合概率分布P(X,Y)
      • P(X,Y)为分布函数或分布密度函数
      • 对于学习系统来说，联合概率分布是未知的，
      • 训练数据和测试数据被看作是依联合概率分布P(X,Y)独立同分布产生的。
    • 假设空间
      • 监督学习目的是学习一个由输入到输出的映射，称为模型
      • 模式的集合就是假设空间（hypothesis space）
      • 概率模型:条件概率分布P(Y|X), 决策函数：Y=f(X)
    • 问题形式化
  • unspervised learning 半监督学习
    • 训练集
    • 条件概率分布
    • 模型函数
    • 少量标注数据，大量未标注数据 利用未标注数据的信息，辅助标注数据，进行监督学习 较低成本
  • Unsupervised learning 无监督学习
  • Reinforcement learning 强化学习
    • 状态转移概率函数
    • 奖励函数
    • 策略π：给定状态下动作的函数
      • • 或者条件概率分布
    • 状态价值函数
    • 动作价值函数
    • 方法
      • 无模型（model-free）
        • 基于策略（policy-based）：求解最优策略π*
        • 基于价值（value-based）：求解最优价值函数
      • 有模型（model-based）
        • 通过学习马尔可夫决策过程的模型，包括转移概率函数和奖励函数
        • 通过模型对环境的反馈进行预测
        • 求解价值函数最大的策略π*
• 对象
  • Data ：计算机及互联网上的各种数字、文字、图像、视频、音频数据以及它们的组合。 数据的基本假设是同类数据具有一定的统计规律性。
• 目的
  • 用于对数据（特别是未知数据）进行预测和分析。