machine_learning

这是一篇关于machine_learning的思维导图，有助于帮助您熟悉知识要点，加强记忆。有需要的同学，可以收藏下哟

machine learning

• 模型类别
  • classification 分类
    • binary classification 二分类
      • positive class +
      • negative class -
    • multi-class classification 多分类
      • class 1
      • class 2
      • ...
      • class n
  • regression 回归
  • clustering 聚类
    • cluster 1 簇
    • cluster 2 簇
    • ...
    • cluster n 簇
    • 每一簇事先未定义&通常没有标记信息
• 关于学习
  • ground-truth 真实、真相
    • distribution 分布
  • inductive learning 归纳学习
    • 从样例中学习
  • hypothesis 假设
    • 假设空间
      • version space 版本空间 (假设集合)
    • ground-truth 真实、真相
    • 逼近
  • dataset 数据集
    • instance\sample 示例、样本
      • distribution 分布
      • feature vector 特征向量 (attribute space\sample space\输入空间) d 维样本空间中的一个特征向量
        • attribute\feature 1
          • attribute value
        • attribute\feature 2
          • attribute value
        • attribute\feature 3
          • attribute value
        • attribute\feature 4
          • attribute value
        • ...
        • attribute\feature d 属性
          • attribute value 属性值
      • label space 标记空间\输出空间i
        • label -> example样例
      • independent and identically distributed (i.i.d.) 独立同分布
        • 样本空间
  • learner 学习器
    • generalization 泛化能力
      • 能很好的适应整个样本空间
        • 记住样本，“死记硬背式学习”
  • learn 学习
    • 在所有假设空间中进行搜索 找到与训练集匹配 (fit) 的一个假设
    • inductive bias 归纳偏好（偏好）
      • feature selection 特征选择
      • Occam's rezor 奥卡姆剃刀
        • 若有多个假设与观察一致，则选择最简单的那个 -> 泛化能力强
      • 算法 a 在训练集之外的所有样本 x 上的误差： 累计算法a下，假设h概率 & 训练集外样本x概率
      • No Free Lunch Theorem,NFL 没有免费的午餐定理
        • NFL定理：假定f均匀分布，无论算法a多聪明，算法b多笨拙，它们的期望性能相同； 前提：所有“问题”出现的机会相同、或所有问题同等重要； 脱离具体问题，空泛谈论“什么学习算法更好”毫无意义。
      • 学习算法自身的归纳偏好与问题是否相配，往往会起到决定性作用。
  • 目标
    • 使学得的模型能很好地适用于“新样本”
• learning\ training
  • training data 训练数据
    • training set 训练集
      • training sample 训练样本
        • sample 1
        • sample 2
        • ...
        • sample m1
• testing
  • testing data 训练数据
    • testing set 测试集
      • testing sample 测试样本
        • sample 1
        • sample 2
        • ...
        • sample m2
  • unseen instance 未见示例
• 流程：对训练集学习，建立X->Y的映射
• 学习任务
  • supervised learning 监督学习
    • 分类
    • 回归
  • unsupervised learning 无监督学习
    • 聚类
• 学术
  • 机器学习
    • 国际学术会议
      • 国际机器学习会议，ICML
      • 国际神经信息处理系统会议，NIPS
      • 国际学习理论会议，COLT
    • 区域性会议
      • 欧洲机器学习会议，ECML
      • 亚洲机器学习会议，ACML
    • 国际学术期刊
      • Journal of Machine Learning Research
      • Machine Learning
  • 人工智能
    • 会议
      • IJCAI
      • AAAI
    • 期刊
      • Artificial Intelligence
      • Journal of Artificial Intelligence Research
  • 数据挖掘
    • 会议
      • KDD
      • ICDM
    • 期刊
      • ACM Transactions on Knowledge Discovery from Data
      • Data Mining and Knowledge Discovery
  • 计算机视觉与模式识别
    • 会议
      • CVPR
    • 期刊
      • IEEE Transactions on Pattern Analysis and Machine Intelligence
  • 神经网络
    • 期刊
      • Neural Computation
      • IEEE Transactions on neural Networks and Learning Systems
  • 统计学
    • 期刊
      • Annals of Statistics
  • 国内机器学习
    • 会议
      • “中国机器学习大会”CCML
      • “机器学习及其应用”研讨会MLA