机器学习

关于机器学习概述的思维导图，主要内容有定义、范围、方法、应用——大数据、子类——深度学习。

机器学习

• 定义
  • 计算机利用已有数据
    • “训练”
  • 得到某种模型
  • 并用此模型预测未来
• 范围
  • 模式识别
    • 工业界中的机器学习
  • 数据挖掘
    • =机器学习+数据库
  • 统计学习
    • ≈机器学习，统计学习者重点关注的是统计模型的发展与优化，偏数学；而机器学习者更关注的是能够解决问题，偏实践
  • 计算机视觉
    • =图像处理＋机器学习，eg.百度识图，手写字符识别，车牌识别
  • 语音识别
    • =语音处理+机器学习，eg.Siri，小度，小爱
  • 自然语言处理
    • =文本处理+机器学习，
• 方法
  • 监督学习算法
    • 1.回归算法
      • 线性回归
        • 最小二乘法
          • 处理数值问题
      • 逻辑回归
        • 对对线性回归的计算结果加上了一个Sigmoid函数，将数值结果转化为了0到1之间的概率
          • 预测结果是离散的分类
    • 2.神经网络
      • 学习机理
        • 分解与整合
      • 算法
        • BP算法
      • 概述
        • 在神经网络中，每个处理单元事实上就是一个逻辑回归模型，逻辑回归模型接收上层的输入，把模型的预测结果作为输出传输到下一个层次。通过这样的过程，神经网络可以完成非常复杂的非线性分类。
    • 3、SVM（支持向量机）
      • 逻辑回归算法的强化：通过给予逻辑回归算法更严格的优化条件，支持向量机算法可以获得比逻辑回归更好的分类界线。
      • 通过跟高斯“核”的结合，支持向量机可以表达出非常复杂的分类界线，从而达成很好的的分类效果。“核”事实上就是一种特殊的函数，最典型的特征就是可以将低维的空间映射到高维的空间。
      • 既可以保持计算效率，又可以获得非常好的分类效果
  • 无监督学习算法（训练数据不含标签，目的是通过训练，推测出数据标签）
    • • 1.聚类算法
        • 计算种群中的距离，根据距离的远近将数据划分为多个族群
        • K-Means算法
      • 2.降维算法
        • 将数据从高维降低到低维层次
        • PCA算法(即主成分分析算法)
  • 推荐算法
    • 一类是基于物品内容的推荐
      • 将与用户购买的内容近似的物品推荐给用户
    • 另一类是基于用户相似度的推荐
      • 将与目标用户兴趣相同的其他用户购买的东西推荐给目标用户
  • 其他
    • 高斯判别，朴素贝叶斯，决策树等等
• 应用——大数据
  • 成功的机器学习应用不是拥有最好的算法，而是拥有最多的数据！
• 子类——深度学习
  • 传统的神经网络发展到了多隐藏层的情况
• 父类——人工智能
• ML的思考——计算机的潜意识