计算机视觉学习路线图

计算机视觉涵盖特征工程，神经网络，数据集，基础知识，分类算法五部分的知识内容。内容丰富，框架清晰，有需要的小伙伴可以下载收藏哦~

计算机视觉

• 数据集
  • CIFAR10
    • 10-class
    • 50000 train
    • 10000 test
  • ImageNet
  • MNIST
  • Fashion-MNIST
• 基础知识
  • 距离度量
    • L1
      • 曼哈顿距离
    • L2
      • 欧氏距离
  • 交叉验证
    • 5-flod
    • 10-flod
• 分类算法
  • KNN
    • 最近邻算法：找到 K 个最近的元素进行预测
      • 不使用
        • 计算数据量指数爆炸
  • 线性分类器
  • 神经网络
• 神经网络
  • 正则化
    • 避免数据拟合得过好，拟合到噪声
    • L1
    • L2
      • 倾向于分散的权重
    • 弹性网络
    • Dropout
    • Batch Normalization
  • 重要函数
    • softmax
  • 损失函数
    • 交叉熵
    • 均方误差
    • 铰链损失函数(hinge loss)
  • 优化函数
    • 二阶
      • 牛顿法
    • 一阶
      • SGD
        • 缺点
          • 震荡强烈
          • 会陷入局部最小值和鞍点处
        • 解决
          • 带动量 （Momentum）
      • Adagrad
        • 增加惩罚项
        • 缺点
          • 惩罚项会持续增加，导致更新越来越小
      • RMSprop
        • 在Adagrad中引入衰减因子，也称为 Leaky Adagrad
      • Adam
        • 融合动量和RMSprop，增加预热
      • 动态学习率变化
  • 激活函数
    • 引入非线性
    • sigmod 函数
      • 缺点
        • 饱和性会导致梯度消失
        • 输出恒为正
        • 指数运算较为消耗资源
    • tanh
    • ReLU
    • Leaky ReLU
    • Maxout
    • ELU
  • 卷积神经网络
    • 特点
      • 局部感受
      • 权值共享
      • 下采样
    • 层
      • 卷积层
        • 底层卷积层
          • 细节特征、转角等
          • 复杂的板块、条纹
        • 高层卷积层
          • 眼睛，鸟，嘴巴
      • 池化层（降采样）
        • 特点
          • 平移不变性
          • 减少参数量
          • 防止过拟合
          • 无需训练权重
        • 最大池化 MaxPooling
        • 平均池化 AvgPooling
      • 1x1 卷积核
        • 作用
          • 降维或升维
          • 跨通道信息交融
          • 减少参数量
          • 增加模型深度
    • 尺寸计算
  • 传播
    • 前向传播
    • 反向传播
      • 链式法则
    • 反卷积
    • 导向反向传播
  • 权重初始化
    • Xavier
    • 针对 Relu
  • Batch Normalization
    • 特点
      • 加快收敛
      • 改善梯度
      • 可以使用大学习率，对初始化不敏感
      • 代替正则化
      • 训练和测试阶段不同
  • EarlyStoping
• 特征工程
  • HOG
  • SIFT
  • 数据预处理
    • 归一化
      • 损失函数对于w的变化没那么敏感，更容易优化
    • 主成分分析、whitening