卷积神经网络

卷积神经网络的详细架构，全连接网络瓶颈，是随着图片的数据尺寸越大，隐层网络会非常复杂，快来看看吧！

卷积神经网络

• 全连接网络瓶颈
  • 随着图片的数据尺寸越大，隐层网络会非常复杂
• 卷积神经网络
  • 层结构
    • 卷积层
      • 卷积核
        • 现在为卷积核组
          • hxwxb
        • 特征响应图组深度等于卷积核的个数
        • 不同的特征响应图反映了输入图像对不同卷积核的响应效果
        • 同一特征响应图上不同位置的值表示输入图像上不同位置对同一卷积核的响应结果
      • 卷积步长
        • 按照指定间隔进行卷积操作
      • 边界填充
        • 作用
          • 保持输入输出尺寸一致
        • 最常见都是零填充
    • 激活层
    • 池化层
      • 对每个特征响应图独立进行，降低图组中每个图的宽度核高度，减少后续卷积层的参数的数量，增大感受野，进而控制过拟合
      • 操作
        • 对特征响应图某个区域进行池化就是在该区域上指定一个值代表整个区域
        • 常见种类
          • 最大池化
            • 相当于非最大化抑制
          • 平均池化
      • 超参数
        • 池化窗口
        • 池化步长
    • 全连接层
  • 损失函数
    • 交叉熵损失
  • 优化算法
    • SGD
    • 带动量的SGD
    • ADAM
• 图像增强
  • 问题
    • 过拟合是因为学习样本太少，导致无法训练出能够泛化到新数据的模型
  • 从现有训练样本中生成更多的训练数据，方法是利用多种能够生成可信图像的随即变换来增加样本
  • 目的
    • 让模型能够观察数据的更多内容，从而具有更好泛化能力
  • 样本增强
    • 随机缩放、抠图
      • 训练阶段：在不同尺度、不同区域随机扣取
      • 测试阶段：按照预先定义的方式扣取
    • 色彩抖动
    • 平移、旋转、畸变、裁剪等