机器学习

机器学习,分类,集成模型,聚类,回归,pthon,

机器学习

• 分类
  • 决策树
    • 区隔力指标
      • 信息增益
      • 信息增益比
      • 基尼指数
    • 内部节点
    • 分支
    • 根节点
    • 叶节点
    • 剪枝
      • 预剪枝
      • 后剪枝
  • KNN
    • 确定K个最近的点
    • 距离计算公式
  • 朴素贝叶斯
    • 特征要相互独立
    • 遇到极端值，要加一个平滑项
  • SVM
    • 核函数
      • gamma?
    • 软间隔
      • C
  • 逻辑回归
    • 正则化
      • L1
      • L2
    • 只能用于分类
    • 最小二乘法
  • 评估指标
    • accuracy
    • precision
    • recall
    • F(beta)
      • F1
    • ROC
    • AUC
    • confusion matrix
• 回归
  • 决策树
  • KNN
  • 朴素贝叶斯
  • SVM
  • 线性回归
  • MAE
  • MSE
  • RMSE
  • R2
• 集成模型
  • 投票器
    • 软、硬
    • 同质、异质
    • 好而不同
      • bagging
        • 随机抽训练数据
          • 随机森林
        • 并行训练基模型
      • boosting
        • 串行训练
          • Adaboost
          • GBDT
            • XGboost
            • LGB
            • Catboost
• 聚类
  • KMeans
    • 确定K
    • 初始质心要优化，否则陷入局部最优
  • 层次聚类
    • 自下而上聚类
    • 自上而下聚类
    • 确定k
  • 密度聚类
    • 单位长度
    • minpoints
  • 轮廓系数
  • J...