约束优化问题的优化算法

约束优化问题的优化算法，内容有： 1、可行方向法 2、罚函数法 3、判断是否为最优点

约束问题最优化方法

• 可行方向法
  • 1、确定可行方向（转化为求解线性规划问题）
  • 2、确定搜索步长
  • 3、确定初始可行点
    • 猜一个/或引入人工变量、求解辅助问题
  • 求解：：：：已知初始点后1、首先确认起作用约束和不起作用约束，写出相应系数矩阵；2、起作用约束确定可行方向；3、不起作用约束确定搜索步长
    • 重点：若无起作用约束，则下降方向取负梯度方向
• 罚函数法
  • 外点罚函数
    • 不一定在可行域，但接近可行域
  • 核心：转换为无约束优化问题
    • 一阶梯度为0求驻点（delta, r取极限）
      • 一般都是求解析解，然后求极限
  • 内点罚函数
    • 一定在可行域，但只适用于不等式约束问题
• 判断是否为最优点（约束问题的判断方式）
  • 非凸问题
    • 判断：：：1、一阶KT条件；2、二阶最优性条件
  • 凸问题
    • 判断：：：1一阶KT条件