凸集和凸函数

这是一篇关于凸集和凸函数的思维导，凸集和凸函数是数学中两个基础且重要的概念，它们为研究和解决各种问题提供了有力的工具。

凸集和凸函数

• 凸集
  • 线性规划（线性函数fi(αx + βy) = αfi(x) + βfi(y)） VS 非线性规划
  • 凸优化（凸函数fi(αx + βy) ≤ αfi(x) + βfi(y)）VS 非凸优化
  • 定义（λx + (1 − λ)y ∈ K）
  • 保凸运算（交集、向量和、伸缩、平移）
  • 特殊凸集
    • 超平面{x|a Tx = b}
    • 半空间{x|a Tx ≤ b}
    • 多面体P = {x|a T j x ≤ bj , j = 1, · · · , m}）
  • 基本概念
    • 范数（非负、正定、齐次、三角不等式）
    • 收敛（Xk→X*）
    • 几何基本概念
      • 直线线段、球、单位球开球
      • 内点内部、开集闭集、闭包边界
      • 仿射仿射组合仿射包、相对内部和相对边界
      • 凸组合凸包、凸集凸包
      • 锥、凸锥、锥组合锥包
    • 支撑和分离超平面
    • 凸集分离定理（投影定理、支撑超平面定理、超平面分离定理及其逆定理）
    • 仿射集与凸集分离
    • 严格分离
    • 含义、定理（闭集紧集两多面体）
    • 点和凸集的严格分离、择一定理（对广义凸规划的应用）
  • 锥
    • 正常锥的含义：凸实闭尖
    • 广义不等式及其性质
    • 最小元和极小元及其集合描述
    • 最小元的对偶性质
    • 极小元的对偶性质
    • 对偶锥及其性质
      • 广义不等式的对偶
      • 线性严格广义不等式的择一定理
      • 最小元的对偶性质
      • 极小元的对偶性质
      • 凸集极小元的对偶性质逆命题
• 凸函数
  • 定义（f (θx + (1 − θ)y) ≤ θf(x) + (1 − θ)f(y) ）、图像、上镜图、亚图（凸集和凸函数的联系）
  • 梯度、Hessian 矩阵、雅可比矩阵（多个函数）
  • 凸性判定（f(y)≥f(x)+▽f(x)T(y-x)）
    • 一阶条件
    • 二阶条件
    • 总结：凸函数上镜图为凸集
  • 常见凸函数（实数集上指数、幂、对数、负熵）
    • 范数都是凸（切比雪夫范数）
    • 最大值R^n上凸
    • 几何平均在定义域凹函数
  • 下水平集（凸函数下水平集凸集，凹函数上水平集凸集）
  • Jensen 不等式及其延伸(f(θX+(1-θ)y)≤θf(X)+(1-θ)f(y)
  • 保凸运算
    • 非负加权求和
    • 复合放射映射
    • 逐点最大和逐点上确界的凸性
    • 共轭函数的理解（仿射、指数、负熵函数基于逐点上确界推导）