Dynamic Modeling and Equilibria in Fair Decision Making Abstract

机器学习公平性研究Dynamic Modeling and Equilibria in Fair Decision Making Abstract

Dynamic Modeling and Equilibria in Fair Decision Making Abstract 公平决策摘要中的动态建模与均衡

• Abstract 摘要
  • 近期自动决策系统公平性的研究
    • 强加"典型"公平约束，不能保证对弱势群体有益
      • 人口均等
      • 机会均等
    • 先前的研究集中于
      • 简单的一步成本
      • 简单的收益标准
      • 离散的基础状态空间
  • 作者提出自然连续的人口状态表示法
    • 状态由Beta分布控制
    • 应用借贷决策下的种群动力学模型
    • 以贷款分配为例
      • 正确估算有条件的偿还概率
      • 贷方的"最佳"行为可能导致"马太效应"
      • 允许政策中常见公平约束导致群体收敛到同一平衡点
  • 作者对比了错误概率估计的结果与先前结果
    • 表明错误估计也会导致公平的政策出现分歧
  • 作者通过信用评分说明有关真实数据的一些建模结论
• Introduction 介绍
  • 决策系统会尝试最大化某些效用
    • 系统需要约束
      • 减少损害弱势群体的可能
  • 公平决策研究
    • 侧重于
      • 确保决策遵循理想社会的道德准则
    • 集中于执行约束
      • 约束在决策过程中提供公平性
        • 人口统计方面的平等
        • 机会均等
        • 盲目性
      • 多数情况下彼此不兼容
  • 研究发现
    • 制约因素随时间推移会损害弱势群体
    • 以银行决定个人贷款为例
      • 理论上，激励银行提供可偿还的贷款
      • 历史上，处于弱势的人群无法获得贷款
  • 作者将公平决策设置视为一个迭代，重复的过程
    • 考虑不同公平约束的影响
    • 做出三点贡献
      • 建立了持续的人口模型
        • 模型受Beta分布的控制
        • 模型以偿还贷款的倾向来捕获整个人口状态
        • 模型展示，通过累积分布函数表达公平概念
      • 提出人口动力学模型
        • 该模型可以捕获授予或拒绝贷款如何对整个人口产生影响
        • 人群中的放贷者会导致"马太效应"
        • 约束可以强制实行平等，使群体收敛到相同的分布
        • 公平待遇可能不会对群体长期福利产生负面影响
      • 解决了估计和定型的问题
        • 群体的错误估计水平不同，公平政策无法使群体趋同
        • 种群动态模型暗示了对效果估计错误的不同结果
        • 结论极大地依赖作者对人口分布和动态所做的假设
• Relations to Past Work 与过去工作的关系
  • 背景
    • 人们越来越关注算法程序中出现的偏见
  • 减轻偏差对分类器和决策影响的方法
    • 公平地预处理数据
    • 公平地对输出进行后处理
    • 模型中固有的公平性
  • 公平学习的方法
    • 为了确保模型输入和结果独立性水平
    • 预处理方法
      • 忽略导致偏见的信息或引入新的表示形式
      • 引入确保模型不能在训练中学习偏见的方法
  • 在社会中，没有公认的公平待遇概念
    • 好心人会陷入僵局
    • 不能将公平约束条件互相结合使用
    • 公平待遇的观念相互矛盾
  • 公平政策的影响
    • 随时间推移，公平政策可能伤害群体，如贷款设置
    • 某些情况下，完全不受约束的政策导致了群体的融合
  • 作者贡献
    • 关注随时间的流逝，公平政策对人口的影响
    • 分析了在弱势群体之间实行不同选择率的政策的长期均衡性
    • 作者模型中，表明
      • 不受约束的政策确实会加剧这两个群体之间的不平等
      • 实施任何公平约束都会导致这两个群体在分配上趋于一致
      • 误估计或刻板印象的影响导致人口不收敛的环境
• Problem Setting and Population Distributions 问题设定与人口分布
  • 评估是否发放贷款
    • 贷款人的利息是根据信用评分、收入或还款记录
    • 假设偿还贷款是一个基本随机的概念
      • 不仅是估计的伪像产
      • 而且是个人的真实财产
  • 作者设定
    • 还款概率为[0,1]
    • 选择标准分布模拟人口
    • 模型没有完美地捕捉了现实世界
      • 是一个简单而直观的设置
    • 在下一节，显示标准分布与真实数据的拟合
  • 偏见和错误估计的影响可以说明
    • 假设3.1
      • 在时间t，第i组个体的投资回收率概率分布受Beta分布控制
      • Beta(x;μt,c)
        • Beta 分布的密度
      • a,b,μt
        • 形状参数
    • 假设3.2
      • 设置阈值
      • 任何此类τ均是公平的阈值政策
        • 特殊情况
          • 机会均等
          • 人口均等
          • 失明
  • 命题表明
    • 弱势群体对贷款申请的要求永远不会比优势群体更严格
    • 许多公平政策可以通过涉及反向累积分布函数的术语来表示
    • 策略有一个简单的分析形式，由上述两个参数控制
• Dynamics 动力学
  • 人口演化模型
    • 依据公式(3)
      • 放贷款有可能为人口带来积极的向上流动性
      • 发放未偿还的贷款产生向下流动性
    • 假设4.1
      • 群分布πt的动力学受均值μt+ 1的更新控制
        • 公式(4)(5)
      • 模型实质上是在放置过渡内核
        • 公式(6)
    • 定义4.2
      • 阈值策略
        • τ(μ)被认为是动态的，在两组之间渐近均衡
          • 公式(7)
        • 然后均值收敛于极限，而不管其初始值如何
          • 公式(8)
  • 固定政策的均衡点
    • 定理4.3
      • 在上述动力学条件下，每个固定阈值A0都有一个唯一的平衡点
      • 平衡点是稳定的，因为迭代μt+1 = f(A0,μt)将在该平衡点的极限处收敛
      • 公式(9)
    • 定义4.4
      • 曲线分为3个分区
        • 正平衡点是一个固定点
        • 负平衡是一个固定点
        • 混合平衡是一个不动点
    • 命题4.5
      • 在固定策略下，导致最大平衡点的策略是固定阈值τ(μ)=νβ
      • 如图1所示
  • 机构奖励和最优政策
    • 机构效用
      • 个人偿还贷款
        • 银行投资获得利息
      • 个人无法偿还贷款
        • 银行损失货币
      • 作者引入了奖励函数
        • 函数捕获了银行的特定效用
        • 公式(10)
    • Bellman方程的最优策略
      • 公式(11)
      • 表征最大化折价无限地平线回报的策略
    • 命题4.6
      • 公式(12)
      • γ= 0的单步贪婪策略由固定策略给出
    • 例子4.7
      • 考虑指定的动力学的情况
      • 效果如图2所示
    • 引理4.8
      • 最优控制模型从不激励阈值小于vβ的设置
    • 定理4.9
      • 两个组将始终达到奇偶性
• Dynamics Under Stereotypes and Misestimation 刻板印象和误解下的动力学
  • 实践中可能不知道分布的真实参数
    • 真实值间的差异会导致"真实"基础分布与估计分布的差异
  • 假设5.1
    • 群分布πt的动力学
      • 更新控制
        • 真实均值μt
        • 规格参数α(随时间恒定)
      • 策略
        • τ(μt)= A
    • 综述
      • 足够高的数据有可能导致分歧
      • 两群体有相同的不确定性时，仍可能达到平等
    • 公式(13)
  • 定理5.2
    • 形状相等的两个c和阈值A，被限制在引理4.8的vβ
      • 在最佳形状的阈值策略下
    • 任何公平性约束τ将达到奇偶性
      • 只要两组具有相等的α规范
  • 证明
    • 盲目政策案例
      • 公式(14)
      • t+1现在是真实的t的函数
      • 近似最优阈值a
    • 群体公平案例
      • 在A =(αβμ−ν)/(β(1−α))处,μt+1最大化
      • 社会福利政策是一个阈值
      • 最佳社会福利阈值必须是阈值A
      • 阈值使μt+1(有不确定性)的导数的绝对值最小
        • 导数为负
          • 无论采用何种阈值策略
          • 总人口受到损害
        • 导数为正
          • 总人口得到改善
      • 公式(15)
  • 定理5.3
    • c、阈值、A和形状均受vβ约束
      • 两组相同α的最优阈值策略下
    • 永远不会收敛
      • 两组不具有相同的α
    • 证明形式的动态性
      • 公式(15)
    • 错误指定的导数
      • 公式(17)
• Simulated results 模拟结果
  • 作者处理
    • 将信息处理为还款概率的概率分布
      • 计算给定累积分布的平滑插值的导数
      • 找到了90天后相对于信用评分的概率分布的非违约率的直方图
      • 对违约率的直方图和得分的分布都进行了参数化绘制
    • 将贝塔分布拟合到图上并在假设3.1中计算μ和c
    • 观察每种政策下μ的演变
    • 如图4所示
  • 图4表明
    • 消除所有公平的约束会导致分歧
      • 优势群体变得更加富裕
      • 劣势群体则停滞不前
    • 实施机会均等约束会改善两个群体
      • 使他们达到积极的平衡
    • 盲目政策也会导致群体达到平衡
      • 损害了两个群体
      • 群体处于比其他政策更糟糕的状态
    • 人口均等最终会产生积极的均衡
      • 对优势人群造成暂时的损害
      • 最终均衡时，每个人都会受益
    • 最大化团体福祉的政策
      • 贷方在不公平政策下更好
    • 特定公平政策能否保持最优
      • 与不受约束的最优政策相比
      • 取决于当前的任务和初始条件
  • 对政策的预期效果进行建模
    • 使机构能够为给定的效用函数确定最佳政策
• Discussion and Future Work 讨论与未来工作
  • 考虑了公平决策的迭代过程
    • 正式建立了一个基于Beta分布的总体模型
    • 发现可以将现有公平条件表示为公平政策的特殊情况
    • 分析了模型的动态更新方程
    • 表明
      • 不受约束的政策可能导致不同人口手段的分歧
      • 任何公平政策都将导致两组的单一均衡
  • 强调事实
    • 在合理的条件下，确保决策系统的群体分布估计达到要求
  • 未来的工作
    • 我们集中于一种人口动态模型
      • 发现刻板印象和错误估计更具有模型特定性
    • 强调实施公平政策的约束条件
      • 许多公平对待方法没有明确约束条件
      • 需要新方法来确定公平待遇概念的影响
    • 训练分类器
      • 使其符合公平对待的给定概念
      • 确定分类器是否真有益
        • 不受约束的"不公平"政策可能效果更好
  • 公正的政策应该确保决策产生公平和对人一视同仁