公平性机器学习研究综述

对机器学校的公平性研究展开综述，以便快速了解该领域的前沿研究。 本文针对公平性机器学习的研究现状进行了综述，对公平性算法的实现机制进行了调研，并总结了当前面临的重大问题和挑战，希望给相关研究人员提供一些参考。

公平性机器学习研究综述

• 摘要
  • 背景
    • 机器学习在社会中的广泛使用
    • 歧视问题引发广泛的社会争议
    • 引起了产业界和学术界浓厚兴趣
      • 对机器学习算法公平性
  • 研究处于初级阶段
    • 公平性度量
    • 机器学习公平性机制
  • 本文
    • 调研了
      • 公平性机器学习的研究
    • 比较了
      • 从公平性的定义出发
      • 衡量公平性指标的方法
    • 调研了
      • 公平性数据集
    • 分析了
      • 公平性问题的产生
    • 对现有的公平性机器学习算法
      • 归类
      • 比较
    • 总结了
      • 当前公平性机器学习研究中
      • 存在的问题
    • 讨论了
      • 关键问题
      • 重大挑战
  • 关键词
    • 算法伦理、算法偏见
    • 公平性、公平性指标、公平性设计
    • 公平性机器学习、公平性数据集
    • 动态性
• 公平性的定义
  • 算法需要考虑两方面
    • 如何定义公平性
      • 在特定社会场景中
    • 社会可接受程度
  • 符号定义
    • 假定敏感属性为二元属性
  • 无意识公平 (fairness through unawareness, FTU)
    • 不使用受保护属性S进行训练及预测
    • 不公平
      • 加入X包含类对S的歧视性信息
  • 个体公平 (individual fairness, IF)
    • 对于相似个体的预测结果是相同的
    • 告知个人偏好的个体公平
      • 要求
        • 放松个体公平
        • 允许偏离IF
        • 但要符合个人偏好
      • 可为个人提供更有利的解决方案
  • 人口均等(demographic parity, DP)/ 不同影响(disparate impact, DI)
    • 人口均等(DP)
    • 不同影响(DI)
    • 将5种民主思想与现存的公平概念结合
    • 指出
      • 竞争民主
        • 适用于
          • 反事实公平
          • 无意识公平
          • 基于组条件的公平
      • 自由民主
        • 适用于
          • 个体公平
      • 平等民主
        • 适用于
          • 基于偏好的公平
  • 机会均等 (equality of opportunity, EO)
  • 不同对待 (disparate treatment)
    • 法律评估
      • 通过两个不同概念
        • 不同对待
        • 不同影响
      • 决策过程的公平性
  • 不同误判率 (disparate mistreatment, DM)
    • 分类器
      • 对于不同敏感属性
      • 输出错误率不同
  • 基于组条件的校准度量
    • 引入校准的概念
    • 如果
    • 则
      • 输出事件概率^Y的预测因子
        • 被称为经过良好校准
  • 反事实公平 (counterfactual fairness)
    • 如果
      • 预测相同
        • 在现实世界和反事实世界中
    • 那么
      • 对个人是公平的
  • 事前公平(ex-ante fairness) 事后公平(ex-post fairness)
    • 事前公平
      • 对候选人xij和xi'j'
      • 其累计分布函数
      • 概率满足
    • 事后公平
      • 对候选人xij和xi'j'
      • 其累计分布函数
  • 综合分析比较
    • 许多不同公平性定义方法在本质上是相关
• 公平性测试数据集
  • 消防员晋升(ricci)
  • 成年人收入(adult income)
  • 德国人信用贷款(german credit)
  • 预测再次被捕率
  • 预测再犯暴力
  • 银行营销数据
  • 纽约市阻止和搜身(NYC stop and frisk)
  • 美国司法部数据
• 公平性机器学习设计
  • 预处理公平性设计
  • 过程公平性设计
  • 后处理公平性设计
  • 公平性算法分类
• 公平性机器学习应用研究
  • 环境演化与动态性公平
    • 学习算法本身会作用于复杂环境的动态演化
    • 而公平性也会相应地在不同群体间变化
  • 数据的复杂性
  • 特定场景下的公平性问题
• 关键问题和重大挑战
  • 数据的复杂性
  • 公平性表示学习
  • 公平性算法的鲁棒性
  • 公平性算法的动态性
  • 公平性算法的可解释性
  • 平衡公平性与其他指标
  • 建设公平性软件工具箱
  • 社会环境适用性
• 结束语
  • 引起了社会的广泛关注
    • AI伦理
    • AI治理
  • 算法公平性成为研究热点
    • 研究和应用仍处于起步阶段
    • 还有很多问题值得深入研究
  • 本文
    • 针对公平性机器学习的研究现状进行了综述
    • 对公平性算法的实现机制进行了调研
    • 并总结了当前面临的重大问题和挑战
    • 希望给相关研究人员提供一些参考
  • 只有实现了机器学习算法在应用中的公平性
    • 人工智能才能更好地服务于人类
    • 才能更好地发挥其社会和经济价值