机器学习公平性研究进展

什么是公平性？

公平性存在多种定义形式，如人口统计平等、机会均等和胜率均等。其核心思想是机器学习模型在不同人口子群体（如男性和女性）中应表现一致或相似。例如最常见的人口统计平等要求模型输出概率（如贷款决策）不应依赖特定人口属性（如性别、种族或年龄）。

实现公平模型的三大路径

当前算法公平性研究可分为三类方法：

1. 预处理：消除数据中的历史偏差后输入传统模型

2. 后处理：对已训练模型进行调整，适用于复杂模型或再训练成本过高的情况

3. 过程处理：在模型训练阶段通过统计约束强制实现公平性

基于经验风险最小化的创新

通过扩展统计学习理论中的经验风险最小化概念，建立了模型真实公平风险与经验公平风险的评估框架。关键突破包括：

1. 公平约束下的经验风险最小化

2. 提出将公平约束转化为权重向量与歧视向量的正交条件，适用于线性模型和支持向量机等算法。实验证明该方法在保持准确性的同时显著提升公平性。

3. Wasserstein 重心在公平回归中的应用

4. 针对回归问题，提出基于最优传输理论的后处理方法。通过计算不同子群体分布的 Wasserstein 重心，得到满足人口统计平等的最优公平预测器。该方法误差率增幅小于公平性增益。

5. 多任务学习中的公平表征

6. 在深度学习场景下，结合最大均值差异和 Sinkhorn 散度约束，确保仅敏感属性不同的输入获得相似表征。实验显示该方法在三个真实数据集上显著优于现有方案。

未来方向

算法公平性仍存在诸多开放问题，包括公平性的精确定义。需要将模型可解释性、隐私保护等相关领域协同推进，通过保持"人在环路"的机制持续评估模型行为，共同提升机器学习系统的可信度。

更多精彩内容 请关注我的个人公众号 公众号（办公 AI 智能小助手）公众号二维码

办公AI智能小助手