bais mintigation post-processing for individual and group fairness

为个人和群体的公平性的后处理偏见消除(post-processing)这篇论文理解的不是很清晰,没有给详细的方法介绍,没有代码。

数据处理的阶段一般分为三种:pre-processing,in-processing,post-processing,本篇论文是post-processing

后处理算法的优点是它们不需要访问训练过程,因此适合于运行时环境。此外,后处理算法以黑箱方式操作,这意味着它们不需要访问模型的内部,它们的衍生物等,因此适用于任何机器学习模型(或模型的合并)

现有的所有后处理算法都是针对组公平性的。本文的主要贡献是提出了一种兼顾群体公平性和个体公平性的后处理偏差缓解算法。此外,与之前的工作不同,论文中的方案在训练偏差缓解算法时,不需要在验证样本中使用任何ground truth类标签。在作者提出的方法中,选择了具有或可能具有个体公平问题的样本,这样就能够同时解决群体和个体的公平问题。

后处理算法,特别是那些可以将分类器作为一个完整的黑盒是必要的。与之前的工作相比,作者提出的算法不仅解决了独立的和组的公平性,而且是一个纯运行时的方法,因为它不需要ground truth类标签的验证集。