算法的公平性也能够量化？试试这三个指标吧

全文共1931字，预计学习时长4分钟

 

图片来源：pexels.com/@rawpixel

自动化和智能操做已经能够愈来愈深度地帮助人们工做。随着人工智能愈来愈多地应用于工业领域的产品和研究，其如今能够更好地专一于须要判断力和创造力的管理职能。这意味着曾经须要人类作出的关键决策，如今均可以经过算法操做决定了。从化工、采矿、石油和自然气等资产密集型行业，到媒体和时尚等创意密集型行业，皆是如此。

要驱动大规模数字产品和服务的应用，须要的可不只仅是自动化。互联网把人类和机器链接在一块儿，产生了海量的数据，为了处理这些数据，以及应对时刻变化的社会，须要借助公平负责的算法。此外，预计到2030年，人工智能将为全球经济增长13万亿美圆。毫无疑问，用算法作决定会变得愈来愈广泛。

回顾一条你们都懂的机器学习定义——算法解析数据，从数据中学习，而后用所学知识作出明智的决定。

所以能够知道，数据科学家、工程师和架构师设计和构建算法的方法是训练算法解析正确的数据，以大体确保两件事：

精确度

图片来源：pexels.com/@rawpixel

精确度自己就是一个学习的过程。为精确度准备准确的数据是一个挑战，由于它只能在通过一轮又一轮的建模和更改训练数据以后才能实现。正确数据的定义所以会根据不一样状况而显著变化。

例如，想要识别大几率会在奢侈时尚精品店购物的客户，和大几率会在素食餐厅点一道特定餐品的客户，这两者的算法须要不一样的设计和架构。尽管这两种算法会有一些共通点，好比说，和其余因素相比，它们的最新消费、消费频率、和货币面值可能相通，但这两个算法的某些变量也会大相径庭，这取决于业务的性质。

公平性

 

随着算法愈来愈公平，在决策过程当中我的判断的影响会逐渐消失。这是最重要也是最棘手的挑战。由于在学习过程当中，这些算法颇有可能会变得不那么公平，由于它们是由人类编程的，而人类的价值观、想法和观点会随之转移到这些人工智能软件中。

这意味着为了能理解机器的自动判断，须要透明公开复杂的程序。有人惧怕在金融、法律和技术公司使用机器自动决策，这是由于人们为贪图我的利益，经常利用其决策帮助本身获利，并滥用机密信息。

为何算法的公平性具备挑战性?

算法的误差反映了社会混乱的过去。全部被删除的误差可能仍潜伏在数据中，等着从新出现的机会，这在必定程度上是由于，人们无心间把这些误差编入了软件，而算法会放大这些误差。

从表面上看，算法误差彷佛是一个能够用计量经济学和统计学方法解决的工程问题。然而，想要确保一个公正、公平而又合乎伦理的结果，不只仅要面对来自数据科学的挑战。因为设置人工智能学习程序须要人工干预，所以须要巨大的责任和坚韧的信念，以设置出最为公平的程序。

 

如何量化公平?

在数据科学中，有不少度量标准和方法可供选择。

公平性和精确度之间的权衡是一个重要的考虑因素。

为了确保公平性和准确性，模型必须知足如下两个条件：

1. 一个通用模型，经过迭代逐步变为特定模型，以更好地适应形势。

2. 可灵活修改因素、变量和数据，以确保获得公平的结果。

 

 

基于这些考虑，建议结合如下三种方法，用以量化公平并保持良好的准确性：

交互信息分析

主要针对用于训练模型的原始数据。理解受保护变量(不许备在数据建模中使用的变量)和非受保护变量(准备在数据建模中使用的变量)之间的关系是一个很好的度量标准。

例如，对决定是否可以入围面试名单的算法来讲，不能在模型中使用性别这一变量，由于这是一个受保护变量。另外一个受保护变量是种族，在模型中不该经过种族，来决定某人是否能申请到助学贷款。

另外一方面，像考试成绩和按时付款这样的变量并非受保护变量，可是很不幸，这些变量能够成为一个代理变量，在数据的训练过程当中暗示一我的的种族。若是把此度量标准与下一个度量标准结合起来，也许能够解决这个问题 —— 差异性影响。

差异性影响

一样针对训练数据，揭示了变量对某一人群或某些项目结果的重要性。经过确保每一个集群的每一个变量的重要性都差很少，能够帮助确保全部集群获得平等的对待。在数据训练过程当中，有一种能力在许多情形下都有加强：根据数据集中其余变量预测受保护变量的能力。

好比，在不少状况下，一我的的性别能够根据考试成绩来预测，这就在算法中产生了误差。经过在迭代过程当中修改数据，并减轻某些变量对预测受保护变量结果的影响，能够有选择地下降肯定受保护变量的预测能力。

预测性奇偶校验位

主要用于调整模型结果，以确保平等和公平。其主要目标是下降错误率，或预测错误的比率，并确保会下降数据集中全部集群的错误率。

有时，算法会忽略一个社会维度，不符合道德标准，或者忽略一些商业目标。在这种状况下，彻底透明公开这些复杂的算法将令人工智能走向大众化，让更负责、更道德、更实用的算法成为可能。

留言 点赞 关注

咱们一块儿分享AI学习与发展的干货
欢迎关注全平台AI垂类自媒体 “读芯术”

（添加小编微信：dxsxbb，加入读者圈，一块儿讨论最新鲜的人工智能科技哦～）