近期频频登上头条的几项研究大多如此：比如利用算法识别犯罪团伙或者，利用图像识别判定同性恋。
这些问题的出现往往是因为历史数据中的偏差特征，比如种族和性别上的小众团体，往往因此在机器学习预测中产生不利的歧视结果。在包括贷款，招聘，刑事司法和广告在内的各种广泛使用AI的领域，机器学习因其预测误差伤害到了历史上弱势群体，而广受诟病。 我有几张阿里云幸运券分享给你，用券购买或者升级阿里云相应产品会有特惠惊喜哦！把想要买的产品的幸运券都领走吧！快下手，马上就要抢光了。
本月，在瑞典斯德哥尔摩举行的第35届机器学习国际会议上，伯克利AI研究协会发布了一篇论文，来试图解决这一问题。
这篇文章的主要目标，是基于社会福利的长期目标对机器学习的决策进行了调整。
通常，机器学习模型会给出一个表述了个体信息的分数，以便对他们做出决定。 例如，信用评分代表了一个人的信用记录和财务活动，某种程度上银行也会根据信用评分判断该用户的信誉度。本文中将继续用“贷款”这一行为作为案例展开论述。
如下图所示，每组人群都有信用评分的特定分布。