6月10日，亚马逊宣布，未来一年，将暂停警方使用面部识别平台 Amazon Rekognition 的权限，“我们希望这一为期一年的暂停，可以使国会有足够的时间执行适当的规则。”
此外，儿童保护慈善机构 Thorn，国际失踪与受虐儿童中心，打击人口贩卖机构 Marinus Analytics 还可以继续使用 Rekognition。
Rekognition 面部识别平台引发多次争议
Rekognition 是亚马逊在2016年12月1日发布的图像识别 AI 系统，主要面向企业和组织。
上线之后，亚马逊多次高调宣传，Rekognition 被应用在执法部门，以及一些人口保护组织的打击犯罪行动中。2018年11月，亚马逊的一位负责人还声称，在一年，或是一年半后，人们就会从 Rekognition 服务中获益，包括组织人口贩卖、身份安全验证等等。
这样说的原因包括，亚马逊认为使用 Rekognition 非常简单。之前曾有开发者尝试，使用 Rekognition 提供的 API，再编写一个 Python 脚本，做人脸检测和识别。
该开发者调用了 Amazon 提供的函数库，将一张单人图片发送到 Rekognition API，最后识别结果中包括人脸的边界位置、年龄估计、面部情绪、性别等众多信息。多人脸识别可以通过手动添加标注实现。这是“基于存储的 API 操作”，Rekognition 检测源图像中的多人面部信息，将之存储在指定“集合”中，然后再“索引”新图像中的匹配的面部。
虽然 Rekognition 可以做到让人脸识别的门槛变低，但它的准确性多次遭到质疑。
2018年夏天，美国公民自由联盟 ACLU 对 Rekognition 做了测试，发现在535个国会议员中，有28名议员的面部无法被正确识别。随后亚马逊反驳了此观点，称 ACLU 没有公布数据集，且使用的是 Rekognition 默认80％置信度阈值的 API。亚马逊建议在执法机构应该使用置信度不低于99%的设置。亚马逊随即还表示，会继续向警方提供该技术。
2019年1月，麻省理工学院媒体实验室的研究人员发现，Rekognition 在识别女性和深肤色面孔时，更容易出错——Rekognition 在识别浅肤色男性上无错误，但将女性误认为男性的比例有19%、将深肤色女性误认为男性的比例为31%。而微软的 AI 识别技术，将深肤色女性误认为男性的比例仅为1.5%。研究人员还写了一封公开信，称 Rekognition 有缺陷，呼吁执法部门不要使用。
面对这些批评，亚马逊此前并未停止向警方供应 Rekognition。
此外，对比前几日 IBM 宣布因担心人脸识别技术会加深种族和性别歧视，停止提供人脸识别技术的相关服务。昨天亚马逊宣布暂停警方使用 Rekognition 时，并没有给出具体理由，只是呼吁国会尽快给出监管规则。
原因不言而喻，亚马逊不想站在美国和全球抗议种族主义与警察暴行活动的对立面。但他们依旧没有承认 Rekognition 技术本身可能造成的不良影响。
数据集难题
为什么人脸识别会加深种族矛盾？
2018年麻省理工的一份研究报告中称，包括 IBM 和 Microsoft 在内的主要科技公司，识别深肤色面部的错误率比识别浅肤色面部的错误率高十几个百分点。随后，《纽约时报》指出，部分原因在于，这些公司训练识别模型的数据集中，绝大多数可能是男性和白人。
也有人解释，因为做人脸识别开发的技术人员，集中在主要科技公司，而他们大部分是白人和男性。因此，在数据集的选择和收集上，难免存在偏颇。
实际上，对于人脸识别，甚或是机器学习来说，参数、模型、算法已经不是最难攻克的方面了。AI 研发团队最缺的往往是数据、标注。
机器学习就是让计算机模拟人脑进行分辨和思考。就像我们从小学习认字，或是去认识一个人一样，如果想要计算机识别出人脸、文字、物体等等，首先需要人类找出大量的案例数据去喂养，没有数据，机器学习就无从谈起。
另外还要给一些数据加上标注，告诉计算机我们需要的目标，然后在让计算机自己去学习。有数据显示，以物体检测模型为例，开发者们花在数据标注上的时间，平均占项目周期的50%以上。
通常，建立一个完善的数据集并不容易。
如在自动驾驶领域，数据采集非常不易。每个初创公司的任务清单里都包括一项“闭环”任务：路测、收集数据、路测、修改数据模型、再路测……而路测里程和数据也成为外界评价这些公司的重要指标。
当然最难的还是人脸识别。首先，数据的收集会受采集公司、主体价值观、知识面的影响，使得数据集本身会存在或多或少的偏差。
其次，即便现在发达的社交网络，为某些数据，如人脸信息、消费信息的采集提供了便捷的渠道，但这非常容易造成隐私伤害，引起大规模抗议。
上个月，美国公民自由联盟 ACLU 起诉了 Clearview AI,这是一个比 Rekognition 使用更广泛的面部识别系统。原因是 Clearview AI 未经人们统一，擅自从社交媒体抓取了十亿张照片，训练模型。
《纽约时报》曾评价面部识别技术，可能是世界上最分裂的技术：它可以识别罪犯和受害者，减少悲剧发生；但同时会加剧侵蚀隐私、加深种族歧视。不过，我们似乎可以期待，当全世界都开始关注面部识别带来的风险，巨压之下，人脸识别或许还能做得更好。