用户投稿当亚马逊宣布禁止警察使用面部识别工具一年后，这对黛博拉·拉吉（Deborah Raji）来说应该是一场值得庆幸的胜利，她帮助发表了一份有影响力的研究报告，指出了亚马逊重新认可的种族和性别偏见。聽
亚马逊呼吁各国政府对这项技术实施更严格的监管。公司在周三的帖子中没有提到Raji的工作，结果发现Rekognition在19%的时间里错误地将女性视为男性，拉吉说：“他们不承认这项研究的作用，真是令人沮丧。”。\“在那次传唤之前，他们没有说任何关于面部识别的事情。”
CNET每日新闻保持了解。从CNET新闻获取最新科技新闻。
就在两天前，IBM宣布退出面部识别市场。该公司的首席执行官阿文德·克里希纳（Arvind Krishna）在给国会的一封信中写道，公司反对用于种族貌相和大规模监视的技术，这与活动家多年来一直在发出的呼吁相呼应在面部识别和更广泛的监控技术方面，
但是他们也没有信任那些首先指出问题的人，他们中的许多人来自有色人种社区。例如，IBM对偏见的担忧并非凭空而来——这是两位研究人员在2018年发表的题为“性别阴影”的研究论文中首次揭示了这些问题，他们是乔伊·布奥拉姆维尼和蒂姆尼特·格布鲁。
这篇研究论文在指导全国关于面部识别的对话中发挥了重要作用，这项研究现在在联邦立法者和地方官员中得到了广泛的审查。亚马逊对他们的工作很熟悉——在Buolamwini和Raji发表他们的研究成果后几天，亚马逊对这项研究提出了挑战。Raji说：“每当他们迈出一大步，他们几乎从不提及我们的名字。”。\“看到这一点，并明白只有在回答问题时才会被点名，这是非常令人沮丧的。”
现在播放：看这个：如何保护你的手机（和你的隐私）抗议4:31
面部识别是黑人和棕色社区首先提出的许多监视问题之一，这些社区往往没有得到适当的信任。CNET采访了黑人隐私倡导者和研究人员，他们说他们经常觉得自己被忽视了，或者对监控问题闻所未闻。除此之外，倾听这些声音是至关重要的，因为它们有助于开发人员和公司错过新技术带来意外后果的盲点。聽
\“人们没有意识到，这种删除会剥夺我们集体的革命性想象力，”为人民服务的AI公司首席执行官穆塔莱·恩孔德说，一个非营利组织，旨在教育黑人社区了解人工智能和社会公正。\“它允许其他人进来并获得荣誉，它强化了这样一个故事，即唯一能感动世界的人是有钱的白人。”自从乔治·弗洛伊德（George Floyd）5月底去世以来，数百人抗议警察暴行，呼吁解散警察，因此监控技术正成为一个主流问题。警察对抗议者使用的许多监视工具——但多年来，一直被用来对付边缘化社区。聽
这一转变意味着主要的警察改革，如众议院民主党推出的《治安正义法案》，包括对监视的限制，如禁止在没有搜查令的情况下进行面部识别。这项政策建议来自于Buolamwini、Raji和Gebru等研究人员的工作，以及受这项技术影响最大的社区提出的担忧。像Mijente这样为拉丁裔权利而战的
组织长期以来一直呼吁亚马逊切断与移民和海关执法局的联系，这引起了人们对他们的担忧技术被用来帮助追踪和逮捕移民。
“历史上，由于监视，边缘化社区受到的监视最多，对他们的伤害最大，”研究制度技术政策和隐私的Macomb社区学院英语教授克里斯·吉利亚德（Chris Gilliard）说。\“他们是最有发言权、最活跃和最早发言的人，这一点也不奇怪。”
监视的种族偏见聽有色人种社区——特别是低收入地区的社区——经常成为监视技术的试验台。而这些设备大部分由纳税人出资，由警察在这些社区安装。聽
\“当你拥有一项通常由执法部门使用的技术时，你也会有更高比例的黑人和棕色人种受到影响，”Nkonde说。
在底特律，警方于2016年推出了“绿灯计划”，这是一种公私合作关系，通过这种合作，警察可以接触到城市企业的实时摄像机镜头。摄像头现在已经安装在纽约市500多个地方，那里80%的人口是黑人。
面部识别现在是公寓楼的奢侈品，但在纽约，自2013年以来，公共住房租户就一直使用面部识别技术。在布鲁克林，像Fabian Rogers和Tranae Moran这样的房客在他们的住宅区避开了面部识别装置。聽
\“我们是他们最后一个和他们交谈的人，但却是他们部署这些程序的第一批人。”，布鲁克林反对面部识别的活动家这两人曾亲身体验过监控技术进入他们的家中，他们是美国最早证明这些工具可以被推后的人之一。当他们的竞选活动刚开始的时候，莫兰认为他们的面部识别问题会被忽视。
\“我们是他们最后一个和他们交谈的人，但是他们首先部署这些程序的人，\她说，在他们的公寓大楼里，反对面部识别的胜利是第一次公众反对监视工具改变政策的事件之一。这场斗争激发了《住房无生物识别障碍法案》，并向其他人展示了公众的强烈抗议可能会导致对监视措施的改变。吉利亚德说：“一个社区的房客聚在一起说，‘操，这不属于我们的生活空间，这是非常革命性的。”。\“我不认为它会因为这样做而获得应有的荣誉。”
在亚马逊的戒指拥有超过1000个警察合作关系之前，它从洛杉矶一个社区的试点项目开始，那里一半以上的居民都是少数民族。
视频监控门铃以及它与警方的许多合作伙伴关系自那时以来一直面临着来自立法者的大量公众监督，但它最早的批评来自吉利亚德和恩孔德，其中许多在《时代》杂志回忆了两年前一次拜访一位朋友的家时，他的门铃响了，面对来访者。当时该社区正在进行刑事调查，警方要求该地区居民提供录像带。
她和家人在一起，包括她的儿子，照片上的儿子被放在门铃上。她的朋友把录像带交给了警察，但没有发现问题所在。恩孔德说：“我的朋友们不明白为什么会有问题，我孩子的照片会因为他来了门而被保存在数据库里。”。\“有一个真正的可解释性问题。\”
更多关于抗议黑人生命的问题：在你抗议之前，要知道你的权利抗议小贴士：带什么，不带什么，如何保护自己如何找到一个黑人生命问题的抗议在你的地区本周抗议中的催泪瓦斯：如何保护你自己，以及如果你暴露了变革的动力，你该怎么做？尽管你是第一个认识到并呼吁监控和种族偏见的算法，黑人和布朗的隐私倡导者说，当他们提出这些问题时，他们感觉不到被倾听。聽有关监视的担忧比以往任何时候都响亮，呼吁警察改革，但有一段时间，许多人感到被忽视，直到争论被采纳。聽
\“黑人的经历涉及到很多拉吉说：“只有当我们之外的人以一种主流的方式强化了我们的想法，我们才会认真对待这些问题。”。\“当你忽视黑人和棕色人种对
微信扫一扫打赏
支付宝扫一扫打赏
