首页 / 美国 / 正文

分享新闻

微信扫描分享

波士顿禁用人脸识别:该技术导致严重的种族歧视

美国 观察者网 2020-10-25 19:17 阅读

波士顿也宣布禁用人脸识别技术了。

6月24日,波士顿市议会以13票赞成、0票反对的结果通过了《波士顿禁止人脸监控技术条例(OrdinanceBanningFaceSurveillanceTechnologyinBoston)》。

条例规定,波士顿市的任何市政机关和公务员均不得获取、保留、拥有、使用人脸监控系统及通过此类系统获得的信息,而且不能通过与第三方合作绕过条例。违反条例规定获取的人脸监控数据将被视为违法数据,一经发现会被删除。

市政府官员表示,波士顿警察局此前并未使用过该技术,但相关部门如果将软件进行升级,就能获得该功能。

此次条例通过,等于将该技术在波士顿的使用从源头掐灭。

目前,在禁用人脸识别的城市里,波士顿规模排第二,仅次于旧金山。

而旧金山和波士顿,一个是推特网、爱彼迎和优步的总部所在地;一个是哈佛、MIT等知名高校的所在地。都是充满了科技活力的地区,为什么会自己禁止人脸识别这种先进的人工智能相关技术?

反对者们提出了两个原因:

第一,他们认为这项技术将威胁到公民权利,第二,他们认为面部识别技术存在缺陷,将导致严重的种族问题。

在种族抗议活动愈演愈烈的当下,第二条原因更为重要。

提出了该法案的波士顿市议员里卡多·阿罗约(RicardoArroyo)与市议员吴弭(MichelleWu)指出,这项技术对于有色人种来说是非常不准确的。

"它有明显的种族偏见,这很危险,"阿罗约在听证会前说。

法案中称,“已有证据表明,人脸识别技术在识别非裔和亚裔人群体时准确率更低。人脸识别监控中的种族偏见有可能伤害有色人种群体,而有色人种本身就已经受到更多的监控和骚扰。”

在周三的会议上和投票前,吴弭表示,波士顿不应该使用种族歧视的技术。"我们正在努力结束系统性的种族主义,所以,结束对有色人种社区的过度监视需要成为其中的一部分。"

值得一提的是,吴弭是美籍华裔议员,父母从台湾移民至美国,她也是波士顿第一个当上市议员的亚裔女性。

他们的担忧也不无道理。

纽约时报曾在一篇文章中提到,人脸识别在针对有色皮肤时错误率明显增大。

麻省理工媒体实验室研究员JoyBuolamwini与微软科学家TimnitGebru合作的一篇研究论文中,作者将微软、IBM和旷视科技三家的人脸识别技术进行对比,以判定其人脸识别功能,结果显示,AI应用人脸识别针对黑人女性的错误率高达21%-35%,而针对白人男性的错误率则低于1%,不同种族的准确率差异巨大。

但这并不是人脸识别本身在“种族歧视”,而的的确确是当下的技术限制原因导致的。

纽约时报的报道称?,该项研究也引发了关于“AI是否存在社会不公甚至种族歧视问题”的探讨,但显然并不是。深究其中的原因,更多的是因为当下的人工智能数据的量影响了AI的判断。肤色较深女性较难识别,除了天然人脸特征更难提取之外,可供训练的数据集较少也是影响因素之一。

也是因为如此,6月初,IBM致信美国国会议员,宣布公司将退出通用的面部识别业务,并表示反对将这种技术用于大规模监控和种族定性分析。

在本月早些时候的听证会上,波士顿警察局长威廉·格罗斯说,目前的技术并不可靠,而且该部门也没有使用这项技术。

"在这项技术100%之前,我对它不感兴趣,"他说。"我没有忘记我是非洲裔美国人,我也会被误认。"他补充道。

不过,波士顿条例并不会影响私人公司或联邦机构(如FBI)使用该技术。

除了波士顿和旧金山外,?马萨诸塞州的其他五个社区——萨默维尔,布鲁克林,北安普顿,斯普林菲尔德和剑桥也有此条禁令。美国公民自由联盟马萨诸塞州分会推动了这些地方的禁令,并正在游说州立法者采取行动。

目前还没有全州范围内的禁令,不过一项暂停使用人脸识别系统的法案目前正在联合司法委员会待审。

相关推荐
微信公众号

我们为美国洛杉矶专门开设的微信公众号已正式亮相,每日推送精彩内容,让大家掌握洛杉矶第一手资讯。现在关注我们可获享多重福利,还有红包等你来抢哦。

洛杉矶公众号

一款火遍温哥华的全领域生活服务平台即将正式登陆洛杉矶