凯时娱乐开户 - 人脸识别技术禁令再来 美国又一城市禁止面部识别软件
人脸识别技术禁令再来 美国又一城市禁止面部识别软件
来源: 新智元(id:ai_era) 发布时间: 2019-07-02

     近日,美国又一城市通过了禁止在公共场所使用面部识别软件的法令,成为继旧金山之后全美第二个禁止面部识别技术的城市。美国会两党罕见地共同提案,拟立法暂停使用人脸识别软件。在人脸识别技术应用方面,美国似乎走向了保守。

  继旧金山之后,全美第二个禁止面部识别技术的城市出现了。

  近日,马萨诸塞州的萨默维尔市议会通过了禁止在公共场所使用面部识别软件的投票。新政策生效后,该市各机构、分局或下属部门,均不得在公共场所使用面部识别技术。

  面部识别技术在美国的推进困难重重。警方、政府部门等对使用面部识别协助警务有需求,但受到侵犯隐私、人权,歧视少数族裔、歧视女性等的指责。对面部识别的批判越来越多,除旧金山、萨默维尔市外,奥克兰、纽约等城市也在考虑类似禁令。

  全票通过:继旧金山之后,全美第二个禁止面部识别的城市

  由于对潜在歧视和反乌托邦(dystopian)滥用的担忧,近日,美国马萨诸塞州的萨默维尔市(somerville)议会投票禁止当地警方和市政部门使用面部识别软件。这使得位于波士顿附近并拥有81,000人口的萨默维尔成为美国第二个禁止该技术的城市。该禁令是在5月份旧金山通过面部识别禁令之后实施的。该条例部分由aclu(美国公民自由联盟)撰写,aclu也帮助制定了萨默维尔法令。

  除了禁止市政部门积极使用人工智能外,该法令还禁止在刑事调查或法律诉讼中使用面部识别软件系统产生的数据或证据。当地法律没有限制州或联邦执法部门使用面部识别的范围。

  然而,法律将面部识别称为“等同于要求每个人随时携带和展示带有个人照片的身份证”,并引用了对女性、年轻人、移民和有色人种面部识别错误匹配的担心。

  该条例以11-0的投票获得通过 - 这并不令人惊讶,因为11名萨默维尔市议员中有9位赞成立法。

  随着面部识别软件开始渗透到工作场所,iphoness等消费者设备使用面部识别来验证购买,警方也采用了很大程度上不受管制的技术。随着面部识别已经发挥作用,政府刚刚开始考虑如何在社会中使用它。

  somerville城市职员john long在一封电子邮件中表示,当地居民分享了98条书面评论,加上aclu的支持信和来自贸易组织安全行业协会的反对信。该市收到的所有信件都支持禁令。

  “在使用纳税人资金之前,任何新的安全技术必须证明是有效的,”萨默维尔居民dmitry erastov在一封信中说。

  logic杂志的创始编辑和哈佛大学职员moira weigel表示:“知道,这些技术强制执行种族主义和cis-heterosexism,并为民主上不负责任的私人实体提供了大量敏感信息。旧金山是另一个拥有大量技术人员的城市,他们了解这些系统是如何运作的,并且也投票禁止它们,这并不是偶然的。“

  同样也是这几天,警用摄像机制造商 axon承诺将不为其产品添加面部识别软件。

  许多人工智能专家或隐私倡导者向州和国家立法者提供有关面部识别软件相关风险和机会的建议,有利于暂停或彻底禁止该技术。

  波士顿地区在面部识别政策辩论中扮演着相当突出的角色。马萨诸塞州立法机构目前正在考虑由波士顿地区立法者赞助的法案“面部监视暂停法案”。

  旧金山成美国第一个禁止面部识别监控的城市

  在波士顿之前,今年5月,旧金山成为美国第一个禁止面部识别监控的城市。该措施以旧金山监管委员会的8-1投票通过,使旧金山成为美国第一个禁止警察和其他政府机构使用面部识别技术的城市。

  近年来,由于深度学习技术的普及,面部识别得到了显着改善。典型人脸识别系统的工作方式是分析面部特征,然后与数据库中的标记面部进行比较。

  然而,人工智能研究人员和aclu等民权组织特别关注面部识别系统的准确性和偏见。有人担心,它们在正确认识有色人种和女性方面并不那么有效。这个问题的一个原因是用于训练软件的数据集可能不成比例地是男性和白人。

  目前还没有关于如何使用人工智能技术或面部识别系统的联邦法律,但一些州和地方政府已经做出了自己的努力:例如,伊利诺伊州有一项法律要求在收集生物识别信息之前征得客户的同意。加利福尼亚州参议院目前正在考虑一项法案,该法案将禁止该州的警察使用生物识别技术(如面部识别)和身体摄像机。

  根据新的旧金山法律,任何想要使用监控技术或服务的城市部门必须首先得到监事会(board of supervisors)的批准。该过程将包括提交有关技术及其使用方式的信息,并在公开听证会上提交。根据新规则,任何已经使用监控技术的城市部门都需要告诉董事会是如何使用它的。

  该条例还规定,该市每年都需要向监事会报告监管设备和服务是否按批准方式使用,还包括保存、共享或删除数据的详细信息。

  不过,也有一些人反对该条例:“当负责任地使用时,它可能是一个很好的公共安全工具。”

  美国会两党共同提案:立法暂停使用人脸识别软件

  上个月,美国国会两党在一场国会听证会上正式讨论了对执法部门使用面部识别软件所带来的日益担忧。议员们听了几个小时的证词,内容涉及不受监管的面部识别如何跟踪抗议者,影响刑事司法系统,并加剧种族偏见等。

国会两党共同提案,寻求立法对面部识别进行监管国会两党共同提案,寻求立法对面部识别进行监管

  不同寻常的是,两党这次都表现出了合作的态度,同意共同努力对面部识别进行监管

  两党一致认为面部识别软件有侵犯公民隐私权和抗议权的隐忧,寻求立法暂停此类工具的使用。包括面部识别软件专家在内的团队认为,在更完善的监管出台或技术充分成熟之前,此类面部识别工具应由国家叫停

  当前,fbi 和国土安全局等联邦机构在使用面部数据识别潜在犯罪嫌疑人前是不需要获得搜查令的。目前还不清楚该委员会计划如何起草法律来打击潜在的违法行为,但两党议员都对美国公民的面部扫描可能侵犯了宪法权利这点提出了担忧。

  专家警告称,由于这项技术推出得太快并且存在严重缺陷,可能会导致调查人员对潜在嫌疑人进行误判。

  美国并非唯一对面部识别技术忧心忡忡的国家。近日,欧洲人工智能高级别专家组(hleg)发布报告,提议“欧洲应该禁止ai进行大规模监视和社会信用评分”。报告写道:“政府应承诺只部署和采购值得信赖的人工智能系统,其设计宗旨是尊重法律和基本权利,符合伦理原则,社会技术健全。”

  肤色、性别歧视引争议,专家批判面部识别技术被滥用

  大约一年前,美国公民自由联盟(aclu)首次公开了亚马逊的面部识别软件已在使用的事实。从那时起,对该软件的审计发现其更有可能偏向白人,对黑人很有可能识别不当,特别是女性黑人。当 aclu 将国会议员与犯罪数据库进行匹配时,亚马逊的 rekognition 软件错误地将28名议员识别为罪犯。被识别为罪犯的 28 名议员中,40% 是有色人种,尽管国会议员中有色人种的比例仅为 20%。

  去年,亚马逊的人脸识别程序 rekognition 曾将 28 名议员错误地识别为罪犯,引发巨大争议。

  没有监管的现状下,滥用面部识别技术的可能性很高,特别是对于有色人种。mit媒体实验室研究员和算法正义联盟(algorithmic justice league)创始人 joy buowamwini 发表研究表明,人脸识别系统对肤色较浅的男性表现优于肤色较深的男性,而对于肤色较深的女性则表现最差

  她的研究成果遭到 ai 领军企业的批评,但有数十位著名的 ai 研究人员为其辩护。她在会上说:“至少,国会应该通过一项关于警察使用人脸识别的禁令,因为人脸识别的滥用、缺乏监督和技术的不成熟会造成很大的风险,对于边缘化社区而言尤其如此。”

  美国走向保守:禁止人脸识别的城市在增加

  自mit的研究和 aclu 的报告以来,微软和亚马逊都声称已经缩小了准确性方面的种族差异

  但是,改进技术以更好地识别黑色面孔只是过程的一部分:准确度很高的技术仍然可能被用来支持有害的警务

  如何使用这项技术很重要,这就是政策可以防止滥用的地方。微软和亚马逊提出的解决方案是,在人脸识别已经投入使用后,再对其进行种族和性别偏见的审核 —— 这可能为时已晚。

  科技的发展向来就是一把双刃剑,任何一项技术的应用都常有利弊相随。美国在人脸识别这样的技术应用方面似乎走向了保守的道路,旧金山、波士顿郊区已经成为正式立法禁止警方和市政部门使用人脸识别软件的两个城市,奥克兰也在考虑类似的禁令。在纽约,人脸识别被尝试用于在大桥上识别车内司机面孔,结果是彻底失败。

  像人脸识别这样的人工智能技术应用,到底应该鼓励还是禁止,欢迎读者朋友留言讨论。

  参考链接

  https://venturebeat.com/2019/06/27/boston-suburb-bans-facial-recognition-software/

  https://venturebeat.com/2019/05/22/facial-recognition-moratorium-receives-bipartisan-support-in-congress/

  https://edition.cnn.com/2019/05/14/tech/san-francisco-facial-recognition-ban/index.html

copyright©2002-2019  中国通信标准化协会版权所有  联系 | 意见反馈
网站备案:京icp备05002969号-1 网站维护:通信标准化推进中心 (010)82054513, webmaster