微软的结论是,如果这家执法机构采用了微软的人脸识别技术,将导致无辜的妇女和少数族裔群体不成比例地被拘留接受询问,因为微软的人工智能和人脸识别软件过去主要是利用大量白人和男性图片进行培训的。
基于人工智能技术的人脸识别快速在社会上得到应用,在带来方便的同时引发了侵犯个人隐私的担忧,许多面向政府部门提供人脸识别技术的大型科技公司也遭到了舆论关注,有大量科技业员工反对向政府或者执法部门提供人脸识别技术和服务。
据外媒最新消息,拥有人脸识别技术的科技巨头微软公司总裁布拉德·史密斯(Brad Smith)周二表示,出于对人权的担忧,微软公司最近拒绝了美国加州一家执法机构要求在警官的汽车和身体摄像头中安装面部识别技术的请求。
据国外媒体报道,微软的结论是,如果这家执法机构采用了微软的人脸识别技术,将导致无辜的妇女和少数族裔群体不成比例地被拘留接受询问,因为微软的人工智能和人脸识别软件过去主要是利用大量白人和男性图片进行培训的。
多个研究项目发现,人脸识别错误地处理妇女和少数族裔人口的情况越来越多,甚至引发了人工智能造成种族歧视的担忧。之前也有媒体报道称,微软公司和IBM的人脸识别在判断黑人人脸方面存在精确度不高的缺陷。
史密斯说,“每当他们(加州执法部门)让任何人靠边停车时,他们都想利用嫌疑人的数据库进行面部扫描”。史密斯没有透露该机构的具体名称。在思考了人脸识别带来的各种不平衡影响之后,微软决定不向这家执法机构提供人脸识别技术。
史密斯在美国斯坦福大学一次关于“以人为本的人工智能”的会议上说,微软还拒绝了在某个城市的摄像头上安装人脸识别技术的协议。
另一方面,微软确实同意向一家美国监狱提供这项技术,此前该公司得出结论称,在监狱中,应用人脸识别技术的环境将受到限制,应用这一技术能够改善这家未具名机构的安全。
史密斯解释说,这些决定是微软公司对个人隐私权利承诺的一部分,他说,随着快速的技术进步赋予执法部门进行全面监视、部署自动武器和采取其他可能无法逆转的步骤的能力,个人隐私权利承诺越来越重要。
微软在去年12月表示,它将向社会公开其面部识别的技术缺陷,并要求客户透明地了解他们打算如何使用它,不过微软并未提到有可能向执法部门停止销售人脸识别技术。
史密斯呼吁政府监管部门对面部识别和人工智能的其他用途进行更严格的监管,他在周二警告称,如果不这样做,在人工智能监管宽松的背景下,积累了最多数据的公司可能会赢得发展最佳人工智能技术的竞赛。
他与联合国人权事务高级专员米歇尔·巴切莱特同台发言,巴切莱特敦促科技公司不要在不权衡其影响的情况下开发新技术新工具。
作为智利前总统的巴切莱特表示,在开发新技术时,需要考虑个人隐私权利等权益。
迄今为止,微软公司都拒绝了向哪些客户销售人脸识别技术,微软发言人弗兰克·肖(FrankShaw)拒绝透露这一信息。
在人脸识别技术的使用方面,微软在科技公司中是比较谨慎的一家。去年年中,微软公司公开发文呼吁,人脸识别进入了一个关键性时刻,这种技术可能被不良企业滥用,给社会带来不良影响,美国国会应该讨论立法,对人脸识别进行监管。
去年年中,有消息称亚马逊公司向美国警方以几乎免费的价格提供了人脸识别技术,客户包括美国俄勒冈州、奥兰多等地的警方,这一消息引发了有关可能侵犯公民个人隐私权利的担忧。
特别声明:
转载上述内容请注明出处并加链接。上述内容仅代表作者或发布者的观点,与中国电子商会官网的立场无关。如有任何疑问或了解更多,请与我们联系。电话:4008 900 668 邮箱:service@cecc.org.cn
随着人工智能大模型的加速发展,智能手机正在拥抱这一新机遇。苹果、三星、华为、荣耀、vivo、OPPO、小米、魅族等企业纷纷布局AI(人工智能)手机,推动AI技术在手机行业快速发展和广泛应用。...
2024-03-20中央经济工作会议明确提出,“发展数字经济”“加快推动人工智能发展”。人工智能已经成为经济社会发展的驱动力量,加快发展新一代人工智能是我们赢得全球科技竞争主动权的重要战略抓手。必须抓住新一轮科技革命和产业变革的战略机遇,充分发挥我国超大规模市场应用场景丰富的独特优势,加快人工智能领域的科学技术创新,以人工智能高质量发展和高水平应用培育经济发展新动能。...
2024-03-20