人脸识别技术存在巨大社会风险

在最近公布的一篇博文中，谷歌公司全球事务高级副总裁KentWalker写到：谷歌将会通过GoogleCloud获取“通用型”的人脸识别API。除非涉及“挑战”获得具体“确认与解决问题”。Walker说明称之为，“与其它一些公司有所不同，谷歌正在希望解决问题与人脸识别技术涉及的一系列最重要技术与政策性问题。与众多具备多种用途的新技术一样，人脸识别的应用于某种程度必须被谨慎考量，从而保证其用于方式合乎我们的原则与价值观，同时防止欺诈与有可能经常出现的危害性结果。

”最近，谷歌公司或许对新技术的用于展现出出有了与业界有所不同的慎重态度。旋即之前，谷歌方面月要求终止为美国国防部获取对无人机摄制内容展开分析的人工智能方案。事实上，除了谷歌之外，还有不少科技巨头仍然在普遍注目人脸识别技术中的种种不成熟期迹象，以及有可能由此导致的危害影响。

日前，由布鲁金斯学会在华盛顿举行的一次活动当中，微软公司总裁BradSmith就建议人们应该考虑到人脸识别技术当中有可能不存在的“高风险场景”，例如该技术有可能被用作容许人身自由。他指出，利用人脸识别技术的团队不应遵从关于性别、种族以及民族的反种族歧视法，并且各企业都应付自家人工智能方案的局限性维持高度“半透明”。回应，Smith还更进一步认为，微软公司早已得出结论其中有可能不存在人权风险的结论，并且仍然在拒绝接受客户明确提出的部署人脸识别技术的拒绝。据透漏，2020-03-30 6月微软公司撤消了一份合约，合约内容拒绝微软公司方面为美国移民与海关执法局（全称ICE）获取数据处理与人工智能类工具Smith说明称之为：“人脸识别技术的经常出现正在费伊一种新的可能性，即构建大规模监控体系。

对于政府来说，这项技术将协助其在给定方位跟踪给定目标。如果我们不充份考虑到这些可能性，那么这一切有可能在2024年忽然降临到我们自己身上——就如同《一九八四》（《一九八四》（NineteenEighty－Four）中刻画了一个令人深感窒息而死的可怕世界，在假想的未来社会中，独裁者以追赶权力为最终目标，人性被强权完全助长，权利被完全褫夺，思想受到严苛钳制，人民的生活陷于了极为贫穷，下层人民的人生变为了单调乏味的循环。）一书中叙述的可怕景象一样。”Salesforce公司首席科学家RichardSocher也抱着有某种程度的情绪情绪。

在本月于蒙特利尔开会的NeurlPS2018大会期间，他在拒绝接受VentureBeat专访时回应，正是由于不存在这些疑虑，Salesforce公司目前才要求不通过Einstein图像识别API为EinsteinVision获取人脸识别功能。他认为，“一旦我们开始根据某人的面部作出各种最重要的决策，那么由此引起的后果有可能十分可怕。

人工智能在决策层面的实际展现出，几乎各不相同其用作训练的数据质量。”人工智能的犯规然而，并非每一家公司都有某种程度的谨慎态度。今年夏天，亚马逊公司将Rekognition（一种基于云的图像分析技术，通过AmazonWebServices事业部月对外开放）交付给至佛罗里达州奥兰多市以及俄勒冈州华盛顿县警长办公室作为执法人员工具。奥兰多市随后要求续约涉及协议，并全面推行人脸识别监控计划——此项计划覆盖面积该市警员队伍中的众多志愿者；此外，华盛顿县还要求利用该项功能建构一款应用程序，利用一套包括30万人脸信息的数据库对怀疑犯罪分子的照片展开扫瞄核对。

在一项测试当中（亚马逊公司对其准确性明确提出了批评），美国公民自由联盟证明Rekognition从某“公共来源”处提供到25000张照片，并在将其与国会议员的官方照片展开较为时误将28人视作罪犯。而更加令人震惊的是，大多数错误判断（占到比38％）与有色人种涉及。

AWS公司总经理MattWood于今年6月对上述结论明确提出了批评，指出Rekognition有助“维护儿童权益，并可用作为儿童建构教育类应用程序”，同时还需要“通过多因素身份验证机制强化安全性，减少图像的辨识可玩性，从而用作避免包覆被盗等问题。”在今年8月公布的另一篇博文当中，亚马逊公司认为以MarinusAnalytics公司为代表的众多AWS客户正在利用Rekognition协助找寻落到人贩子手中的受害者，并协助其与家人一家人。此外，非营利性的组织Thorn等人权机构也在利用这项技术找寻并解救遭到性虐待的儿童。

他在博文中写到：“根据报导，目前并没经常出现任何与亚马逊Rekognition涉及的执法人员欺诈不道德。自由选择利用这些新型技术的的组织必需采行负责任的态度，否则将面对受到法律惩处以及公开发表指责的风险。

回应，AWS仍然抱以坦率的态度和责任。”但必需否认，很多参与方并非如此。今年9月，TheIntercept网站公布的一篇报告表明，IBM公司与纽约市警察局合作开发出有一套系统，容许执法人员方根据肤色、头发颜色、性别、年龄以及各种面部特征展开人物搜寻。

利用纽约警察局获取的来自大约50台摄像机的“成千上万”张照片，该人工智能方案学会了如何辨识服装颜色以及其它体貌特征。IBM公司的一位发言人认为，这套系统仅有被用作“评估性目的”。但于2017年公布的IBM智能视频分析2．0产品显然获取一种与此相近的摄像头监控功能，可以通过“亚洲人”、“黑人”以及“白人”等标签对摄制目标展开自动标记。

种族主义的可能性除了Socher所提及的道德原则之外，也有更加多的研究对于人脸识别技术的整体准确度所持猜测态度。

本文来源：yabo888亚博网站-www.dqhryoga.com