网络安全检测|网络安全服务|网络安全扫描-香港墨客投资移动版

然而，据英国卫报报道，FBI 的人脸识别算法准确率只有85%，往往会有两种失误情况：一种是错误匹配，冤枉了无辜的平民；另一种则是漏报，即错误放走了出境或入境的罪犯。而识别系统在识别黑人比识别白人的出错率更高，也就是说在执法时，黑人被误判的几率更大。

这暴露了人脸识别系统通常具有出错率高的缺陷，尤其是难以识别和区分肤色较深的人。

MIT Lab一项名为《Gender Shades》的研究项目就发现，人脸识别软件中的不同性别和肤色的人的时候会产生偏差。在浅肤色男性的错误率为0.8％，而对于深色皮肤的女性则错误率高达34.7％。研究人员将这种偏差成为“算法偏见（algorithmic bias)”。

黑人研究人员Joy Buolamwini选择了微软、IBM和旷视(Face++)三家的人脸识别API，对它们进行性别判定的人脸识别功能测试。但是她发现只有两个平台能识别出她的脸，而且这两个平台都把她的性别给弄错了。

为了证明她不是特例，Buolamwini于是尝试分析这些人脸识别技术软件在识别不同人种、不同性别方面的准确率，结果发现这几个人脸识别系统对肤色较深的女性的分类误差率更高。

她解释说，这种“算法偏见”（algorithmic bias）存在的主要原因首先是训练图像和基准数据集缺乏多样性，其次是深色人种人脸特征较难提取，这也会影响人脸识别技术的准确性。

由于人工智能很大程度上依赖于训练数据，所以对人工智能进行训练的数据情况，将在很大程度上决定AI的智能程度。因此，如果用来训练AI模型的数据集中，白人男性的数据多于黑人女性，那么系统对后者的识别能力就会不如前者。

Joy Buolamwini指出，如果这些人脸识别技术用于移民案件管理或者贷款发放评估方面，那么产生的不靠谱的结果将使很多人将得到不公正的待遇。

Kairos（人脸识别及 AI 技术初创公司）的 CEO Brian Brackeen 发表了一篇反对将人脸识别应用在执法工作中的文章，文章中写道，“在种族歧视严重的美国，非白人受到更严格的审查，人脸识别只会加重“不平等”。在数据库还不够完善的当下，让技术去“指认”一个人是否犯了罪是极其不负责任的。”乔治城大学法律学院隐私与科学中心的研究就表明，接近一亿二千万的美国人成为美国政府人脸识别技术的应用对象。而这一个数据在中国则更加庞大。

鉴于人脸识别技术仍未成熟，如果完全不受监管，这项技术可能会对公民平等和人身安全构成威胁。

敏感的隐私问题：人脸识别会成为明天的“利维坦”吗？

微软总裁兼首席法务官布拉德·史密斯在发表的博文里面提到：

“正像凡是工具总有两面性，就算是扫把，我们也都可以把它用来扫地，也可以用来敲别人的头惩罚别人。人脸识别技术能够帮助家庭找到失散已久的亲人、也可以帮助警察在茫茫人海中找出准备发动袭击的恐怖分子，这些是它能为我们所利用的好处。但同时，人脸识别技术也带来了根本的关于隐私权和自由表达权利的讨论，这项技术若是被公共权力或者企业所误用乃至利用，后果是非常可怕的。”

人脸识别是目前 AI 领域里应用最广泛的技术之一，但是带来的隐私问题也十分严重。

乔治城大学法隐私和技术中心的助理 Clare Garvie也表达了她的担忧：人脸识别对言论自由的影响是潜在但不可忽视的。如果人脸识别技术被警方用于监控那些挑战公共权力的群众，那就好比用于在游行示威中，就如同警方在队伍中穿行，要求在场的每个人都出示身份证明。所有的群众都在争取政治权利的过程中加之亚马逊在科技领域的影响力，会有更多执法机构愿意参与进来。