微软宣布停售情绪状态分析技术，限制面部识别工具使用

6月22日消息，美国当地时间周二，微软宣布将停止销售基于面部图像分析个人情绪状态的自动化技术，并限制其面部识别工具的使用。多年来，许多活动人士和学者始终担心，声称能够识别个人年龄、性别和情绪状态的面部分析软件可能存在偏见、侵入性，或者根本不可靠，因此不应该被允许出售

6月22日消息，美国当地时间周二，微软宣布将停止销售基于面部图像分析个人情绪状态的自动化技术，并限制其面部识别工具的使用。

多年来，许多活动人士和学者始终担心，声称能够识别个人年龄、性别和情绪状态的面部分析软件可能存在偏见、侵入性，或者根本不可靠，因此不应该被允许出售。

微软承认的确存在上述问题，并在美国当地时间周二表示，计划从其人工智能（AI）服务中移除这些用于检测、分析和识别人脸的功能。微软将于本周停止向新用户出售该技术，现有用户也将在今年内逐步停用。

这些改变是微软加强对其AI产品控制努力的一部分。经过两年的审查，微软的一个团队制定了一份“负责任AI标准”。在长达27页的文件中，该公司列出了对负责任AI系统的具体要求，以确保它们不会对社会产生有害影响。

这些要求包括确保AI系统“为它们致力于解决的问题提供有效的解决方案”，以及“为已确定的人口群体（包括边缘化群体）提供类似质量的服务”。

这些技术将被用于帮助个人获得就业、教育、医疗保健、金融服务或人生机遇等做出重要决定，在发布之前，它们需要接受由微软首席负责任AI官娜塔莎·克兰普顿(Natasha Crampton)领导的团队的评估。

显然，微软对这种情绪识别工具的担忧加剧了，它可以将个人的面部表情归为愤怒、轻蔑、厌恶、恐惧、快乐、中立、悲伤或惊讶等。克兰普顿说：“我们表达自我的方式存在着巨大的文化、地理和个人差异，这引发了人们对AI识别工具可靠性的担忧，同时也会让人产生更大的疑问，即面部表情是否是反映个人内心情绪状态的可靠指标。”

克兰普顿还说，年龄和性别分析工具以及其他检测微笑等面部特征的工具，可能有助于盲人或视力不佳者解读视觉图像。但微软认为，向公众普遍提供这些分析工具不合适。克兰普顿强调，该系统的所谓性别分类器是二元的，“这与我们的价值观并不完全一致”。

微软还将对其人脸识别功能施加新的控制，该功能可用于身份核查或搜索特定的人。例如，网约车公司Uber在其应用中使用该软件来验证司机的脸是否与该司机账户上的ID匹配。想要使用微软面部识别工具的软件开发商需要申请访问权限，并解释他们计划如何部署该工具。

用户还将被要求申请并解释他们将如何使用其他可能被滥用的AI系统，如定制神经语音（Custom Neural Voice）。该服务可以根据某人的演讲样本生成人的声纹，这样作者就可以创建他们的合成声音，以用他们不会说的语言阅读有声读物。

由于该工具可能被滥用，比如生成某个人没有说过的话，用户必须经过一系列步骤来确认他们使用的声音得到了授权，并且录音中包括微软可以检测到的水印。克兰普顿说：“我们正在采取具体行动，以践行我们的AI原则，但这将是一段漫长的旅程。”

与其他科技公司一样，微软的AI产品在开发过程中也遭遇了许多挫折。2016年，微软在推特上发布了名为Tay的聊天机器人，旨在从与其互动的用户那里学习如何“理解对话”。然而，该机器人很快就开始发布具有种族歧视和攻击性的推文，微软最终不得不将其删除。

2020年，研究人员发现，微软、苹果、谷歌、IBM和亚马逊开发的“语音转文本”工具在黑人用户中的表现不太好。尽管微软的系统是其中最好的，但对白人的误认率为15%，而对黑人的误认率为27%。

虽然微软收集了各种各样的语音数据来训练其AI系统，但其始终没有彻底理解语言的多样化。因此，该公司聘请了来自华盛顿大学的社会语言学专家来帮助解释其需要了解的语言变体。这种方法超越了人口统计和地区差异，囊括了人们在正式和非正式场合的说话方式。

克兰普顿说：“认为种族是某个人说话方式的决定因素，实际上有很大误导性。我们咨询专家后了解到，实际上有很多因素会影响语言的多样性。解决语音与文本之间差距的过程，为公司在新标准制定指导方针提供了巨大帮助。”

克兰普顿还称：“现在是为AI制定规范的关键时期。”她指的是欧洲拟议中的法规，该法规对AI的使用设定了规则和限制。克兰普顿说：“我们希望能够利用我们的标准，为科技公司普遍应该遵守的标准的讨论和制定做出贡献。”

关于AI的潜在危害，科技界已经进行了多年的激烈辩论。争论的起因是，有些AI错误和失误对人们的生活产生了实际影响，比如决定人们是否能获得福利的算法。荷兰税务机构错误地剥夺了贫困家庭的儿童看护福利，因为一个有缺陷的算法排除了具有双重国籍的人。

用于识别和分析人脸的自动化软件一直备受争议。去年，Facebook关闭了其已有十年历史的照片识别系统。该公司负责AI业务的副总裁提到，“很多人对面部识别技术在社会中的地位感到担忧”。

几名黑人男子因面部识别匹配有误而被错误逮捕。2020年，在明尼阿波利斯市警察枪杀乔治·弗洛伊德(George Floyd)后，引发了“黑人的命也是命”(Black Lives Matter)的抗议活动。与此同时，亚马逊和微软宣布暂停美国警方使用其面部识别产品，称需要对其使用制定更明确的法律。

自那以后，美国华盛顿和马萨诸塞州通过了法规，其中要求对警察使用面部识别工具进行司法监督。克兰普顿说，微软曾考虑是否开始在有法律依据的州向警方提供其软件，但目前决定不这样做。她说，随着法律环境的变化，这种情况可能会改变。

普林斯顿大学计算机科学教授、著名AI专家阿温德·纳拉亚南（Arvind Narayanan）表示，公司可能正在放弃分析面部的技术，因为他们可能意识到，至少目前，这些系统没有太大的商业价值。微软没有透露其面部分析功能有多少用户。纳拉亚南预测，公司不太可能放弃其他侵入性技术，比如定向广告，它会让人们选择最好的广告来展示给特定用户，因为它们依然是“摇钱树”。 （小小）