为了构建更负责任的人工智能系统框架，微软已确认将撤回通过图像分析来判断个人情绪状态的软件。与此同时，该公司还将对泛滥的面部识别技术加以限制。作为一组试图推断情绪、性别、年龄、微笑、毛发、以及是否化了妆的 AI 工具，现有客户将只有一年的时间来使用 Azure Face 。
微软 Azure AI 首席产品经理 Sarah Bird 表示：“这些努力引发了与隐私和情绪缺乏共识的争议，以及无法概括相关用例、地区和人口统计数据中的面部表情与情绪状态之间的联系等重要问题”。
报道称，微软一直在审查情绪识别系统是否科学的问题。虽然该公司并未表态，但现在看来，它或许是无法进一步完善根据图像来推测一个人情绪状态的算法，此外微软可能会对使用此类工具的新规和法律给予支持。
除了停售情感识别技术，微软还将对面容技术的访问加以限制。后续想要继续使用的客户，必须事先获得批准、并承担相应的合同义务。
至于实际操作，尚不清楚微软会施加额外的限制、还是仅要求客户签署免责声明，以免自身因各种滥用案例而遭到任何形式的法律惩罚。
当前微软仅要求其客户“避免出现侵犯隐私、或让技术陷入潜在困境的情况”。让人疑惑的是，尽管法律有规定避免对未成年人加以识别，但微软似乎并未明确禁止此类用途。
最后，微软还对其自定义神经语音功能施加了一些限制。该功能允许客户根据真人的录音，来输出 AI 合成的语音。