【CNMO新闻】经过多月测试之后，微软近日正式发布AI内容审核工具Azure AI Content Safety。据悉，该产品是其在今年5月开始测试的内容审核工具，其包含一系列经过训练的AI模型，可检测图片或文本中与偏见、仇恨、暴力等相关的负面内容，并能理解并检测包含八种语言的图片或文本。
此外，该审核工具会对被标记的内容进行严重性评分，并指导人工审核员对需要采取行动的内容进行处理。最初，这个审核工具被整合到了Azure OpenAI服务中，而现在它将以独立系统方式推出
在微软的官方博文中提到：“这意味着用户可以将其应用于开源模型和其他公司模型生成的人工智能内容，还可以调用部分用户生成的内容，以进一步增强其实用性。”
微软表示，尽管该产品在处理数据和内容方面已经有所改进，能够更公正地理解上下文，但仍然需要依赖人工审核人员来标记数据和内容。这也意味着最终的公正性取决于人类。然而，在处理数据和内容时，人工审核人员可能因为个人偏见而无法做到完全中立审慎
本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。