随着生成式人工智能的快速发展，人们对AI生成内容所带来的潜在风险越来越关注。举例来说，人们可能会有意或无意地传播由AI生成的虚假信息。尤其是在图像生成领域，区分AI生成的图像和真实图像变得尤为重要
有一些研究试图通过添加水印的方式来区分人工智能生成的内容。ICML 2023的杰出论文《大型语言模型的水印》提出了为模型的输出添加水印的方法，以应对文本生成的挑战
Google DeepMind宣布推出一种新的工具SynthID，用于给生成的图像添加水印，以识别AI生成的图像。目前，SynthID的Beta版本已经上线。谷歌CEO Sundar Pichai和Google DeepMind CEO都在推特上转发了关于SynthID工具的介绍
目前，SynthID 可以为谷歌的文生图模型 Imagen 生成的图像添加水印，而且在视觉上几乎无法察觉到有水印的存在。如下图所示，无论是有水印还是无水印的图像，在外观上看起来都没有任何区别：
SynthID 可以通过扫描图像中的数字水印来评估图像是否由 Imagen 生成
SynthID 不会影响图像质量，而且即使在添加滤镜、更改颜色以及使用各种有损压缩方案（例如 JPEG）进行保存等修改之后，水印仍然可以被检测到
在SynthID中使用了两种深度学习模型，分别用于水印和识别。这两种模型已经在多个图像集上进行了联合训练，并对一系列目标进行了优化
目前，一些用户可以在谷歌的Vertex AI平台上使用SynthID工具（Beta版）对Imagen进行操作
值得注意的是，SynthID 不能保证水印可以完全抵御极端图像处理，但它提供了一种有潜力的技术方法，使人们能够负责任地使用由人工智能生成的内容。研究团队表示未来可能还会推出类似的工具，用于音频、视频和文本等其他模态
本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。