如何分辨是否为 AI 图片？谷歌最新大模型工具将“水印”打入 AI 绘画的 DNA

原文来源：AGI创新实验室

随着技术的不断迭代，AIGC 图片已经能够做到“以假乱真”，AI 和非 AI 作品之间的区别有时候已经难以“肉眼”来区别。

图片来源：由无界 AI‌ 生成

AI生成的图像每天都变得越来越流行。 但我们如何才能更好地识别它们，尤其是当它们看起来如此逼真时？

谷歌人工智能团队 Google DeepMind 刚刚宣布与谷歌云合作推出了 SynthID，这是一款用于添加水印和识别 AI 生成图像的工具。 该技术将数字水印直接嵌入图像的像素中，使其无法被人眼察觉，但可以检测到进行识别。

SynthID目前可以为谷歌文生图模型 Imagen 生成的图片添加水印，并且识别图片是否为该模型生成，目前已经发布了 beta 版本。谷歌 CEO 桑达尔・皮查伊称赞 SynthID 是 DeepMind 在水印方面的重要早期进展。

虽然 AIGC 可以释放巨大的创造潜力，但它也带来了新的风险，比如让创作者有意或无意地传播虚假信息。 能够识别 AI 生成的内容对于让人们了解何时与生成的媒体进行交互以及帮助防止错误信息的传播至关重要。

SynthID如何识别 AI 图片？其原理？

“看不见”的 AI 水印

水印是可以分层在图像上以识别图像的设计。 从纸上的物理印记到今天数码照片上看到的半透明文本和符号，它们在整个历史中不断演变。

传统水印不足以识别人工智能生成的图像，因为它们通常像图像上的图章一样应用，并且很容易被 PS 掉。这些水印通常还会占据整个图像面积的很大一部分，严重影响图像本身的美观。

传统水印在添加滤镜、更改颜色和亮度等修改之后，很容易受到影响，甚至可能难以再被检测到。SynthID 则不会，即使在添加滤镜、更改颜色以及使用各种有损压缩方案（最常用于 JPEG）进行保存等修改之后，水印仍可被检测到。

SynthID为 AI图像生成难以察觉的数字水印

SynthID使用两种深度学习模型（用于添加水印和识别水印），这两种模型已在不同的图像集上一起进行训练。 组合模型针对一系列目标进行了优化，包括正确识别带水印的内容以及通过在视觉上将水印与原始内容对齐来提高不可察觉性。

即使在添加滤镜、更改颜色和亮度等修改之后，SynthID 添加的水印也可以被检测到

根据谷歌内部测试，由 Imagen 生成并经过 SynthID 添加水印的图像，在经过许多常见的图像处理之后，SynthID 仍旧能够准确识别出来。

SynthID的组合方法：

• 添加水印：SynthID 可以为 Imagen 生成的合成图像添加难以察觉的水印。‍
• 识别水印：通过扫描图像中的数字水印，SynthID 可以评估其为 Imagen 创建图像的可能性。

SynthID可以帮助评估图像由 Imagen 创建的可能性。该工具提供了三个置信度来解释水印识别的结果（检测到数字水印、未检测到数字水印、可能检测到数字水印）。 如果检测到数字水印，则图像的一部分可能是由 Imagen 生成的。

识别内容最广泛使用的方法之一是通过元数据，它提供诸如创建者和时间等信息。 该信息与图像文件一起存储。 添加到元数据的数字签名可以显示图像是否已更改。

当元数据信息完整时，用户可以轻松识别图像。 但是，元数据可能会在编辑文件时被手动删除甚至丢失。 由于 SynthID 的水印嵌入图像的像素中，因此它与其他基于元数据的图像识别方法兼容，并且即使元数据丢失也仍然可检测到。

但对于一些经过极端处理的图像，DeepMind 团队也表示 SynthID 并不能保证万无一失，但它确实提供了一种有前途的技术方法，推动人们和组织能够负责任地使用 AI 生成的内容。