如何分辨是否為AI 圖片？谷歌最新大模型工具將“水印”打入AI 繪畫的DNA

原文來源：AGI創新實驗室

隨著技術的不斷迭代，AIGC 圖片已經能夠做到“以假亂真”，AI 和非AI 作品之間的區別有時候已經難以“肉眼”來區別。

圖片來源：由無界AI‌ 生成

AI生成的圖像每天都變得越來越流行。但我們如何才能更好地識別它們，尤其是當它們看起來如此逼真時？

谷歌人工智能團隊Google DeepMind 剛剛宣布與穀歌云合作推出了SynthID，這是一款用於添加水印和識別AI 生成圖像的工具。該技術將數字水印直接嵌入圖像的像素中，使其無法被人眼察覺，但可以檢測到進行識別。

SynthID目前可以為谷歌文生圖模型Imagen 生成的圖片添加水印，並且識別圖片是否為該模型生成，目前已經發布了beta 版本。谷歌CEO 桑達爾・皮查伊稱讚SynthID 是DeepMind 在水印方面的重要早期進展。

雖然AIGC 可以釋放巨大的創造潛力，但它也帶來了新的風險，比如讓創作者有意或無意地傳播虛假信息。能夠識別AI 生成的內容對於讓人們了解何時與生成的媒體進行交互以及幫助防止錯誤信息的傳播至關重要。

**SynthID如何識別AI 圖片？其原理？ **

“看不見”的AI 水印

水印是可以分層在圖像上以識別圖像的設計。從紙上的物理印記到今天數碼照片上看到的半透明文本和符號，它們在整個歷史中不斷演變。

傳統水印不足以識別人工智能生成的圖像，因為它們通常像圖像上的圖章一樣應用，並且很容易被PS 掉。這些水印通常還會佔據整個圖像面積的很大一部分，嚴重影響圖像本身的美觀。

傳統水印在添加濾鏡、更改顏色和亮度等修改之後，很容易受到影響，甚至可能難以再被檢測到。 SynthID 則不會，即使在添加濾鏡、更改顏色以及使用各種有損壓縮方案（最常用於JPEG）進行保存等修改之後，水印仍可被檢測到。

SynthID為AI圖像生成難以察覺的數字水印

SynthID使用兩種深度學習模型（用於添加水印和識別水印），這兩種模型已在不同的圖像集上一起進行訓練。組合模型針對一系列目標進行了優化，包括正確識別帶水印的內容以及通過在視覺上將水印與原始內容對齊來提高不可察覺性。

即使在添加濾鏡、更改顏色和亮度等修改之後，SynthID 添加的水印也可以被檢測到

根據谷歌內部測試，由Imagen 生成並經過SynthID 添加水印的圖像，在經過許多常見的圖像處理之後，SynthID 仍舊能夠準確識別出來。

SynthID的組合方法：

• 添加水印：SynthID 可以為Imagen 生成的合成圖像添加難以察覺的水印。 ‍
• 識別水印：通過掃描圖像中的數字水印，SynthID 可以評估其為Imagen 創建圖像的可能性。

SynthID可以幫助評估圖像由Imagen 創建的可能性。該工具提供了三個置信度來解釋水印識別的結果（檢測到數字水印、未檢測到數字水印、可能檢測到數字水印）。如果檢測到數字水印，則圖像的一部分可能是由Imagen 生成的。

識別內容最廣泛使用的方法之一是通過元數據，它提供諸如創建者和時間等信息。該信息與圖像文件一起存儲。添加到元數據的數字簽名可以顯示圖像是否已更改。

當元數據信息完整時，用戶可以輕鬆識別圖像。但是，元數據可能會在編輯文件時被手動刪除甚至丟失。由於SynthID 的水印嵌入圖像的像素中，因此它與其他基於元數據的圖像識別方法兼容，並且即使元數據丟失也仍然可檢測到。

但對於一些經過極端處理的圖像，DeepMind 團隊也表示SynthID 並不能保證萬無一失，但它確實提供了一種有前途的技術方法，推動人們和組織能夠負責任地使用AI 生成的內容。