如何辨認哪些圖像是由 AI 生成的一直是項待解難題，因此 Google 宣布推出新工具「SynthID 」，為圖像加上人類肉眼不可見，但訓練過的電腦可辨識的數位浮水印，來阻擋造假生成圖的散播。

隨著假生成圖在網路上廣泛流竄，在今年 5 月份一張五角大廈爆炸的生成圖甚至影響了股市，許多公司紛紛透過加上可看見的浮水印或在 metadata 中標註圖片來源，來顯示圖像為 AI 生成。

但這些方式易被修改，像是翻轉圖像即有機會避免被發現是 AI 所生成，反觀 Google 的 SynthID 浮水印為不可竄改，若圖像被大幅的更動，也不會影響到浮水印的功能。

目前，Google 只開放這項服務給使用雲端服務的付費顧客，且可被加上浮水印的圖像僅限 Google 圖像生成工具 Imagen 所產生的，公司也強調這項工具還在實驗階段。

AI 讓圖像的真假難辨，但加浮水印是有效的解方嗎？

今年 7 月白宮召集了各大科技領袖舉行 AI 會議，與會的公司（包括Google 和 OpenAI 等）承諾會開發出浮水印工具，讓 AI 生成圖更容易辨識。

其中，微軟集結了科技和媒體公司，要發展 AI 生成圖加上浮水印的一套標準，同時也在研發新方法追蹤 AI 生成圖；OpenAI 的 Dall-E 則是加上可見的浮水印。

不過，儘管科技巨頭研發出各種浮水印的工具，由開源 AI 所生成的圖像仍有可能難以辨識，且也會有人開始研究如何繞過這些新浮水印工具，就如同資安公司和駭客連續的攻防戰，因此 Google 不會公開浮水印工具背後的技術。

另外，加上浮水印的實用性也遭專家質疑，專家表示存有幾點困難。首先，若有 AI 生成圖被放入自製影片中，在不同媒體相融合下浮水印該如何標註；再者，浮水印缺乏統一的標準；最後，閱聽人除了受騙於假冒的 AI 圖像，若浮水印被濫用後加到真正的圖像上，是否會讓大眾以反向的方式受騙。在真假愈難辨認的網路世界中，這些都是待解的課題。

：Sisley

快加入 INSIDE Google News 按下追蹤，給你最新、最 IN 的科技新聞！