Google發表辨識工具SynthID，為AI產生的圖像加上「浮水印」，更改顏色或壓縮後還能被檢測出來

你能看出圖像是 AI 生成的還是真實的嗎？ 

隨著生成式人工智慧的迅速發展，人們越來越關注 AI 生成內容帶來的潛在風險。例如，人們可能會有意或無意地傳播 AI 生成的虛假資訊。特別是在圖像生成領域，分辨 AI 生成的圖像和真實圖像顯得尤為重要。 

• 延伸閱讀：美國版權局裁定，由Midjourney等AI繪圖服務製作出的圖片不受版權保護

一些研究嘗試用「加浮水印」的方法來分辨 AI 生成的內容。ICML 2023 傑出論文《A Watermark for Large Language Models》就針對文本生成提出為模型的輸出加上浮水印。

現在，Google DeepMind 宣布針對圖像生成推出一種加上浮水印的工具 SynthID，以辨識 AI 產生的圖像，目前 SynthID Beta 版已經上線。Google CEO Sundar Pichai 和 Google DeepMind CEO 都轉推介紹了 SynthID 工具。

Important early progress on watermarking from @GoogleDeepMind with beta release of #SynthID https://t.co/FysmSerkht

— Sundar Pichai (@sundarpichai) August 29, 2023

SynthID 目前可以為Google的文生圖模型 Imagen 所產生的的圖像加上浮水印，並且在視覺上難以察覺。如下圖所示，有無浮水印的圖像看起來沒有差別： 

透過掃描圖像中的數位浮水印，SynthID 可以評估圖像是由 Imagen 生成的可能性。 

SynthID 不會影響圖像品質，並且即使在添加濾鏡、更改顏色以及使用各種失真壓縮方案（例如 JPEG）進行保存等修改之後，浮水印仍然可以被檢測到。 

在 SynthID 使用兩種深度學習模型（用於浮水印和辨識），這兩種模型已在多個圖像集上一起進行了訓練，並針對一系列目標進行了最佳化。 

目前，部分使用者可以在Google的 Vertex AI 平臺上對 Imagen 使用 SynthID 工具（Beta 版）。 

值得注意的是，SynthID 並不能保證浮水印可以萬無一失地抵禦極端影像處理，但它提供了一種有前途的技術方法，使人們能夠負責任地使用人工智慧產生的內容。研究團隊表示之後可能還會面向音訊、影片和文本等模態推出類似的工具。 

資料來鴻：

• Identifying AI-generated images with SynthID

• 延伸閱讀：OpenAI只要20分鐘就能寫好回家作業，還能通過防抄襲檢測演算法連高中生也會用！
• 延伸閱讀：「版權流氓」終結者：6天時間，寫出687億段旋律，全部無償讓大眾使用