Google 長期以來希望提供用戶有用的背景資訊，隨著生成式媒體越來越普及、越來越真實，Google 正在部署工具，更新 Gemini 應用程式，以偵測圖片是否由 AI 生成或編輯。不過，這裡的條件是這項新功能目前只適用於使用 Google AI 生成或編輯的圖片。
Gemini 應用現在可以告訴你照片是否為 AI 生成
Gemini AI 影像偵測器背後的推手是 Google 於 2023 年推出的數位浮水印技術 SynthID。SynthID 將難以察覺的訊息嵌入 AI 生成的內容中，這些訊息在修改後依然保持完整。Google 透過其 SynthID Detector 驗證入口網站測試這項技術，該入口網站於今年稍早向有興趣的媒體工作者、研究人員及媒體專業人士開放。它能在不同模式中辨識 AI 生成的內容，並標示最有可能被加註 SynthID 水印的部分。
Google 也在魔術編輯（Magic Editor）中的 Reimagine 生成式 AI 工具中加入支援 SynthID。不過，你可以透過在 Gemini 應用程式中提問「這是用 Google AI 製作的嗎？」或「這是 AI 生成的嗎？」，快速確認你在 Gemini 應用程式上傳的圖片是否是用 Google AI 生成。聊天機器人會驗證你上傳圖片中的 SynthID 浮水印，並利用其推理能力提供回應，為圖片增添更多上下文。未來，Google 將利用其 SynthID 驗證工具支援更多內容類型，包括音訊和影片，並將此功能整合進 Google 搜尋及其他平台。
這不只是 Google，AI 生成內容誤導和欺騙用戶的威脅日益增加，給其他科技公司敲響了警鐘。Google 是內容來源與真實性聯盟（C2PA）指導委員會成員，該聯盟還包括 Adobe、OpenAI、Meta、Microsoft 等。雖然 SynthID 是 Google 的專有計畫，但 C2PA 是一個開放標準，能將安全的原始資料附加到圖片、音訊或影片上。Adobe 也基於 C2PA 憑證開發了自己的數位浮水印工具。
Google 表示，其新開發的 Nano Banana Pro 影像生成模型，將在 Gemini 應用程式、Vertex AI 及 Google Ads 的生成內容中嵌入 C2PA 元資料。Google 已在 YouTube、Search、Pixel 和 Photos 等產品中落實 C2PA 憑證。Google 表示，未來 C2PA 內容憑證加入驗證工具，將讓用戶能夠檢查由存在於 Google 生態系統之外的模型和產品所創造內容的原始來源。