谷歌新工具可以检测人工智能生成的图像，但事情没那么简单

该工具由 DeepMind 团队创建，作为迈向负责任的人工智能的一步。

即使在编辑、更改颜色或添加滤镜后，该工具也可以检测人工智能生成的图像。

人工智能工具生成的图像越来越难以与人类创建的图像区分开来。人工智能生成的图像可能会大量传播错误信息，导致人工智能的不负责任的使用。为此，谷歌推出了一款新的 SynthID 工具，可以区分人工智能生成的图像和人类创建的图像。

该工具由 DeepMind 团队创建，可以为人工智能生成的图像添加难以察觉的数字水印——就像签名一样。该工具稍后可以检测此水印，以指出哪些图像是由 AI 创建的，即使经过修改（例如添加滤镜、压缩、更改颜色等）也是如此。

SynthID 将两种深度学习模型结合到一个工具中。一种以肉眼难以察觉的方式在视觉上将水印添加到原始内容中，另一种识别水印图像。

目前，SynthID 无法检测所有 AI 生成的图像，因为它仅限于使用 Google 的文本到图像工具 Imagen 创建的图像。但这是负责任的人工智能前景光明的一个迹象，特别是如果其他公司将 SynthID 纳入其生成人工智能工具的话。

该工具将逐步向使用 Imagen 的 Vertex AI 客户推出，并且仅在该平台上可用。然而，谷歌 DeepMind 希望尽快将其应用于其他谷歌产品和第三方。