并非所有“人工智能制作”图像都是由人工智能制作的

快速链接

• 人工智能媒体是如此真实，我们需要帮助区分它与现实

• Meta 的标签集人工智能生成和人工智能辅助于一体

• 人工智能生成和人工智能辅助之间有区别吗？

• Meta 的人工智能标签并非万无一失

• 摄影新标准即将到来

Meta 最近推出了新的“Made with AI”标签，帮助用户区分真实内容和人工智能生成的内容。问题在于，该标签不加区别地出现在完全使用人工智能创建的图像和仅使用人工智能编辑的图像上。这引发了关于人工智能在多大程度上足以污染图像的争论，并引发了关于什么是真实、什么不是的更多混乱。

人工智能媒体是如此真实，我们需要帮助区分它与现实

您还记得教皇穿着时尚羽绒服的那张照片吗？乍一看，这似乎很正常，我们都以为我们只是睡在教皇的赃物上。然而，后来透露这张照片是人工智能生成的。

用细齿梳子再仔细看一遍，你可以看出该图像是人工智能生成的，但这正是问题所在——没有人以如此高的强度浏览网页。

随着人工智能图像生成服务的激增，网络上流传着数千甚至数百万张人工智能生成的图像。 Facebook 已经充斥着大量人工智能生成的图像，其他社交媒体平台也不甘落后。

大多数人会错过这些图像是人工智能生成的迹象，并将它们视为现实的准确表示。随着选举季的临近，在错误信息和谎言如此普遍的时代，区分捏造事实与现实的风险从未如此之高。

考虑到这一点，Meta 开始对上传到 Facebook、Instagram 和 Threads 的人工智能生成图像进行标记，以帮助人们轻松区分它们。然而，并不是每个人都对他们执行该计划的方式感到满意。

Meta 的标签集人工智能生成和人工智能辅助于一体

Meta 的人工智能标签引起的轩然大波源于这样一个事实：该公司不区分使用人工智能生成照片般逼真的图像和使用人工智能流程编辑照片。就 Meta 而言，两者属于同一类别。

许多愤愤不平的摄影师在社交媒体上分享了发生在他们身上的例子。前白宫摄影师皮特·苏扎 (Pete Souza) 抱怨说，他在发布一张篮球比赛照片时无法取消选中“人工智能制作”框。

另一位摄影师 Peter Yan 的富士山照片被贴上了“人工智能制作”的标签，因为他使用生成式人工智能工具删除了照片中的垃圾桶。

人工智能生成和人工智能辅助之间有区别吗？

围绕 Meta 人工智能标签争论的关键在于，将图像标记为“人工智能制造”是否公平，即使它们只用生成人工智能工具进行了最低程度的编辑。

可以理解的是，使用生成式人工智能工具的摄影师不希望他们的作品附近出现“人工智能制造”的标签。这个词被加载了，表明该场景是捏造的，并暗示他们正在从他人的工作中获利，因为许多人工智能程序都是在未经同意的情况下接受受版权保护的作品训练的。此外，将他们的作品贴上“人工智能制作”的标签会削弱创作最终照片所需的努力和技能。

另一方面，那些支持 Meta 标签的人认为，使用任何生成式人工智能工具，无论多小，都会将人工智能引入其中。因此，这张照片不再是其拍摄场景的准确再现，从技术上讲应该属于“人工智能制作”的范畴。

反标签者反驳说，人们一直在编辑照片——用人工智能去除照片背景与使用魔棒去除照片背景真的有区别吗？如果 Meta 非常关心准确地描绘现实，那么难道不应该有一个标签来识别照片何时被以任何方式修改过吗？

他们接着指出，人工智能工具现在已融入到一切事物中，从 Galaxy S20 Ultra 上的“Space Zoom”到行业标准的照片编辑应用程序（例如 Adobe Photoshop 中的生成填充）。通过将经过细微人工智能调整的图像标记为“Made With” Meta 创造了一个“男孩喊狼来了的场景”，无辜的图像被贴上“人工智能制造”的标签，导致人们对标签失去信任，并使他们更容易受到实际的误导性人工智能内容的影响。

其他人试图找到一个中间立场，建议为仅经过人工智能最小程度改变的图像添加一个单独的“人工智能辅助”标签。然而，这个想法立即遇到了困难。在一张照片被视为“人工智能制作”之前，应该允许多少人工智能修改？这样的系统有什么用处吗？恶意行为者难道不能用人工智能改变图像的一小部分来创建误导性场景吗？

Meta 的人工智能标签并非万无一失

无论如何，整个“人工智能制造”的争论可能是一个没有实际意义的问题，因为任何想要的人都可以完全避免这个标签。 Meta 依赖照片元数据中的信息来识别 AI 进程，并且很容易将其删除。 PetaPixel 在测试中发现，只需将图像复制粘贴到空白文档中就足以绕过该标签，并且发布图像的屏幕截图也可以避免该标签。

标签的可靠性也值得怀疑，因为 Meta 平台上有几张明显是人工智能生成的图像没有标签。相比之下，其他没有任何人工智能的图像就被打了折扣。

摄影新标准即将到来

尽管目前情况混乱，但希望就在眼前。许多大型数字媒体播放器正在重新考虑照片和视频，更加关注其来源和身份验证。我怀疑这个领域在未来几年将会发生巨大的变革。目前已经有一些新的数字媒体认证举措，其中最大的是内容来源和真实性联盟（Coalition for Content Provenance and Authenticity），简称 C2PA。

C2PA 是 Adobe、Arm、英特尔、微软和谷歌等大型科技公司之间的联合项目，旨在为所有数字媒体提供背景和历史。其背后的想法是，从捕捉的那一刻起，就会创建一个数字记录并将其绑定到所有媒体，详细说明拍摄地点、相机和拍摄者。随后对主题所做的每一次编辑也会添加到此记录中，然后将所有这些信息提供给最终查看者，确保他们始终了解照片的出处。

C2PA 仍处于早期阶段，但支持该标准的新相机已经在生产中，我怀疑用不了多久它就会成为常态。

现在比以往任何时候都更难区分人工智能生成的内容和真实的内容，而 Meta 的新标签肯定无济于事。像 C2PA 这样的举措是黑暗隧道尽头的一盏明灯，但距离普遍采用还需要一段时间。

您有责任以批判的眼光评估您所消费的媒体，以确保您所看到的内容是真实的。质疑来源，寻求更多信息，并记住并非所有“人工智能制造”图像都是由人工智能制作的。