Meta 将为 Facebook、Instagram 和 Threads 添加人工智能标签
既然你无法相信在生成式人工智能时代所看到的一切,Meta 正在采取行动。这是值得期待的事情。
生成式人工智能使得创建看起来像人类拍摄的逼真图像成为可能,这使得区分真实图像和人工智能生成的图像变得更加困难。因此,Meta 宣布了几项有关人工智能生成图像的努力,以帮助打击错误信息。
周二,Meta 通过博客文章宣布,在接下来的几个月中,它将在 Instagram、Facebook 和 Threads 上添加新标签,以指示图像何时由人工智能生成。
Meta 目前正在与行业合作伙伴合作,确定通用技术标准,以表明何时使用生成式人工智能创建内容。然后,通过使用这些信号,Meta 正在构建一种功能,可以在其平台上的帖子上以所有语言发布标签,描述该图像是人工智能生成的,如文章顶部的照片所示。
Meta 全球事务总裁尼克·克莱格 (Nick Clegg) 表示:“随着人类内容和合成内容之间的区别变得模糊,人们想知道界限在哪里。” “因此,重要的是我们要帮助人们知道他们所看到的逼真内容何时是使用人工智能创建的。”
该标签的工作原理与 TikTok 于 9 月发布的人工智能生成内容标签类似,后者出现在包含人工智能生成的真实图像、音频或视频的 TikTok 视频上。
Meta 包括可见标记、不可见水印和嵌入在使用 Meta AI 的光生成功能生成的每张图像中的 IPTC 元数据。然后,该公司给这些图像贴上“人工智能想象”的标签,表明它们是人工创建的。
Meta 表示,它正在构建行业领先的工具,可以检测不同公司的人工智能生成器生成的图像中的不可见水印,例如 IPTC 元数据。其中包括 Google、OpenAI、Microsoft、Adobe、Midjourney 和 Shutterstock,也为这些图像添加了 AI 标签。
当然,这给恶意行为者留下了漏洞。如果该公司不遵守将元数据添加到其人工智能图像生成器中的规定,Meta 将无法使用标签来标记图像。尽管如此,这似乎是朝着正确方向迈出的一步。
尽管公司努力在人工智能生成的图像上包含信号,但在人工智能生成的视频和音频方面尚未做出同样的努力。与此同时,Meta 正在添加一项功能,人们可以透露他们使用人工智能生成图像,以便 Meta 可以添加标签。
该公司正在强制执行自愿披露,并威胁说,如果用户不披露,将增加处罚。该公司还保留向图像、音频或视频添加更显眼的标签的能力,这些标签会产生特别高的欺骗公众的风险。
克莱格补充道:“我们将要求人们在发布带有数字创建或更改的逼真视频或逼真音频的有机内容时使用此披露和标签工具,如果他们不这样做,我们可能会施加处罚。”
这些工具的开发正值选举即将到来的特别关键时刻。制造可信的错误信息比以往任何时候都容易,并且可能会对候选人的公众舆论产生负面影响并阻碍民主投票过程。因此,包括 OpenAI 在内的其他公司也采取了行动,在选举前实施防护措施。