网站搜索

苹果、谷歌和微软如何帮助我们免受人工智能深度假货的侵害


为了打击人工智能驱动的虚假信息,科技巨头必须合作采用这些开放标准。 Apple 和 X 的缺席引发了担忧。

人工智能生成内容的兴起给数字媒体领域的前沿带来了创新和关注。超现实的图像、视频和录音曾经是专家设计师和工程师的作品,现在任何人都可以使用 DALL-E、Midjourney 和 Sora 等工具来创建。这些技术使内容创作民主化,使艺术家、营销人员和爱好者能够突破创意界限。

然而,这种可访问性也带来了阴暗面——虚假信息、身份盗窃和欺诈。恶意行为者可以利用这些工具冒充公众人物、传播假新闻或操纵公众以获取政治或经济利益。

迪士尼决定为未来的《星球大战》电影以数字方式重现詹姆斯·厄尔·琼斯的声音,这是这项技术进入主流应用的生动例子。虽然这展示了人工智能在娱乐领域的潜力,但它也提醒人们,语音复制技术被用于有害目的时会带来风险。

随着人工智能生成的内容模糊了现实与操纵之间的界限,谷歌、苹果和微软等科技巨头必须带头努力保护内容的真实性和完整性。深度造假带来的威胁并不是假设的——它是一个快速增长的问题,需要协作、创新和严格的标准。

C2PA 在内容真实性中的作用

由 Linux 基金会领导的内容来源和真实性联盟是一个开放标准机构,致力于建立对数字媒体的信任。通过将元数据和水印嵌入到图像、视频和音频文件中,C2PA 规范使得跟踪和验证数字内容的来源、创建和任何修改成为可能。

近几个月来,Google 显着增加了对 C2PA 的参与,加入了指导委员会。在此之前,Meta 于 2024 年 9 月上旬决定加入同一委员会,标志着行业参与度显着增加。

Google 目前正在将 C2PA 内容凭证集成到其核心服务中,包括 Google 搜索、广告以及最终的 YouTube。通过允许用户查看元数据并识别图像是否是使用人工智能创建或更改的,谷歌的目标是打击被操纵内容的大规模传播。

微软还将 C2PA 嵌入到其旗舰工具中,例如 Designer 和 CoPilot,确保创建或修改的所有 AI 内容都可追溯。这一步骤补充了微软在 Project Origin 上的工作,该项目使用加密签名来验证数字内容的完整性,从而创建了一种多层的来源方法。

尽管谷歌和微软已经采取了重大举措,采用了 C2PA 等内容来源技术,但苹果公司没有参与这些举措,引发了人们对其对这一关键努力的承诺的担忧。尽管 Apple 在 Apple Intelligence 等项目中一贯优先考虑隐私和安全,但其在 C2PA 或类似技术方面缺乏公众参与,导致其在行业领导地位方面存在明显差距。通过与谷歌和微软合作,苹果可以帮助建立一个更加统一的战线来打击人工智能驱动的虚假信息,并加强内容真实性的整体方法。

C2PA其他成员

除了 Google、Microsoft 和 Meta 之外,还有几个主要组织为 C2PA 指导委员会做出了贡献。 Adobe 和 OpenAI 也加入了该委员会,在推进内容来源技术方面发挥着关键作用。 Adobe 是创始成员,将内容凭证集成到流行的 Creative Cloud 应用程序中,包括 Photoshop、Lightroom 和 Express,从创作的角度确保内容的真实性。 Adobe Firefly 是 Adobe 的生成式 AI 模型,还将内容凭证附加到所有 AI 生成的输出中,进一步提高了透明度。

OpenAI 于 2024 年 5 月成为指导委员会成员,并已开始将内容凭证附加到 DALL·E 3 生成的图像上。该公司计划将此功能扩展到由其 Sora 文本到视频模型生成的视频输出,从而扩大内容的覆盖范围跨媒体类型的出处。

此外,TikTok 今年早些时候以普通会员身份加入 C2PA,成为第一个实施内容凭证的社交媒体平台。这一开创性的举措突显了 TikTok 对透明度的承诺,即使用凭证在其平台上标记人工智能生成的内容。

这些组织以及英特尔、Arm、Truepic、BBC 和索尼等其他组织代表了致力于采用 C2PA 标准并确保整个数字生态系统内容真实性的广泛行业领域。

创建用于内容验证的端到端生态系统

C2PA架构概述

创建用于内容验证的端到端生态系统

为了有效管理深度伪造和人工智能生成的内容,必须建立一个全面的端到端内容验证生态系统。该生态系统涵盖操作系统、内容创建工具、云服务和社交平台,确保数字媒体在其生命周期的每个阶段都是可验证的。

  • Windows、macOS、iOS、Android 等操作系统以及物联网设备和摄像头的嵌入式系统必须集成 C2PA 作为核心库。这将确保在这些系统上创建、保存或修改的任何媒体文件自动包含元数据,确保其真实性并防止内容操纵。

  • 相机和录音机等产生大量媒体的设备中的嵌入式操作系统尤其重要。例如,这些设备捕获的安全录像或录音必须加水印以防止篡改。集成 C2PA 可确保内容的可追溯性,无论使用何种应用程序。

  • Adobe Creative Cloud、Microsoft Office 和 Final Cut Pro 等内容创建平台必须在其服务中嵌入 C2PA 标准。 Adobe 已将内容凭证集成到 Photoshop、Lightroom 及其生成 AI 模型 Firefly 等流行工具中。 GIMP 等开源工具也应该采用这些标准,以促进跨专业和业余平台的一致验证过程。

  • 云平台,包括 Google Cloud、Azure、AWS、Oracle Cloud 和 Apple iCloud,必须采用 C2PA,以确保人工智能生成和云托管的内容从创建那一刻起就可追溯。基于云的人工智能工具生成大量数字媒体,集成 C2PA 将确保这些创作在其整个生命周期中都是可验证的。

  • 移动应用 SDK 必须将 C2PA 作为其核心 API 的一部分,确保在智能手机和平板电脑上创建或编辑的所有媒体立即带有水印并可验证。无论是摄影、视频编辑还是录音,应用程序都必须确保用户的内容保持真实且可追溯。

社交媒体和应用程序生态系统

Meta、TikTok、X 和 YouTube 等社交媒体平台是最大的数字内容分发渠道之一。随着这些平台继续集成生成式人工智能功能,它们在内容验证中的作用变得更加重要。大规模的用户生成内容和人工智能驱动的媒体创作的兴起使这些平台成为确保数字媒体真实性的核心。

X 和 Meta 都引入了用于图像生成的 GenAI 工具。 xAI 最近发布的 Grok 2 允许用户根据文本提示创建高度逼真的图像。尽管如此,它仍然缺乏防止创建有争议或误导性内容的防护措施,例如对公众人物的真实描述。这种缺乏监督的情况引发了人们对 X 管理错误信息能力的担忧,特别是考虑到埃隆·马斯克 (Elon Musk) 不愿实施强有力的内容审核。

同样,Meta 的 Imagine with Meta 工具由 Emu 图像生成模型和 Llama 3 AI 提供支持,将 GenAI 直接嵌入到 Facebook、WhatsApp、Instagram 和 Threads 等平台中。鉴于 X 和 Meta 在人工智能驱动的内容创建领域占据主导地位,他们应该被视为负责实施强大的内容来源工具,以确保透明度和真实性。

尽管 Meta 加入了 C2PA 指导委员会,但它尚未在其平台上完全实施 C2PA 标准,这在其对内容完整性的承诺方面存在差距。虽然 Meta 在使用“Imagined with AI”标签标记 AI 生成的图像以及将 C2PA 水印和元数据嵌入其平台上生成的内容方面取得了长足进步,但这一进展尚未扩展到其所有应用程序,包括为上传的内容提供来源链已生成或外部更改的材料,削弱了 Meta 保证其平台上共享媒体可信度的能力。

相比之下,X 并未参与任何 C2PA,这在更广泛的内容验证生态系统中造成了重大漏洞。该平台未能采用内容验证标准以及 Grok 无限制的图像生成功能,使用户接触到现实但具有误导性的媒体。这种差距使得 X 很容易成为错误信息和虚假信息的目标,因为用户缺乏验证人工智能生成内容的来源或真实性的工具。

TikTok 成为第一个实施 C2PA 内容凭证的社交媒体平台。作为其透明度承诺的一部分,TikTok 集成了内容凭证,在其平台上标记人工智能生成的媒体,为其他平台树立了重要的先例。作为 C2PA 的成员,TikTok 的早期采用标志着在确保社交媒体领域内容真实性方面迈出了重要一步。

通过采用 C2PA 标准,Meta 和 X 都可以更好地保护其用户和更广泛的数字生态系统免受人工智能生成的媒体操纵带来的风险。如果没有这些措施,强大的内容验证系统的缺乏就会在防范虚假信息方面留下重大差距,从而使不良行为者更容易利用这些平台。人工智能驱动的内容创作的未来必须包括强大的来源工具,以确保透明度、真实性和问责制。

引入数字资产可追溯区块链

溯源区块链可以建立防篡改系统来跟踪数字资产,以增强内容验证。对媒体的每次修改都会记录在区块链分类账上,确保从创建到分发的透明度和安全性。该系统将允许内容创建者、平台和用户验证数字媒体的完整性,无论它被共享或更改了多少次。

  • 加密哈希:每段内容在创建时都会被分配一个唯一的加密哈希。随后的每次修改都会更新哈希值,然后将其记录在区块链上。
  • 不可变记录:由 Google、Microsoft 等 C2PA 成员和其他主要利益相关者维护的区块链分类账将确保对媒体的任何编辑保持可见和可验证。这将创建内容生命周期的永久且不可更改的历史记录。
  • 监管链:内容的每次更改都会被记录下来,形成不间断的监管链。这将确保即使内容被共享、复制或修改,其真实性和起源也始终可以追溯到源头。

通过将 C2PA 标准与区块链技术相结合,数字生态系统将实现更高的透明度,从而更容易跟踪人工智能生成和更改的媒体。该系统将成为防止深度伪造和错误信息的关键保障,有助于确保数字内容保持可信和真实。

Linux 基金会最近宣布建立一个由 100 多名创始成员组成的去中心化信任计划,进一步强化了这一模式。该系统将创建一个跨平台验证数字身份的框架,增强区块链的可追溯性,并通过允许安全且可验证的数字身份来增加另一层责任。这将确保内容创建者、编辑和分发者在整个内容生命周期中得到验证。

内容来源的前进之路

谷歌、微软和苹果之间的合作对于应对人工智能生成的虚假信息的兴起至关重要。虽然谷歌、微软和 Meta 已经开始将 C2PA 标准集成到他们的服务中,但苹果和 X 在这些努力中的缺席留下了巨大的差距。 Linux 基金会的框架结合了区块链可追溯性、C2PA 内容来源和分布式身份验证,为管理人工智能生成内容的挑战提供了全面的解决方案。

通过跨平台采用这些技术,科技行业可以确保更大的透明度、安全性和问责制。嵌入这些解决方案将有助于打击深度伪造并维护数字媒体的完整性,从而使协作和开放标准对于构建可信的数字未来至关重要。

相关文章