麻省理工学院的这个团队正在与一次只处理几个像素的恶意人工智能图像操纵作斗争

人工智能图像编辑正在兴起，但这项新技术可以帮助防止这种情况的发生。

随着人工智能图像创建和编辑变得越来越普遍，出现了一个新的数字隐私问题——未经授权的人工智能编辑某人的艺术作品或图片。迄今为止，没有什么可以阻止人们在线拍照、将其上传到人工智能程序并出于各种目的对其进行处理。

但麻省理工学院团队的一项新技术可能会改变这一现状。

该方法简称为“PhotoGuard”，涉及对人工智能运行算法的深入理解。有了这种理解，该团队开发了一些方法来非常巧妙地改变图片，扰乱人工智能解释它的方式。如果人工智能无法理解图像，就无法对其进行编辑。

麻省理工学院团队在其项目的一篇论文中解释说：“我们方法的核心是图像免疫的想法——也就是说，通过添加精心设计的（难以察觉的）图像，使特定图像能够抵抗人工智能操纵。”对它的扰动。”

PhotoGuard 的工作原理是改变每张图像中的一些选定像素，以便人工智能看到不存在的东西。这些变化对于人眼来说是不可见的，但对于人工智能来说却异常明亮。当人工智能看到编辑过的像素时，它会高估它们的重要性，并将图像编辑为这些像素，而不是图像的其余部分。

为了测试他们的结果，麻省理工学院的团队拍摄了 60 张图像，并使用各种提示生成人工智能编辑——包括同一图像的免疫版本和非免疫版本。创建新图像后，他们使用几个指标来确定编辑的相似程度。最终结果？在对 60 张图像的测试中，研究小组发现免疫图像的编辑“与非免疫图像的编辑明显不同”。

当然，该方法并非万无一失。如果有人非常想要，他们仍然可以恶意编辑图像 - 也许通过裁剪照片直到剪掉造成麻烦的像素，或者简单地对图像应用滤镜。尽管如此，这仍然是一个重大障碍，可能会阻止很多人。

虽然这种方法对这一代人工智能有效，但这并不一定意味着它在未来也会有效。这就是为什么 PhotoGuard 的创建者不仅通过技术方法，而且通过“开发大型传播模型的组织、最终用户以及数据托管和传播平台之间的合作”来鼓励这一领域的发展。

目前，PhotoGuard 只是一种技术。没有可供公众使用的软件，创建者承认，要使其实用并可供公众使用，还有很多工作要做。麻省理工学院团队表示，这仍然是防范人工智能新威胁的一个进步，也是企业需要投资应对这场斗争的一个迹象。