这个免费的 Google AI 工具将复杂的研究论文转化为简洁的对话

谷歌的新研究表明，人工智能识别图像的作用可能不等于“知道”任何东西。

大多数人在很小的时候就能认出猫或狗。当被要求阐明他们如何知道动物是猫还是狗时，成年人可能会通过描述经历来摸索解释，例如“猫以遥远的方式评价你，但狗试图跳到你身上舔你的脸。

换句话说，我们并没有真正表达我们所知道的。

人工智能在过去二十年中的标志性成就是通过将猫和狗的图片分类，将它们归类。但 AI 程序从未解释它们是如何“知道”它们应该“知道”的。它们是众所周知的黑匣子。 

Google 的 AI 研究人员最近的一项创新试图提供关于 AI 如何识别此类事物的答案。这是一个引人入胜的工程项目，它也让人怀疑 AI 是否真的什么都知道。 

在研究论文《Explaining in Style： Training a GAN to explain a classifier in StyleSpace》中，Google 研究科学家 Oran Lang 及其同事着手对所谓的分类器进行逆向工程：一种机器学习程序，开发了一种功能，可以自动将图片分类，例如“猫”和“狗”。 

他们的程序称为“StylEx”，能够识别使分类器将给定照片分配给一个或另一个类别的事物，并且它以人们可以识别的方式 - 换句话说，语义上重要的属性。 

他们的技术采用了所谓的生成对抗网络 （GAN） 的新用法。GAN 方法最初由 AI 科学家 Yoshua Bengio 和他的团队于 2014 年在蒙特利尔的 MILA 推出，是一种广受欢迎的程序，用于生成模拟给定风格或流派的虚假图像。

科学家们使用的 GAN 程序称为 StyleGAN，由 Nvidia 的 Tero Karras 及其同事于 2019 年推出，并于 2020 年更新为 StyleGAN2。它可以拍摄各种人物、地点和事物的真实照片，并以原始图像的方式制作令人信服的假照片，正如您在网站“这个人不存在”上看到的那样，这是一组非常逼真的假头像。

没错，GAN 是“深度伪造”现象的先锋。关键是，GAN 可以生成任何类型的图像，包括看起来逼真的假猫和狗图片。

重要的是，StyleGAN2 可以沿任意数量的参数移动，例如在人的头像中使脸部肤色变浅或变暗，或者让猫的耳朵像狗一样松软，或者相反，让狗的眼睛像猫一样又大又圆。换句话说，StyleGAN 2 可以玩转我们认为是某物的预期视觉属性。

作者使用 StyleGAN2 并构建了新版本 StylEX，以处理已经被传统神经网络分类器程序（在本例中为古老的 MobileNet 神经网络）分类的图片。该分类器从名为 “AFHQ” 的数据集中对动物的真实图像进行分类，该数据集由 Yunjey Choi 及其同事在 2020 年推出。 

MobileNet 是他们试图使用 StylEx 撬开的黑匣子。 

为了开发他们的程序，Lang 和团队让 StylEx 基本上压缩了 MobileNet 分类的图像，然后将它们解压缩为原始图像。然后，原始版本的新假版本被反馈到 MobileNet 中，以查看 MobileNet 是否会为假货分配相同的类别。

StylEx 程序从 “生成器” 神经网络生成假图像。当它们被喂入 “分类器” 时，研究人员会测量假货是否可以将分类器的分类从正确的类别翻转到错误的类别。红色轮廓显示其属性已被选择性修改的虚假图像及其所基于的原始图像，带有百分比分数，插图显示给定属性对分类的影响程度。

在此过程中，StylEx 可以调整这些参数，即 GAN 能够纵的视觉属性，并查看这样做是否会触发 MobileNet。如果你愿意的话，StylEx 试图欺骗 MobileNet。

他们的想法是，如果 StylEx 可以创建一个令人信服的 MobileNet 接受的假货，然后又制造出另一个扰乱 MobileNet 仔细分类的假货，那么两者之间的互动就会让人了解到 MobileNet 在对图像进行分类时所依据的是什么。 

正如作者所说，“我们训练我们的 GAN 来明确解释分类器。（”训练“是神经网络的功能首先通过接触样本数据来开发的阶段。 

图片的压缩版本，即 StylEx 正在预测 MobileNet 将响应的内容，是 StylEx 的“StyleSpace”的一部分，这是一个 GAN 的“解纠缠的潜在空间”。潜在空间是 GAN 程序的一部分，它分离出图片的视觉元素，例如构成猫眼睛或狗舌头的区域。

由于 StylEx 是通过滑块进行作的 —— 实际上，有一些滑块控件可以显示诸如眼睛变大、嘴巴张开或闭上等内容 —— MobileNet 分类器会以增加或减少猫或狗的概率分数来响应。通过这种方式，StylEx 就像一个医学探针，用于查看 MobileNet 的分类会发生什么变化。 

换句话说，摆弄旋钮以显示假货与真假有何不同，并了解它对分类有何影响。

Lang 和同事称之为“反事实”实验，正如他们所写的那样，它是“一种形式为'如果输入 x 是 x'的陈述，那么分类器输出将是 y ̃ 而不是 y'，其中 x 和 x ̃ 之间的区别很容易解释。

“易于解释”的概念是它的关键。StylEx 的重点是识别 StyleSpace 中人类可以理解的事物 -- “大眼睛”或“摇头”-作为解释。这是 AI 向“可解释”AI 发展的一部分，AI 打开黑匣子并告诉社会机器如何做出决策。

正如作者所写的那样， 

例如，考虑一个经过训练以区分猫和狗图像的分类器。对于被归类为猫的图像，一个反事实的解释可以是“如果瞳孔变大，那么猫的概率分类器的输出将减少 10%。这种方法的一个关键优点是它提供了每个示例的解释，指出输入的哪些部分对分类来说是突出的，以及如何改变它们以获得替代结果。 

Lang 和同事向在 Amazon Mechanical Turk 平台上工作的人提交了他们的反事实，不仅针对猫和狗，还针对一大堆图像分类，包括人类年龄（“老”与“年轻”——以及人类性别）。他们让这些人描述图片中从真到假的变化。“然后，用户被要求用 1-4 个词描述他们在图像中看到的变化的最突出的属性。”

您可以通过访问 Lang 和团队创建的网站来亲自尝试，其中包含作示例。

这给我们带来了一个问题： MobileNet 分类器知道什么？在不涉及知识真正是什么的认识论问题的情况下，StylEx 程序表明 MobileNet 分类器将重复响应图片中可以隔离的某些元素，例如猫或狗的更大或更小的眼睛。 

换句话说，分类器神经网络知道某个特征沿度数的连续体（大或小，亮或暗）的程度。 

但还有一个额外的皱纹。正如 Lang 和同事发现的那样，他们的 StylEx 程序在创建具有更改特征的假货时，在每种情况下都会影响分类器处理特定图像的方式。“特定”一词很重要，因为事实证明，MobileNet 分类器在对每个图像进行分类时相当具体。 

正如作者所写的那样，“这些不是在许多图像中平均效果最大的属性，而是对这个特定图像影响最大的属性。换句话说，就分类器而言，每个图像都有一个怪癖。或者一系列怪癖。

因此，分类器确实在寻找在每张图像中强调的特定内容，而 StylEx 程序正在重新创建该内容。目前尚不清楚这些特定于图像的方面是否是知识。可以将它们视为分类器程序用于将给定图片与给定类别相关联的工件。目前还不清楚图像之间是否存在共性，如果一个程序真的知道猫或狗的相似性，你会期望这样做。 

如果说知识在实践中是关于命名事物的，那么 StylEx 提出了有趣的问题。命名或分类的行为强加了一个二进制选择，cat 或 dog，程序通过关联一个或一组元素来完成测试来响应该选择。这是否真的是关于图片的知识的一部分，从这个词的更深层次意义上讲，仍然是一个悬而未决的问题。