IBM 的行业转型蓝图如何利用 AI、5G 和协作

DeepMind 的程序是一个通才，用于测试随着时间的推移，更强大的计算能力将在 AI 中获胜的概念。

DeepMind 的“Gato”神经网络擅长许多任务，包括控制堆叠积木的机械臂、玩 Atari 2600 游戏和为图像添加字幕。

全世界都习惯于看到有关深度学习人工智能形式最新突破的头条新闻。然而，谷歌 DeepMind 部门的最新成就可以概括为，“一个在很多事情上都做得一般的 AI 程序”。 

DeepMind 的程序被称为 Gato，本周作为所谓的多模态程序亮相，该程序可以玩视频游戏、聊天、编写作品、为图片添加字幕，并控制机械臂堆叠积木。它是一个神经网络，可以处理多种数据来执行多种任务。 

“借助一组权重，Gato 可以进行对话、为图像添加字幕、使用真正的机械臂堆叠积木、在玩 Atari 游戏时超越人类、在模拟 3D 环境中导航、遵循指示等等，”主要作者 Scott Reed 及其同事在他们的论文中写道，“A Generalist Agent”，发布在 Arxiv 预印本服务器上。 

DeepMind 联合创始人 Demis Hassabis 为团队欢呼，他在一条推文中惊呼道：“我们迄今为止最全面的代理！！团队的工作太棒了！ 

唯一的问题是 Gato 实际上在几项任务上并不那么出色。 

一方面，该程序在控制堆叠积木的机器人 Sawyer 手臂方面能够比专用的机器学习程序做得更好。另一方面，它为在许多情况下非常糟糕的图像生成标题。它与人类对话者进行标准聊天对话的能力同样平庸，有时会引发矛盾和荒谬的话语。 

它对 Atari 2600 视频游戏的玩法低于大多数旨在在基准 Arcade 学习环境中竞争的专用 ML 程序。 

为什么你要制作一个程序，它在某些方面做得还不错，而其他一些事情却做得不太好呢？根据作者的说法，先例和期望。 

更通用类型的程序成为 AI 的最新技术是有先例的，并且预计未来越来越多的计算能力将弥补不足。 

通用性往往在 AI 中获胜。正如作者引用 AI 学者 Richard Sutton 的话所指出的那样，“从历史上看，更擅长利用计算的通用模型最终也往往会取代更专业的特定领域方法。

正如 Sutton 在他自己的博客文章中所写的那样，“从 70 年的 AI 研究中可以读到的最大教训是，利用计算的通用方法最终是最有效的，而且在很大程度上是最有效的。

在一篇正式的论文中，Reed 和团队写道：“我们在这里检验了一个假设，即训练一个通常能够完成大量任务的代理是可能的;并且这种通用代理可以在很少的额外数据下进行调整，以成功完成更多的任务。

在这种情况下，模型确实非常通用。它是 Transformer 的一个版本，Transformer 是一种占主导地位的基于注意力的模型，已成为包括 GPT-3 在内的许多程序的基础。transformer 在给定其周围的元素（例如句子中的单词）的情况下对某些元素的概率进行建模。 

在 Gato 的案例中，DeepMind 科学家能够对多种数据类型使用相同的条件概率搜索。 

正如 Reed 和同事描述训练 Gato 的任务时的那样： 

在 Gato 的训练阶段，来自不同任务和模态的数据被序列化为扁平的标记序列，由类似于大型语言模型的 transformer 神经网络进行批处理和处理。损失被掩盖，以便 Gato 仅预测作和文本目标。

换句话说，Gato 不会区别对待标记，无论它们是聊天中的单词还是块堆叠练习中的移动向量。都是一样的。 

Gato 训练场景。

隐藏在 Reed 和 Team 的假设中的是一个必然结果，即越来越多的计算能力最终会获胜。目前，Gato 受到执行区块堆叠的 Sawyer 机械臂响应时间的限制。Gato 拥有 11.8 亿个网络参数，比 GPT-3 等超大型 AI 模型小得多。随着深度学习模型变得越来越大，执行推理会导致延迟，在现实世界机器人的非确定性世界中可能会失败。 

但是，Reed 和同事预计，随着 AI 硬件的处理速度越来越快，这一限制将被超越。

他们写道：“我们将训练重点放在模型规模的作点上，该模型允许实时控制真实世界的机器人，目前在 Gato 的情况下约为 1.2B 参数。“随着硬件和模型架构的改进，这个作点自然会增加可行模型的大小，将通才模型推向缩放定律曲线的更高位置。”

因此，Gato 实际上是一个模型，通过使通用模型越来越大，计算规模如何继续成为机器学习开发的主要载体。换句话说，越大越好。 

随着神经网络在参数中的大小增加，Gato 会变得更好。

作者有一些证据证明这一点。Gato 似乎确实随着它的大小而变得更好。他们根据参数（7900 万、3.64 亿）和主模型 （11.8 亿）比较三种模型大小的所有基准任务的平均分数。“我们可以看到，对于等效的令牌数量，随着规模的增加，性能会得到显着提升，”作者写道。 

未来一个有趣的问题是，通才程序是否比其他类型的 AI 程序更危险。作者在论文中花了大量时间讨论存在尚未被充分理解的潜在危险这一事实。 

处理多项任务的程序的想法向外行人暗示了一种人类的适应性，但这可能是一个危险的误解。“例如，物理体现可能会导致用户将代理拟人化，在系统出现故障的情况下导致错误的信任，或者被不良行为者利用，”里德和团队写道。 

“此外，虽然跨领域知识转移通常是 ML 研究的一个目标，但如果某些行为（例如街机游戏格斗）被转移到错误的上下文中，它可能会产生意想不到和不希望的结果。”

因此，他们写道，“随着通才系统的发展，知识转移的伦理和安全考虑可能需要大量的新研究。

（作为一个有趣的旁注，Gato 的论文采用了前谷歌人工智能研究员 Margaret Michell 及其同事设计的一种称为模型卡的方案来描述风险。模型卡简要概述了 AI 程序是什么、它的作用以及哪些因素会影响它的运行方式。米歇尔去年写道，她因为支持她的前同事蒂姆尼特·格布鲁 （Timnit Gebru） 而被迫离开谷歌，后者对人工智能的道德担忧与谷歌的人工智能领导层相抵触。

Gato 的普遍化趋势绝非独一无二。它是泛化的广泛趋势的一部分，并且使用大量马力的更大模型。去年夏天，谷歌的“Perceiver”神经网络将文本 Transformer 任务与图像、声音和 LiDAR 空间坐标相结合，让全世界第一次尝到了谷歌向这个方向倾斜的滋味。

在它的同行中，谷歌科学家今年推出了 PaLM，即 Pathways 语言模型，这是一个 5400 亿参数的模型，它利用一种新技术来协调数千个芯片，称为 Pathways，也是由 Google 发明的。Meta 在 1 月份发布了一个名为“data2vec”的神经网络，它使用 Transformers 将图像数据、语音音频波形和文本语言表示合二为一。 

Gato 的新之处在于，它打算将用于非机器人任务的 AI 推向机器人领域。

Gato 的创建者注意到 Pathways 和其他通才方法的成就，看到了 AI 的最终成就，它可以在现实世界中运行，处理任何类型的任务。 

“未来的工作应该考虑如何将这些文本功能统一到一个完全通才的代理中，该代理也可以在现实世界、不同的环境和实施例中实时作。” 

因此，您可以将 Gato 视为解决 AI 最难的问题（机器人技术）的重要一步。