在最新的 AI 基准测试中，主要是 Nvidia 与 Nvidia 竞争

自 2018 年开始对 AI 训练进行基准 MLPerf 测试以来，Nvidia 首次几乎没有竞争对手与之竞争。

由于缺乏激烈的竞争，Nvidia 在最新的 MLPerf 中一些最重要的结果是针对自己的，将其最新的 GPU H100“Hopper”与其现有产品 A100 进行比较。

尽管芯片巨头 Nvidia 倾向于在人工智能领域投下长长的阴影，但如果最新的基准测试结果有任何迹象的话，它简单地将竞争赶出市场的能力可能会越来越强。

谷歌没有回应 ZDNET 关于为什么这次没有参与的置评请求。

在一封电子邮件中，Graphcore 告诉 ZDNET，该公司已经决定，与为 MLPerf 准备提交文件所花费的数周或数月相比，它目前可能有更好的地方来投入工程师的时间。

“回报递减的问题出现了，”Graphcore的通信主管Iain Mackenzie通过电子邮件告诉ZDNET，“从某种意义上说，将不可避免地无限期地跨越式增长，进一步缩短秒数，提出越来越大的系统配置。

Mackenzie 告诉 ZDNET，Graphcore“可能会参与未来的 MLPerf 轮次，但目前它并没有反映我们看到最令人兴奋的进展的 AI 领域”。MLPerf 任务只是“赌注”。

相反，他说，“我们真的希望将精力集中在”为人工智能从业者解锁新功能“上。为此，Mackenzie说，”你可以期待很快看到Graphcore的一些令人兴奋的进展“，”例如在模型稀疏化，以及GNN“或图神经网络方面。

除了 Nvidia 的芯片在竞争中占据主导地位外，所有获得最高分的计算机系统都是由 Nvidia 构建的，而不是来自合作伙伴的计算机系统。这也是与过去几轮基准测试的不同。通常，一些供应商（例如 Dell）会在他们使用 Nvidia 芯片组装的系统中获得最高分。这一次，没有系统供应商能够在 Nvidia 自己对其芯片的使用方面击败 Nvidia。

MLPerf 训练基准测试报告调整神经“权重”或参数所需的分钟数，直到计算机程序在给定任务上达到所需的最低精度，这一过程称为“训练”神经网络，其中时间越短越好。 

尽管最高分经常成为头条新闻，并被供应商向媒体强调，但实际上，MLPerf 结果包括各种各样的系统和广泛的分数，而不仅仅是一个最高分。

在一次电话交谈中，MLCommons 的执行董事 David Kanter 告诉 ZDNET 不要只关注最高分。Kanter 表示，对于正在评估购买 AI 硬件的公司来说，基准测试套件的价值在于拥有一组各种大小和各种性能类型的广泛系统。

提交的作品有数百种，从只有几个普通微处理器的机器到拥有数千个 AMD 主机处理器和数千个 Nvidia GPU 的机器，这些系统都获得了最高分。

“当涉及到 ML 训练和推理时，对所有不同级别的性能都有各种各样的需求，”Kanter 告诉 ZDNET，“部分目标是提供可用于所有这些不同规模的性能衡量标准。

Kanter 继续说道，“关于一些较小系统的信息与在较大系统中的信息一样有价值......所有这些系统都同样相关和重要，但可能对不同的人。

至于这次 Graphcore 和 Google 没有参与，Kanter 说，“我希望看到更多的提交，”还补充说，“我理解许多公司可能不得不选择如何投资工程资源。...我认为你会看到这些事情随着时间的推移在基准测试的不同轮次中起伏。

缺乏 Nvidia 竞争的一个有趣的次要影响意味着某些训练任务的一些最高分不仅比之前没有进步，而且出现了倒退。 

例如，在古老的 ImageNet 任务中，神经网络被训练为数百万张图像分配分类器标签，这次排名靠前的结果与 6 月份获得第三名的结果相同，这是一个 Nvidia 构建的系统，训练时间为 19 秒。6 月份的这一结果落后于谷歌的“TPU”芯片的结果，后者的成绩仅为 11.5 秒和 14 秒。

当被问及重复之前提交的内容时，Nvidia 在电子邮件中告诉 ZDNET，它这次的重点是 H100 芯片，而不是 A100。Nvidia 还指出，自 2018 年首次发布 A100 结果以来，已经取得了进展。在那一轮训练基准测试中，一个八路 Nvidia 系统花了将近 40 分钟来训练 ResNet-50。在本周的结果中，这个时间被缩短到不到 30 分钟。

Nvidia 还谈到了它与 Intel 的 Gaudi2 AI 芯片和即将推出的 Sapphire Rapids XEON 处理器相比的速度优势。

当被问及缺乏竞争性提交和 MLPerf 的可行性时，Nvidia 的 Salvatore 告诉记者，“这是一个合理的问题，”并补充说，“我们正在尽一切努力鼓励参与;行业基准在参与中蓬勃发展。我们希望，随着一些新的解决方案不断从其他解决方案进入市场，他们将希望在行业标准基准中展示这些解决方案的好处和优点，而不是提供他们自己的一次性性能声明，这很难验证。

Salvatore 说，MLPerf 的一个关键要素是严格发布测试设置和代码，以保持测试结果在来自数十家公司的数百份提交中保持清晰一致。 

除了 MLPerf 训练基准分数外，MLCommons 周三发布的还提供 HPC（即科学计算和超级计算机）的测试结果。这些提交的作品包括来自 Nvidia 和合作伙伴的系统组合，以及运行自己芯片的富士通 Fugaku 超级计算机。

第三项竞赛称为 TinyML，用于衡量低功耗和嵌入式芯片在执行推理时的表现，推理是机器学习的一部分，经过训练的神经网络进行预测。

Nvidia 迄今尚未参加该竞赛，其中有各种各样的芯片和来自供应商的参赛作品，例如芯片制造商 Silicon Labs 和 Qualcomm、欧洲科技巨头 STMicroelectronics 以及初创公司 OctoML、Syntiant 和 GreenWaves Technologies。 

在 TinyML 的一项测试中，使用 CIFAR 数据集和 ResNet 神经网络进行图像识别测试，GreenWaves（总部位于法国格勒诺布尔）因处理数据和做出预测的延迟最低而获得最高分。该公司提交了与 RISC 处理器相结合的 Gap9 AI 加速器。 

在准备好的发言中，GreenWaves 表示，Gap9“在中等复杂度的神经网络上提供极低的能耗，例如在分类和检测任务中执行 MobileNet 系列，但在复杂、混合精度的循环神经网络上，例如我们基于 LSTM 的音频降噪器。