人工智能能否让您在 2025 年成为亿万富翁？

软件是扩大 AI 覆盖范围的关键，其中大部分可以追溯到几十年前的编译器技术方法。

“最大的模型需要 100 万美元来训练，它们相当于一台超级计算机，”英特尔 AI 和分析总经理 Wei Li 说，“这是不可持续的，如果每个人都必须支付 1000 万美元来训练一个万亿参数模型，那么它不会得到广泛应用。

人工智能的深度学习圈已经就几个基本概念达成了共识。 

一种观点是，在可预见的未来，神经网络越来越大的趋势将继续下去，但有一些例外。 

另一种共识观点是，尽管新型硬件激增，但深度学习的潜力在于软件创新。

综上所述，这两件事意味着什么？

它们可能意味着，软件创新是唯一能让所有使用 AI 的人都能使用深度学习的东西，而不仅仅是那些拥有最大、最昂贵计算机的人。 

“当我们深入研究时，今天的 AI 实际上是关于超级计算的，”芯片巨头英特尔的副总裁兼 AI 和分析总经理 Wei Li 说。 

“最大的模型需要 100 万美元来训练，它们相当于一台超级计算机。”

这使得许多 AI 超出了普通人的能力范围，Li 在接受 ZDNet 采访时说。 

“我们在研究实验室中采用人工智能方面非常成功，斯坦福大学博士生在那里创建识别猫和狗的算法，而云服务提供商做了很多事情，”李说。 

“这是不可持续的，如果每个人都必须支付 1000 万美元来训练一个万亿参数的模型，那么它不会得到广泛应用 ，”Li 说，“如果你想走得更远——这就是让 AI 无处不在的机会——这座桥梁还没有完全到位。

在 Li 看来，这座桥是软件。软件是利用实验室的突破并将其分发给大大小小的组织在各种计算机硬件上的能力，包括 CPU 和 GPU 以及所有新型奇异的加速器芯片。 

“我将软件视为通往无处不在的 AI 的桥梁，”Li 说。

对李克强来说，目前的僵局有一种非常熟悉的感觉。他于 1990 年代在康奈尔大学获得计算机科学博士学位，推进编译器技术，编译器是使程序在给定硬件上运行的软件。然后，他的工作特别关注如何跨许多计算资源运行工作负载。

“令人惊奇的是，我当时学到的东西都是关于快速运行和处理大量数据，”Li 反思道。

从康奈尔大学毕业后，Li 于 25 年前受雇于英特尔，当时该公司正在从主要的 PC 芯片制造商跃升为领先的服务器芯片供应商。他的专业知识被用于开发服务器编译器。“我一直处于 Intel 的最前沿，”他回忆道，“这让我的工作变得有趣。

正如技术领域经常出现的情况一样，旧的一切都会再次焕然一新。Li 说，突然之间，深度学习中的一切都回到了当年编译器的创新。

他说，近年来，“编译器已经变得无关紧要”，计算机科学的一个领域被认为在很大程度上已经确定了。“但是由于深度学习，编译器又回来了，”他说。“我们正处于这种过渡的中间。” 

在康奈尔大学的博士论文中，Li 开发了一个编译器框架，用于使用所谓的“非一致性内存访问”（NUMA） 在非常大的系统中处理代码。他的程序重新设计了代码循环，以实现尽可能多的并行处理。但它还做了一些特别重要的事情：它根据代码在任何给定时间需要访问的内存来决定应该运行哪些代码。 

Li 说，今天，深度学习正在接近同样问题占主导地位的地步。深度学习的潜力主要不取决于可以计算多少矩阵乘法，而取决于程序访问内存和带宽的效率。 

“在 [深度学习] 的早期阶段，一切都与这些原语有关，你能快速运行矩阵乘法吗，你能快速运行卷积吗，”Li 说。 

“向前迈进，基元只是第一步，”Li 说。问题变成了更具战略性的决策问题。“你如何在我们拥有的所有异构机器上运行 [计算作] 图，”他说 。“你想分发它，你想以某种方式并行化它，你想以某种方式处理内存层次结构 — 这些都是编译器优化。”

有些事情比其他事情更难。“我们的工作是选择一个图表并将其划分为这些计算单元 — 这是最简单的部分，”Li 说。计算机程序员可以绘制计算硬件、各种节点、处理器的图表，并考虑如何划分执行循环。 

内存和通信要困难得多，也不容易绘制图表，尤其是在神经网络模型越来越大的情况下。

“难的部分是内存层次结构，它比简单的并行化难得多，这是关键，”Li 说，“难的部分是互连带宽，即通信组织。

“我们没有一个好的方法来模拟数据移动，”他指出。“大部分工作都是关于管理数据的，而编译器优化的难点是以有效的方式管理数据。”具体来说，“数据局部性非常重要，”Li 说，这意味着，一个作可以处理给定的数据，并且，“希望该数据仍然保留在最近的内存层中。 或者也许是某个地方的藏匿点。

随着某些类型的深度学习（例如，用于商业应用程序的推荐系统中的图形神经网络），问题的规模会增加。 

“在核心层面上有相似之处，我们谈论的是矩阵乘法、卷积，但当你超过这个级别时，就会出现多样性，”Li 说。在计算机视觉系统中，可能有数百万张图像需要处理，但“当你查看图表时，数据量是巨大的。就像在社交网络中一样，每个人都与其他人相连，这意味着处理面临质不同的挑战。

“你想想 LinkedIn，有多少亿人——也就是数十亿个节点——这才是真正的大数据。”

如何处理真正的大数据的内存和互连“又回到了并行编译器，”Li 说。 

“实际上，我们需要大量的编译器人员，因为这一切都归结于编译器。”

英特尔已经采取措施，让更多的编译器专家加入进来。6 月，该公司宣布将收购苏格兰爱丁堡的初创公司 CodePlay，这是一家并行编译器供应商。 

CodePlay 是 Intel 努力为 Li 讨论的所有优化提供广泛的软件堆栈的一个组成部分。作为一种可能的解决方案，Li 是 Intel 帮助开发的名为 oneAPI 的软件工具包和平台的拥护者，其源代码发布在 GitHub 上。自 2020 年 12 月以来，Intel 一直在发布自己的开源规范实现。

oneAPI 提供了 oneDNN 等库，用于加速矩阵乘法基元。它还包括一种 Intel 打算成为跨平台并行化语言的编程语言，称为 DPC++。该语言是 Khronos Group 开发的 SYCL 语言的改编版。CodePlay 已经有自己的类似于 DPC++ 的工作，称为 ComputeC++。

当被问及 oneAPI 的进展时，Li 说：“采用率正在达到这一阶段，这些地方我们在深度学习方面得到了很好的采用。

“还有很长的路要走，”他补充道。“在社区和生态系统中建立标准并非易事。”

oneAPI 规范要求提供编程语言、DPC++ 和各种库，以优化各种硬件的深度学习应用程序。 

英特尔可以指出一些实际的成功。OneDNN 是 oneAPI 技术之一，是一种提高神经网络性能的方法，已成为 TensorFlow 和 PyTorch 中的默认设置。一个名为 BigDL 的 Intel 库可以自动重构在单个节点上开发的神经网络，以扩展到数千个节点，已被 MasterCard 等大公司采用。

处理器许可巨头 ARM 已在其处理器设计中实施了 oneAPI。“ARM 实际上使用相同的 OneAPI，他们是我们 OneDNN 的重要贡献者之一，”Li 说，“他们在 ARM 上实施了 oneDNN，这就是他们更快地实现其价值的方式。

“最终，我们将看到我们所做的优化带来了很多性能提升，”Li 说，“我们看到使用 oneAPI 的规模提高了 10 倍，性能提高了 100 倍”。

对 Li 来说，这场战斗的一部分是不断强调软件的重要性，而在 Cerebras Systems、Graphcore 和 SambaNova 等初创公司的最新硬件加速器吸引了大部分注意力的世界里，这一点可能会被掩盖。 

“即使在行业内部，也可以称之为脱节，”李说。“人们经常谈论你如何拥有数据、你有算法、你有计算——软件的概念被理解得少得多，但实际上，软件在实现 AI 方面发挥着关键作用。

与软件一样重要，关于 AI 加速的讨论将永远回到英特尔作为最伟大的独立处理器制造商的名单上，以及它与 Cerebras 等年轻竞争对手和现任 AI 芯片巨头 Nvidia 之间的战斗。 

英特尔与 2019 年收购的芯片制造商 Habana 直接与初创公司竞争，该公司继续在连续几代产品中提供有竞争力的性能改进。Intel 承担着所有 x86 用户都需要支持的遗留代码的负担，这是初创公司所没有的。但是，从某种意义上说，Li说，初创公司还必须支持遗留问题，即 TensorFlow 和 PyTorch 等 AI 框架的遗留问题，这些框架在神经网络的创建中占据主导地位。 

“你如何将你独特的东西插入到已经存在的东西上？”“这是他们所有人面临的挑战，也是我们面临的挑战。

“这就是为什么我有一个团队从事 Python 工作，我有一个团队从事 TensorFlow 工作，”他说。“这就是为什么我们的战略是以多种不同方式构建软件生态系统。”

英特尔与 Nvidia 瓜分了大批量 AI 芯片市场，Nvidia 主导了训练，初始阶段是开发神经网络，而英特尔拥有大部分推理市场，当经过训练的神经网络运行预测时。英特尔在边缘也面临着来自高通的竞争，高通正在推广自己的软件堆栈，可以被视为 oneAPI 的替代品。

英特尔芯片路线图中处理器的激增——代号为 Ponte Vecchio 的数据中心 GPU、具有矩阵乘法能力的至强服务器 CPU 的不断增强、新的现场可编程门阵列 （FPGA） 等——意味着英特尔与英伟达、AMD、高通和初创公司竞争的维恩图非常大。 

“在今天的 CPU 中，我们拥有大部分推理市场，这就是我们参与的地方，我们进入训练市场是因为我们在这里做的其他加速器，”Li 说。 

人们普遍认为 Nvidia 对训练市场具有很强的控制权，这不仅是因为其 GPU 的大量出货量，还因为它的 CUDA 编程工具存在的时间比其他任何工具都长。 

“CUDA 问题很有趣，因为它真的取决于人们会走多低的水平，”Li 说。Li 坚持认为，只有一小部分观众真正关心写入 CUDA 库和 CUDA 编程语言。英特尔试图通过 oneAPI 接触的绝大多数人是大众：在框架级别工作的数据科学家。 

“当我们到处谈论 AI 时，你有数百万的开发人员，但这些开发人员大多是顶级开发人员，”他说。“他们不会处于 CUDA 编程级别，而是处于 TensorFlow 编程级别 — 这些人将使 AI 达到规模，对吧？”

英特尔是否有机会打破 Nvidia 在深度学习研究人员中的领先地位？李克制不做宏大的预测。相反，他说，“我认为这对整个市场有好处，因为它提供了一个替代方案”，意思是 oneAPI。

“我的目标是开发好我们的产品，让产品在市场上不言自明，”他说。“在我看来，英特尔完全有能力引领这一旅程，让 AI 无处不在，尤其是在软件方面。”

英特尔还与另一个群体竞争，但也与之合作，即云服务提供商 Amazon、Alphabet 和 Microsoft。这三个项目都有自己的硅项目。以 Alphabet 的 Google TPU（Tensor Processing Unit）为例，该芯片系列现在已经进入了第四代，并作为 Google 云中的专用主力军得到了实质性的提升。目前，亚马逊的“Trainium”芯片作为一个生态系统还不够发达。

虽然云供应商从英特尔购买了大量处理器，但他们的自主开发部件可以被视为英特尔及其商业芯片竞争对手 Nvidia 和 AMD 的障碍。内部芯片可以减轻商家产品的工作负载。

Li 表示，一方面，英特尔努力调整方向，以与云巨头的需求保持联系。“这很有趣：最初，AI 是关于计算机视觉的，以及猫和狗，”Li 说。“但是当我们开始与 CSP [云服务提供商] 合作时，我们发现排名第一的周期，即他们消耗的最大计算量，不是计算机视觉，实际上是推荐系统。” 

“你可以想象，五年前，到处都有一家初创公司，他们只为 AlexNet 设计了机器，”AlexNet 是一个执行广泛使用的 ImageNet 测试的神经网络。“今天他们不再营业，因为他们无法应对 CSP 的趋势。”

与此同时，“云是我们的首要任务，但无处不在的 AI 实际上正在超越云，进入企业。 

这些企业客户“有不同的人，他们有不同的需求和不同类型的应用程序”。Li 观察到，这些企业可能包括 Facebook，也可能包括零售商。

Li 认为，物联网和边缘计算的应用可能需要与 AI 的云作不同的敏感性。

“我会和一些大型零售商谈谈，他们的应用程序并不完全是云应用程序，”Li 说，“他们可能会在商店里发生一些机器学习的事情，这与云端略有不同。

“这些事情正在发生变化，”Li 谈到 AI 工作负载时说，“这就是为什么我认为英特尔处于有利地位，因为英特尔有规模。他坚持认为，芯片产品组合和英特尔的出货量意味着它可以处理多样性。

“英特尔很大，我们今天在广泛的市场中设计和制造了一系列高质量的硬件，”他说，“而且，这些硬件通常是相互连接的，”就像连接到云数据中心的边缘工作负载一样。

至于超大型神经网络，Li 认为，蒸馏和迁移学习等技术将使这些超级计算机神经网络的成果能够渗透到普通用户。 

“我想说，这将是一个金字塔，在金字塔的顶端是只有少数富裕公司可以继续推动这些事情的所有模型，”李说，“然后会有它的广度，大部分，你会发现更多的经济模型——取一个大模型，找到做同样事情的等效小模型。

“但在顶层，人们总是会追求那种超级计算类型的东西。”