运行 AI 工作负载将来到您附近的虚拟机，由 GPU 和 Kubernetes 提供支持
Run：AI 为 AI 提供了一个虚拟化层，旨在促进 AI 基础设施的发展。它看到了很多牵引力，刚刚筹集了 $75M 的 C 轮融资。以下是 AI 领域的演变如何塑造其增长。
Run：AI 提供了一个虚拟化层来运行 AI 工作负载
Run：AI 获取您的 AI 并在未来的超高速软件堆栈上运行它。这是我们 2019 年关于 Run：AI 的文章的标题，当时它刚刚退出隐身。尽管我们认为它仍然准确，但 Run：AI 的非常规方法此后迅速发展。
自诩为“AI 编排平台”的 Run：AI 今天宣布已在 C 轮融资中筹集了 $75M，该轮融资由 Tiger Global Management 和 Insight Partners 领投，Insight Partners 领投了上一轮 B 轮融资。本轮融资包括其他现有投资者 TLV Partners 和 S Capital VC 的参与，使迄今为止筹集的总资金达到 $118M。
我们采访了 Run：AI 首席执行官兼联合创始人 Omri Geller，讨论了 AI 芯片和基础设施、Run：AI 的进展以及它们之间的相互作用。
AI 芯片很酷，但 Nvidia GPU 占主导地位
Run：AI 提供了一个名为 Atlas 的软件层，以加快本地和云中机器学习工作负载的执行速度。从本质上讲，Atlas 充当 AI 工作负载的虚拟机：它抽象并简化了对底层硬件的访问。
然而，Geller 的现场经验是，组织不仅仅是在寻找一种经济高效的方法来训练和部署模型。他们还在寻找一种与硬件交互的简单方法，这也是 Nvidia 仍然占据主导地位的关键原因。换句话说，一切都在软件堆栈中。这与许多分析师所确定的一致。
然而，我们想知道卓越性能的承诺是否会吸引组织，或者 Nvidia 的竞争对手是否已经设法以某种方式缩小了其软件堆栈发展和采用方面的差距。
Geller 的经验是，虽然定制 AI 芯片可能会吸引具有特定性能导向型工作负载的组织，但其主流采用率仍然很低。然而，Run：AI 确实看到的是，对非 Nvidia 的 GPU 的需求更大。无论是 AMD MI200 还是 Intel Ponte Vecchio，Geller 都认为组织希望在不久的将来使用更多的 GPU。
面向 AI 的 Kubernetes
Nvidia 的统治地位并不是 Run：AI 的产品开发取得如此成就的唯一原因。塑造 Run：AI 产品的另一个趋势是 Kubernetes 的兴起。Geller 认为 Kubernetes 是构建 AI 堆栈中最重要的部分之一，因为容器在数据科学及其他领域中被大量使用。
然而，Geller 继续补充说，Kubernetes 的构建并不是为了在 AI 芯片上运行高性能工作负载——它是为了在经典 CPU 上运行服务而构建的。因此，Kubernetes 中缺少许多东西，以便使用容器有效地运行应用程序。
Run：AI 花了一段时间才确定这一点。然而，一旦他们这样做了，他们就决定将他们的软件构建为 Kubernetes 的插件，以创建 Geller 所说的“Kubernetes for AI”。为了避免做出特定于供应商的选择，Run：AI 的 Kubernetes 架构仍然广泛兼容。Geller 表示，该公司已与所有 Kubernetes 供应商合作，无论用户使用何种 Kubernetes 平台，他们都可以使用 Run：AI。
随着时间的推移，Run：AI 已经建立了一个著名的合作伙伴生态系统，包括 Dell、HP Enterprise、Nvidia、NetApp 和 OpenShift 等公司。此外，Atlas 平台在广度和深度方面也都有所发展。最值得注意的是，Run：AI 现在支持训练和推理工作负载。由于推理通常会在生产中承担 AI 的大部分运营成本，因此这一点非常重要。
此外，Run：AI Atlas 现在还与许多机器学习框架、MLOps 工具和公有云产品集成。这些包括Weights & Biases、TensorFlow、PyTorch、PyCharm、Visual Studio和JupyterHub，以及Nvidia Triton推理服务器和NGC、Seldon、AirFlow、KubeFlow和MLflow。
Geller 说，即使是没有预先集成的框架也可以相对容易地集成，只要它们在 Kubernetes 之上的容器中运行即可。就云平台而言，Run：AI 与所有 3 家主要云提供商（AWS、Google Cloud 和 Microsoft Azure）以及本地合作。Geller 指出，混合云是他们在客户部署中看到的。
Run：AI 将 AI 基础架构视为层堆栈
尽管市场的现实情况 Run：AI 颠覆了一些最初的规划，使公司寻求更多的作化选择，而不是扩大对更多 AI 芯片的支持，但这并不意味着在技术方面没有进步。
Run：AI 的主要技术成就包括部分 GPU 共享、精简 GPU 配置和作业交换。部分 GPU 共享支持在单个 GPU 上运行多个容器，同时保持每个容器隔离，无需更改代码或降低性能。
正如 Geller 所说，VMware 对 CPU 的作用就是 Run：AI 对 GPU 的作用，在 Kubernetes 下的容器生态系统中，没有虚拟机管理程序。至于精简配置和作业交换，它们使平台能够识别哪些应用程序在每个时间点没有使用分配的资源，并根据需要动态地重新分配这些资源。
值得注意的是，Run：AI 包含在 2021 年第 4 季度发布的 Forrester Wave AI 基础架构报告中。该公司在 AI 基础设施供应商（包括云供应商、Nvidia 和 GPU OEM）中拥有独特的地位。
Geller 说，他们都是 Run：AI 的合作伙伴，因为他们代表了运行应用程序的基础设施。Geller 将其视为一个堆栈，底层是硬件，中间层充当数据科学家和机器学习工程师的接口，顶层是 AI 应用程序。
Run：AI 看到了良好的吸引力，2021 年的年度经常性收入增长了 9 倍，员工增长了 3 倍。该公司计划利用这笔投资进一步发展其全球团队，并将在开发和增强其平台时考虑战略收购。