Microsoft 公开其“Singularity”AI 基础设施服务的详细信息

Microsoft 的 Azure 和研究团队正在合作开发“Singularity”AI 基础设施服务。

点击图片放大。

Microsoft 的 Azure 和研究团队正在合作构建代号为“Singularity”的新 AI 基础设施服务。Singularity 团队正在努力构建 Microsoft 在其为该集团提供的一些招聘启事中描述的内容，“一种从头开始的新 AI 平台服务，将成为 AI 的主要驱动力。 无论是在 Microsoft 内部还是外部。

参与该项目的一组人员发表了一篇题为“Singularity：AI 工作负载的行星规模、抢占式和弹性调度”的论文， 其中提供了有关 Singularity 工作的技术细节。Singularity 服务旨在为数据科学家和 AI 从业者提供一种方法，让他们可以在 Microsoft 提供的专为 AI 构建的分布式基础设施服务上构建、扩展、试验和迭代他们的模型。

新发表的论文中列出的作者包括 Azure 首席技术官 Mark Russinovich;合作伙伴架构师 Rimma Nehme，在 2019 年转到 Azure 从事 AI 和深度学习工作之前，他一直在 Azure Cosmos DB 上工作;以及技术研究员 Dharma Shukla。来自那篇论文：

“Singularity 的核心是一个新颖的工作负载感知调度器，它可以透明地抢占和弹性扩展深度学习工作负载，以在不影响其正确性或性能的情况下，在全球加速器队列（例如 GPU、FPGA）中推动高利用率。”

Microsoft 官员之前曾讨论过将 FPGA（现场可编程门阵列）作为服务提供给客户的计划。2018 年，Microsoft 公开了其“Project Brainwave”工作，该工作旨在在 Azure 中提供快速的 AI 处理。当时，Microsoft 在云中提供了由 Brainwave 提供支持的 Azure 机器学习硬件加速模型的预览版，这是向客户提供 AI 工作负载的 FPGA 处理的第一步。 

我猜 Singularity 是将 Brainwave 转变为商用服务的下一阶段。我已经要求 Microsoft 对此发表评论。我还询问了 Microsoft 计划何时以及如何将 Singularity 转变为一项商用服务。我会用我得到的任何信息来更新这篇文章。

2019 年，Microsoft 向 OpenAI 投资了 10 亿美元，一年后，官方宣布他们与 OpenAI 合作并专门为 OpenAI 构建了第五大最强大的公开记录超级计算机。 

虽然 Microsoft 构建的 AI 超级计算机专为 OpenAI 开发，但 Microsoft 官员一直表示，他们计划通过 Azure AI 服务和 GitHub 提供该公司的大型 AI 模型和训练优化工具。Microsoft 还在其“Azure AI”旗下为不需要专用超级计算机的客户提供各种加速器和服务。2021 年 11 月，Microsoft 宣布将在 Azure 中使用 80GB NVIDIA A100 GPU 扩展其 AI 超级计算机阵容。 

Microsoft 观察者可能还记得，Microsoft 之前在 Microsoft Research 的另一个项目中使用了 Singularity 代号。Singularity 是一个微内核作系统以及一组完全使用托管代码开发的相关工具和库。Singularity 不是基于 Windows 的;它是从头开始编写的，作为概念验证。Singularity 最终催生和/或影响了 Microsoft 的其他几个作系统研究项目，包括 Barrelfish、 Helios、 Midori 和 Drawbridge。

还值得注意的是，Microsoft 并不是唯一一家希望尝试在内部和客户使用 AI 超级计算功能的科技公司。Meta 也在做同样的事情，并且不出所料地将其工作定位为解锁元宇宙的关键。