微软的 Azure 和研究团队正在合作构建代号为“Singularity”的新 AI 基础设施服务。 Singularity 团队正在努力打造微软在其一些招聘启事中为该团队打造的“全新的人工智能平台服务，它将成为微软内部和外部人工智能的主要驱动力”。
参与该项目的一群人发表了一篇题为“Singularity：Planet-Scale，Preemptible and Elastic Scheduling of AI Workloads”的论文，其中提供了有关 Singularity 工作的技术细节。 Singularity 服务旨在为数据科学家和 AI 从业者提供一种在 Microsoft 提供的专为 AI 构建的分布式基础结构服务上构建、扩展、试验和迭代模型的方法。
新发表的论文中列出的作者包括 Azure 首席技术官 Mark Russinovich； 合伙人架构师 Rimma Nehme，曾在 Azure Cosmos DB 工作，直到 2019 年搬到 Azure 从事人工智能和深度学习方面的工作； 和技术研究员 Dharma Shukla。 从那篇论文：
“Singularity 的核心是一种新颖的、可感知工作负载的调度程序，它可以透明地抢占和弹性扩展深度学习工作负载，以在不影响其正确性或性能的情况下，在全球加速器（例如 GPU、FPGA）队列中提高利用率。”
微软官员此前曾讨论过将 FPGA 或现场可编程门阵列作为服务提供给客户的计划。 2018 年，微软公开了其“Project Brainwave”工作，该工作旨在在 Azure 中提供快速 AI 处理。”当时，微软在云中提供了由 Brainwave 提供支持的 Azure 机器学习硬件加速模型的预览——a 为客户提供 AI 工作负载的 FPGA 处理的第一步。
我猜 Singularity 是将 Brainwave 转变为商业服务的下一阶段。 我已经要求微软对此发表评论。 我还询问过微软计划何时以及如何将 Singularity 转变为商业服务。 我会用我得到的任何信息更新这篇文章。
2019 年，微软向 OpenAI 投资 10 亿美元，一年后官方宣布，他们与 OpenAI 合作并专为 OpenAI 打造了第五大强大的公开记录的超级计算机。
虽然微软打造的 AI 超级计算机专为 OpenAI 打造，但微软官方一直表示，他们计划通过 Azure AI 服务和 GitHub 提供该公司的大型 AI 模型和训练优化工具。 微软还在其“Azure AI”的旗帜下为不需要专用超级计算机的客户提供各种加速器和服务。 2021 年 11 月，微软宣布将在 Azure 中使用 80GB NVIDIA A100 GPU 扩展其人工智能超级计算机阵容。
微软观察人士可能还记得，微软之前曾将 Singularity 代号用于另一个微软研究院项目。 Singularity 是一个微内核操作系统和一组完全在托管代码中开发的相关工具和库。 奇点不是基于 Windows； 它是作为概念验证从头开始编写的。 奇点最终催生和/或影响了微软的其他几个操作系统研究项目，包括 Barrelfish、Helios、Midori 和 Drawbridge。
同样值得注意的是，微软并不是唯一一家试图在内部和客户提供 AI 超级计算能力的科技公司。 Meta 也在做同样的事情，并且不出所料，将其工作定位为解锁元宇宙的钥匙。
