微软宣布了两款定制的新芯片——它们将如何影响人工智能格局？

今天在西雅图峰会上，微软宣布了两款定制新芯片。 第一款名为Maia 100，这是一款专为与英伟达竞争而设计的人工智能芯片。另一个是名为Cobalt 100的基于ARM的CPU芯片，旨在与英特尔竞争。

这两款自定义芯片都旨在为其 Azure 数据中心提供动力，让公司及其企业客户为充满人工智能的未来做好准备。

Azure Cobalt CPU 是一款 128 核芯片，基于 Arm Neoverse CSS 设计构建，为微软量身定制。它旨在为 Azure 上的通用云服务提供支持。微软做出了一些非常有意的设计选择，包括控制每个内核和每个虚拟机的性能和功耗。

上图是用于测试微软Azure Cobalt片上系统的探测站。

微软目前正在微软Teams和SQL服务器等工作负载上测试其Cobalt CPU，并计划明年向客户提供用于各种工作负载的虚拟机。尽管Borkar不会被直接与AWS上可用的亚马逊Graviton 3服务器进行比较，但与微软目前在Azure上使用的基于ARM的服务器相比，性能应该会有一些明显的提高。初步测试显示，性能比目前使用商用Arm服务器的数据中心高40％。微软尚未分享完整的系统规格或基准测试。在下图中，华盛顿州昆西数据中心内的这些服务器是第一台由微软Azure Cobalt 100 CPU提供支持的服务器。

微软的 Maia 100 AI 加速器专为运行云端人工智能工作负载而设计，例如大型语言模型训练和推理。 它将用于为该公司在Azure上的一些最大的人工智能工作负载提供支持，包括与OpenAI达成的数十亿美元合作伙伴关系的一部分，微软为OpenAI的所有工作负载提供支持。它一直在与OpenAI合作进行Maia的设计和测试阶段。Maia 是微软制造的第一款完整的液冷服务器处理器。

除了共享 MX 数据类型外，微软还与合作伙伴共享其机架设计，以便他们可以在内部装有其他芯片的系统上使用这些设计。 但是Maia芯片的设计不会得到更广泛的共享，微软将这些设计保留在内部。

Maia 100目前正在GPT 3.5 Turbo上进行测试，该模型与为ChatGPT、必应人工智能工作负载和GitHub Copilot提供支持的型号相同。微软正处于部署的早期阶段，就像Cobalt一样，它暂时不愿意发布确切的Maia规格或性能基准。

内部人工智能芯片可以帮助微软避免过度依赖少数领先的芯片供应商。 剩下的问题是微软将以多快的速度将这两款芯片上架，这些芯片将如何帮助平衡对生成式人工智能体验的需求，以及它们将如何影响微软Azure AI云服务的定价。

供应链的多元化对微软很重要，尤其是当Nvidia目前是人工智能服务器芯片的主要供应商并且各公司一直在竞相购买这些芯片时。据估计，OpenAI需要3万多台Nvidia较旧的A100 GPU来实现ChatGPT的商业化，因此微软自己的芯片可以帮助其客户降低人工智能的成本。 微软还为自己的Azure云工作负载开发了这些芯片，而不是出售给Nvidia、AMD、英特尔和高通等其他公司。

目前尚不清楚微软推出新版本的Maia和Cobalt的频率，但考虑到人工智能的速度，看到Maia 100的继任者以与Nvidia发布的H200相似的速度（大约20个月）问世，我也不会感到惊讶。

微软尚未准备好谈论这项新的服务器定价，但我们已经看到该公司悄悄地推出了适用于Microsoft 365的Copilot，每位用户每月保费30美元。Copilot for Microsoft 365目前仅限于微软的最大客户，企业用户必须承诺至少有300名用户才能进入其基于人工智能的新型Office助手的名单。随着微软本周推出更多Copilot功能以及Bing Chat品牌重塑，Maia可能很快就能帮助平衡对支持这些新体验的人工智能芯片的需求。

最近，大型科技公司一直在发布自己的芯片，以更好地满足其业务需求并减少对Nvidia的依赖。 也许受这一消息的影响，英伟达的股价下跌了1％。从长远来看，我认为主要科技公司越来越多地开发自己的芯片，这对Nvidia构成了最大的威胁。 但是，Nvidia不会袖手旁观，因为其新发布的H200性能再次得到改善，而且该公司以其软件Cuda作为防御。此外，大公司目前对计算能力的需求很高。 因此，在不久的将来，这不太可能对Nvidia产生重大影响。