微软终于在制造定制的人工智能芯片——但它们不是用来取代英伟达的

Analysts Notebook 发表了文章 · 2023/11/16 03:46

$微软(MSFT.US)$已经推出了其首款人工智能芯片——Maia 100，这是其Azure Maia AI加速器系列的一部分。该公司还推出了其首款基于ARM的Azure Cobalt中央处理器，用于通用云计算。有了这两个芯片，微软加入了竞争对手 $谷歌-A(GOOGL.US)$和 $亚马逊(AMZN.US)$正在开发用于运行竞争云平台的定制芯片。Maia 100 将用于基于云的训练和人工智能模型的推理。

微软的 Maia 和 Azure Cobalt；来源：微软

软件是我们的核心优势，但坦率地说，我们是一家系统公司。” 微软负责Azure硬件系统和基础架构的公司副总裁拉尼·博尔卡尔在一份声明中说。“在微软，我们共同设计和优化硬件和软件，使一加一大于二。我们可以看到整个堆栈，而硅只是其中一种成分。”

微软的人工智能芯片可以用来训练 LLM

微软的定制人工智能芯片可用于训练大型语言模型，从而有可能减少对大型语言模型的昂贵依赖 $英伟达(NVDA.US)$。Azure Maia AI芯片和基于ARM的Azure Cobalt CPU将于2024年上市，这要归因于今年对Nvidia广泛用于训练和操作生成图像工具和大型语言模型的H100 GPU的需求激增。对这些GPU的需求如此之高，以至于有些GPU在eBay上的售价甚至超过了4万美元。

Maia 100 目前正在 GPT 3.5 Turbo 上进行测试，该模型为 ChatGPT、Bing AI 工作负载和 GitHub Copilot 提供动力。 Maia 采用 5 纳米的台积电工艺制造，拥有 1050 亿个晶体管，比上的 1530 亿个晶体管减少了大约 30% $美国超微公司(AMD.US)$的 MI300X AI GPU。博尔卡尔说：“Maia 支持我们首次实现低于 8 位的数据类型，即 MX 数据类型，以便共同设计硬件和软件。”“这有助于我们支持更快的模型训练和推理时间。”

OpenAI首席执行官山姆·奥特曼说，当微软首次分享他们的Maia芯片设计时，我们感到非常兴奋，我们一直在共同努力，用我们的模型对其进行完善和测试。

据报道，100亿美元的OpenAI-微软合作伙伴关系使奥特曼的人工智能公司估值为290亿美元。

“这不是取代 Nvidia 的东西”

供应链的多样化对微软很重要，尤其是当Nvidia目前是人工智能服务器芯片的主要供应商并且各公司一直在竞相购买这些芯片时。据估计，OpenAI 需要超过 30,000 个 Nvidia 的 A100 GPU 来实现 ChatGPT 的商业化，因此 微软自己的芯片可以帮助其客户降低人工智能的成本。微软还为自己的Azure云工作负载开发了这些芯片，而不是出售给Nvidia、AMD等其他公司 $英特尔(INTC.US)$，以及 $高通(QCOM.US)$都行。

微软云和人工智能事业部执行副总裁斯科特·格思里说，我们认为这为我们提供了向客户提供更快、更低成本和更高质量的更好解决方案的方法。

微软表示，它不打算出售这些芯片，而是将它们用于为自己的订阅软件产品提供支持，并作为其Azure云计算服务的一部分。

这并不能取代英伟达。” 分析公司Creative Strategies首席执行官本·巴哈林说。