微軟宣布了兩個自定義新芯片 — 它們將如何影響 AI 環境？

今天在西雅圖峰會上，微軟宣布了兩個定制新芯片。 第一個稱為 Maia 100，這是一種用於與英維亞競爭的人工智能芯片。另一個是一個名為 Cobalt 100 基於 ARM 的 CPU 芯片，旨在與英特爾競爭。

這兩個自訂晶片都旨在為其 Azure 資料中心提供支援，並為公司和企業客戶做好準備，迎接充滿 AI 的未來。

Azure 鈷處理器是一個 128 核心晶片，採用 Arm Neoverse CSS 設計構建並為微軟定制。它旨在為 Azure 上的一般雲端服務提供支援。Microsoft 做出了一些非常有意的設計選擇，包括控制每個核心和每個虛擬機器的效能和耗電量的能力。

上圖是一個探測站，用於測試微軟的晶片上 Azure 鈷系統。

微軟目前正在 Microsoft Teams 和 SQL 伺服器等工作負載上測試其 Cobalt CPU，計劃明年為客戶提供各種工作負載的虛擬機器。雖然 Borkar 不會與 AWS 上可用的亞馬遜 Graviton 3 伺服器進行直接比較，但比微軟目前在 Azure 使用的 ARM 型伺服器相比，應該會有一些明顯的效能提升。初始測試顯示，效能比目前使用商用 Arm 伺服器的資料中心的效能更高達 40%。微軟尚未共享完整的系統規格或基準測試。在下圖中，位於華盛頓昆西的資料中心內的這些伺服器是第一部由微軟 Azure 鈷 100 CPU 供電的伺服器。

微軟的 Maia 100 AI 加速器專為運行雲端 AI 工作負載而設計，例如大型語言模型培訓和推論。 它將用於為該公司在 Azure 上的一些最大的 AI 工作負載提供支持，包括與 OpenAI 的數十億美元合作夥伴關係的一部分，其中微軟為所有 OpenAI 的工作負載提供支持。它一直與 OpenAI 合作在瑪雅的設計和測試階段。Maia 是微軟製造的第一個完整的液體冷卻伺服器處理器。

除了共用 MX 資料類型之外，Microsoft 還與其合作夥伴分享其機架設計，以便他們可以在內含其他矽的系統上使用它們。 但是 Maia 芯片設計不會更廣泛地分享，微軟將這些設計保留在內部。

Maia 100 目前正在測試 GPT 3.5 渦輪增壓，該模型是支援 ChatGPT、Bing 人工智慧工作負載和 GitHub 副駕駛的相同模型。微軟正處於部署的早期階段，與 Cobalt 一樣，它還沒有願意發布準確的 Maia 規格或性能基準。

內部 AI 芯片可以幫助微軟避免過度依賴少量領先芯片供應商。 剩下的問題是微軟將多快將兩個芯片放到貨架上，這些芯片將如何幫助平衡生成人工智能體驗的需求，以及它們將如何影響微軟 Azure AI 雲服務的定價。

供應鏈的多元化對微軟來說很重要，尤其是當 Nvidia 現在是 AI 服務器芯片的主要供應商，並且公司一直在爭奪購這些芯片時。估計表明 OpenAI 需要超過 30,000 個 Nvidia 的舊 A100 GPU 來商業化 ChatGPT，因此微軟自己的芯片可以幫助降低其客戶的人工智能成本。 微軟還為其自己的 Azure 雲工作負載開發了這些芯片，而不是出售給 Nvidia，AMD，英特爾和高通等其他人。

目前尚不清楚微軟會提供新版 Maia 和 Cobalt 的頻率，但考慮到人工智能的速度，看到 Maia 100 繼任者以與 Nvidia 的 H200 公告相似的速度（大約 20 個月），我不會驚訝。

微軟尚未準備好談論這個新的服務器定價，但我們已經看到該公司安靜地推出適用於微軟 365 的 Copilot，每個用戶每月 30 美元的費用費用。目前，適用於微軟 365 的 Copilot 僅限於微軟最大的客戶，企業用戶必須承諾至少 300 個用戶才能進入其新的 AI 支援 Office 助理名單。隨著微軟在本週推出更多的 Copilot 功能和 Bing Chat 重新品牌，Maia 很快可以幫助平衡對這些新體驗的 AI 芯片的需求。

最近，主要科技公司一直在發布自己的芯片，以更好地滿足他們的業務需求並減少對 Nvidia 的依賴。 也許受到這個消息的影響，英維亞的股票下跌了 1％。從長遠來看，我相信主要科技公司開發自己的芯片的日益增長趨勢對 Nvidia 構成了最大的威脅。 但是，Nvidia 不會閒置，因為其新發布的 H200 性能再次改進，該公司將其軟件 Cuda 作為防禦。此外，主要公司目前對計算能力的需求很高。 因此，在不久的將來，這不太可能對 Nvidia 產生重大影響。