微軟終於製作自定義 AI 芯片-但它們不適合殘疾人 Nvidia
$微軟(MSFT.US$推出了其第一個人工智能芯片 Maia 100，它是其 Azure Maia AI 加速器系列的一部分。該公司還推出了其首個基於 ARM 的 Azure Cobalt 中央處理單元，用於通用雲計算。借助這兩個芯片，微軟加入競爭對手 $谷歌-A(GOOGL.US$和 $亞馬遜(AMZN.US$在開發自定義芯片來運行其競爭的雲端平台。Maia 100 將用於基於雲的培訓和人工智能模型推論。
軟件是我們的核心優勢，但坦白說，我們是一家系統公司，」微軟的 Azure 硬體系統和基礎設施公司副總裁 Rani Borkar 在一份聲明中表示。「在 Microsoft，我們正在共同設計和優化硬體和軟體，使一加一比兩個更大。我們可以了解整個堆疊，而矽只是其中一種成分。」
微軟的 AI 芯片可用於培訓 LLM
微軟的自定義 AI 芯片可用於訓練大型語言模型，可能減少對昂貴的依賴性 $英偉達(NVDA.US$。由於今年對 Nvidia H100 GPU 的需求激增，Azure Maia AI 晶片和 ARM 驅動的 Azure 鈷 CPU 將於 2024 年推出，這些 GPU 廣泛用於訓練和操作生成影像工具和大型語言模型的需求激增。對這些 GPU 的需求如此高，有些甚至在 eBay 上獲得超過 40,000 美元。
Maia 100 目前正在測試 GPT 3.5 渦輪增壓，該模型是支援 ChatGPT、Bing 人工智慧工作負載和 GitHub 副駕駛的相同模型。 Maia 採用 5 奈米台積電製程製造，擁有 105 億晶體管，比上所發現的 153 億晶體管少約 30% $美國超微公司(AMD.US$是 MI300X 人工智能顯示卡。Borkar 表示：「Maia 支援我們首次實作 8 位元資料類型 MX 資料類型，以便共同設計硬體和軟體。這有助於我們支援更快的模型訓練和推論時間。」
當微軟第一次分享 Maia 晶片的設計時，我們非常興奮，我們一起使用我們的模型進行改進和測試，」OpenAI 首席執行官 Sam Altman 表示。
「這不是取代了英維亞的東西」
供應鏈的多元化對微軟來說很重要，尤其是當 Nvidia 現在是 AI 服務器芯片的主要供應商，並且公司一直在爭奪購這些芯片時。估計表明，OpenAI 需要超過 30,000 個英維亞的舊 A100 GPU 來進行 ChatGPT 商業化，因此 微軟自己的芯片可以幫助降低其客戶的 AI 成本。微軟還為自己的 Azure 雲工作負載開發了這些芯片，而不是出售給 Nvidia，AMD 等其他人 $英特爾(INTC.US$，以及 $高通(QCOM.US$所有人都做。
我們認為這讓我們能夠為客戶提供更好的解決方案，以更快、更低的成本和更高品質的方式。」Microsoft 雲與 AI 集團執行副總裁 Scott Guthrie 表示。
微軟表示，它不計劃出售這些芯片，而是將使用它們來為自己的訂閱軟件產品提供支持，並作為其 Azure 雲計算服務的一部分。
分析公司創意策略的首席執行官本巴吉林表示，這不是取代了英維亞的東西。
資料來源：微軟、雅虎金融、The Verge
免責聲明：此内容由Moomoo Technologies Inc.提供，僅用於信息交流和教育目的。
更多信息
評論
登錄發表評論
