英維亞可以在 AI 芯片武裝競賽中保持其地位嗎？

Noah Johnson 參與了話題 · 2023/09/20 03:16

在 Moomoo 上關注我，隨時掌握最新資訊和聯繫！

1.由於對 AI 計算能力的強大需求，包括 Nvidia 在內的主要科技巨頭已經在 AI 芯片開發方面進行了「武裝競賽」。

技術行業的幾個關鍵參與者在 AI 芯片開發方面取得了重大進展。

特斯拉已成功開始大量生產其名為 Dojo 的專有芯片。

在一年度的 Google Cloud Next 活動上，谷歌推出了第五代自定義張量處理單元（TPU）芯片 TPU v5e，專為大規模模培訓和推論而設計。

亞馬遜 AWS 整合了其內部 Trainium 和 Inferentia 晶片，以進行訓練和推論目的。

微軟還正在計劃發布其自開發的 Athena 芯片。

AMD 推出了人工智能芯片 MI300X，該芯片具有 192GB 的內存容量並支持人工智能推論功能。此外，英特爾已為其 AI 芯片（包括 Gaudi2 和 Gaudi3 芯片）獲得價值 10 億美元的大量訂單。

鑑於這些公司的激烈競爭和進步，這引起了一個問題，Nvidia 在 AI 芯片市場上的領先地位是否仍然是沒有挑戰的。

二.英威達 GH200 格雷斯霍珀芯片領先競爭對手

根據測試數據，NVIDIA 在各種指標方面繼續保持其領先地位。2023 年 8 月 8 日，NVIDIA 首席執行官黃詹森在 SIGGRAPH 2023 年上介紹了新一代 GH200 格雷斯霍珀平台。該平台專為生成人工智能設計，幾乎能夠執行任何大型語言模型，在推論任務中具有卓越性能。9 月 11 日，NVIDIA GH200 格雷斯霍珀超級芯片在 MLPerf 產業基準測試中首次亮相，展現了顯著的改進。與 H100 GPU 相比，它的性能提升了 17%。這些結果表明 NVIDIA 在訓練和推論方面持續領先，這是 AI 模型 GPU 應用程序的關鍵方面。

儘管 AI 晶片市場競爭激烈，NVIDIA 的強大技術系列和全面的產品組合使它們能夠保持競爭優勢。他們一直提供強大的解決方案，滿足 AI 應用程序的需求。前面提到的其他公司所取得的進步是值得注意的，但 NVIDIA 的穩定地位、歷史記錄和持續的創新有助於他們在 AI 芯片市場上的持續主導地位。

三.NVIDIA 的優勢不僅在於硬件，還在於 CUDA 生態系統。

近年來，谷歌的 TPU 和特斯拉的道場表現出了令人印象深刻的運算能力。在未來，這些技術在原始計算能力方面可能會追趕 NVIDIA 甚至超越 NVIDIA。然而，NVIDIA 的競爭優勢超越硬體。該公司已成功開發了一個以 CUDA 為中心的強大生態系統，該生態系統是其最強大的障礙。

CUDA 是平行運算平台和程式設計模型，可讓開發人員充分利用 NVIDIA GPU 的計算能力。目前，有 15,000 家在 NVIDIA CUDA 平台上建立的初創企業，全球有 40,000 家大型企業正在使用 CUDA 進行加速運算。相比之下，AMD 的 RoCM 生態系統（他們一直在努力研究）的比較差。

關於 CUDA 生態系統，斯坦福大學的研究人員皮特·沃登（Pete Warden）強調了 NVIDIA 的主導地位的幾個原因。NVIDIA 的 GPU 是人工智能開發最有效的選擇，與其他選項相比，提供更大的便利性和節省時間。此外，NVIDIA 的 CUDA 生態系統更成熟，提供豐富的資源，支持，並與 PyTorch 和 TensorFlow 等主要框架進行了出色的集成。

NVIDIA 在該領域的基地有兩個關鍵因素：

依賴性高：卓越的 AI 人才很少，招聘和留住研究人員的成本很大。考慮到研究人員喜歡熟悉的工具，公司在購買硬件時通常優先購買 NVIDIA 平台。與 AMD OpenCL 卡、谷歌 TPU、Cerebras 系統或其他硬體選項等替代品相比，使用 NVIDIA GPU 更方便和節省時間。這可以提高效率並滿足研究人員的需求。

高不可替代性：研究人員通常在受控的訓練時間內迭代現有模型。NVIDIA 的 GPU 不斷更新，提供更快的訓練速度，而現有的程式碼可以在最新硬體上順暢執行。從其他公司切換到硬件將需要重組代碼，這是一個耗時且耗費人力的過程。雖然 NVIDIA 的競爭對手理論上可能提供較低的延遲，但 NVIDIA 對軟件堆疊的投資和積累使這個優勢目前主要是幻想。

三.在自我開發的芯片市場中的競爭激烈。NVIDIA 可以保持當前的位置嗎？

這些主要技術巨頭正面臨諸如 GPU 供應短缺和成本迅速升級等挑戰，迫使他們探索自己的芯片的開發。然而，目前，這些公司的自我開發的芯片只能在內部使用，並沒有廣泛可用於促銷。此外，由於下游客戶的 AI 工程師對 NVIDIA GPU 的偏好，即使這些科技巨頭已經設計了自己的芯片，他們仍然需要採購 NVIDIA 的芯片來滿足客戶的需求。

例如，特斯拉的 Dojo 芯片是專門為滿足他們自己的需求而設計的獨家芯片。它與 NVIDIA 的通用芯片區別，無法完全替代它們。因此，為第三方使用的 Dojo 授權帶來了一個挑戰。雖然對於中小型企業來說，聘請熟練 NVIDIA CUDA 編程的個人是相對簡單的，但是找到熟練 Dojo 或其他編程語言的人員證實很難。換句話說，如果一家中小型公司採用 Dojo，則會產生巨大的學習成本，並在招聘中遇到挑戰。此外，鑑於 Dojo 自成立以來被廣泛定制，特斯拉以外的公司幾乎不可能替換 NVIDIA 的 GPU。

谷歌也面臨類似的問題。Google 的 TPU 最初為內部目的而設計，已經發展為 TPU v5e，能夠有效地擴展各種 AI 工作負載，包括培訓、微調和推論。TPU 提供多種功能，並在 PyTorch、JAX 和 TensorFlow 等人工智慧架構上加速工作負載。然而，儘管推出了強大的第五代 TPU 芯片，谷歌仍繼續在其雲平台上提供 NVIDIA 芯片。這強調了谷歌必須面對的嚴峻現實：許多 AI 工程師更喜歡使用 NVIDIA GPU。