英維亞的 H200 GPU 具有令人驚嘆的性能！

英維達推出新一代人工智能處理器 H200。

新的 H200 GPU 是目前 H100 的升級產品。新的 GPU 首次利用了名為 HBM3e 的記憶體規格，這將 H200 GPU 的記憶體頻寬從 H100 的每秒 3.35TB 提高到 4.8TB，而且總記憶體容量從上一代產品的 80GB 增加到 141GB。與 A100 相比，頻寬增加了 2.4 倍，容量幾乎翻了一倍。在性能方面，H200 與 H100 相比提高了 60% 至 90%，而 Llama 2（70 億參數 LLM）的推論速度幾乎翻倍。

H200 預計將於 2024 年第二季推出，主要提供給 CoreWeave、Lambda 和 Vultr 等第三方計算能力供應商，以及亞馬遜、谷歌、微軟和 Oracle 等雲計算供應商。H200 將與亞美的 MI300X GPU 競爭。儘管 AI 市場的競爭仍然激烈，但 Nvidia 仍然在 AI 芯片市場中保持領先地位，並在硬件和軟件生態系統中具有優勢。

對公司表現的主要關注是在中國市場銷售限制。英維亞已針對中國市場推出三個芯片，以滿足美國政策監管要求：HGX H20，L20 PCIe 和 L2 PCIe。這三個芯片的性能較低，定價尚未公布。優勢仍在於 Nvidia 的成熟的軟件生態系統。仍然需要出口許可證，並且尚不確定這三個芯片是否能滿足監管和市場需求。