Nvidia 的 H200 GPU 性能令人难以置信！

英伟达推出下一代人工智能处理器 H200。

全新 H200 GPU 是当前 H100 的升级产品。新的GPU首次使用了名为Hbm3e的内存规格，该规格将H200 GPU的内存带宽从H100的每秒3.35TB增加到4.8TB，总内存容量从上一代产品的80GB增加到141GB。与 A100 相比，带宽增加了 2.4 倍，容量几乎翻了一番。在性能方面，与H100相比，H200提高了60％至90％，而Llama 2（700亿个参数LLM）的推断速度几乎翻了一番。

H200预计将于2024年第二季度推出，主要提供给第三方计算能力提供商，例如CoreWeave、Lambda和Vultr，以及亚马逊、谷歌、微软和甲骨文等云计算供应商。H200 将与 AMD 的 MI300X GPU 竞争。尽管人工智能市场的竞争仍然激烈，但Nvidia仍然在人工智能芯片市场上保持领先地位，并在硬件和软件生态系统中具有优势。

该公司业绩的主要担忧是中国市场的销售限制。英伟达专门针对中国市场推出了三款芯片以满足美国的政策监管要求：HGX H20、L20 PCIe和L2 PCIe。这三款芯片的性能较低，定价尚未公布。优势仍然存在于Nvidia成熟的软件生态系统中。仍然需要出口许可证，目前尚不确定这三种芯片能否满足监管和市场需求。