GPU 戰鬥：英維亞與 AMD

當 AMD 在其進步的人工智能活動上推出 MI300X 時，在演講期間，AMD 首席執行官蘇麗莎， 她和她的同事通過將其與使用 Llama 2 的推論性能進行比較，將其與 NVIDIA H100 的推論性能進行比較，展現了加速器的技能。在演講中，由八個 MI300X 組成的 AMD 單一服務器，比 H100 的服務器的執行速度快 1.6 倍。

但 NVIDIA 對比較感到不滿意，並揭露了它。根據 NVIDIA 的一篇博客文章， 與 AMD 的演示相反，該公司認為，H100 GPU 如果使用優化軟件適當進行基準測試，則大幅比 MI300X。

NVIDIA 聲稱 AMD 未能在與 Tensorrt-LLM 的比較中納入其優化方法來抵抗這一點。NVIDIA 的回應包括在運行 Llama 2 70B 聊天模型時，將單一 H100 與八向 H100 GPU 進行比較。 $美國超微公司(AMD.US)$ $英偉達(NVDA.US)$