GPU 之战：英伟达对战 AMD

当 AMD 在其 Advanced AI 活动上推出 MI300X 时，在演讲中，AMD 首席执行官 Lisa Su， 她的同事们通过将加速器与 NVIDIA H100 使用 Llama 2 的推理性能进行了比较，展示了它的强大功能。在演示会上，由八台 MI300X 组成的 AMD 单台服务器的性能比 H100 的服务器快 1.6 倍。

但是NVIDIA对这种比较不满意，因此对其进行了揭穿。根据NVIDIA的博客文章， 与 AMD 的陈述相反，该公司认为，如果使用经过优化的软件进行适当的基准测试，H100 GPU 将大大超过 MI300X。

NVIDIA对此进行了反击，声称AMD未能将其优化纳入与Tensorrt-LLM的比较中。NVIDIA的回应包括在运行Llama 2 70B聊天模型时将单个H100与八向H100 GPU进行对比。 $美国超微公司(AMD.US)$ $英伟达(NVDA.US)$