GPUに1ドル費やすごとに、クラウドプロバイダーは4年間で5ドルの管理収入を得ることができる。HGX H200サーバーに1ドル費やすことで、Llama 3サービスをホストするAPIプロバイダーは4年間で7ドルの収入を得ることができる。
昨晩、「地球上で最も重要な株式」となり、S&Pの第3位にランクインした英伟达(NVIDIA)は、2024会計年度の第1四半期の決算書を公表した。決算書によると、英伟达の総収益とデータセンター収入は直近の複数の四半期で記録的な高さを記録し、それぞれ前年同期比で262％と427％増加し、ウォール街の予想を大幅に上回っています。
その後の電話会議で、CFOのコレット・クレスは、現在の熱い市場で英伟达のチップを購入すると、すぐにコストを回収できると説明しています。
クレスは、データセンター事業の強力な成長は、企業やインターネット企業からの需要の急増によるものだと述べ、クラウドコンピューティングのリース市場の重要性を強調し、クラウドサービスが顧客が英伟达チップの一部のコストを回収するのを助けることができると述べました。彼女は、1ドルの費用で英伟达の人工知能インフラを購入するたびに、クラウドプロバイダーは将来4年間にGAAS (General AI as a Service)を提供することで5ドルの収入を得るチャンスがあると述べています。
クレスは、英伟达がクラウドカスタマーに「最も高速のモデルトレーニング速度、最も低いトレーニングコスト、最も低い大規模言語モデル推論コスト」を提供していることを強調し、OpenAI、Anthropic、DeepMind、Elon MuskのxAI、Cohere、Meta、Mistralなどの有名なAI企業が同社の顧客であることを明かしました。
注目すべきは、クレスが英伟达と特斯拉の緊密な協力について共有したことです。特斯拉はAIトレーニングのために3.5万のH100 GPUを備蓄しており、クレスは、今年の自動車産業が英伟达のデータセンター事業の中で最も大きな垂直産業となり、数十億ドルの収益機会をもたらすと予想しています。
また、クレスは、MetaのLlama3大規模言語モデルが2.4万の英伟达H100 GPUでトレーニングされたことを明らかにしました。また、先週OpenAIが発表したGPT-4oは、英伟达H200チップの算力サポートを提供しており、H200はH100より推論性能がほぼ2倍高いことが明らかになっています。
クレスは、Llama3を例に挙げ、AI企業がAPIサービスからどのように利益を得るか説明しています。彼女は次のように述べています。
Llama3モデルについては、英伟达HGX H200サーバー1台あたり1秒あたり2.4万個トークンを出力し、2400人を超えるユーザーにサービスを提供できます。つまり、HGX H200サーバーでLlama3をホストするAPIプロバイダーは、未来4年間で1ドルを英伟达HGX H200サーバー上に費やすだけで、Llama3トークン課金から7ドルの収入を得ることができます。
決算発表後、英伟达の株価は6％急上昇し、1000ドルの大台を突破し、時価総額2.3兆ドルでS&Pの成分銘柄の第3位に安定しました。