share_log

又一次超预期后,英伟达财报电话会说了什么?(附全文)

又一次超預期後,英偉達業績電話會說了什麼?(附全文)

華爾街見聞 ·  05/22 22:09

黃仁勳表示,今年就會看到Blackwell芯片營收顯著增長,在Blackwell之後會有另一款芯片推出。首席CFO表示,在過去四個季度推理驅動了數據中心約40%的收入,全球首個專爲AI設計的高性能以太網架構Spectrum-X一年內將實現數十億美元營收。

黃仁勳在當地時間週三召開的英偉達業績電話會上表示,Blackwell芯片產品將在今年二季度發貨、三季度增產、四季度投放到數據中心,今年就會看到“Blackwell芯片營收顯著增長”,並且在Blackwell芯片之後會有另一款芯片推出,實現“一年一代”。

關於網絡收入,英偉達首次將網絡收入單拆出來。黃仁勳表示公司將致力於三條網絡鏈路,從用於單計算域的NVLink到 InfiniBand,再到以太網網絡計算結構。

關於以太網絡的營收貢獻,同樣參加電話會議的首席財務官科萊特·克雷斯表示,全球首個專爲AI設計的高性能以太網架構Spectrum-X,正在爲英偉達打開一個全新的市場,目前正在與多家客戶進行量產,其中包括一個10萬GPU的大型集群。公司預計 Spectrum X 將在一年內躍升至數十億美元的產品線。

關於推理收入,科萊特·克雷斯表示,公司預計推理能力將隨着模型複雜度、用戶數量和每用戶查詢次數的增加而擴大 。在過去的四個季度中,估計推理驅動了我們數據中心約 40% 的收入。

關於AI PC,黃仁勳表示即使是PC計算堆棧也將發生革命性的變化,目前“正在完全重新設計計算機的工作方式”。

以下是英偉達第一季度業績電話會分析師問答環節全文內容:

伯恩斯坦研究公司Stacy Rascan:

我的第一個問題是,我想深入了解一下blackwell的評論,這對生產來說很重要。

現在。這是否暗示了發貨和交付時間?如果該產品不再只是樣品,那麼當它實際上到達客戶手中時,這意味着什麼?

黃仁勳:

如果它現在正在生產,我們將會發貨,我們已經生產了一段時間。

但我們的生產發貨將在第二季度開始,並在第三季度增加,客戶應該在第四季度建立數據中心。

Stacy Rascan:

明白了。所以今年,聽起來我們將看到Blackwell的收入。

黃仁勳:

我們今年將會看到很多Blackwell的收入。

美國哥倫比亞廣播公司(CBS)Timothy R. Curry:

我想問Jensen關於Blackwell的部署。 您知道的,與Hopper相比,考慮到系統的特性,以及您對,您知道的,GB的需求,部署這個產品與Hopper有什麼不同?

我這樣問是因爲在大規模上進行液態冷卻以前沒有做過,而且在節點級別和數據中心內部都存在一些工程挑戰。那麼這些複雜性是否會延長過渡期?您如何看待這一切的進展?謝謝。

黃仁勳:

是的,Blackwell有很多配置。Blackwell是一個平台,而不是一個GPU。該平台包括支持空氣冷卻、液態冷卻x 86和Grace無限帶。現在Spectrum X,非常大的MV Link域,我在GTC上展示了GTC。

因此,對於一些客戶來說,他們將進入他們現有的數據中心安裝基礎,這些數據中心已經在運輸hoppers。他們將很容易地從H100過渡到H200到BE 100。

因此,Blackwell系統已經被設計爲向後兼容,如果您願意的話,從電氣和機械角度。當然,運行在Hopper上的軟件將在Blackwell上運行得非常好。

我們還一直在爲整個生態系統做好準備,讓他們爲液態冷卻做好準備。我們已經與生態系統中的Blackwell談論了很長時間。而且CSPs、數據中心、ODMs、系統製造商、我們的供應鏈、他們的供應鏈、液態冷卻供應鏈、數據中心供應鏈,沒有人會對Blackwell的到來以及我們希望以Grace Blackwell 200 GB交付的能力感到驚訝。GB 200將非常出色。

美國銀行證券分析師Beck Aria:

謝謝您接受我的問題,Jensen。您如何確保您的產品有足夠的利用率,並且不會因爲供應緊張、競爭或其他因素而出現提前拉動或持有行爲?

您在系統中建立了哪些檢查,以使我們相信貨幣化與您非常、非常強勁的發貨道路保持同步?

黃仁勳:

我想先給出一個宏觀的視角,然後直接回答您的問題。

GPU在所有數據中心的需求是驚人的。我們每天都在競跑,原因就是這樣,因爲像ChatGPT和GPT 4 o這樣的應用程序,現在它將是多模態的,還有Gemini和它的坡道,以及所有CSPs正在進行的所有工作,都在消耗着每一個GPU。還有一長串生成性AI初創公司,大約有15,000到20,000家初創公司,它們在各種領域,從多媒體到數字角色,當然,還有各種設計工具應用、生產力應用、數字生物學。

自動駕駛汽車行業正在轉向使用視頻數據,使他們能夠訓練端到端模型,擴大自動駕駛汽車的操作領域。這個列表非常特別。

我們正在競跑,實際上,客戶對我們施加了很大的壓力,要求我們儘快交付系統並建立起來。

當然,我甚至還沒有提到所有希望訓練他們國家地區自然資源數據的國家,也就是他們的數據,以訓練他們地區模型。有很多壓力要求儘快建立這些系統。無論如何,我認爲需求真的很高,而且長期來看供應不足。這就是我爲什麼要發表一些長期評論的原因,對吧?

您知道,我們正在完全重新設計計算機的工作方式。當然,這已經被比作過去其他平台的轉變,但時間會清楚地表明,這比以往的平台轉變要深刻得多。原因就在於,計算機不再只是一臺指令驅動的計算機。它是一個意圖理解的計算機。它當然理解我們與它的交互方式,但它也理解我們的意思,我們要求它做什麼,並且有能力進行推理、計劃和迭代處理,並提出解決方案。

因此,計算機的每一個方面都在以這樣的方式改變,即它不再檢索預錄的文件,而是現在生成與上下文相關的、智能的答案。因此,這將改變世界各地的計算堆棧。您看到了一個構建,事實上,即使是PC計算堆棧也將得到革命化。

而這僅僅是我們看到的,您知道,今天我們所看到的只是我們在實驗室中正在做的工作的開始,以及我們正在與世界各地的所有初創公司、大公司和開發人員一起做的事情,這將是非同尋常的。

摩根士丹利Joe Moore:

我理解您剛剛關於需求有多強勁的評論,市場對H200和Blackwell產品有很大的需求。您是否預計在從這些產品過渡時,Hopper和H100會有所暫停?人們會等待這些新產品嗎,這將是一個好產品?還是您認爲對H100的需求足以維持增長?

黃仁勳:

我們看到這個季度Hopper的需求在增加,我們預計隨着我們過渡到H 200,需求將超過供應一段時間,因爲我們過渡到Blackwell。我,每個人都急於讓他們的基礎設施上線。原因就是這樣,因爲他們正在省錢和賺錢,他們希望儘快這樣做。

高盛Toshiahari:

我想問關於競爭的問題。我想您的許多雲客戶都宣佈了,您知道的,新的或對現有內部計劃的更新,與他們與您合作的工作同時進行,您在多大程度上將他們視爲中長期競爭對手?在近期內,您認爲他們是否主要限於解決內部工作負載?還是他們可以更廣泛地解決未來的問題?謝謝。

黃仁勳:

是的,我們有幾個不同之處。

首先,Nvidia的加速計算架構允許客戶處理他們整個流程的每一個方面,從處理非結構化數據準備訓練,到結構化數據處理、數據框架處理(如SQL)準備訓練,再到訓練和推理。正如我在講話中提到的,推理已經發生了根本性的變化。現在是生成,不再只是試圖檢測貓(儘管這本身已經非常困難)。現在需要生成貓的每一個像素。所以生成過程是一個根本不同的處理架構,這也是Tensor RTLM備受歡迎的原因之一。”

我們在使用相同芯片的架構上提升了三倍的性能,這說明了我們的架構和軟件的豐富性。因此,首先,你可以使用Nvidia來處理從計算機視覺到圖像處理、計算機圖形學等所有計算模式。隨着世界現在遭受計算成本和計算能耗上漲的困擾,因爲通用計算已經達到極限,加速計算才是可持續發展的方式。加速計算是你節省計算成本和能耗的途徑。因此,我們平台的多功能性爲他們的數據中心帶來了最低的總體擁有成本(TCO)。

第二,我們從不在雲端。所以對於正在尋找平台進行開發的開發人員來說,從Nvidia開始總是一個不錯的選擇。我們,我們在本地。我們在雲端。你在任何大小和形狀的計算機上。我們幾乎無處不在。這就是第二個原因。

第三個原因與事實有關,你知道,我們構建AI工廠,這變得越來越明顯,AI不僅僅是芯片問題。當然,它從非常好的芯片開始,我們爲我們的AI工廠構建了很多芯片,但它是一個系統問題。

事實上,甚至AI現在是一個系統問題。它不僅僅是一個大型語言模型。它是一大堆大型語言模型的複雜系統,它們一起工作。所以Nvidia構建系統的事實使我們能夠優化我們所有的芯片,使它們作爲一個系統一起工作,能夠擁有作爲一個系統運行的軟件,並能夠在整個系統中進行優化。

現在,讓我們從一個簡單的數字角度來看,你知道,如果你有一個5億美元的基礎設施,你提高了兩倍的性能,這是我們通常做的。當你提高基礎設施的性能兩倍時,它的價值就增加了10億美元。所有數據中心的芯片並不能支付它。因此,它的價值確實非常特別。這就是爲什麼今天性能至關重要的原因。

你知道,這是在最高性能也是最低成本的時候,因爲攜帶所有這些芯片的基礎設施成本很高,資助數據中心、運營數據中心、隨之而來的複雜性,隨之而來的電力,隨之而來的房地產,你知道,所有這些都結束了。所以最高性能也是最低TCO。

市場研究公司TD Cowen分析師Matt Ramsey:

我在數據中心行業工作了一輩子。我從未見過你們推出的新平台的速度,以及你們獲得的性能提升。訓練速度提高了5倍,推理速度在GTC上提高了30倍,這真是一件令人驚歎的事情。

但這也創造了一個有趣的對比,那就是您當前一代產品,您的客戶正在花費數十億美元,它將比產品的折舊週期更快地不再與您的新產品競爭。所以我想請您,如果您不介意的話,談一談您如何看待這種情況隨着Blackwell的推出而發展。

他們將擁有一個非常大的安裝基礎,顯然是軟件兼容的,但是有一個非常大的安裝基礎的產品,其性能遠不如您的新一代產品。我很想聽聽您對客戶在這條道路上的看法。 是

黃仁勳:

我想提出三點。如果您的建設進度是5%,而您的建設進度是95%,您的感覺會非常不同。而且,因爲您無論如何都只進行了5%的建設,您知道,您必須儘可能快地建造,當Blackwell到來時,它將是極好的。

然後,在Blackwell之後,正如您提到的,我們還有其他的Blackwells即將到來。然後,有一個短暫的,您知道的,我們以一年的節奏向世界解釋。我們希望我們的客戶能看到我們的路線圖,儘可能地了解他們。

但他們無論如何都處於建設的早期階段,所以他們必須繼續建設,所以將會有很多芯片向他們襲來,他們只需要繼續建設,如果願意的話,通過性能平均化進入其中,所以這是聰明的做法。

他們今天需要賺錢。他們想今天省錢,而且時間對他們來說真的很有價值。

讓我給您舉一個時間非常有價值的例子,爲什麼立即建立數據中心的想法如此有價值,以及獲得訓練時間如此有價值。原因就是這樣,因爲下一個達到下一個主要里程碑的公司將宣佈一項突破性的AI。而之後的第二個公司只能宣佈比原來好0.3%的東西。

所以問題是,您想成爲反覆交付突破性AI的公司,還是想成爲交付比原來好0.3%的公司?這就是爲什麼這場比賽如此重要的原因,因爲在所有技術競賽中,這場比賽非常重要。而且您正在看到這場競賽在多家公司中展開,因爲這對公司來說非常關鍵,以信任領導力並想在您的平台上建設,並且知道他們正在建設的平台將越來越好。

所以領導力非常重要,訓練時間非常重要。提前三個月完成項目的時間,爲了獲得訓練時間。您知道,提前三個月開始一個三個月的項目。提前三個月開始是一切。所以這就是爲什麼我們現在如此瘋狂地建立hopper系統的原因,因爲下一個里程碑就在拐角處。所以這就是第二個原因。

您剛才發表的第一個評論真的很棒,那就是,您知道,我們進展如此之快,進步如此之快,因爲我們擁有所有這些統計數據。我們在這裏構建了整個數據中心,我們可以監控一切,測量一切,跨一切進行優化。

我們知道所有的瓶頸在哪裏。我們不是在猜測。我們不是在製作看起來不錯的Powerpoint幻燈片。我們實際上,您知道的,我們也喜歡我們的Powerpoint幻燈片看起來不錯,但我們正在交付在規模上表現出色的系統。我們之所以知道它們在規模上表現出色的原因是因爲我們構建了它們所有。

現在,我們做的一件事有點奇蹟,那就是我們在這裏構建了整個AI基礎設施,但然後我們將其解聚並集成到客戶的數據中心,無論他們喜歡什麼方式。但我們知道它將如何表現,我們知道瓶頸在哪裏,我們知道我們需要在哪裏與他們一起優化,我們知道我們需要幫助他們改進他們的基礎設施,以實現最佳性能。

這種對整個數據中心規模的深刻、親密的了解,基本上就是今天讓我們與衆不同的原因。您知道,我們從頭開始構建每一個芯片。我們確切地知道整個系統中的處理方式,所以我們知道它將如何表現,以及如何利用每一代產品獲得最佳效果。所以我很感激您提出的這三個觀點。

獨立投資銀行諮詢Evercore分析師Marco Pacas:

在過去,您曾說過,通用計算生態系統通常主導了每個計算時代。我相信論點是它們可以適應不同的工作負載,獲得更高的利用率,推動計算週期下降。這是您推動通用GPU計算生態系統加速計算的動機。如果我誤解了您的觀察,請告訴我。

所以問題是,鑑於推動您解決方案需求的工作負載是由神經網絡訓練和推理驅動的,表面上看,這似乎是一個有限的工作負載數量,那麼它們也可能傾向於定製解決方案。那麼問題是,通用計算框架是否變得更加有風險?或者是否有足夠的變化性或這些工作流程的快速演變,支持那個歷史性的通用框架。謝謝。

黃仁勳:

是的,這些加速計算是多功能的,但我不會稱之爲通用。比如,我們不會很擅長運行電子表格,您知道,這是爲通用計算而設計的。而且,控制操作系統代碼的循環可能對通用計算不是很好,對我們的,對我們的,對我們的加速計算不是很好。

所以我會說我會說我們是多功能的,這通常是我描述它的方式。多年來,我們能夠加速的應用程序領域非常豐富,但它們都有很多的共同點。您知道,可能有一些深刻的差異,但有共同點,它們都是可以並行運行的。它們都是高度線程化的。5%的代碼代表了99%的運行時間,

例如。這些都是加速計算的屬性。我們平台的多功能性和我們設計整個系統的事實是,在過去的10年左右,你們在這些電話會議中問我的初創公司的數量相當大。而且每一個,因爲它們的架構非常脆弱,當生成性AI出現時,在擴散模型出現時,當下一個模型出現時,現在下一批模型即將出現。

然後突然之間,看看這些具有記憶的大型語言模型。因爲大型語言模型需要有記憶,這樣它們才能與您進行對話,理解上下文。突然之間,Grace內存的多功能性變得非常重要。所以每一個這些生成性AI的進步,以及AI的進步,真的需要的不是爲一個模型設計的一個小部件,而是有一些對這個整個領域真正很好的部件。

但遵循軟件的首要原則,軟件將繼續發展,軟件將繼續變得更好更大。我們相信這些模型的擴展。有很多原因,我們將在未來幾年內輕鬆地擴展一百倍,我們期待着它,我們爲此做好了準備。所以平台的多功能性真的是關鍵。而且,如果您太脆弱、太具體了,您可能只是建一個FPGA或者建一個ASIC或者類似的東西,但那幾乎不是一臺計算機。

Raymond James分析師Serena Pajuri:

實際上,我想澄清一下你剛才說的關於GB200系統的內容。看起來對系統的需求非常強勁。歷史上,我認爲你們賣出了很多AGX板卡和一些GPU,而系統業務相對較小。所以我很好奇,爲什麼現在你們看到對系統有這麼強的需求?這是因爲TCO(總體擁有成本)嗎?還是其他什麼原因?或者是因爲架構?

黃仁勳:

謝謝你的提問。實際上,我們銷售GB200的方式是一樣的。我們分解所有有意義的組件,並將它們集成到計算機制造商中。今年我們有100種不同的計算機SIS配置即將推出用於Blackwell,而這超出了預期。

坦白說,Hopper只有一半的數量。而這是其巔峯,最初甚至遠少於此。你會看到液冷版本、風冷版本、x86版本、Grace版本等等。很多系統正在設計中,並由我們所有的優秀合作伙伴提供。基本沒有什麼變化。

當然,Blackwell平台極大地擴展了我們的產品供應。CPU的集成和更高密度的計算能力,液冷技術將爲數據中心節省大量的資金和電力供應,不僅更節能,而且是一個更好的解決方案。它更昂貴,意味着我們爲數據中心提供了更多的組件,每個人都會受益。

數據中心將從高性能網絡、網絡交換機中獲得更高的性能。當然,還有以太網。這樣我們就可以將Nvidia AI大規模地帶給那些只操作或只熟悉以太網的客戶,因爲他們的生態系統就是如此。因此,Blackwell更加昂貴,我們這一代有更多的產品提供給我們的客戶。”

Truest Securities分析師William Stein:

“很好。謝謝你回答我的問題,Jensen。在某個時刻,Nvidia決定,雖然有一些相當不錯的CPU可用於數據中心操作,但你們的基於ARM的Grace CPU提供了一些真正的優勢,使得這種技術值得交付給客戶,這可能與成本或功耗或Grace與Hopper、Grace與Blackwell之間的技術協同有關。

你能否談談是否在客戶端也可能出現類似的動態情況?儘管有非常好的解決方案,比如你提到的Intel和AMD是非常好的合作伙伴,並且提供了出色的x86產品,但在新興的AI工作負載中,Nvidia可能提供一些其他人難以實現的優勢。”

黃仁勳:

您提到了一些非常好的理由。對於許多應用程序,我們與x 86合作伙伴的合作確實非常好,我們共同構建了出色的系統。 但是Grace使我們能夠做一些在今天的系統配置中不可能的事情。Grace和Hopper之間的內存系統是連貫且連接的。這兩個芯片之間的互連,你知道,把它們稱爲兩個芯片幾乎很奇怪,因爲它們就像一個超級芯片。它們通過這種每秒數TB的接口連接在一起。是的,這太棒了。而且,Grace使用的內存是lpddr。這是第一個數據中心級低功耗內存。所以我們在每個節點上都節省了很多電力。

最後,由於架構,因爲我們可以用整個系統創建自己的架構,現在我們可以創建一個真正大的MV Link域,這對於下一代大型語言模型進行推理至關重要。所以你看到GB 200有一個72節點MV Link域。這就像72個Blackwells連接在一起,形成一個巨大的GPU。所以我們需要Grace Blackwells才能做到這一點。所以我,如果有像那樣的機會,你知道,我們會探索它。而且,正如你在昨天的構建中看到的那樣,我認爲非常棒。

正如Satya宣佈的下一代PC是Copilot plus PC,它在Nvidia的RTX GPU上運行得非常好,這些GPU正在筆記本電腦上發貨。但它也支持ARM,非常出色。所以它爲系統創新打開了機會,即使是PC。

Kendra Fitzgerald分析師CJ Muse:

我想問Jensen一個稍微長遠的問題。我知道Blackwell甚至還沒有發佈,但顯然投資者是前瞻性的,而且在潛在的GPU和客戶的競爭不斷增加的情況下,您如何看待Nvidia在創新方面的步伐,過去十年的百萬倍擴展以及在精密度、Grace、連貫連接方面取得的真正令人印象深刻的進展。展望未來,未來十年需要解決哪些摩擦?我想更重要的是,您今天願意與我們分享什麼?

嗯,我可以宣佈,在Blackwell之後,還會有另一款芯片,我們將以一年爲週期進行更新。因此,你們也可以指望我們以非常快的速度推出新的網絡技術。

我們正在發佈以太網的Spectrum X,但我們完全投入以太網,我們有一個非常令人興奮的以太網路線圖。我們擁有豐富的合作伙伴生態系統。戴爾宣佈他們將Spectrum X推向市場。我們有豐富的合作伙伴和客戶,他們將宣佈將我們整個人工智能工廠架構推向市場。

因此,對於那些希望獲得最終性能的公司,我們有無限帶寬計算結構。Infiniband是一種計算結構,以太網和網絡。多年來,Infiniband起初是一種計算結構,逐漸變成了一種越來越好的網絡。以太網是一個網絡。通過Spectrum X,我們將使其成爲一個更好的計算結構。我們致力於所有3個鏈接,從Envy鏈接,通勤計算結構到無限帶寬計算結構,再到以太網網絡計算結構。

因此,我們將以非常快的速度推進所有這三個方面。您將看到新的交換機、新的下一步、新的功能、運行在所有這三個方面的新軟件堆棧。新的CPU、新的GPU、新的網絡、下一步新的交換機、新的芯片數量以及所有這一切美好的事情都是運行在Kuda上,都運行我們的整個軟件堆棧。

因此,如果您今天投資我們的軟件堆棧,而不需要做任何事情,它只會變得越來越快。如果您今天投資我們的架構,而不需要做任何事情,它將變得越來越多的雲和越來越多的數據中心,一切都會變得更好。因此,我認爲我們正在帶來的創新速度將一方面提高能力,另一方面降低TCO。因此,我們應該能夠通過Nvidia架構爲這個新時代的計算擴展,並開始這個新的工業革命,在那裏我們不再只是製造軟件,而是製造人工智能代幣,我們將以規模實現這一目標。謝謝。

声明:本內容僅用作提供資訊及教育之目的,不構成對任何特定投資或投資策略的推薦或認可。 更多信息
    搶先評論