个人中心
登出
中文简体
返回
登录后咨询在线客服
回到顶部
ARM连续四日走跌:芯片股怎么了?
浏览 50.3万 内容 68

在 GPU 短缺的情况下,新兴计算能力提供商悄然获利

avatar
Noah Johnson 参与了话题 · 2023/09/15 03:54
在 Moomoo 上关注我,随时了解最新情况并保持联系!
1。人工智能蓬勃发展,GPU 短缺推动第三方计算提供商发展
人工智能的繁荣推动了对GPU的巨大需求,全球需求预计将增长10至100倍。在过去的五年中,由于加密货币的兴起和2020年的供应链危机,GPU一直供不应求。目前在AIGC和自动驾驶等领域的炒作进一步加剧了这种情况。因此,像微软这样的科技巨头也面临着GPU供应短缺。
由于Nvidia在GPU市场的主导地位,其他制造商很难在人工智能模型训练中与他们竞争。这可能会导致一段时期的垄断局面,使解决GPU供应的短期限制变得困难。
英伟达显卡正面临供需失衡的挑战,这也推动了CoreWeave和Lambda Labs等新兴GPU计算能力提供商的收入大幅增长。预计对人工智能推理计算能力的需求将大幅增加,可用GPU的数量也将增加。从长远来看,供应限制预计不会持续太长时间。但是,从模型训练的角度来看,短缺可能持续存在。
在 GPU 短缺的情况下,新兴计算能力提供商悄然获利
2。CoreWeave 和 Lambda Labs 的崛起
CoreWeave 和 Lambda Labs 是新兴的私有云 GPU 计算提供商。用户可以在云端或本地数据中心访问 NVIDIA 的 AI 产品和服务。
在 GPU 短缺的情况下,新兴计算能力提供商悄然获利
CoreWeave 和 Lambda Labs 都与 NVIDIA 关系密切。2023 年 4 月,NVIDIA 对 CoreWeave 进行了 1 亿美元的股权投资,而 Lambda 在另一轮更大规模的融资中获得了 NVIDIA 的 3 亿美元投资。
CoreWeave,前身为大西洋加密货币,最初专注于以太坊采矿业务。他们通过购买大量NVIDIA GPU来提供加密货币挖矿服务。2019年,由于Stability/Stable Diffusion等人工智能初创公司的需求不断增加,他们转向提供人工智能计算能力服务。OpenAI 的 ChatGPT 的推出和生成式人工智能的兴起进一步提高了他们的业务收入。
2022年,CoreWeave的收入约为2500万美元,预计到2023年将达到约6亿美元。CoreWeave调整了其2023年的初步展望,降低了预期的收入和资本支出,但增加了其多年承诺。这种调整可能是由于CoreWeave也面临着GPU供应限制。
Lambda Labs成立于2012年,并于2019/2020年过渡到人工智能计算提供商,提供基于云的GPU容量供出租。就规模而言,Lambda小于CoreWeave,但预计到2023年将产生超过1亿美元的收入。
在 GPU 短缺的情况下,新兴计算能力提供商悄然获利
3.新兴计算能力提供商之间的差异化竞争
新兴的计算能力提供商正在利用架构优势和定价差异。除了NVIDIA的供应优势外,CoreWeave和Lambda的快速增长还可以归因于它们与三大公司相比的差异化竞争,包括架构和定价差异。
CoreWeave声称专门为NVIDIA GPU设计了集群,理由是它们的自动扩展能力(部分基于其无服务器编排技术和NVIDIA的InfiniBand网络)。这使客户能够比微软和亚马逊更快地访问NVIDIA GPU集群。
CoreWeave 提供 1-3 年期预留实例 (RI) 合约,为客户提供折扣。他们对A100的价格区间为每小时1.10美元至1.40美元,而H100的价格区间为每小时2.00美元至2.20美元。相比之下,Lambda 的 GPU 小时费率较低,但其软件堆栈不太成熟。
Lambda 在基础设施方面与 CoreWeave 有所不同。Lambda 专注于提供快速文件系统存储和 GPU 等关键服务,以更快地满足市场需求。这是其快速增长的原因之一。
Lambda 提供世界上最便宜的 GPU 云服务,包括每小时 1.89 美元的 H100 和本地 AI 计算集群。如果用户达到100%的利用率,则价格可以进一步降低。Lambda 始终保持高利用率,使其能够提供实惠的价格。相比之下,许多大型云提供商往往会过度配置,从而提高峰值容量,但也会产生未使用容量的成本,以支持价格波动和资源利用率的低下。
4。结论
当前人工智能的普及推动了对GPU的巨大需求。但是,由于供应短缺,英伟达目前是市场上唯一的供应商,这可能会导致暂时的垄断局面。
CoreWeave和Lambda Labs等新兴私有云GPU基础设施提供商正在迅速获得关注。由于其架构优势和定价差异,它们吸引了科技投资者的注意力,并经历了快速的业务增长。目前,新兴计算能力提供商和三家云巨头是合作关系,但未来也有可能成为竞争关系。
尽管 GPU 供应限制可能会持续一段时间,但从长远来看,随着供应和技术进步的增加,供需之间的不平衡可能会得到缓解。
免责声明:社区由Moomoo Technologies Inc.提供,仅用于教育目的。 更多信息
8
+0
1
原文
举报
浏览 5万
评论
登录发表评论