AWS加大对Trainium的投资:这对英伟达、AMD和Astera意味着什么
AWS的re:Invent更新围绕Trainium3和Trainium4,强调了内部AI硅片的重大推动,为Nvidia带来了轻微的顺风,而对于AMD来说则是与之前的炒作相比的明显失望,同时对Astera Labs的影响大致中性,因为它继续在UALink和NVLink Fusion生态系统之间游走。
影响在 $英伟达 (NVDA.US)$略微积极
负面因素:
AWS 再次强调了对 Trainium 系列的坚定承诺,并明确将 Trainium 定位为比基于 GPU 的解决方案更具成本效益、更节能的选择,以满足 AI 工作负载需求。
——AWS 强调,它已经部署了 超过 100 万颗 Trainium 芯片,,而这种 亚马逊 Bedrock 上的大多数推理工作负载现在运行在 Trainium 上, 而非 GPU。
– 公司还宣布了这一消息。Trn3 超级服务器现在是普遍可用这些系统大约提供4倍计算, 4倍内存带宽, 和每兆瓦5倍代币 相较于上一代设置,这表明任何生产延迟并没有像担忧的那样严重,并且Trainium已准备好进行更广泛的推广。
除此之外,AWS预览了 Trainium4,预计性能将提升 6倍, 4倍内存带宽, 和内存容量增加2倍 相较当前产品。明确的信息是:AWS计划继续推进自己的加速器,而不是完全依赖第三方GPU。
积极方面:
1. Trainium4仍将在英伟达的NVLink Fusion生态系统中运行。
尽管在推动自己的芯片,AWS并未脱离英伟达的生态系统——如果有的话,反而将其Trainium更紧密地融入其中。
亚马逊正在设计 Trainium4 以:
– 与 英伟达 NVLink 6,并且
– 插入 英伟达MGX机架架构,
作为 英伟达与AWS围绕NVLink Fusion的多代合作的第一阶段.
英伟达NVLink Fusion是一个机架级平台,允许客户使用英伟达的扩展互连技术构建定制的人工智能基础设施,并得到广泛合作伙伴生态系统的支持。
这表明AWS的战略是 不 打造一个封闭的、仅限Trainium的世界。相反,AWS希望使用内部芯片来控制成本和效率, 同时仍然保持与庞大的现有英伟达生态系统的兼容性。换句话说,AWS 正在保留其战略选择权,并避免走上一条可能会疏远已标准化使用英伟达工具和软件的客户的“狭窄道路”。
AWS 进一步强化了其围绕英伟达 GPU 可靠性和可用性的领导地位叙述。
AWS 还特别强调其仍然是运行英伟达 GPU 的顶级平台:
– 该公司重点介绍了其 领先的可靠性和可用性 在大规模操作英伟达 GPU 方面。
– AWS 宣布推出新的 P6e EC2 实例 由 GB300,英伟达最新的 Blackwell Ultra GPU。
◦ 英伟达自身 (AWS上的Ceiba集群),
◦ OpenAI其使用带有 数十万个GB200芯片的EC2超服务器集群 并且预计将采用 GB300 以及,
◦ HUMAIN该公司正在与AWS合作,使用Nvidia GPU在沙特阿拉伯建立一个AI区域。
- AWS展示了多个运行大规模工作负载的高知名度客户,这些客户通过AWS使用Nvidia GPU,包括:
管理层还强调,随着企业启动和扩展AI项目,对AWS来说,依然至关重要的是 提供客户要求的“必备”芯片 ——隐含之意为Nvidia的最新产品。
总体而言,虽然Trainium对GPU市场份额的获取带来了边际上的增量阻力,但AWS的信息仍强化了英伟达作为高端人工智能基础设施核心生态标准的地位。
AWS明确提到了 英伟达 并且还引用了 AMD 作为其更广泛的GPU堆栈中的合作伙伴。
然而,对于AMD而言,相关细节和语气并未达到市场期望:
——在早些时候 AMD 分析师日活动,亚马逊云科技作为 头条赞助商出现,这激发了投资者的预期,认为 12月的re:Invent大会将展示更丰富的AMD与AWS合作案例及研究成果.
但实际上,AMD在主题演讲中的存在感 远比市场想象的要有限,台上几乎没有提到增量数据点或设计成果。
鉴于围绕潜在超大规模客户合作对AMD的乐观情绪已被计入股价,亚马逊云科技旗舰活动对其较轻的报道力度是一个 明显的负面意外 相对于之前的预期。
还有一个与互连标准相关的额外结构性逆风:
– AMD 与 UALink 协议在新兴的开放GPU到GPU结构生态系统中。
– Trainium4 预计将使用 UALink和英伟达的NVLink Fusion.
即使支持UALink,英伟达生态系统强大的吸引力也让AMD难以成为Trainium4整合故事的主要受益者。
Astera Labs在AI互联领域占据了一个相对独特的地位:
——它是 UALink联盟的董事会成员,在定义开放的GPU到GPU结构标准方面发挥积极作用,旨在将“巨型GPU”式的性能——历史上是英伟达NVLink的优势——带入更广泛的多供应商环境。
– 同时,在 今年五月,Astera 加入了 英伟达 NVLink Fusion 生态系统,为基于 NVLink Fusion 构建的异构 AI 系统提供连接解决方案。
这 双重对齐 意味着 AWS 对 Trainium+UALink 的重视 和 NVLink Fusion 并未明确有利于或损害 Astera公司。该公司的战略一直是处于多种标准的交汇点,而不是押注于单一的专有标准。
Astera Labs的股价反应—— 盘中上涨后回落并最终收低 ——可能反映了以下因素的综合作用:
– 过高的初始估值,这几乎没有给“符合预期”的消息留下空间,以及
– 现实情况是, AWS 的公告并未给 Astera 带来任何明确的增量利好,尽管市场早前猜测该事件可能成为重大积极催化剂。
免责声明:此内容由Moomoo Technologies Inc.提供,仅用于信息交流和教育目的。
更多信息
评论
登录发表评论
DeJaV00 : 负面的一方并不是消极的
UpstateBull : “负面:” 我不会读那些不会拼写检查的文盲印度人写的文章。真是个笑话。
Eric ng :
10
2
104272950 UpstateBull : bro很伤心他正在亏钱,呜呜呜!!!请继续亏更多的钱。
UpstateBull 104272950 : 我今年涨了22000%,哈哈。
104272950 UpstateBull : 当然可以,老兄
Andy77 : 忽略这些新闻吧,这只是为了推高英伟达的股票。英伟达的盈利中所有债务都还没有偿还。
103970650 : 随便吧。nvda 永远支持
RGV Wakka : 我需要知道的是:“AWS计划继续推进自己的加速器,而不是完全依赖第三方的GPU。” 他们仍然依赖英伟达的GPU,但不想仅仅依靠它们。
RGV Wakka UpstateBull : 在手机的截图上未实现?
查看更多评论...