推理已成为人工智能 (AI) 基础设施市场增长最快的部分,彭博资讯 (Bloomberg Intelligence) 预计,到 2032 年,人工智能训练市场的规模将扩大一倍,达到 1.3 万亿美元。由于利害攸关,领先的芯片制造商和新贵都在竞相争夺这个巨大、快速增长的市场的份额。

Nvidia (NVDA -0.02%)、Cerebras (CBRS +2.06%) 和 Advanced Micro Devices (AMD +1.01%) 都在以不同的方式进军这个市场。考虑到推理市场的规模和增长,让我们看看这些人工智能股票的表现如何,以及为什么它们都可能成为赢家。

1.英伟达

英伟达已经是人工智能模型训练领域的赢家,现在又将目光投向了推理市场。该公司争夺市场份额的重大举措是“收购”Groq 及其语言处理单元 (LPU)。推理更多的是关于快速内存访问和低延迟,而不是原始计算能力,LPU 通过将 SRAM(静态随机存取存储器)直接嵌入到其芯片上来帮助解决这个问题。

纳斯达克股票代码:NVDA

LPU 在推理的解码阶段特别有用,此时大型语言模型 (LLM) 回答查询。因此,Nvidia 现在提供专为推理设计的完整系统,其中图形处理单元 (GPU) 处理预填充阶段(读取提示),而 LPU 处理解码阶段,从而加快响​​应时间。

这是一个很好的解决方案,使 Nvidia 能够保持人工智能基础设施领导者的地位,即使它没有获得与训练领域相同的市场份额。

2. 大脑

与 Nvidia 一样,Cerebras 正在利用基于 SRAM 的芯片来解决推理问题。然而,由于 SRAM 体积庞大,Cerebras 并没有将少量的 SRAM 嵌入到芯片中并将它们串在一起,而是制造了巨大的晶圆级芯片,其速度比 LPU 快五到六倍。

Cerebras 芯片的物理尺寸需要一些权衡。它们需要专门的冷却和能源管理解决方案,因此仅作为 Cerebras CS-3 系统的一部分出售或租赁。它们的价格也非常高。

纳斯达克股票代码:CBRS

然而,该公司已经与 OpenAI 和亚马逊的 AWS 签署了重大协议,并且最近宣布与 AMD 建立合作伙伴关系,这应该有助于降低拥有成本。两家公司将提供一种推理解决方案,其中 AMD 的 Helios 机架规模解决方案将处理推理的预填充阶段,该阶段的成本更低,而 Cerebras 的晶圆规模引擎将执行解码阶段,该阶段的速度更快。对于公司来说,这是更好地与 Nvidia 的产品竞争的好方法。

考虑到其系统的高成本,Cerebras 更像是一种优质、利基的解决方案,但它现在看起来将成为庞大的推理市场的主要参与者。

3、AMD

在 LLM 培训市场输给 Nvidia 后,AMD 一直在积极进军推理市场,以确保自己不会再次落后。其小芯片设计更适合推理,因为它允许将 GPU 与更高带宽内存 (HBM) 封装在一起,并充当整个单元的一部分以减少延迟。与此同时,它与 Cerebras 的合作看起来是一个明智之举,可以帮助它更好地与 Nvidia 完整的推理系统竞争。

然而,该公司并没有就此止步。它最近收购了内存优化公司 MEXT 和芯片初创公司 Taalas,以增强其推理产品。内存是目前最大的人工智能瓶颈之一,MEXT 的解决方案可以将很少访问的数据从 DRAM 卸载到未使用的闪存,然后使用预测人工智能,甚至可以在应用程序请求之前将其传输回 DRAM。这可以减少对更昂贵 DRAM 的需求并有助于节省成本。

纳斯达克:AMD

与此同时,Taalas 开发了直接硬连线人工智能模型的芯片,以增强推理性能。由于芯片是特定于型号的,因此它们不那么灵活,但它们更便宜且速度更快。该公司计划将它们用作完整系统的一部分,其中 GPU 将处理预填充阶段,Taalas 的芯片将处理解码阶段。

AMD 正在从几个不同的角度解决推理问题,这应该能够使其在这个巨大的市场中占据相当大的份额。