虽然人工智能 (AI) 趋势的第一阶段都是关于大型语言模型 (LLM) 训练，但下一阶段越来越多地涉及推理 - 将这些经过训练的模型应用于现实世界的任务。预计这最终将成为两个市场中较大的一个。
芯片制造商 Nvidia (NVDA +0.29%)、Advanced Micro Devices (AMD 3.40%) 和 Cerebras Systems (CBRS 9.69%) 都希望成为推理工作负载驱动的领导者。在这些计算任务中表现出色往往更多的是对内存的快速访问，而不是原始计算能力，这三者都在采取不同的方法来解决这个问题。因此，让我们深入研究一下目前最值得购买的推理半导体股票。
英伟达
纳斯达克股票代码：NVDA
英伟达长期以来一直是人工智能基础设施的领导者：其图形处理单元（GPU）一直是用于训练人工智能模型的主要芯片。该公司通过向开发者推广其 CUDA 软件平台，在这个领域建立了一条巨大的护城河。大多数基础人工智能代码都是用 CUDA 编写的，并专门针对 Nvidia 芯片进行了优化。
不过，推理完全是另一回事，该公司“收购”了 Groq 及其语言处理单元 (LPU)，并将其纳入其 CUDA 生态系统，以增强其推理产品。 LPU 使用少量片上 SRAM（静态随机存取存储器）来提高推理速度。 Nvidia 本质上已经创建了专门为推理而设计的完整服务器机架，结合使用了 LPU 和 GPU。与高带宽内存 (HBM) 封装在一起的 GPU 负责理解用户提示的预填充阶段，而 LPU 则处理给出响应的解码阶段。由于 LPU 使用 SRAM，因此它们可以实现几乎零延迟的响应。
大脑
纳斯达克股票代码：CBRS
与 Nvidia 一样，Cerebras 也使用片上 SRAM 来帮助处理推理工作负载并提高速度。然而，它以一种非常不同的方式来做这件事。由于 SRAM 体积较大，因此每个 Nvidia LPU 使用的量很少；为了处理这些工作负载，需要将许多接口板互连成一个巨大的集群。另一方面，Cerebras 制造了餐盘大小的巨型晶圆尺寸芯片，将许多标准芯片的硬件放在一块硅板上。结果是芯片比 Nvidia 的 LPU 快 6 倍，比 GPU 快 15 倍。
然而，晶圆级芯片也有其自身的问题。为了避免代价高昂的缺陷的影响，Cerebras 在其芯片中添加了额外的核心，这样它们就可以解决任何有缺陷的区域。其芯片还需要特殊的冷却和电源管理，因此，Cerebras 仅将其作为其完整的端到端服务器机架 CS-3 系统的一部分进行销售或出租。这最终使其提供了昂贵的优质解决方案。
也就是说，该公司赢得了 OpenAI 价值 200 亿美元的交易，并且还与 Amazon Web Services 签署了协议。这可能有助于将该公司的系统纳入主流。
AMD
纳斯达克：AMD
另一家希望在推理市场占据一席之地的公司是 AMD。虽然它不像 Nvidia 和 Cerebras 那样使用片上 SRAM，但其小芯片设计允许将更多内存与其 GPU 封装在一起。与此同时，AMD 最近收购了内存优化软件公司 MEXT，为 AMD 提供了一种经济有效的方法来增加有效内存容量并降低成本。
由于人工智能基础设施建设不断推进，高带宽内存（HBM）供不应求，DRAM价格不断飙升，增加了数据中心的建设成本。 MEXT 的系统通过自动将很少访问的数据卸载到更便宜的闪存来减少对 HBM 的需求。 MEXT 的优势在于其预测人工智能引擎，可实时分析内存访问模式。这使得它能够预测应用程序接下来需要哪些数据，并在请求之前将其拉回 HBM。通过将 MEXT 的产品整合到其产品组合中，AMD 现在可以为客户提供专用于推理的完整服务器，从而节省资金。
除了推理领域的机遇外，AMD 还将受益于代理人工智能的预期快速增长，因为它是人工智能数据中心中央处理器 (CPU) 的领先制造商。由于代理 AI 工作负载比其他 AI 处理任务需要更多的 CPU，因此数据中心中 GPU 与 CPU 的比例（最近约为 8 比 1）预计将因代理 AI 的兴起而缩小至 1 比 1 左右。
判决结果
Nvidia 是一只估值颇具吸引力的股票，而 Cerebras 有机会凭借其独特的晶圆级引擎彻底颠覆推理市场。然而，AMD 是我在这里最喜欢的股票，因为该公司正经历推理和代理人工智能两大浪潮。它的解决方案也更简单，而且看起来有望在这个市场取得一些不错的进展。它已经与 OpenAI 和 Meta Platforms 达成了一些大型推理交易，并且有传言称 Anthropic 即将成为大客户。
凭借未来爆炸性的收入增长潜力，AMD可能成为AI推理时代的最大赢家。