花旗分析师在 Hot Chips 会议第二天后表示,随着人工智能系统变得越来越大、越来越复杂,网络正在取代原始计算能力,成为人工智能性能的主要制约因素。
花旗表示,这一转变为 Nvidia (NASDAQ:NVDA)、Broadcom (NASDAQ:AVGO)、Arista Networks (NASDAQ:ANET)、Lumentum (NASDAQ:LITE)、Coherent (NYSE:COHR)、Marvell Technology (NASDAQ:MRVL) 和 Astera Labs (NASDAQ:ALAB) 带来了特别积极的前景。
分析师指出,第一波人工智能基础设施开发主要关注更快的 GPU、更大的加速器和更大的训练能力。
但随着人工智能系统扩展到数万亿个参数、更大的上下文窗口和自主代理工作负载,在芯片、服务器、机架和数据中心之间有效移动数据正在成为更大的瓶颈。
花旗表示,Nvidia、Broadcom、Meta Platforms(纳斯达克股票代码:META)、Alphabet(纳斯达克股票代码:GOOGL)、谷歌、三星和其他公司的演示都指出了同样的趋势。
分析师表示:“未来的人工智能赢家不一定是拥有最快处理器的公司,而是能够在整个系统中最有效地移动数据的公司。”
内存也日益成为网络挑战的一部分。三星、XCENA 和 Cerebras 推出的技术旨在将更多数据保留在靠近处理位置的位置,从而减少必须在拥塞互连中传输的数据量。
本地保存的每个字节都会减少通信开销,从而使内存容量、带宽和效率的提高与网络性能密切相关。
花旗还强调了英伟达将未来数据中心的概念称为“人工智能工厂”。与主要围绕服务器组织的传统数据中心不同,这些设施越来越多地围绕连接计算、内存、网络、存储和安全的数据流进行设计。
花旗表示,这一转变可能会将更多人工智能基础设施价值转移给能够优化整个数据移动堆栈的公司,而不是简单地提供独立处理器。
相关文章
网络如何成为人工智能的关键层
高盛预计 2026 年股市回报率较低但仍具有吸引力
克劳德扰乱股市,人类研究人员警告“世界正处于危险之中”