原文:This chip startup just raised $135M on a bet that AI’s biggest bottleneck isn’t compute — it’s memory

每次您向 ChatGPT 询问问题时,您的请求都会触发数据中继竞赛。信息离开内存,通过 CPU 进行预处理,传输到 GPU 进行繁重计算,然后返回——对于人工智能生成的每个单词,整个过程都会重复。

瓶颈是结构性的——这意味着根据每一个请求都要通过业内一些最昂贵、最耗电的芯片。这种效率低下的问题正是 XCENA 这家在韩国和美国设有办事处的初创公司想要解决的问题。这家成立四年的初创公司设计了一款芯片,其计算能力更接近 DRAM(一种快速、短期的内存芯片,用于存储处理器正在使用的数据),允许在内存附近处理常规数据操作,而无需在 CPU、GPU 和内存之间进行昂贵的往返。

如果它大规模发挥作用,对人工智能基础设施成本的影响可能会很大,这在很大程度上解释了全国各地投资者的热情。事实上,XCENA 刚刚在 B 轮融资中筹集了 1.35 亿美元,估值为 5.7 亿美元,使其融资总额达到 1.85 亿美元。

XCENA 首席执行官 Jin Kim 于 2022 年与首席技术官 Dohun Kim 和首席产品官 Harry Juhyun Kim 共同创立了这家初创公司,他们都是三星和 SK Hynix 的资深人士,这两家内存巨头为 Nvidia 的 GPU 提供芯片支持。 “几十年来,CPU 和 GPU 都变得更加智能。内存却从未如此。XCENA 想要改变这一现状,”Kim 在接受 TechCrunch 采访时说道。他补充道:“最近内存价格和相关股票的上涨表明人工智能基础设施正在向以内存为中心的架构转变。” (本月,主导全球存储芯片市场的三家公司——三星、SK海力士和美光——各自的估值首次突破万亿美元。)

Kim 表示,XCENA 将其业务押注于“推理不仅仅是一个计算问题;它越来越成为一个内存扩展问题”。

XCENA 的芯片 MX1 通过以下方式连接到 CPU

阅读原文 →