英伟达无与伦比的市场统治地位的时代还没有结束，但挑战者和选择正从四面八方涌现。
ZML 是一家受到图灵奖获得者 Yann LeCun 认可的热门法国人工智能初创公司，它发布了推理性能软件，允许各种开源大型语言模型在各种芯片上运行，包括 Nvidia、AMD、Google 的 TPU、Apple Metal 和 Intel Arc。
ZML 创始人 Steeve Morin 告诉 TechCrunch，借助新推出的 LLM 推理服务器 ZML/LLMD，该公司的目标是打破现有的孤岛，并以最大可用速度（有时甚至更快）为 AI 用例提供不同的芯片。莫林说，随着人工智能融入我们的工作和日常生活，优化推理（又名提示处理）的重要性已经超过了模型，但在幕后往往感觉不完整，软件和架构障碍导致供应商锁定。在各种芯片上实现峰值性能的承诺是一项技术壮举，但由于人们对人工智能相关成本的担忧日益加剧，它也可能成为市场颠覆者。
ZML 希望为企业和云提供使用混合芯片的选择，其中一些芯片可能成本更低或消耗更少的能源。
“我们的想法是让人们重新获得创建自己系统的能力，并实现真正的效率提升，从而使 [AI] 得以传播，”莫林说。
Morin 引用 Axelera、Fractile、Kalray、OLIX、Q.ANT、SiPearl、SpiNNcloud 和 VSORA 的话说，这样的软件辅助可能会帮助新兴的 AI 芯片制造商，其中许多恰好来自欧洲。但对他来说，比他们的原产地更重要的是，ZML 可以与他们合作开展“世界上任何地方都没有做过的事情”。这并不意味着莫林看空英伟达。他不是，部分原因是现有的供应。他告诉 TechCrunch，ZML 与这家 AI 芯片巨头关系良好，该公司一直在为推理的崛起做准备。推理一直是投资如此密集的领域，这一趋势被誉为“推理淘金热”。所以ZML有像Baseten这样的竞争对手，最近估值为130亿美元； Inferact，来自开源项目 vLLM 的创建者；以及 SGLang 背后的商业公司 RadixArk。
vLLM 和 SGLang 都与 LLMD 存在部分竞争，但 Morin 对 ZML 的野心涵盖更广泛的领域。
“我们已经达到了共同设计芯片的地步，”他说。他进一步将 ZML 的 20 人精干团队归功于这家总部位于巴黎的初创公司能够快速行动并计划发布更多版本的原因。这也有助于这个小团队在规模上拥有充足的资金。由于他担任 Zenly 工程副总裁的记录（Snapchat 于 2017 年以 9 位数的价格收购了该公司），Morin 从 Harry Stebbings 的 20VC、>commit、AALVC、Drysdale Ventures、Xavier Niel 的 Kima Ventures、Kindred Capital、LocalGlobe 和 Puzzle Ventures 等风投公司筹集了 2000 万美元。与 ZML 的第一个公开项目（2024 年发布并于 3 月更新的专注于推理的 ML 框架）不同，ZML/LLMD 不是开源的。但它作为免费产品推出，目的是了解使用情况。
“我宁愿衡量并[然后创造收入]最有效的地方，而又不会愚蠢地阻碍我的成长，因为我从一开始就太贪婪了，”莫林说。现在判断 ZML/LLMD 何时成为付费产品及其采用情况还为时过早。但 s