原文标题:Nvidia backs Indian startup helping companies run AI models with fewer GPUs
随着人工智能的繁荣对计算能力造成压力,Nvidia 在一轮 1400 万美元的融资中支持了印度初创公司 Simplismart,押注于帮助公司更有效地运行人工智能模型的软件,在某些情况下,可以使用更少的 GPU。
Nvidia 与 Accel、Shastra VC 和 Micromax 一起参与了全初级 B 轮融资,达拉斯风险投资公司领投。这笔交易对这家成立四年的初创公司的估值约为 1 亿美元,其中包括新资金。
如今,各公司在 GPU 上投入巨资来支持人工智能应用程序,但大规模可靠且经济地运行这些模型仍然是一个挑战。不同的工作负载需要在速度、成本和性能之间进行不同的权衡。部署和操作人工智能模型以满足业务需求通常还需要复杂的调整。 Simplismart 表示,其软件可以自动化大部分工作,定制模型在现有计算基础设施上的运行方式,而不是要求客户自行管理这些配置。
Simplismart 联合创始人兼首席执行官 Amritanshu Jain(上图左)在接受采访时表示:“实际上没有人需要最快或最便宜的推理。”他补充说,公司
相反,需要以对其特定应用有意义的速度和成本运行人工智能模型。
Simplismart 的软件位于人工智能模型和它们运行的计算基础设施之间,并调整模型的部署和管理方式以满足客户的要求。该公司表示,它可以优化模型的响应速度、处理的请求数量以及消耗的计算能力等因素,帮助公司从现有的 GPU 堆栈中获得更多收益。
这家总部位于班加罗尔的初创公司为公司提供了一种通过自己的平台或在现有的云和本地基础设施内部署和运行人工智能模型的方法。它还提供了微调模型、根据需求变化自动扩展计算资源以及监控性能的工具。此外,Simplismart 允许云提供商使用其软件在 GPU 基础设施上构建和运营自己的 AI 推理服务。
Simplismart 表示,它使用其软件帮助 AI 视频生成平台 InVideo 将 GPU 服务成本降低了 56%。该初创公司还与人工智能视频公司 HeyGen 和 Higgsfield 以及企业人工智能初创公司 Ema 等合作。此外,印度云提供商 Yotta 使用
Simplismart 的技术为其 Shakti Studio 平台内的无服务器 AI 推理服务提供支持。
Jain 告诉 TechCrunch,过去 6 个月里,Simplismart 的年化收入增长了 14 倍,达到八位数。该公司表示,该数字基于最近的客户使用情况,而不是合同经常性收入,并且不包括转嫁给基础设施提供商的收入。他没有透露具体数字。
Jain 表示,尽管 Simplismart 在印度拥有更多客户,但该公司一半以上的收入来自美国。
Jain 告诉 TechCrunch,除了投资之外,Nvidia 还一直与 Simplismart 进行技术集成合作,包括围绕 Dynamo 推理软件进行集成。 Jain 表示,此次合作涉及 Simplismart 的工程师和 Nvidia 的解决方案架构师,而 Nvidia 还帮助将这家初创公司介绍给潜在的客户和合作伙伴。
有趣的是,这项投资呈现出一个明显的悖论,因为人工智能芯片的主要供应商英伟达正在支持可以帮助公司用更少的 GPU 运行一些工作负载的软件。然而 Jain 认为,提高人工智能推理效率最终将使 Nvidia 受益
通过使其硬件对客户更具吸引力并鼓励更广泛地采用人工智能应用程序。
Simplismart 正在为日益拥挤的人工智能推理软件市场中的客户提供服务,与 Nvidia 本身以及主要云提供商和超大规模提供商(包括 Amazon Web Services、Google Cloud 和 Microsoft Azure)的产品竞争。越来越多的初创公司也在开发工具,使 AI 模型的运行速度更快、成本更低,因为对 AI 应用程序的需求不断增长以及需要更好地利用昂贵的 GPU 资源,这一领域的需求不断增长。
Jain 表示:“我们往往会在人们必须更加严格地遵守 SLA(服务水平协议)和 TCO(总体拥有成本)方面取得胜利。”他指的是严格的性能要求和严格的成本限制。他表示,与为更快或更便宜的推理提供预设选项的竞争对手不同,Simplismart 的目标是找到适合每个客户需求的平衡点。
Simplismart 由前 Oracle 工程师 Jain 和前 Google 工程师 Devansh Ghatak(上图右)于 2022 年创立,源于两人构建和部署机器学习系统的经验。这
Jain 表示,两人是在 BITS Pilani 学习期间认识的,这家初创公司现在拥有 58 名员工。
Simplismart 计划利用新资金扩大其在美国的业务、壮大团队并进一步投资开发其推理软件。 Jain 告诉 TechCrunch,美国仍然是这家初创公司的一个关键市场,因为它希望建立现有的客户群。
印度英语日报《经济时报》报道称,Simplismart 正在洽谈融资 4000 万至 5000 万美元,估值为 3 亿至 4 亿美元。当被问及该报告时,贾恩拒绝发表评论,称该初创公司并未积极融资。他补充说,B 轮融资已经结束,不会延期。