跳到正文
TechCrunch · AI· Jagmeet Singh·· 6 天前AI 评分40

Nvidia 投资印度创企 Simplismart,帮企业用更少 GPU 跑 AI 模型

Nvidia backs Indian startup helping companies run AI models with fewer GPUs

AI 导读

Nvidia 参与印度创企 Simplismart 的 1400 万美元 B 轮融资,本轮由 Dallas Venture Capital 领投,Accel、Shastra VC 和 Micromax 跟投,投后估值约 1 亿美元。

摘要与补充说明

Simplismart 的软件位于 AI 模型与算力基础设施之间,自动调整模型部署方式,优化响应速度、请求吞吐和算力消耗,让企业更充分利用现有 GPU 资源。其客户 InVideo 称借助该软件将 GPU 服务成本降低 56%,HeyGen、Higgsfield、Ema 及印度云厂商 Yotta 也在使用。公司年化收入运行率过去六个月增长 14 倍至八位数,超半数收入来自美国。

正文· AI 翻译

随着 AI 热潮使算力承压,Nvidia 在 1400 万美元融资轮中投资了印度初创公司 Simplismart,押注于帮助企业更高效地运行 AI 模型、并在某些情况下减少 GPU 使用量的软件。

Nvidia 与 Accel、Shastra VC 和 Micromax 一同参与了这轮全为初级股权的 B 轮融资,Dallas Venture Capital 领投。此轮融资使这家成立四年的初创公司估值约为 1 亿美元(含新融资)。

如今企业为运行 AI 应用在 GPU 上投入巨大,但大规模可靠且经济地运行这些模型仍是一项挑战。不同工作负载需要在速度、成本和性能之间做出不同权衡。为满足业务需求而部署和运营 AI 模型往往还需要复杂的调整。Simplismart 表示,其软件可自动完成其中大部分工作,根据现有计算基础设施定制模型的运行方式,而无需客户自行管理这些配置。

“其实没有人需要最快或最便宜的推理,”Simplismart 联合创始人兼 CEO Amritanshu Jain(上图左)在接受采访时表示。他补充说,企业真正需要的是以对其特定应用而言合理的速度和成本运行 AI 模型。

Simplismart 的软件位于 AI 模型与其运行所在的计算基础设施之间,调整模型的部署和管理方式以满足客户需求。该公司表示,它可以优化模型响应速度、处理请求数量以及消耗算力等因素,帮助企业更充分地利用现有 GPU 资源。

这家总部位于班加罗尔的初创公司为企业提供通过其自有平台或在企业现有云端及本地基础设施中部署和运行 AI 模型的方式。它还提供微调模型、随需求变化自动扩展计算资源以及监控性能的工具。此外,Simplismart 还允许云服务提供商使用其软件在 GPU 基础设施上构建和运营自己的 AI 推理服务。

Simplismart 表示,它帮助 AI 视频生成平台 InVideo 使用其软件将 GPU 服务成本降低了 56%。这家初创公司还与 AI 视频公司 HeyGen 和 Higgsfield 以及企业 AI 初创公司 Ema 等展开合作。此外,印度云服务提供商 Yotta 使用 Simplismart 的技术为其 Shakti Studio 平台内的无服务器 AI 推理服务提供支持。

Jain 对 TechCrunch 表示,Simplismart 的年化收入运行率在过去六个月增长了 14 倍,达到八位数。该公司表示,该数字基于近期客户使用量,而非合同经常性收入,并且不包括转嫁给基础设施提供商的收入。Jain 未披露具体数字。

Jain 表示,尽管 Simplismart 在印度的客户更多,但其超过一半的收入来自美国。

Jain 对 TechCrunch 表示,除了投资之外,Nvidia 还一直在与 Simplismart 进行技术集成合作,包括围绕其 Dynamo 推理软件。Jain 表示,这一合作涉及 Simplismart 的工程师和 Nvidia 的解决方案架构师,同时 Nvidia 还帮助将该初创公司介绍给潜在客户和合作伙伴。

有趣的是,这笔投资呈现出一种明显的悖论:作为AI芯片的主导供应商,Nvidia却在支持一款软件,该软件能帮助企业以更少的GPU运行部分工作负载。然而,Jain认为,让AI推理更高效最终可能对Nvidia有利,因为这会让其硬件对客户更具吸引力,并推动AI应用更广泛地采用。

Simplismart正在一个日益拥挤的AI推理软件市场中服务客户,与Nvidia自身以及包括Amazon Web Services、Google Cloud和Microsoft Azure在内的主要云服务提供商和超大规模厂商展开竞争。随着该领域需求不断增长——这得益于AI应用需求的上升以及更充分利用昂贵GPU资源的需要——越来越多的初创公司也在开发让AI模型运行更快、成本更低的工具。

“我们往往能在客户对SLA(服务级别协议)和TCO(总拥有成本)要求更严格的地方取胜,”Jain说,他指的是严苛的性能要求和紧张的成本约束。他表示,与那些提供更快或更便宜推理的预设选项的竞争对手不同,Simplismart旨在为每位客户的需求找到量身定制的平衡点。

Simplismart由前Oracle工程师Jain和前Google工程师Devansh Ghatak(上图右)于2022年创立,源于两人在构建和部署机器学习系统方面的经验。Jain说,两人在BITS Pilani求学时相识,这家初创公司目前拥有58名员工。

Simplismart计划利用新资金扩大其在美国的业务、壮大团队,并进一步投资开发其推理软件。Jain告诉TechCrunch,美国仍是这家初创公司的关键市场,因为它希望在此基础上拓展当地现有客户群。

此次融资消息公布前,印度英文日报《The Economic Times》报道称,Simplismart正洽谈以3亿至4亿美元估值融资4000万至5000万美元。当被问及该报道时,Jain拒绝置评,称这家初创公司并未积极融资。他补充说,B轮融资已经完成,不会扩大规模。

当您通过我们文章中的链接购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

相关阅读

专题与标签

相关资讯专题