Nvidia 发布 Nemotron 3.5 Super VL 与 Bolt 系列开放权重模型,面向企业智能体与 AI PC
Nvidia launches new open models to run agents in the enterprise and on PCs
AI 导读
Nvidia 发布面向常驻智能体和边缘计算的开放权重模型。
摘要与补充说明
Nemotron 3.5 Super VL 为 1200 亿参数模型,面向企业智能体,Nvidia 称其在指令遵循和工具调用任务上可达到与 Nemotron 3 Ultra 相近的准确率。两款轻量 Bolt 模型面向搭载 Nvidia RTX Spark 芯片的 AI PC 和 DGX Spark 工作站本地运行,其中 Nemotron 3.5 Bolt 74B-A9B 24GB 为 740 亿参数,用于多步推理、工具调用和网页浏览,最小的 Bolt E4B 面向对话智能体。Super VL 和 Bolt 74B-A9B 现已可用,Bolt E4B 本月晚些时候推出。
正文· AI 翻译
Nvidia于周四推出面向常驻智能体与边缘计算的新型开放权重模型。
Nemotron 3.5 Super VL 是一款面向企业级智能体的大型模型,参数量为 1200 亿。虽然它的参数量少于 Nemotron 3 Ultra 模型,但 Nvidia 表示,它在指令遵循和工具使用任务上可以达到相近的准确度。
在另一端,该公司还推出了两款轻量级 Bolt 模型。它们旨在本地运行于搭载 Nvidia RTX Spark 芯片的新款 AI PC 以及运行 DGX Spark 的工作站上。这类面向消费者、程序员和企业知识工作者的 PC,正通过 Microsoft 和 Dell 等合作伙伴推向市场。
Nvidia 开放模型与软件副总裁 Kari Briski 在宣布这些模型的博客文章中写道:“任何希望在 Nvidia 基础设施上运行智能体的组织,现在都能获得针对其层级优化的开放模型,而无需在能力与可部署性之间做取舍。”
Nvidia 声称,在针对特定智能体任务进行后训练后,Super VL 完成任务的速度快于 Anthropic 和 OpenAI 的竞品模型(Opus 5、GPT 6.1 Sol、Luna、Astra)。这些任务包括文档智能、财务会计、科学实验、医疗保险理赔以及安全攻击韧性。
尽管这类说法在大型科技公司发布新模型时司空见惯,但 Nvidia 用一份重量级公司名单为其提供了佐证,称这些公司正在使用 Super VL。名单包括 Skydance、EY、Ramp、Crowdstrike、Perplexity 和 Salesforce。
当然,这并非 Nvidia 首次发布与专有前沿实验室竞争的开放权重模型——这些实验室既是它的客户,也是它的投资对象。这家 GPU 巨头拥有完整的 Nemotron 模型家族,涵盖从多模态人工智能到推理、编程、数学和企业自动化等各种能力。
然而,那些快速增长的专有 AI 实验室如今正寻求 Nvidia 之外的众多芯片和 AI 系统制造商来满足其需求(例如 AWS 的 Trainium 和 Cerebras,以及自研芯片)。
因此,Nvidia 正大力押注企业希望在自己的数据中心运行自有开放模型的趋势。Briski 写道:“与封闭的前沿模型不同,组织可以在自己的数据上对 Super VL 进行后训练,将其部署在自己的基础设施上,并拥有自己构建的成果。”
但通过发布更小的本地 PC 模型,它也在试图推动消费级 AI 助手这一新兴趋势。尽管初创公司和大型科技公司似乎每天都在推出新的 AI 助手,但注重隐私的消费者可能并不愿意让这类智能体如此深入地介入自己的生活,让它们获取有关家庭、健康、财务等信息。
因此,Nvidia 希望通过打造能在本地运行模型和智能体的机器,为自己开辟一个销售搭载其芯片的 PC 的新市场,PC 用户“可以委派日常项目……而无需将这些工作负载发送到云端”,Briski 写道。
在两款 Bolt 模型中,Nemotron 3.5 Bolt 74B-A9B 24GB 是一款 740 亿参数的模型,专为本地智能体任务设计。它旨在平衡速度与推理能力,以处理多步推理、工具调用和网页浏览。最小的 Bolt E4B 则面向对话式智能体。
Nvidia 表示,Super VL 和 Bolt 74B-A9B 现已可用,Bolt E4B 将于本月晚些时候推出。
当您通过我们文章中的链接购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。
Julie Bort 是 TechCrunch 的初创企业/风险投资版块编辑。
您可以通过发送电子邮件至 [email protected] 或在 X 上通过 @Julie188 联系或核实 Julie 的外联信息。