跳到正文
The Decoder· Jonathan Kemper·· 8 天前AI 评分71

Nvidia 开源机器人视频标注引擎 Flora,称成本比 GPT-6 Astra 低 125 倍

Nvidia open-sources Flora to make robot video labeling 125x cheaper than GPT-6 Astra

AI 导读

Nvidia 开源数据引擎 Flora,用于为机器人视频生成动作描述、分步评分和任务成败判断三类标注,称标注一小时视频约 0.72 美元,而 GPT-6 Astra 约 88.50 美元。

摘要与补充说明

Flora 由三个微调的 Qwen3.5 模型组成,其中 9B 模型切分动作片段,两个 27B 模型分别负责描述和评分,模型已在 Hugging Face 发布。Nvidia 称该系统已用于 GR00T 模型训练,在 512 块 GB300 GPU 上每天可标注最多 20 万小时视频。

正文· AI 翻译

为一段一小时的机器人视频打标签只需72美分,而非88美元——这是Nvidia对其开放数据引擎Flora的承诺。但与GPT-6 Astra的对比并不像价格标签所暗示的那样悬殊。

用于机器人的大型AI模型从需要文本标注的视频中学习,据Nvidia的GEAR研究实验室称,这需要三类标签。第一,描述视频中何时发生何种动作,用于筛选训练数据。第二,对机器人逐步推进的程度进行评分,以便它通过试错学习。第三,判断任务是否成功完成,用于在部署期间监控机器人。现有的大多数工具只提供其中一类。像GPT-6 Astra这样的大型语言模型可以生成多类标签,但对于所涉及的海量视频来说,它们太贵了。

alt: Overview graphic of Flora's five capabilities, including a robot stacking cups into a pyramid, a timeline with segments A through G, example captions, and examples of outcome, process, and rubric rewards.
Flora将视频拆分为时间段,描述每个动作,并评估一个回合的执行情况和结果。| 图片:Nvidia

根据论文,Flora涵盖全部三类。Nvidia表示,该系统已在其GR00T模型的训练期间运行,在512块GB300 GPU上每天标注多达20万小时的视频。这些模型已在Hugging Face上发布。

Flora由三个微调过的Qwen3.5模型组成。一个9B模型将视频切分为动作片段,一个27B模型描述这些片段,同时考虑每个动作之前和之后发生了什么。第二个27B模型名为Flora-Rewarder,根据提示词承担三种角色。它以1到5的尺度评价一个回合的成功程度,将每个半秒步骤分类为正常、次优或失败,并基于自定义评分标准给出分数。

alt: Diagram of the Flora pipeline showing an episode video branching into timestamped captions via overlapping windows and into reward labels with dense, outcome, and rubric scores.
一个分割模型和一个描述模型生成带时间戳的描述,而单个奖励模型生成全部三类评分。| 图片:Nvidia

按Nvidia自己的估算,成本最多可低125倍

在一项使用50个视频的测试中,据Nvidia称,Flora的得分略优于GPT-6 Astra,尽管OpenAI的模型被允许使用其全部推理能力。按Nvidia的估算,用Flora标注一小时视频的成本约为72美分,而用GPT-6 Astra约为88.50美元。在同一测试中,Claude Opus 5的得分差得多,但每小时仍花费约42美元。

alt: Scatter plot comparing annotation quality in percent against cost per source video hour in US dollars on a logarithmic scale, with Flora in the upper left ahead of GPT-6 Astra, Claude Opus 5, Gemini, and other models.
据Nvidia称,Flora以每视频小时0.72美元的成本达到57.1%的标注质量,而GPT-6 Astra以88.49美元达到53.7%。| 图片:Nvidia

不过,Flora的成本数字是预测值,而非生产实测值。Nvidia是基于每GPU每小时10美元的假定租用价格计算得出的。

Flora更擅长发现动作,但Astra往往描述得更精确

在公开的WGO-Bench上,Flora最擅长检测动作边界,但在总分上落后于Astra,在纯描述准确率上落后于Gemini 3.8 Flash。据研究人员称,这些提升主要来自时间定位。

在Nvidia自己的DenseCaptionBench上,Flora在人类录制视频的所有指标上领先,但在机器人视频上,该模型排在Astra之后位列第二。研究人员也承认存在一个方法论上的问题。GPT-6 Astra在评估这些描述的同时,本身也是受测模型之一。

alt: Six bar charts comparing Flora with GPT-6 Astra, GPT-5.6 Sol, Gemini 3.8 Flash, and Kimi K3 on timestamped captions and reward annotations.
Flora在人类录制视频、结果评分和逐步评分上领先,而GPT-6 Astra在WGO-Bench、机器人视频和评分标准打分上胜出。| 图片:Nvidia

几乎没有其他模型能捕捉到回合中途的错误

在 RoboRewardBench 上,Flora 的错误率比 Astra 低 27.8%。论文将这一差距归因于部分完成的任务。当机器人只是把瓶子推倒而不是将其从桌上打落时,Flora 会给出 5 分中的 3 分,以与人类参考标准一致,而 Astra 只给 1 分。

Flora-Rewarder 能在一个回合内捕获 53.3% 的失败步骤,而没有任何竞争对手超过 11.7%,Astra 则一个都没能捕获。代价是 Flora 会将约 11% 的正常步骤误标为错误。Astra 在基于评分标准的打分和轨迹排序方面仍然领先。

在一段包含许多短促手部动作的视频中,Flora 识别出 37 个单独动作中的 34 个,而 Astra 只捕获了 4 个。另一方面,Flora 有时会把较长的动作拆分成过多的小步骤,并且偶尔会弄错描述。在一段视频中,一只机械手用布擦拭盘子,但 Flora 将其描述为折叠餐巾。

alt: Comparison of Flora and GPT-6 Astra with timelines of detected actions, video stills of hands wiring and passing tea leaves, and examples of a failed toy airplane assembly and a tipped bottle.
在一个示例回合中,Flora 识别出 37 个参考动作中的 34 个,而 GPT-6 Astra 只捕获了 4 个。| 图片:Nvidia

Nvidia 将 Flora 定位为 Scale AI 的 Physical AI Data Engine 等商业服务的开放替代方案。研究人员可以用它来扩展自己的机器人数据集,并测试诸如将人类演示迁移到机器人等方法。Nvidia 正投入数十亿美元于开放 AI 模型,以将开发者留在其硬件生态系统中并推动对其芯片的需求,而 Flora 服务于同样的目标。

该公司一段时间以来也一直在努力通过仿真和自动化数据处理来弥补机器人训练数据的短缺。在今年早些时候的 GTC 上,Nvidia 展示了一条数据流水线,可自动准备、扩充和评分训练材料。Flora 为该流水线增加了来自视频的详细标签和奖励信号。

所有这些都服务于Nvidia 覆盖整个机器人价值链的战略,从硬件和训练数据到仿真以及 AI 模型本身。Google 最近发布的 Gemini 4 Argon 瞄准了机器人训练过程中类似的部分,同样能识别训练视频中的工作步骤并标记失败动作。

相关阅读

专题与标签

相关资讯专题

标签

相关评测

GPT-6 Astra · 模型榜