在 Amazon EKS 与 SageMaker HyperPod EKS 上部署 NVIDIA Nemotron 模型加速智能体 AI
NVIDIA Nemotron 3.5 Super VL 已加入可在 AWS 上使用的 Nemotron 3 系列模型，这是一个 120B 参数的 MoE 多模态模型，每个 token 激活 12B 参数，支持文本、图像、文档和视频输入。
该模型从 Nemotron 3 Ultra 蒸馏而来，采用混合 Mamba-2、MoE 与注意力层架构，上下文长度最高 1M tokens，提供 BF16 和 NVFP4 两种 checkpoint，并公开权重、训练数据集与后训练配方。NVIDIA 报告其在 Hermes Bench 得分 63.44%、LangChain agent 评测 87.05%、CharXiv 图表推理基准 80.8%。