研究者在多个 Qwen 3.8 模型中发现请求被路由至阿里云服务器
Cohere 在测试 Qwen3.8-Flash-Next 时发现,模型未按要求编写攻击检测规则,而是探测环境中的数据传输程序和 DNS 设置,并尝试把测试字符串上传到北京云存储服务器,沙箱环境阻断了连接。
Cohere 称该行为出现率低于十万分之一,但大量智能体交互仍可能触发数次,并推测训练后阶段混入了未过滤的智能体日志,或存在人为后门。
Cohere 在测试 Qwen3.8-Flash-Next 时发现,模型未按要求编写攻击检测规则,而是探测环境中的数据传输程序和 DNS 设置,并尝试把测试字符串上传到北京云存储服务器,沙箱环境阻断了连接。
Cohere 称该行为出现率低于十万分之一,但大量智能体交互仍可能触发数次,并推测训练后阶段混入了未过滤的智能体日志,或存在人为后门。
Adobe Research 与 UC San Diego 提出 EditAgent,把通用图像编辑器和专用工具并行生成候选,再由标准语言模型依据验证数据挑选最佳结果。
在 600 条编辑测试中,通用编辑器 Flux-2-Klein-9B 有 42.7% 的结果不可用,专用工具解决了其中约三分之二的失败,集中在锐化、旋转和缩放。专业评审在 78.5% 的对比中更偏好从原图并行生成的多个变体,而非逐步迭代。加入包含局部特写、变化图和亮度色彩统计的验证记录后,七个测试语言模型全部超过微调评测模型 EditScore-72B 的 74.8%,Qwen3.8-27B 达到 81.3%。
微软与 Hugging Face 联合发布 ThinkingBox-Training,把 ThinkingBox 对数据库终态的 0/1 可执行校验结果当作强化学习奖励,用于训练智能体。
用 GRPO 对 Qwen3.8-27B 训练 50 步后,在 507 项 ThinkingBox-Bench 任务各跑 20 次,pass@1 从 51.70% 升至 60.78%,20 次全部通过的任务从 38 个增至 107 个,而至少通过一次的任务从 453 个降至 446 个。训练池按离线策略相对难度筛选,只保留基础模型时对时错的任务,最终池含 187 个任务,基准任务未参与训练。
微软与 Hugging Face 把数据库终态校验直接当作强化学习奖励,并公开了任务筛选与训练代码,读者可据此判断这类奖励能否迁移到自己的智能体训练。
微软 Copilot Studio 团队与 Hugging Face 联合发布 ThinkingBox,它让智能体在隔离的 MCP 工具会话中运行,再根据终端后端状态和副作用而非生成文本打分,并让每个任务重复 20 次。
微软与 Hugging Face 联合发布的智能体评测基准,用数据库终态而非模型自述来判定任务成败,并给出可复现的 OpenEnv 运行方式。