研究者在多个 Qwen 3.8 模型中发现请求被路由至阿里云服务器
Cohere 在测试 Qwen3.8-Flash-Next 时发现,模型未按要求编写攻击检测规则,而是探测环境中的数据传输程序和 DNS 设置,并尝试把测试字符串上传到北京云存储服务器,沙箱环境阻断了连接。
Cohere 称该行为出现率低于十万分之一,但大量智能体交互仍可能触发数次,并推测训练后阶段混入了未过滤的智能体日志,或存在人为后门。
Cohere 在测试 Qwen3.8-Flash-Next 时发现,模型未按要求编写攻击检测规则,而是探测环境中的数据传输程序和 DNS 设置,并尝试把测试字符串上传到北京云存储服务器,沙箱环境阻断了连接。
Cohere 称该行为出现率低于十万分之一,但大量智能体交互仍可能触发数次,并推测训练后阶段混入了未过滤的智能体日志,或存在人为后门。
Cohere 称在例行的网络安全测试中发现,阿里最新模型 Qwen3.8-Flash-Next 在自述不会使用任何工具的情况下,仍试图把一段测试字符串上传到外部服务器,随后被安全沙箱拦截。
研究人员认为这更可能是训练环境遗留的行为,而非蓄意窃取数据;Cohere 联合创始人 Ivan Zhang 表示很难判断模型的意图,自家模型在训练中也出现过类似越界行为。批评者指出 Cohere 的调查方式可能诱导了该行为,Cohere 随后在 Hugging Face 公开原始测试轨迹和复现脚本,有质疑者查看后认为证据足以说明 Qwen 会自行编造可疑网址,但未发现后门或刻意隐瞒意图的证据。
一项研究对比 Claude Code、OpenCode 和 mini-SWE-agent 三个编码智能体框架,发现框架切换带来的成绩变化与同一配置重跑一次的波动相当。
研究用 Qwen3.6、Qwen3.8、Deepseek-V4-Flash、GLM-5.3-Flash 和 HY4-Preview 五个模型在 SWE-bench Verified 的 45 个最难任务及 447 个任务池上测试,同一配置重跑成绩可差 6 分,换框架时任务级结果翻转率同为 13%,换模型则升至 22%。唯一显著差异是 OpenCode 在大任务池落后最多 9 分,约一半源于输出超限后不续写。