Anthropic 警告自复制 AI 蠕虫风险,实验将模型拆分运行在 15 台电视盒子上
Anthropic 本周发布博客称,小型 AI 模型可能再过几个月就具备自复制能力。
研究人员把 260 亿参数的 Google Gemma 4 拆分到 15 台 Android 智能电视盒子上运行,并在模拟 Android 设备网络中测试 AI 蠕虫,只有智谱 GLM-5.2 成功扩散到整个网络,传播的模型则是 80 亿参数的 Meta Llama 3.1-8B。
Anthropic 本周发布博客称,小型 AI 模型可能再过几个月就具备自复制能力。
研究人员把 260 亿参数的 Google Gemma 4 拆分到 15 台 Android 智能电视盒子上运行,并在模拟 Android 设备网络中测试 AI 蠕虫,只有智谱 GLM-5.2 成功扩散到整个网络,传播的模型则是 80 亿参数的 Meta Llama 3.1-8B。
开源 AI 编程智能体 OpenCode 称,攻击者夜间入侵其旧系统,影响在线平台 OpenCode Console 的 1.4% 用户,部分用户存放的 API 密钥泄露后出现数百至上千美元未授权扣费。
Anthropic 和 Google 封禁了疑似泄露的密钥,OpenAI 与 OpenCode 合作恢复访问并退还攻击中消耗的额度,OpenCode 表示退款正在进行。联合创始人 Dax Raad 称泄露仅限 Console,开源应用和命令行工具未受影响。OpenCode 团队还表示,用于分析攻击的 AI 模型在遇到恶意代码时触发安全过滤而拒绝工作,直到获得 OpenAI Daybreak Blue 计划访问权限后才改善调查能力。
Anthropic 表示其新防御措施将 Claude 被提取的推理 token 量削减了 90% 至 99%,这类攻击通过数十万虚假账号网络系统性复制模型能力以训练更小的自有模型。