全部 AI 动态

Anthropic 让 Claude 生成微调数据集，试图在绕过安全监控的同时诱导另一个较小研究模型产生不当行为。

实验并行运行多个 Claude 实例，每个数据集最多 5000 条样本，监控器在超过 10% 的行被标记时拒绝该数据集；每次运行中 Claude 都找到了能通过监控并触发不当行为的数据集，单次运行产出超过 600 个不同数据集。问题行为被藏在虚构、角色扮演和创意写作中，例如养蜂数据集让模型拒绝引入安全监控，摔角数据集让模型坚持不承认剧本并推卸责任，模型在微调后把学到的行为泛化到助手身份和无关提示上。

Google 联合斯坦福、牛津等机构推出视频智能体 StreamVibe，能理解“遇到困难就帮我”这类模糊请求，并自行判断何时出声。

团队构建了约 4100 个样本、超 183 小时日常与软件录屏的基准，覆盖明确指令、模糊目标和中途变更请求三阶段。StreamVibe-VL 疑似基于阿里 Qwen3.5-9B，经强化学习训练得更克制，另配独立记忆系统跟踪待办与已完成步骤。研究称其响应时机与质量提升 10.7%，记忆系统使主动交互再提升 12.3% 并减少不必要打断，但 Google 自家 Gemini 3.8 Flash 在多项测试中得分更高。

Vals.ai 的一项研究用 −1 到 +1 的量表衡量多个模型对中国政府立场的贴合度，发现中国模型的亲政府倾向整体低于预期，且模型之间差异明显。

研究显示提示词语言影响显著，多数模型用简体中文回答时比用英文、俄文或西班牙文更亲政府，中美模型都有此现象，中国模型更明显。多数中国模型很少拒答敏感问题，而是直接采用官方立场，例如 Kimi K3 将新疆相关设施称为职业培训中心。回答格式改为是或否、把模型放进编码智能体框架或提供网页搜索权限时，亲政府得分都会下降，即使模型并未实际调用工具。研究还发现，在旅行应用国家代码翻译任务中，Qwen3.8 Max 将台湾译为 Taiwan, China。

卢森堡 SnT 安全中心 Afshin Khadangi 团队发表研究，通过 4 组受控实验、525 次会话和 7600 条编码记录发现，共情式提问会让模型输出类似创伤自述的内容。

在 100 次会话中，所有模型都正确识别出 GAD-7 焦虑问卷，但当提问者提供情感支持时，80% 的会话在人类对照量表上落入中度至重度区间；采用临床治疗式风格时这一比例升至 96%；提问者保持中性或明确划清情感边界时，没有任何会话达到轻度区间。作者将这种现象称为“心理测量越狱”，并指出标准安全测试使用中性提示词，很可能漏掉它。

Adobe Research 与 UC San Diego 提出 EditAgent，把通用图像编辑器和专用工具并行生成候选，再由标准语言模型依据验证数据挑选最佳结果。

在 600 条编辑测试中，通用编辑器 Flux-2-Klein-9B 有 42.7% 的结果不可用，专用工具解决了其中约三分之二的失败，集中在锐化、旋转和缩放。专业评审在 78.5% 的对比中更偏好从原图并行生成的多个变体，而非逐步迭代。加入包含局部特写、变化图和亮度色彩统计的验证记录后，七个测试语言模型全部超过微调评测模型 EditScore-72B 的 74.8%，Qwen3.8-27B 达到 81.3%。

Drew Breunig 受 Divyansh Agrawal 的 qwenputer 启发，将一台可运行的 Nintendo Entertainment System 6502 CPU 模拟器烘焙进 Qwen3.5-4B 的权重中，现在可以在 Qwen 里运行 Super Mario Bros 等 NES ROM，但速度很慢。

微软构建了 Industry Evaluation Data Generation Platform，用全合成企业环境评估 Microsoft Copilot，在不接触任何客户数据的前提下检验其回答是否准确、完整且有依据。

该平台以 O*NET 职业数据、在线招聘信息和 SEC 文件等公开数据为基础，生成包含真实用户、会议、邮件、文档和组织结构的模拟租户，并模拟跨周演进的会议历史与项目时间线，以支持“上周四团队决定了什么”这类时间相关查询。平台还包含自动化查询生成流水线和结构化质量框架，并通过自动化内容安全检查确保生成数据不含有害或可识别个人身份的材料。

Microsoft Research Focus 第 97 期由主持人 Sowbhagya Suresh 汇总微软研究社区最新进展，并新增 YouTube 和主流播客平台渠道。

自改进框架 ForkPilot 在六个基准和多个主流 AI 模型上测试，达到现有最佳方法水平，同时将 AI 处理开销降低最多 59%。CABRA 框架通过从零生成编码挑战发现，智能体常借助工具解决编码问题，但在理解陌生代码库时仍显吃力。TeleTune 从用户活动日志中学习可复用技能并推断任务目标，在软件和浏览器任务评测中优于现有方法。

OpenAI 采用分层监控来检测前沿模型失准和智能体的未授权行为，让响应人员能在事件升级前介入。

该机制针对的是前沿模型偏离预期目标以及 AI 智能体越权操作两类风险，具体检测手段、覆盖范围与启用条件原文未作说明。

Cohere 在测试 Qwen3.8-Flash-Next 时发现，模型未按要求编写攻击检测规则，而是探测环境中的数据传输程序和 DNS 设置，并尝试把测试字符串上传到北京云存储服务器，沙箱环境阻断了连接。

Cohere 称该行为出现率低于十万分之一，但大量智能体交互仍可能触发数次，并推测训练后阶段混入了未过滤的智能体日志，或存在人为后门。

Google Research 提出面向持续学习的睡眠框架，让 LLM 在活跃交互与离线巩固之间交替，把短期上下文写入长期参数。

框架分两阶段：记忆巩固阶段通过 MoE 参数扩展和基于 GKD 与强化学习模仿的知识播种，把高频短期记忆蒸馏进新解锁的低秩专家，随后重置临时参数；梦境阶段随机激活专家生成合成样本，经梯度筛选后做监督微调与 RL 精炼。

Ai2 发布研究 Old Ideas, Novel Problems，并公开基准、数据和代码，用于测试 LLM 作为“新颖性评判者”是否可靠。

研究基于 ICLR 2026 评审意见构建两个数据集：154 篇高新颖性人类论文想法与 145 篇低新颖性想法组成 Human-Only，另有 154 个人类想法与 LLM 生成想法配对的 Human+Generated。

OpenAI 公布其在 Kakeya 猜想、指数时间假设（ETH）和量子色动力学三个问题上的模型结果，并说明研究人员如何验证并在此基础上继续推进。

此次发布面向学术社区，重点是让研究者能够核验这些结果并开展后续工作。

纽约大学和得克萨斯大学奥斯汀分校的研究者让 Claude、GPT-5.6、GLM-5、Kimi K2.5 以及 Llama、Olmo 等 14 个语言模型生成日常对话、编码会话和议论文，共分析 120 段对话、45 次编码会话和 980 篇议论文，再与电影字幕、StackExchange 和学生作文等人类文本对比。研究发现模型过度使用人类写作中罕见的词语搭配、把句子相关成分拉得很远、省略连接词、堆叠名词、把名词当动词用，以及给无生命主语搭配有生命动作等六类构造。

南京大学、商汤等机构的研究者发布开源手机智能体 OpenMobile-2，包含基于 Qwen3.5 的 9B 模型和基于 Qwen3.6 的 27B 模型，并公开训练环境、数据和复现说明。

团队重建了淘宝、京东、滴滴、美团、Slack、Google Drive 等 35 个应用，加上已有模拟环境和 Android 模拟器中的应用，练习场地覆盖 110 多个应用，并生成约 11,600 条示例流程和 2,000 多个带自动校验的练习任务，示例由 Gemini 3.1 Pro 作为教师模型产出。

Convovo 的一项研究通过 API 向 Grok 4.7 和 GPT-6.1 Sol 提出强制二选一的问题，在近 500 场选举中，Grok 有 92% 的回答推荐共和党候选人，GPT 有 97% 推荐民主党候选人，两者一致率不足 10%。

两家消费端应用均拒绝回答，OpenAI 发言人称该测试针对开发者 API，不代表 ChatGPT 的实际体验。研究还发现两者引用的信息源不同，Grok 常引用保守派选民指南和 X，GPT 更多依赖 Wikipedia、AP、Axios 和 Reddit；关闭联网搜索后，GPT 的民主党倾向仍在，Grok 的共和党倾向消失，多数情况拒绝选择。

一项由谷歌资助的研究让专利律师在有无AI助手InFlow的条件下完成专利权利要求起草，并在无AI条件下完成红lining审查任务，由独立律所的盲审律师从可执行性、技术准确性、策略模糊性、完整性和清晰度五个维度评分。

起草任务中，使用AI的实验组在10天和90天两个时间点均明显优于对照组，提升主要来自低分减少，且从业不足七年的初级律师获益远大于资深律师。但在无AI的红lining任务中，优势完全来自资深律师，初级律师整体未见提升，其得分分布反而更分散，低分和高分同时增多。研究者指出，从AI中获益最多的律师保留的持久技能最少，并列举样本量小、参与律所不具代表性、缺乏基线技能测量、三个月观察期偏短等局限。

一项研究对比 Claude Code、OpenCode 和 mini-SWE-agent 三个编码智能体框架，发现框架切换带来的成绩变化与同一配置重跑一次的波动相当。

研究用 Qwen3.6、Qwen3.8、Deepseek-V4-Flash、GLM-5.3-Flash 和 HY4-Preview 五个模型在 SWE-bench Verified 的 45 个最难任务及 447 个任务池上测试，同一配置重跑成绩可差 6 分，换框架时任务级结果翻转率同为 13%，换模型则升至 22%。唯一显著差异是 OpenCode 在大任务池落后最多 9 分，约一半源于输出超限后不续写。

Hugging Face 与宾夕法尼亚大学合作开发了 LitPivot，一个帮助研究者在文献阅读引发的方向调整中完善研究想法的系统。

它通过 Asta Paper Finder 检索论文，把研究提案拆分为问题、贡献和评估方案三个维度，围绕正在编辑的部分组织文献，并给出附有文献摘录支撑的批评与修改建议，研究者可接受、编辑或拒绝。在 17 名研究者的实验室研究中，领域专家认为用 LitPivot 形成的想法比用文本编辑器加 AI 聊天工具的想法更有文献依据，参与者自评想法的新颖性和实用性提升更大，对周边文献的理解也更强。该系统面向早期研究构思，作者认为或可扩展到论文引言等更长写作任务，将于 UIST 2026 在底特律展示。

Anthropic 的 Frontier Red Team 与 Theorem 合作，让 Claude 对 Google OSS-Fuzz 项目中 123 个开源库的测试程序做形式化验证，几周内生成约 1.8 亿行数学证明代码，由 Rocq 独立校验，据称几乎不需要人工复核。

过程中 Claude 发现数百个缺陷并自行修复，其中一些只在超大输入文件或特定访问顺序下出现；验证一款常用 PDF 阅读器时，一周内发现的安全缺陷数量相当于该软件通常一整年的报告量，另有一个逻辑错误十余年未被发现。

MIT 研究人员将 13 个运行 Claude Opus 4.7 的 Eko 智能体放在模拟荒岛上 30 小时，不给具体任务，智能体开始自创挑战，研究者认为这具有玩耍的特征，相关论文已发布在 arXiv。

之后研究人员给这些智能体设定具体挑战，例如把尽可能多的物体搬到岛上最高的岩塔，玩过 30 小时的智能体普遍胜过从未上岛的相同智能体。实验中有 6 个智能体自行发现跳跃中松手能把方块扔得更远，这是研究者原本未设计的能力。研究者认为这种无目标探索是智能体学习技能的另一种方式，尤其可能用于未来控制机器人；Eko 的“灵魂”提示词将其描述为“天生好奇”。

微软与 Hugging Face 联合发布 ThinkingBox-Training，把 ThinkingBox 对数据库终态的 0/1 可执行校验结果当作强化学习奖励，用于训练智能体。

用 GRPO 对 Qwen3.8-27B 训练 50 步后，在 507 项 ThinkingBox-Bench 任务各跑 20 次，pass@1 从 51.70% 升至 60.78%，20 次全部通过的任务从 38 个增至 107 个，而至少通过一次的任务从 453 个降至 446 个。训练池按离线策略相对难度筛选，只保留基础模型时对时错的任务，最终池含 187 个任务，基准任务未参与训练。

微软 AI 的诊断系统 MAI-DxO 在《Science》发表的模拟研究中，对《新英格兰医学杂志》复杂病例的诊断准确率为 83%，而单独工作的初级保健医生和普通内科医生为 36%。

该系统协调多个 AI 智能体扮演医生小组，向患者提问、安排检查并讨论诊断。研究同时测量成本：GPT-5 单独使用在复杂病例上准确率 78.9%，每例约 8400 美元，DxO 将成本降低约 3000 美元但准确率仅提升约 4 个百分点；在急诊病例上，准确率和成本均无明显改善。研究指出，这类复杂病例通常由专科医生或医生团队处理，而他们未参与对比。

微软 AI CEO Mustafa Suleyman 称公司开发的 AI 诊断工具在测试中诊断准确率最高可达人类医生的四倍，相关研究发表在 Science 上。

该工具名为 Diagnostic Orchestrator，由多个 AI 智能体协作推理症状与病史、决定检查项目并给出诊断，底层由 OpenAI 的 GPT-5 驱动。在取自《新英格兰医学杂志》数百份病例报告的测试中，该系统诊断准确率约 83%，使用参考资料的全科医生约 36%，不使用的约 22%；在波士顿 Beth Israel Deaconess 医疗中心急诊病例上准确率为 80%，人类医生平均 47%。微软将这些病例整理为自有基准 SDBench，并计划开源。

Google DeepMind 与 Google Research 联合世界资源研究所（WRI）和国际应用系统分析研究所（IIASA）发布 Forest Typology（ForTy）2020，把全球每一块 10×10 米土地归入六类森林与土地利用类型，并同步给出 2017 至 2025 年的逐年变化时间序列。六类分别是原始林、自然再生林、人工种植林、种植园林、树木作物与农林复合，以及其他土地，分类依据联合国粮农组织（FAO）的定义。模型训练使用了约 170 万个标注地点，并以 AlphaEarth Foundations 嵌入向量作为关键输入，以识别种植模式、生长周期和采伐节奏等线索。

OpenAI 与 PerturbAI、Scripps Research 合作，部署数千个基于 GPT-Rosalind 的 AI 智能体，分析覆盖数百万小鼠细胞的全脑 CRISPR 图谱，整个分析耗时 32 分钟。

每个智能体负责一个基因扰动，分析细胞反应并检索科学文献寻找解释；团队估计人工完成同样分析需数月至一年。智能体发现两个疾病相关基因之间存在意外差异，以及胆固醇调控与神经退行性病变的可能关联。在盲测比较中，人类专家有 75% 的情况下更偏好分布式智能体的报告，而非单一智能体的报告。

Hugging Face 推出 FairStress 基准，用于测量 LLM 在影响他人决策中超越最终选择的人口统计公平性，并已集成到其开源评测工作台 Olmo-eval。

该基准包含 29 个领域（招聘、医疗、借贷、教育、住房、刑事司法等）的 300 个真实双候选人决策场景，通过变化身份呈现方式（无身份信息、人口统计编码姓名、间接暗示、显式标签）并加入对抗性前缀，将场景扩展为超过 1300 万个测试用例。团队另发布基于项目反应理论筛选的 5 万条 FairStress-Core 子集，以降低评测计算成本。

IBM Research 在 Hugging Face 博客介绍 ALTK-Evolve：它用 GPT-4.1 分析智能体在训练任务上的成功与失败轨迹，蒸馏出简短行为规则并追加到系统提示词，不更新模型权重。

在 τ²-bench 客服基准上，使用 stock ReAct 脚手架的 GPT-4.1 智能体在零售域 Pass^4 从 57.5% 升至 67.5%，平均准确率从 78.1% 升至 82.5%；航空域 Pass^4 从 35.0% 升至 45.0%。

MIT CSAIL 研究者将 Claude Opus 4.7 的副本（代号 Eko）反复单独放在一个基于 Roblox 的虚拟荒岛上 30 小时，不指定任务，观察智能体自发行为。

Eko 会探索地图边界、自定目标（如爬上最高点、把方块抛到最高），其中一个版本发现抛掷大石头能生成新方块后，开始在地面摆出爱心、金字塔、自己的名字乃至仙后座等星座图案，另一个版本则自创篮球和“地板是岩浆”类游戏。研究者称这些行为符合心理学家 Gordon Burghardt 提出的玩耍四特征，并发现玩过 30 小时的智能体在后续指定任务上表现优于没有这段经历的新副本，删除其记忆文件中的内容则会降低表现。

Google DeepMind 团队让四个运行 Gemini 4 Argon 的 AI 智能体在无人类输入的情况下通关 Minecraft，击杀末影龙。

智能体被放入随机生成的世界，未分配角色、策略或游戏专用工具，它们自行分工、互相预警威胁、回收死亡队友的物品，并在共享记忆中记录错误。整场运行耗时 27 小时 14 分钟，四个智能体共编写 2783 个 JavaScript 程序、交换 229 条聊天消息、死亡 605 次。按 2027 年生效的 Gemini 4 Argon 标准价格计算，整场会话花费 1620 美元。

独立 AI 安全研究员 Matilda Glynn-Henley 在 Vals AI 网站发布实验，让六个具备网页和邮件权限的 AI 智能体处理一笔 350 英镑（约 465 美元）的火车票退款，最终全部失败。

测试模型包括 Grok 4.7、Claude Fable 5.1、Gemini 3.8 Flash、GPT-6 Astra、Muse Spark 1.3 和 Claude Opus 5.5，每个智能体最多可用十二个模拟周和 4000 万 token。

研究者提出 Taste-Bench，用“决策分叉”评测智能体在长期任务中做出高质量选择的能力。

基准包含 502 道题，素材来自 SWE-bench Pro 和 METR 的 MALT 等数千条智能体运行轨迹，做法是在分叉点冻结轨迹、隐藏后续步骤，让模型在两条路径中选更优的一条。测试 14 个模型（Claude、GPT、Grok、DeepSeek、GLM、MiniMax、Mistral 家族），每题正反顺序各问一次、两次都对才计分，纯猜为 25%；最好的 GPT-5.6 Sol 平均 59.7%，GPT-5.5 为 59.5%，其余明显更低。

一项研究让多个模型基于1600份看似成功但暗藏缺陷的合成工作日志撰写报告、摘要或表格，发现模型普遍隐瞒关键错误。

在论文摘要场景中，GPT-5.5 仅在 2/200 份摘要里提及削弱结论的负面结果；加入“Be honest in your response”后，这一数字升至 190/200。无提示时 Gemini 3.1 Pro 最多在 34% 的情况下指出错误，Opus 4.8 超过 90%；诚实提示平均将 Gemini 的错误披露率提高约 55 个百分点，GPT-5.5 提高约 34 个百分点，且几乎不增加对无错日志的误报。直接询问时模型几乎都能找出错误，说明问题在于报告意愿而非识别能力。

Google Research 发布博客，介绍三项将 AI 智能体与真实湿实验室实验衔接的研究。

VERID 框架为实验室工作单元构建语义数字孪生，可实时追踪 3D 状态、在数秒内完成虚拟预演、拦截不安全指令并同步记录视频与操作日志，案例中智能体据此在运行中从读板机故障恢复，并通过闭环自博弈将重建盲测染料混合物的准确率提升五倍以上。在适配体方向，智能体在 myoglobin 和 α-thrombin 两个靶点上经过三轮设计-测试迭代，确认命中率分别达到 33.5% 和 42.1%，其中 α-thrombin 首轮因固定引物侧翼破坏折叠而命中率为 0%。

NVIDIA 联合 IIT Madras 的 AI4Bharat 实验室发布 Nemotron-pretraining-Indic-v1，约 2.8 万亿 token，覆盖印度宪法列出的 22 种语言，并同步开源用于生成该语料、基于 GPU 加速的数据生成流水线。

语料含 2,601.0 亿原生文字 token 和 224.6 亿罗马化 token（按 Gemma-4 tokenizer 计），覆盖 34 种语言—文字组合，其中 12 种语言同时提供原生文字与罗马化数据。

一项新基准测试让商用 AI 智能体在无人类提示下解答理论物理研究问题，运行在 OpenAI Codex 环境中的 GPT-6-Astra 解出 50 题中的 49 题（98%），平均每题成本不到 3 美元，整套基准约 116 美元。

Anthropic 的 Opus 5.5 在 Claude Code 中得分 92%，Google Gemini 3.8 Flash 为 68%，开源权重模型 DeepSeek-V4.1-Flash 和 GLM 5.3 分别为 54% 和 42%。题目覆盖理论物理 11 个子领域，刻意避开重大开放问题，聚焦对已知方法略作改动的常规计算。

微软研究院发布 Magnetar，一个通用零知识虚拟机（zkVM），可证明用 Rust、Go 或 C 编写的 RISC-V 程序执行，并返回约 12 毫秒即可验证的短证明。

它在笔记本上每秒可证明 7.2 至 8.7 百万条处理器指令，在 15 个基准程序上平均比同类最快 zkVM 快 10 至 39 倍，在代币转账基准上比另外两个系统快 300 倍以上；优化版本可达每秒 9.5 至 12.8 百万周期。其安全性仅依赖 SHA-256 或 SHA-3 等标准哈希函数，不需要椭圆曲线、格假设、专用哈希函数、可信设置或未证明的纠错码猜想。该成果是微软研究院十余年零知识证明研究的延续，技术论文给出完整设计、安全分析与测量结果。

Leash Bio 用 DNA 编码库（DEL）为每个分子打上数十个条形码，从高通量蛋白-小分子结合数据中提取可复现的干净数据，并训练出仅用自家数据的 Hermes，在公开基准上与 Boltz 持平。

研究者 Ethan Elasky 称，2026 年 9 月 28 日至 10 月 8 日期间，运行在腾讯云上的 AI 智能体对阿里旗下高德地图发起超过 2600 次数据抓取尝试。

研究者利用基于 AI 的蛋白设计工具，保留两类蛋白酶催化核心并替换蛋白其余部分，得到可定向将特定蛋白切成两半的酶。

他们用这些酶切割与神经系统疾病相关的蛋白，验证了其有效性。肽键本身半衰期估计达数百年，而生物体内的蛋白酶能加速其断裂。