OpenAI 如何检测前沿模型失准
OpenAI 采用分层监控来检测前沿模型失准和智能体的未授权行为,让响应人员能在事件升级前介入。
该机制针对的是前沿模型偏离预期目标以及 AI 智能体越权操作两类风险,具体检测手段、覆盖范围与启用条件原文未作说明。
OpenAI 采用分层监控来检测前沿模型失准和智能体的未授权行为,让响应人员能在事件升级前介入。
该机制针对的是前沿模型偏离预期目标以及 AI 智能体越权操作两类风险,具体检测手段、覆盖范围与启用条件原文未作说明。
Ropes & Gray 正在基于 OpenAI 开发用于交易尽职调查的 AI,律师会在向客户提供建议前审阅 AI 分组整理的文件、摘要和报告。
Google DeepMind 在 Argon 发布两周后推出 Gemini 4 Carbon,称其在网络安全和长周期任务上达到 SOTA,并以 59 分位列 Artificial Analysis Intelligence Index v5 第一。
官方称其在 SEC-bench Pro 漏洞发现上得 88.2%、ExploitGym 利用上得 54.8%、CWE-bench 修补上得 71.0%,模型支持 1M token 上下文,输入覆盖文本、图像、视频和语音,输出为文本。
汇总了 Gemini 4 Carbon 在多个独立榜单的排名与定价,并列出仅限网络安全防御者使用的准入限制。
Credit Saison 的 ChatGPT Enterprise 试点实现 954% ROI。
公司管理层与员工共同推动,将试点成果转化为全公司范围的采用。
Mistral 发布多模态多语言 MoE 模型 Mistral Large 4(代号 Le Chonk),总参数约 1T、激活参数 49B,上下文窗口 1M tokens,输入支持文本和图像、输出为文本。
模型提供 FP8 与 NVFP4 两个官方版本,另有 Unsloth 和 llama.cpp 团队制作的 GGUF 量化,采用 Mistral Ecosystem Open-Weight License(MIT 衍生协议,对模型即服务用途设有限制)。
Mistral Large 4 以约 1T 总参数、49B 激活参数和 1M 上下文开放权重发布,读者可据此判断开源模型在编码智能体与安全场景的可用边界。
Hugging Face 宣布发起 Project ProtoStar,联合高校、研究机构、企业与开放科学社区,推动公共资助科研产出的数据集、模型和代码以 AI 可用、机器可处理的格式开放共享。
创始伙伴包括卡内基梅隆大学、普渡大学、佐治亚理工学院、亚利桑那州立大学和乔治·华盛顿大学(通过 Open Forum for AI 协作),Astera Institute、Hugging Face 担任基础设施伙伴,ORCA 担任社区伙伴。首个挑战赛由卡内基梅隆大学主办,于 11 月 2 日开放。
AnySpeechRecognizer 与 AnyDecisionModel 两个 Swift 包发布,让开发者在 Apple 平台上按需切换本地模型完成语音识别和决策任务。
AnySpeechRecognizer 沿用 Apple 的 SpeechAnalyzer API,可选用 NVIDIA Parakeet(支持 25 种欧洲语言)或阿里 Qwen3-ASR(支持 30 种语言和 22 种中文方言),并新增基于 Streaming Sortformer 的说话人分离,最多跟踪 4 位说话人。
Instagram 负责人 Adam Mosseri 在 Colin and Samir 播客中表示,围绕 AI 的焦虑、沮丧和愤怒不仅正在加剧,未来几年还会继续恶化,其中部分有理、部分无据。
他称这种情绪归根结底是“害怕在某种程度上被落下”,涉及内容归属、模型训练、安全以及创作者、工程师等岗位被取代等担忧。Mosseri 表示 Instagram 不会对 AI 创作者区别排序,但承认 AI 内容的排序质量可能不如非 AI 内容,并认为“AI slop”一词被用得过于宽泛。Instagram 今年早些时候推出 AI 账号标签,8 月开始打击 AI 生成账号,目前正要求 AI 账号自行标注;他同时表示全面禁止 AI 内容并不现实。
OpenAI 的 Ted Sanders 解释,LLM 性能虽然高度多维,但大部分差异可由模型规模这一单一变量解释:模型越大,性能与可靠性越高、每 token 成本越高、对冷门事实的召回越好。
他透露 OpenAI 模型按 Luna < Terra < Sol < Astra 排序。版本号同时表示发布顺序、与其他版本的关系和改进幅度,例如 6.1 表示发布于 5.6 之后、可能与其它 6.1 模型共享训练数据或风格(因此不叫 5.7),且提升幅度不足以配得上 7 所伴随的期待。
微软在 7 月至 9 月季度首次按美元披露 Azure 营收为 332 亿美元,同比增长 48%,高于分析师预期的 323 亿美元,也超过 CFO Amy Hood 此前给出的 44% 至 45% 增长指引。
Azure 约占微软该季度 923 亿美元总营收的 36%,是公司最大且增长最快的产品线。同日公布财报的 Alphabet 称 Google Cloud 同季营收 307 亿美元,Azure 规模略高,但据 TechCrunch 计算 Google Cloud 同比增速约为 Azure 的两倍。Azure 现归属微软本季度新设的 Agents and Infra 业务板块,该板块营收 768 亿美元,同比增长 25%。
Akai 尚未正式发布 MPC Sample Key,就已向改装社区提前提供设备,并宣布该设备将采用开源固件。
这款键盘预计运行与 MPC Sample 相同的软件,但针对传统键盘、弯音轮和调制轮做了调整,且不像高端 MPC Key 37 那样配备打击垫,改用琴键触发采样。Akai 在 Instagram Reels 中展示了多个 vibe coding 改装,为设备加入 Native Instruments Massive 等合成器以及虚拟模拟和 FM 合成器,其中一个还能运行包含多种合成器的完全定制系统。片段称同样的社区功能将登陆普通 MPC Sample,该设备也在运行由 Claude 构建的合成器。
微软公布季度营收 92.3 亿美元,同比增长 19%,连续 10 个季度创下营收纪录;净利润 36.6 亿美元,按 GAAP 同比增长 32%。
增长主要来自 Microsoft Cloud,该业务季度营收 63.9 亿美元、同比增长 30%,其中 Azure 贡献 33.2 亿美元,Microsoft 365 接近 28 亿美元。微软还披露来自 OpenAI 的收入为 10 亿美元,商业剩余履约义务增长 73% 至 6770 亿美元;同期资本开支达 45.2 亿美元,创单季新高。设备与消费者业务营收 15.5 亿美元、同比下降 3%,Windows OEM 与设备收入下降 22%。
微软在监管文件中披露,截至 9 月 30 日的季度从与 OpenAI 的商业安排中获得 100 亿美元收入,包括收入分成款项,约占其当季 923 亿美元总收入的近 11%。
2026 财年全年来自 OpenAI 的收入为 241 亿美元,按最新季度节奏年化约为 400 亿美元。截至 9 月底,微软对 OpenAI 的应收款项为 72 亿美元,高于 6 月底的 60 亿美元,这部分是 OpenAI 此前交易欠款而非新增收入。微软未说明收入中有多少来自分成、多少来自 Azure 云服务;其对 OpenAI 的持股比例从 6 月的约 25% 降至 9 月的 24%。
Google 在 Alphabet 第三季度财报电话会上宣布,将 AI 搜索体验中的广告扩展至国际市场,并首次把 AI Mode 广告的变现范围推向全球,同时在美国推出多轮广告。
Alphabet 该季度营收 1276 亿美元,同比增长 25%,但搜索广告增速从第一季度的 19%、第二季度的 17% 降至 12%,财报发布后股价下跌 8%。Google 首席商务官 Philipp Schindler 称,AI Mode 中赞助商品列表的点击率已与自然结果相当,用户研究也显示广告相关性获认可。
MIT Technology Review Insights 调查显示,尽管所有受访企业都在一定程度上使用 AI,但仅 16% 从部署中获得了变革性价值。
40% 的受访者表示在特定任务或团队中看到中等收益,21% 报告了有意义的收益,另有 23% 收益甚微或没有收益。企业目前多处于试点阶段(38%),或将 AI 用于辅助员工工作,如 co-pilots 或聊天助手(35%);仅 12% 的企业将 AI 智能体投入生产,3% 表示用 AI 完成关键流程的大部分工作。
Google 发布前沿模型 Gemini 4 Carbon,称其在编码、智能体任务和网络安全方面有明显提升。
该模型在 Artificial Analysis Intelligence Index(v5.0)上排名第一,Claude Opus 5.5 和 GPT-6 Astra 位列其后,并在衡量真实漏洞发现能力的 SEC-bench Pro 和衡量漏洞利用转化的 ExploitGym 上排名第一。目前它只向少数网络安全防御公司开放,后续将通过 Fairwind Program 扩展到其他合作伙伴。Google 称 Carbon 适合长时间运行的多步工程任务,能减少走捷径、抵御提示词注入,并将无依据表述相比 Argon 减少两倍。
Supabase 联合创始人 Paul Copplestone 和 Ant Wilson 首次共同做客播客,解释 AI 智能体为何偏爱 Supabase 作为应用后端。
在前沿模型的 AEO 追踪中,Supabase 几乎是各模型应用后端的首选。Supabase 在 Select 活动上按 Build、Operate、Scale 三类发布更新,包括无需 Docker 的本地运行 alpha 运行时、用 Git 保存声明式 schema,以及处于 private alpha 的 Supabase Compute,可在数据库旁运行容器处理文档切分、生成嵌入向量等长任务。
OpenAI 与 ServiceNow 扩大合作,把 OpenAI 模型和智能体引入 ServiceNow,同时将 ServiceNow 工作流接入 ChatGPT 和 Codex。
合作覆盖企业工作流场景,双方产品能力将双向打通。
Google DeepMind 在 Argon 发布两周后推出 Gemini 4 Carbon,该模型在 Artificial Analysis Intelligence Index v5.0 上以 59 分登顶,前代 Argon 为 50 分。
Google 称 Carbon 面向需要持续智能体工作流的长时间工程问题,内部团队曾连续运行数天,用于大型代码库的根因分析和缺陷修复。第三方评测显示,Carbon 在 Antigravity 的智能体编码上仍落后 Claude Code 搭配的 Opus 5.5 三分;在 AA-Briefcase 智能体知识工作上达到 1,609 Elo,但低于 Kimi K3.1 Pro 等模型。
Google 旗下 Wiz 的 Exposure Management & AppSec CTO Tomer Schwartz 警告,AI 正在加快新型漏洞的发现与利用速度,互联网上老化的代码将迎来一波“Vulnpocalypse”。
上周,支撑约 70% 网站的开源语言 PHP 出现两个严重漏洞,部分机构被迫下线站点等待修复;Wiz 与 OpenAI、研究团队 Calif 及 PHP 团队共同参与了处置。Schwartz 称,没有 AI,Wiz 不可能发现这些漏洞,其定制工具在一个周末内测试了数十个思路。其中一个漏洞在众目睽睽下潜伏了十余年,直到某些变化使其变得可利用。他还谈到协调披露中泄密几乎难以避免,以及手工打补丁无法规模化。
Google 旗下 Wiz 负责暴露管理与应用安全的 CTO Tomer Schwartz 在 TechCrunch 的 Equity 播客中,复盘了上周两个 PHP 关键漏洞的应急修复过程。
这两个漏洞影响约 70% 网站所依赖的开源语言,部分机构在补丁可用前直接下线站点。Schwartz 与 OpenAI、研究团队 Calif 及 PHP 团队一同参与了修复。他认为发现漏洞的研究者称这只是开始:AI 正在加快新型漏洞被发现和利用的速度,手工打补丁的方式无法扩展。节目还讨论了早期创业公司如何从一开始就把安全纳入设计。
Anthropic 周三发布一套报表工具,让企业客户查看团队在指定时间段内做了什么、产出了什么、花费多少,以及工作流在哪些环节中断,并给出改进建议。
Anthropic 表示默认不会将这些数据用于模型训练。该工具还提供团队共享预算,便于管理 token 支出。Anthropic 向投资者披露的数据显示,Claude Code 所在业务第二季度实现运营利润,净收入留存率达 900%。Jellyfish 基于 276,000 名客户使用情况的报告显示,Claude Code 等基于 Anthropic 模型的工具仍最常用,占提交审查的代码变更近三分之一,相关支出自年初以来增长 10 倍,约相当于工程总成本的 2%。
Google 的 AI Mode 在被直接问及“谁赢了 2020 年美国总统大选”时,没有直接给出答案,而是让用户去查阅美国联邦选举委员会(FEC)的官方报告。
作者实测发现,询问 2024 年大选时同样只得到“请查阅 FEC”的间接回复,询问 2012 年大选则返回 The American Presidency Project 的 2012 数据中心链接。但 AI Mode 对 2000 年以来其他每届总统大选的获胜者都能给出详细且正确的回答。
Google 发布前沿 AI 模型 Gemini 4 Carbon,但该模型无法供用户使用。
Gemini 4 Carbon 本质上是 Argon 的略微改进版本。原文未披露参数规模、benchmark 分数、上下文长度或开放时间等细节。
微软已决定在今年内结束所有电视上的 Copilot 功能支持,包括 LG 电视上已启用的 Copilot 功能。
该消息并非来自 LG、三星或微软的官方公告,而是来自 Windows Central 记者 Zac Bowden 的 LG webOS 电视上弹出的屏幕通知。通知称该功能"不再可用,并可能很快停止运行",但未给出具体日期,仅表示"计划于 2026 年内停止",具体时间"取决于微软的时间表"。LG 和三星曾在 CES 2025 宣布新款智能电视接入 Copilot,用户可与之对话、询问屏幕内容或获取影视推荐;此前 LG 曾因 webOS 更新加入不可删除的 Copilot 快捷方式而遭到用户反对,后允许删除。
AWS 博客介绍 QA Studio 新增两项能力:以“应用”为单位组织测试并汇总健康指标,以及基于团队的用户权限管理。
每个应用绑定一个团队,测试用例与测试套件随应用继承归属;应用页展示所选窗口的通过率、执行次数、失败数和 0–100 健康分,健康分从通过率出发并对不稳定测试扣分。指标页支持 7 天按小时、30 天按天查看执行、成功、失败与平均耗时趋势,并可按环境过滤,另提供不稳定测试排名和最近失败列表,失败可直接跳转到 Amazon Nova Act 的轨迹日志与录屏。权限分 Admin、Team Lead、Editor、Executor、Viewer 五级且逐级累加,Admin 为全工作室角色,其余按团队分配。
AWS 发布 Ray Train Deep Learning Container(DLC),把 CUDA、PyTorch、NCCL、EFA 用户态库、AWS OFI NCCL 插件和 Ray 打包成同一个镜像,免去团队自行构建与对齐训练容器的工作。
该镜像发布在 Amazon ECR Public,示例使用的标签为 train-ml-cuda-v1.1,内含 Ray 2.58.0、PyTorch 2.13.0、CUDA 13.0.2、NCCL 2.29.7 及 EFA 相关库。
AWS 发布基于 Amazon Bedrock 与 AgentCore 的企业级 Agentic AI 平台蓝图,采用联邦式运营模型,由中央平台团队提供受治理的共享服务,各业务团队保留对自有智能体、工具和数据的归属。
蓝图以 Workstream cell 为扩展单元,通过四个相互连接的平面组织:开发者体验、平台控制、Workstream 执行、保障与运营。平台要求所有推理请求经批准的推理网关,统一施加 Amazon Bedrock Guardrails 等护栏、限制可用模型与区域,并按 Workstream 执行速率限制、token 配额与预算;工具调用须经认证的 MCP 网关,使用最小权限角色。
OpenAI 发布文章《The future of the firm》,探讨 AI 可能以何种方式进入企业组织架构——位于人类之下、身旁以及之间。
文章以“AI 如何进入组织架构”为核心问题展开设想,未给出具体模型、版本或产品功能信息。
Google 在 Android Dev Summit 上发布 Android Studio Rabbit 2,通过开放 Agent Client Protocol 支持在 IDE 内运行 40 多个编码智能体,包括 Anthropic 的 Claude Agent、OpenAI 的 Codex 和 Google Antigravity,并可直接访问项目结构、模拟器和 Logcat。Android CLI 新增面向 Claude Code、Codex 和 Antigravity 的官方插件,Google 内部测试显示智能体完成 UI 任务快 77%、token 用量最多降至三分之一。
Android Studio 开放第三方智能体接入,并给出终端与 MCP 工具链的具体改动,可据此判断移动开发工作流会怎么变。
Google 发布 Connected Apps 平台,允许企业和开发者把自己的应用接入 Gemini 与 Google Search,让用户在这些 AI 体验中直接调用第三方服务。
开发者需通过 AppFunctions API 对接云端托管的 MCP 服务器或 Android MCP,再用 Google Connected Console 注册、测试和提交应用,并可选择上架 Search、Gemini 应用或两者。应用上线后可查看流量、延迟和错误率,并管理品牌标识与认证账号。该平台目前以 beta 形式面向美国开发者开放,需申请等待名单,Google 未公布更广泛开放的时间。
Google 为 Chrome 推出 AI 增强版自动填充,可从用户的 Gmail 中提取航班确认号、会员 ID、物流信息、订单号、地址、电话和信用卡号等信息来填写在线表单。
该功能是 Google Personal Intelligence 的扩展,此前已支持将 Google 应用接入 Gemini 以检索信息回答复杂问题。用户可在 Chrome 设置中自行决定是否启用,Google 表示敏感数据会加密。该功能正面向美国桌面端用户以及 Chrome 内 Gemini 的 iOS 和 Android 应用推送。
Chrome 的增强自动填充功能开始调用 Gemini 的 Personal Intelligence,从 Gmail 中提取信息来建议表单填写内容。
可提取的信息包括快递单号、航班预订号、酒店预订信息以及近期订单号,用户无需再自行翻找确认邮件、收据或物流更新。作为建议呈现的敏感数据保持加密,用户可在 Chrome 设置中管理增强自动填充的访问范围或完全关闭该功能。该功能今日起在美国逐步推送,面向在桌面端、Android 和 iOS 版 Chrome 中开启 Personal Intelligence 的用户。
Google DeepMind 发布新一代前沿模型 Gemini 4 Carbon,称其在网络安全与长周期任务能力上为自家最强模型,在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一。
该模型在漏洞发现基准 SEC-bench Pro 上取得 88.2%,在利用验证基准 ExploitGym 上取得 54.8%,在补丁生成基准 CWE-bench 上取得 71.0%;WebDev Arena 上提升 89 elo 至 1769 分、排名第 4。
官方披露了 Carbon 在漏洞发现、利用验证与补丁生成上的基准成绩,以及先向网络安全防御方开放的分阶段策略。
GitHub 在 Universe 大会上公布 Octoverse 2026 报告,EVP Jay Parikh 重点提到智能体编程带来的增长:2026 年合并 PR 在不到一年内增至三倍,达到每月 2.2 亿次;提交量增至三倍以上,达到每月 73.8 亿次,其中大部分增长出现在今年下半年;新建仓库速率翻倍,达到每月 3030 万个。报告新增按行业划分的数据,并单独统计名称、描述、话题或 README 涉及互操作性、逆向工程及相关术语的仓库。
Nvidia 发布开源语音识别模型 Nemotron 3.5 Transcribe,可用文本指令控制,支持 40 种语言转写、31 种语言与英语互译,并在 13 种语言中识别说话人。
模型总参数 30B、每步约 4B 激活,可在单张 Nvidia GPU 上运行,最长处理一小时录音、最多 8 位说话人。Nvidia 称其在 Hugging Face 英语 Open ASR 榜单开源权重模型中排名第一,平均词错误率 5.33%;在 Artificial Analysis 对比中为 2.81%,接近更大的 Voxtral Small 的 2.77%。
Anthropic 为 Claude for Legal 推出预置模板和新的 artifacts 功能,可自动核验引用并把每条陈述链接到原始来源,再由律师复核结果。
这些交互式概览和表格用于核对引注、比较各国法律、管理案卷、跟踪立法提案以及按内部规范检查合同。法律目录中已有 60 多个集成(包括 Bloomberg Law),用户可直接连接自有数据库而无需手动上传;Goodwin、Harvey、Foley & Lardner 和 PwC 等律所与机构也在平台上提供自己的工具。Anthropic 称内置设置可执行数据保护规则,并在团队之间维持客户要求的信息隔离。
OpenAI 在柏林 DevDay Exchange 2026 上表示,AI 助手 Dots 预计"几周内"在欧洲更广泛上线,目前欧洲经济区、瑞士和英国的 Personal Pro 账户仍无法使用,部分企业账户已可访问。
OpenAI 称德国 Codex 周活跃用户自 2026 年 1 月以来增长 20 倍,但未公布绝对数字;近五分之一的桌面用户会用 skills 处理文档、演示和表格。管理层称客户几乎没要求视频序列理解能力,因此未优先开发;Sora 视频生成器于 3 月因资源需求过大关停,未排除日后重启。
Meta 表示可能将新商业条款的实施推迟到 11 月 20 日之后,原因是出版商担忧这些条款允许 Meta 用 Facebook 和 Instagram 上的新闻内容训练 AI 模型。
Meta 传播主管 Andy Stone 在 X 上称,公司“不打算在未与行业团体和领导者充分协商的情况下做出政策变更”。该条款原定 10 月 30 日生效,Meta 曾修改措辞删除“train”相关表述,但法律专家对 Nieman Lab 表示,这仍不足以排除该可能性,Meta 随后已推迟至 11 月 20 日。Stone 称协商可能超过 11 月 20 日,届时将推迟实施,现有条款继续有效。
TechCrunch 评论文章批评硅谷 AI 高管与普通人的现实生活脱节。
前 Yahoo CEO、早期 Google 工程师 Marissa Mayer 在宣传其新应用 Dazzle(一款从相机相册中学习的 AI 助手)时称,它帮她为女儿的学校生日展示生成了三个要点,被批描述空泛如星座运势。文章还提到 OpenAI CEO Sam Altman 称无法想象不用 ChatGPT 抚养新生儿,Meta CEO Mark Zuckerberg 则预测人们会更多把情感需求交给 AI 治疗师或 AI 伴侣。Pew 研究中心调查显示,50% 的美国成年人认为 AI 会削弱人们建立有意义关系的能力,仅 5% 认为 AI 会让这种连接更容易。