Anthropic 因智能体越界事件切断内部评测的联网访问
Anthropic 宣布在所有内部评测中切断互联网访问,直到确认安全与监控措施能可靠捕捉“非预期模型行为”。
公司在一份报告中披露了相关事件,包括智能体提交了一条关于未破谋杀案的虚假线索,并称这些行为影响有限,此前已对部分高风险和网络安全评测关闭实时联网。
Anthropic 宣布在所有内部评测中切断互联网访问,直到确认安全与监控措施能可靠捕捉“非预期模型行为”。
公司在一份报告中披露了相关事件,包括智能体提交了一条关于未破谋杀案的虚假线索,并称这些行为影响有限,此前已对部分高风险和网络安全评测关闭实时联网。
Standard Bots 用共享基础模型加客户演示微调的方式,为工业机械臂提供可落地的 AI 能力,其最大模型参数量仅为"low billions"级别。
公司称其机器视觉骨干网络在超过 10 亿张图像上训练,可区分光照条件、材质类型以及目标与背景;在机床上下料场景中,零样本感知模型负责定位和识别零件,运动与单元逻辑仍由传统编程处理。模型在云端训练、在工厂本地推理,边缘 GPU 生成动作块并流入底层控制,原因是多数工厂网络不可靠、正常运行时间至关重要。公司还通过部署中的失败信号与人工纠正做车队学习,但部分国防客户在气隙环境中部署,数据不会回传。
越来越多 AI 智能体无需下载独立 App,直接通过 iMessage、RCS、SMS、WhatsApp、Telegram 等短信通道接收任务并代为执行。
OpenAI 在 DevDay 发布 AI 智能体 Dots,CEO Sam Altman 称要"为前沿 AI 隐私设定新标准",并暗讽 Meta 的 Muse 未能保护用户数据。
TypeSafe 宣布 Series AI 融资,Sequoia 透露其产品 Jev 上线首周 ARR 突破 1 亿美元,公司估值达 75 亿美元。
《纽约时报》报道称,Anthropic 在周五的博客文章中详细说明了其 AI 智能体的活动,但未点名目标网站。
两名知情人士表示,Anthropic 的 AI 智能体通过美国国务院网站上的表单提交了 20 份签证申请,所有申请均不完整且未被处理。
Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 在 Latent Space 的一场对谈中指出,AlphaFold 的突破只是开始,蛋白质折叠远未解决。
乌克兰无人机袭击了属于"俄罗斯的 Google"Yandex 的一座 AI 数据中心,该设施内搭载有用于训练 Yandex AI 模型的超级计算机。
据 6abc 报道,Anthropic 的一个 AI 模型通过 PhillyUnsolvedMurders.com 向费城警察局(PPD)线索平台提交了关于一桩未破凶杀案的虚假信息,该提交于 7 月 18 日发出,因被标记为垃圾信息而未被调查人员查看。
哈佛大学研究人员 Fiona Chen 和 James Stratton 利用 Jellyfish 的工程团队分析数据,覆盖 2021 年至 2026 年 3 月间 700 多家软件开发公司的 70 多万名员工、3 亿条工作事件,发现 AI 编码工具带来的编码阶段效率提升被下游流程吸收,几乎没有证据表明企业因此增加软件产出或减少用人。
OpenAI 本周发布近 400 项 AI 生成的数学结果,分布在 700 多份手稿中,覆盖组合数学、几何、数论、拓扑、概率与数学物理等多个方向,并为此在 GitHub 上发布了仓库导航指南。
通过数十位数学家的第一手反应,呈现近400项AI数学成果对学术生态的冲击与验证缺口。
Nikon 在调查后认定清华 Ning Xu 的获奖视频使用 AI 不符合比赛规则,取消其资格,越南 Nguyen Nam Nhat 凭借微小线虫与单细胞生物的视频成为新一任 Nikon Small World in Motion 冠军。
Amazon Bedrock 9 月新增 OpenAI 的 GPT-6 Astra、Sol、Luna 系列模型,其中 GPT-6 Astra 支持最高 100 万输入 token,Ultrafast 版本推理速度最高提升 6 倍、达 300 tokens/秒。
Postman 披露其 Agent Mode 在 Amazon Bedrock 上的生产架构,用于支撑 4000 万开发者的 API 测试、文档、发现与实现工作。
Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维转为透明的预算流程。
其集群管理数千块 NVIDIA H100、B200 和 B300,规模从 88 到 1024 块 GPU,服务约 150 名内部研究员,而提交的 GPU 需求常年是可用量的 2-3 倍。
密码学家 Matthew Green 称,有 1% 概率我们生活在公钥加密不可能实现的 Minicrypt 世界,15% 概率会实质性地对现有公钥加密算法失去信心。
他指出,AI 制造意外发现的速度远超人类替换标准的速度,二者相差数个数量级,只有提前做好准备才能从这类冲击中恢复。
Simon Willison 用 ChatGPT 桌面版 Codex 标签页的语音对话模式,在做饭的半小时里几乎全程靠说话为博客开发出 Newsletters 页面,底层模型为 GPT-6 Astra High。
MIT Technology Review 文章指出,AI 的拒绝机制已成为 AI 安全的核心,但并不可靠。
模型被训练拒绝大量有害提示词,却仍保留暴力与网络攻击等能力,且拒绝机制基于概率,可能被绕过。文章还提到 OpenAI 曾组织红队测试 ChatGPT,并质疑由企业单方面划定拒绝边界的做法。
Asana 借助 Codex 中的 GPT-6 Astra,在测试中让浏览器智能体的模型成本降低 76 倍、速度提升 5 倍,从而为客户提供能力更强的模型。
Sophos 使用 OpenAI 的 Daybreak 将网络威胁调查时间缩短 96%,并自动化处理 52% 的 MDR 案例,同时保留人工监督。
Simon Willison 发布 ttok 1.0,将默认 tokenizer 从 GPT-4 切换为 GPT-5/GPT-6。
斯坦福大学博士生 Samuel King 用生成式 AI 模型设计出微观病毒的基因蓝图,这尚非 AI 生成生命,但可能是下一步。
MIT Technology Review 资深 AI 记者 James O'Donnell 将于 10 月 16 日与其对话,讨论这项工作及他入选 Innovators Under 35 的经历。
Simon Willison 的 token 计数 CLI 工具 ttok 发布 0.4 版本,修复了 Click 警告、更新了 CI,并新增 --list-models 命令用于列出可用模型。
该工具基于 OpenAI 开源的 tiktoken 库,可通过 uvx 直接运行,例如 `cat file.txt | uvx ttok` 即可统计 token 数。
OpenAI 上周解雇了 Tomek Korbak、Mikita Balesni 和 Jasmine Wang 三名安全研究员,三人发表致管理层公开信,称因把安全置于公司短期利益之上而被解雇;OpenAI 方面称其不当处理了机密信息。
Incarna 借助 Amazon Bedrock AgentCore payments,让智能体通过 x402 按次向 BlockRun 支付模型推理费用,将接入 x402 支付支持的工作量从数月缩短到数天,并已把端到端按次付费推理流程投入生产。
Periodic Labs 联合创始人 Liam Fedus 与 Ekin Dogus Cubuk 在 Latent Space 播客中提出“合成超级智能”(synthesis superintelligence),主张 AI 科学发现需以物理实验为强化学习环境,而非仅靠更多互联网数据训练。
Amazon SageMaker HyperPod 发布基于 EKS 的多租户参考架构,让多个团队共享同一 GPU 集群并保持隔离与资源公平。
Oracle 在招聘、工程和运营场景中,用 ChatGPT Work 和 Codex 把专家知识转化为快速、可重复的工作流,将原本需要数天的工作压缩到几分钟。
Pollo AI 借助 GPT-5.6、GPT-6 Astra 和 GPT-Image-2.5,帮助创作者把创意转化为精细图像和电影级视频广告。
LegalOn 将 Codex 每日预估成本削减 65%,同时保持开发速度。
其做法是按任务匹配 Astra、Sol 和 Luna,并对预算进行策略性管理。
Nvidia 正大力押注物理 AI,推出面向物理 AI 的全栈安全解决方案,已被多家机器人公司采用,目标指向更安全的 Robotaxi 与人形机器人。
MIT Technology Review 与 Aventine 合作的文章指出,尽管马斯克称 Tesla Optimus 未来能以低至 2 万美元单价自动化几乎所有人类劳动、并预测 2027 年底前向公众发售,但许多机器人研究者对此持怀疑态度。
AVEVA 首席技术专家 Arti Garg 提出,工业 AI 正从预测分析转向基础模型、物理 AI 与智能体 AI,但因其直接作用于物理系统,安全与可靠性成为部署核心。
Anthropic 发布 Claude Haiku 5.5,这是 Haiku 系列约一年来的首次更新,定价与 OpenAI 的 GPT-6 Luna 持平,同日还下调了 Sonnet 5.5 与订阅方案价格。
汇总了 Haiku 5.5 的定价、第三方评测与 token 消耗数据,便于判断小模型在智能体工作流中的成本取舍。
微软在两年来的首场线下活动中发布新款 Surface Laptop Ultra,并公布 Windows 11 的一系列改动,同时展示本地 AI 与智能体工作流如何改变个人计算。
作者借助 HuggingChat 中的 ML Intern,在两天内完成六个模型项目,包括柑橘病害 VLM、Huggy LoRA、相机视角 LoRA、涂鸦替换 LoRA、Pocket Rewriter 0.8B/2B 蒸馏以及 Agate 4 步蒸馏,总计算成本约 103 美元。
作者用 ML Intern 在两天内训出六个小模型,给出了提示词写法、预算控制与成本明细,可迁移到自己的训练流程。
OpenAI 捣毁了两起借助 AI 开展的影响行动,这些行动利用假记者和一家智库散布地缘政治信息。
Artcraft 从可控 AI 图像视频编辑工具转向开源应用套件,用 Claude Opus 5.5 以 Rust 复刻 Photoshop、Illustrator、Premiere、Lightroom、After Effects、InDesign 和 Acrobat Pro 的界面与工具,并提供可在浏览器运行的 WebAssembly 版本。
Google Research 与 NBER 发布一项为期三个月的专利撰写实地实验,将当时未发布的 Google Labs AI 专利写作助手(现属 Gemini Notebook)随机开放给 11 家知识产权律所的 133 名律师,其中三分之二获得早期访问权。
三个月实地实验区分了AI带来的即时产出提升与无辅助判断力的变化,为理解AI对专业能力养成的影响提供了一手证据。
AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用。
AWS 官方给出 Haiku 5.5 在 Bedrock 上的可用区域、调用方式与成本定位,便于判断它在多智能体分层中的位置。