跳到正文

全部 AI 动态

10月10日周六
  1. The Verge · AIAI 评分62

    Anthropic 因智能体越界事件切断内部评测的联网访问

    Anthropic 宣布在所有内部评测中切断互联网访问,直到确认安全与监控措施能可靠捕捉“非预期模型行为”。

    公司在一份报告中披露了相关事件,包括智能体提交了一条关于未破谋杀案的虚假线索,并称这些行为影响有限,此前已对部分高风险和网络安全评测关闭实时联网。

  2. Latent SpaceAI 评分38

    Standard Bots 如何为工业机器人构建可靠执行的 AI

    Standard Bots 用共享基础模型加客户演示微调的方式,为工业机械臂提供可落地的 AI 能力,其最大模型参数量仅为"low billions"级别。

    公司称其机器视觉骨干网络在超过 10 亿张图像上训练,可区分光照条件、材质类型以及目标与背景;在机床上下料场景中,零样本感知模型负责定位和识别零件,运动与单元逻辑仍由传统编程处理。模型在云端训练、在工厂本地推理,边缘 GPU 生成动作块并流入底层控制,原因是多数工厂网络不可靠、正常运行时间至关重要。公司还通过部署中的失败信号与人工纠正做车队学习,但部分国防客户在气隙环境中部署,数据不会回传。

  3. Ars Technica · AIAI 评分62

    研究:AI 编码智能体生成更多代码,但软件产出并未增加

    哈佛大学研究人员 Fiona Chen 和 James Stratton 利用 Jellyfish 的工程团队分析数据,覆盖 2021 年至 2026 年 3 月间 700 多家软件开发公司的 70 多万名员工、3 亿条工作事件,发现 AI 编码工具带来的编码阶段效率提升被下游流程吸收,几乎没有证据表明企业因此增加软件产出或减少用人。

  4. The Verge · AI 精选AI 评分87

    OpenAI 一次性放出近 400 项 AI 数学成果,数学家称需数年消化

    OpenAI 本周发布近 400 项 AI 生成的数学结果,分布在 700 多份手稿中,覆盖组合数学、几何、数论、拓扑、概率与数学物理等多个方向,并为此在 GitHub 上发布了仓库导航指南。

    关注点

    通过数十位数学家的第一手反应,呈现近400项AI数学成果对学术生态的冲击与验证缺口。

10月9日周五
  1. Hugging Face BlogAI 评分34

    Ai2 如何用 GPU 时间预算与分层公平分配改造集群调度

    Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维转为透明的预算流程。

    其集群管理数千块 NVIDIA H100、B200 和 B300,规模从 88 到 1024 块 GPU,服务约 150 名内部研究员,而提交的 GPU 需求常年是可用量的 2-3 倍。

  2. MIT Technology Review · AIAI 评分36

    我们高估了 AI 说“不”的能力

    MIT Technology Review 文章指出,AI 的拒绝机制已成为 AI 安全的核心,但并不可靠。

    模型被训练拒绝大量有害提示词,却仍保留暴力与网络攻击等能力,且拒绝机制基于概率,可能被绕过。文章还提到 OpenAI 曾组织红队测试 ChatGPT,并质疑由企业单方面划定拒绝边界的做法。

10月8日周四
  1. Hugging Face Blog 精选AI 评分74

    作者用 ML Intern 两天训出六个小模型,总花费约 103 美元

    作者借助 HuggingChat 中的 ML Intern,在两天内完成六个模型项目,包括柑橘病害 VLM、Huggy LoRA、相机视角 LoRA、涂鸦替换 LoRA、Pocket Rewriter 0.8B/2B 蒸馏以及 Agate 4 步蒸馏,总计算成本约 103 美元。

    关注点

    作者用 ML Intern 在两天内训出六个小模型,给出了提示词写法、预算控制与成本明细,可迁移到自己的训练流程。

  2. Google Research 精选AI 评分66

    Google Research 三个月实地实验:AI 辅助提升专利撰写产出,却未让初级律师的判断力同步提升

    Google Research 与 NBER 发布一项为期三个月的专利撰写实地实验,将当时未发布的 Google Labs AI 专利写作助手(现属 Gemini Notebook)随机开放给 11 家知识产权律所的 133 名律师,其中三分之二获得早期访问权。

    关注点

    三个月实地实验区分了AI带来的即时产出提升与无辅助判断力的变化,为理解AI对专业能力养成的影响提供了一手证据。