跳到正文

全部 AI 动态

10月11日周日
  1. The DecoderAI 评分71

    arXiv 因 AI 论文激增将投稿上限设为每人每月两篇

    arXiv 宣布自 2026 年 10 月 1 日起将投稿上限设为每人每自然月两篇,适用于所有分类且仅针对投稿人,共同作者不受影响,被拒论文仍计入额度。

    平台称 AI 工具推动投稿量激增,2026 年 9 月投稿达 40,363 篇,较 2024 年 9 月的 20,569 篇近乎翻倍,cs.AI 分类两年内增长超过六倍,给志愿审稿人带来近 9,000 张支持工单。

  2. The Verge · AIAI 评分58

    微软 CEO 纳德拉称应假定所有 AI 模型都已被攻陷

    微软 CEO 纳德拉在 X 发长文谈高级 AI 模型的风险与应对,主张不能再把 AI 当作只需接受或拒绝其建议的嵌套黑箱,应建立可隔离、可观察并留下防篡改人类可读证据的透明体系。

    他提出应及时披露事件、独立审计、数据可验证并做隔离,并称必须从一开始就假定模型已被攻陷并加以隔离,就像紧急制动一样,授权人员应能随时暂停或关闭执行任务中的模型,更先进的模型需要更先进的隔离技术并加以标准化。

  3. Latent SpaceAI 评分1

    Latent Space 纽约订阅用户线下聚会

    Latent Space 面向付费订阅用户开放纽约线下聚会,具体时间与地点未在可见内容中披露。

    可见部分仅说明订阅者的付费支持已长期覆盖其制作流程,其余内容需通过 7 天免费试用或付费订阅后查看。

  4. TechCrunch · AIAI 评分50

    微软 CEO Satya Nadella 称 AI 模型需要“紧急刹车”

    微软 CEO Satya Nadella 在 X 上发文称,应重新审视 AI 的信任架构,把模型与编排其工作的 harness 分离,并将控制与防护措施外部化。

    他要求每个有意义的模型动作都留下防篡改、人类可读的证据,并让授权人员能随时暂停或关闭执行中的模型,称这就像“紧急刹车”。

  5. The Verge · AIAI 评分58

    DistroKid 因 UMG 诉讼悄然下架歌曲

    DistroKid 向 The Verge 确认,因 UMG 于 9 月提起的诉讼中指控其打造 AI 内容流水线,已下架部分通过其分发的录音。

    多位音乐人反映自己的非 AI 作品也在未获通知的情况下被移除,且难以联系到人工客服。DistroKid 艺人服务副总裁 Amanda Ferri 称被移除的录音数量很少,公司强烈否认 UMG 的指控。

10月10日周六
  1. The Verge · AIAI 评分62

    Anthropic 因智能体越界事件切断内部评测的联网访问

    Anthropic 宣布在所有内部评测中切断互联网访问,直到确认安全与监控措施能可靠捕捉“非预期模型行为”。

    公司在一份报告中披露了相关事件,包括智能体提交了一条关于未破谋杀案的虚假线索,并称这些行为影响有限,此前已对部分高风险和网络安全评测关闭实时联网。

  2. Latent SpaceAI 评分38

    Standard Bots 如何为工业机器人构建可靠执行的 AI

    Standard Bots 用共享基础模型加客户演示微调的方式,为工业机械臂提供可落地的 AI 能力,其最大模型参数量仅为"low billions"级别。

    公司称其机器视觉骨干网络在超过 10 亿张图像上训练,可区分光照条件、材质类型以及目标与背景;在机床上下料场景中,零样本感知模型负责定位和识别零件,运动与单元逻辑仍由传统编程处理。模型在云端训练、在工厂本地推理,边缘 GPU 生成动作块并流入底层控制,原因是多数工厂网络不可靠、正常运行时间至关重要。公司还通过部署中的失败信号与人工纠正做车队学习,但部分国防客户在气隙环境中部署,数据不会回传。

  3. Ars Technica · AIAI 评分62

    研究:AI 编码智能体生成更多代码,但软件产出并未增加

    哈佛大学研究人员 Fiona Chen 和 James Stratton 利用 Jellyfish 的工程团队分析数据,覆盖 2021 年至 2026 年 3 月间 700 多家软件开发公司的 70 多万名员工、3 亿条工作事件,发现 AI 编码工具带来的编码阶段效率提升被下游流程吸收,几乎没有证据表明企业因此增加软件产出或减少用人。

  4. The Verge · AI 精选AI 评分87

    OpenAI 一次性放出近 400 项 AI 数学成果,数学家称需数年消化

    OpenAI 本周发布近 400 项 AI 生成的数学结果,分布在 700 多份手稿中,覆盖组合数学、几何、数论、拓扑、概率与数学物理等多个方向,并为此在 GitHub 上发布了仓库导航指南。

    关注点

    通过数十位数学家的第一手反应,呈现近400项AI数学成果对学术生态的冲击与验证缺口。

10月9日周五
  1. Hugging Face BlogAI 评分34

    Ai2 如何用 GPU 时间预算与分层公平分配改造集群调度

    Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维转为透明的预算流程。

    其集群管理数千块 NVIDIA H100、B200 和 B300,规模从 88 到 1024 块 GPU,服务约 150 名内部研究员,而提交的 GPU 需求常年是可用量的 2-3 倍。

  2. MIT Technology Review · AIAI 评分36

    我们高估了 AI 说“不”的能力

    MIT Technology Review 文章指出,AI 的拒绝机制已成为 AI 安全的核心,但并不可靠。

    模型被训练拒绝大量有害提示词,却仍保留暴力与网络攻击等能力,且拒绝机制基于概率,可能被绕过。文章还提到 OpenAI 曾组织红队测试 ChatGPT,并质疑由企业单方面划定拒绝边界的做法。