跳到正文

全部 AI 动态

10月11日周日
  1. TechCrunch · AIAI 评分22

    PolyAI 与 Otter 高管:语音 AI 尚未迎来自己的 ChatGPT 时刻

    PolyAI CTO Shawn Wen 与 Otter CMO Alex Gay 认为,语音 AI 虽已实现全双工模型,但仍未迎来"ChatGPT 时刻",下一步挑战是让推理足够快、对话自然。

    Wen 指出 ASR 模型常漏掉关键词、影响上下文理解,Gay 则强调转写准确率是所有下游功能的基础。Otter 还在研发可在会议中代表用户的数字孪生,并要求输出语音具备与真人交谈时的情感表达。

  2. The Verge · AIAI 评分58

    微软 CEO 纳德拉称应假定所有 AI 模型都已被攻陷

    微软 CEO 纳德拉在 X 发长文谈高级 AI 模型的风险与应对,主张不能再把 AI 当作只需接受或拒绝其建议的嵌套黑箱,应建立可隔离、可观察并留下防篡改人类可读证据的透明体系。

    他提出应及时披露事件、独立审计、数据可验证并做隔离,并称必须从一开始就假定模型已被攻陷并加以隔离,就像紧急制动一样,授权人员应能随时暂停或关闭执行任务中的模型,更先进的模型需要更先进的隔离技术并加以标准化。

  3. TechCrunch · AIAI 评分50

    微软 CEO Satya Nadella 称 AI 模型需要“紧急刹车”

    微软 CEO Satya Nadella 在 X 上发文称,应重新审视 AI 的信任架构,把模型与编排其工作的 harness 分离,并将控制与防护措施外部化。

    他要求每个有意义的模型动作都留下防篡改、人类可读的证据,并让授权人员能随时暂停或关闭执行中的模型,称这就像“紧急刹车”。

10月10日周六
10月9日周五
  1. MIT Technology Review · AIAI 评分36

    我们高估了 AI 说“不”的能力

    MIT Technology Review 文章指出,AI 的拒绝机制已成为 AI 安全的核心,但并不可靠。

    模型被训练拒绝大量有害提示词,却仍保留暴力与网络攻击等能力,且拒绝机制基于概率,可能被绕过。文章还提到 OpenAI 曾组织红队测试 ChatGPT,并质疑由企业单方面划定拒绝边界的做法。

10月8日周四
10月7日周三
  1. Microsoft ResearchAI 评分22

    Microsoft 研究员 Jennifer Neville 谈 AI 评测与意外失败

    Microsoft 合伙人研究经理 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动 AI 系统性能边界,以及模型在传统 benchmark 之外测试时出现的"意外失败"。

    她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果超出预期时深入审视数据的重要性。

10月5日周一
  1. MIT Technology Review · AIAI 评分12

    从预测到自主决策:预测分析如何进入智能体 AI 时代

    企业 AI 的竞争焦点已从预测模型能否超越统计预测,转向如何让预测系统在不偏离业务意图的前提下自主行动。

    深度学习与生成式 AI 驱动的智能分析支持实时训练,使 AI 持续演进而无需等待季度刷新,其数据来源也从规整的数值记录扩展到非结构化交互数据。Everest Group 合伙人 Vishal Gupta 称,"分析"一词正在让位于 AI。

  2. MIT Technology Review · AIAI 评分22

    人们一边痛恨 AI,一边为何又离不开它?

    调查显示公众对 AI 的负面情绪正在上升:Pew 数据显示更多美国成年人认为 AI 对个人和社会的影响是负面的,盖洛普 5 月民调中 71% 美国成年人反对在本地新建 AI 数据中心。

    但使用量仍在飙升,ChatGPT 5 月月活达 10 亿,Gemini 7 月达 9.5 亿,Pew 称半数美国成年人已使用聊天机器人。文章认为人们反感的不是技术本身,而是企业无孔不入的推销方式。

10月1日周四
9月19日周六
  1. Ethan Mollick · One Useful ThingAI 评分36

    Ethan Mollick:GPT-6 Astra 与 Fable 5.1 已具备变革性能力,但存在"能力悬置"

    GPT-6 Astra 与 Fable 5.1 已能可靠完成数周人类工作量,但现有模型能力被严重低估和使用不足。

    Ethan Mollick 用 GPT-6 Astra 将 1977 年文字冒险游戏 Zork 改造成可玩的 3D 动作冒险游戏,并让 Fable 5.1 依据视频和照片在 3D 中重建 Umberto Eco 约 5000 本书的米兰书房。

9月18日周五
  1. GitHub Blog · AI & MLAI 评分22

    GitHub Podcast 拆解 AI 热门观点:该不该读 AI 代码、RAG 是否已死、Skills 是否杀死了 MCP

    GitHub Podcast 最新一期拆解了五个 AI 热门观点:AI 生成的代码仍需阅读和负责,但审查力度应随风险变化;Skills 与 MCP 解决不同问题,前者是打包的专家经验,后者为智能体提供连接工具和数据的标准接口;RAG 并未消亡,它与 Agent、Skills、MCP 可以共存于同一工作流。

8月31日周一
7月7日周二
5月8日周五