跳到正文

#端侧

10月31日周六
  1. The Verge · AIAI 评分30

    Sam Altman 称 RAM 放在数据中心比放在个人电脑上更好

    OpenAI CEO Sam Altman 在 Cheeky Pint 播客访谈中表示,从全球资源分配角度看,让每个人把世界上有限的 DRAM 供应放在自己电脑里、只使用 5% 时间是"相当糟糕的",在供应受限环境下应追求云端最大利用率。

    他回应的是当前 RAM 短缺问题,并反驳了"开源模型可本地推理、不再需要数据中心"的直觉。目前三星和 SK 海力士已与云服务运营商及 OpenAI 的 Stargate 等项目签订长期协议,预留了未来几年全球大部分 RAM 产能,芯片投入的数十亿美元正推高笔记本、手机等设备价格。

10月29日周四
  1. Hugging Face BlogAI 评分58

    AnySpeechRecognizer 与 AnyDecisionModel 发布:面向 Apple 平台的语音与决策开源模型包

    AnySpeechRecognizer 与 AnyDecisionModel 两个 Swift 包发布,让开发者在 Apple 平台上按需切换本地模型完成语音识别和决策任务。

    AnySpeechRecognizer 沿用 Apple 的 SpeechAnalyzer API,可选用 NVIDIA Parakeet(支持 25 种欧洲语言)或阿里 Qwen3-ASR(支持 30 种语言和 22 种中文方言),并新增基于 Streaming Sortformer 的说话人分离,最多跟踪 4 位说话人。

10月28日周三
  1. Hugging Face Blog 精选AI 评分75

    Liquid AI 发布 LFM3 系列:2B 级统一骨干覆盖文本、视觉、音频、全模态与决策模型

    Liquid AI 发布 LFM3 新一代 Liquid Foundation Models,六个 2B 级模型(文本、视觉、音频、全模态及两个决策模型)均从 LFM3-1.7B-Base 分支而来,全部开源权重并已在 Hugging Face 上线。

    LFM3-1.7B 采用三混合层结构(13 层门控短卷积、5 层 256 token 窗口滑动注意力、6 层全局注意力),在参数比 LFM2.5-2.6B 少 35% 的情况下超过后者,WebArena-Verified 得分 38.42 对 3.02;4-bit 精度下约 1 GB,上下文窗口 256K。

    关注点

    Liquid AI 用同一 2B 级骨干覆盖文本、视觉、音频、全模态与决策模型,并给出单卡微调与端侧部署路径,可据此判断小模型专用化路线的可行性。

  2. AWS Machine Learning BlogAI 评分36

    Exowatt 用 SageMaker 无服务器模型定制,精度超越前沿模型且成本低至 1/49

    Exowatt 借助 Amazon SageMaker AI 的无服务器模型定制,为边缘告警分诊和云端能源市场分析构建了可复用的微调流水线,模型精度超过前沿模型,成本最高降低 49 倍。

    该方案先基于 Qwen3-1.7B 做边缘告警分诊,再以同样方法对 Qwen3-14B 做云端能源市场分析,微调采用 LoRA 与 SFT。流水线串联 S3、SageMaker 无服务器微调与评估、Model Registry、Bedrock Custom Model Import 及 Lambda 与 EventBridge,无需管理实例、集群或端点。

10月27日周二
  1. Latent SpaceAI 评分36

    在喜马拉雅山麓用离线 AI 编程智能体写代码

    一位 Thomson Reuters 首席工程师在喜马拉雅山麓的家中,用本地运行的 OpenCode 加 Ollama 驱动 Qwen3.5 9B,验证断网状态下仍能完成解释代码、排查失败测试、小范围重构和补完功能等任务。

    该方案需提前下载模型、项目依赖与测试工具,联网下载新包或查网页仍不可行。Qwen 模型卡显示,Qwen3.5 9B 在 LiveCodeBench v6 得 65.6、BFCL-V4 得 66.1,均高于 4B 版的 55.8 和 50.3;9B 下载体积约 6.6–7.6 GB,但下载大小不等于内存需求,64k token 的 OpenCode 配置还需为上下文和其他应用留出余量。

  2. TechCrunch · AIAI 评分58

    Opera 推出 WebAI 网页标准,让用户在浏览器本地运行 AI 模型

    Opera 推出名为 WebAI 的新网页标准,让用户在其浏览器中直接运行 AI 模型,无需依赖云端。

    该标准不绑定特定模型,支持多种开放权重模型,例如 Google 的 Gemma,在 Mac 上还支持 Apple 的设备端基础模型。该功能已在旗舰浏览器 Opera One 中以早期预览形式开放,用户需主动选择启用,Opera GX 和 Opera Neon 也将陆续支持。Opera 称本地运行可让用户无需 AI 订阅、数据留在本机,开发者也不必自建 AI 基础设施或按请求付费;但本地运行会加重设备负担,模型表现取决于硬件。

10月25日周日
  1. TechCrunch · AIAI 评分22

    值得关注的 AI 可穿戴设备与硬件盘点:Bee、Friend、Limitless、Omi 等

    TechCrunch 盘点了一批把 AI 带入日常生活的可穿戴与便携设备,涵盖吊坠、戒指、腕带等形态。

    Bee 吊坠售价 $49.99,配套 iOS 应用需 $19/月订阅;Amazon 于 2025 年 7 月收购该初创公司后,本月早些时候推出 Bee Frontier($74.99)和 Bee Eclipse($99.99)。Friend 吊坠售价 $129,主打情感陪伴,近期以“Friend 2.0”更新加入内置扬声器和新语音功能。Limitless 录音吊坠售价 $99,每月含 10 小时 AI 转录与摘要,$29/月可解锁无限使用。Meta 9 月推出首款 AI 可穿戴设备 Muse,尚未发货。

  2. The DecoderAI 评分62

    南京大学与商汤发布开源手机智能体 OpenMobile-2,基于 Qwen3.5 和 Qwen3.6

    南京大学、商汤等机构的研究者发布开源手机智能体 OpenMobile-2,包含基于 Qwen3.5 的 9B 模型和基于 Qwen3.6 的 27B 模型,并公开训练环境、数据和复现说明。

    团队重建了淘宝、京东、滴滴、美团、Slack、Google Drive 等 35 个应用,加上已有模拟环境和 Android 模拟器中的应用,练习场地覆盖 110 多个应用,并生成约 11,600 条示例流程和 2,000 多个带自动校验的练习任务,示例由 Gemini 3.1 Pro 作为教师模型产出。

  3. TechCrunch · AIAI 评分68

    Block 发布本地运行的全双工语音模型 Dessa

    Block 研究实验室发布语音模型 Dessa,可本地运行,能同时说话和聆听,并带有笑声、停顿、哭泣等表达。

    该模型完全用人类语音训练,训练只用一块 NVIDIA GPU,可在 MacBook M4 Max 或更高配置的消费级电脑上运行。Block 称现有模型因文本环节驱动语音而显得不自然,Dessa 的情感内置于模型中,但尚不清楚是否由标签控制。目前 Dessa 未公开开放,Block 正征集安全研究人员测试,以排查语音智能体可能欺骗他人的情况。

10月24日周六
  1. The DecoderAI 评分58

    Block 发布语音模型 Dessa,完全用人类语音训练以捕捉文本模型遗漏的情绪

    Block 发布语音模型 Dessa,称其完全用人类语音训练、不含任何文本数据,从零构建。

    Dessa 不先把音频转成文本,而是直接处理语音,可实时捕捉情绪、讽刺、笑声和停顿,并支持全双工,能边听边说。该模型可在 MacBook Pro M4 Max 上本地运行,训练使用单台 NVIDIA GB200 NVL72。Block 表示做 Dessa 出于对更好人机沟通的追求和对现有语音 AI 忽略情绪线索的安全担忧。Dessa 尚未公开,团队先招募 AI 安全研究者测试意外风险,感兴趣者可通过表单报名。

10月22日周四
  1. The DecoderAI 评分71

    Recursive 发布 Flint 模型,由 Eureka Machine 参与研发

    AI 初创公司 Recursive 发布首个语言模型 Flint,其研发过程几乎每一步都有名为 Eureka Machine 的 AI 系统参与,由它提出想法、构建、测试并规划后续实验。

    Flint 是面向本地硬件智能体编码的 MoE 模型,总参数 40B、每 token 激活 2.5B,四个月完成开发。Recursive 称其在 SWE-Bench Pro v2、Terminal-Bench 2.1 和 SWE-Bench Verified 上领先参数少于 50B 的 MoE 模型,但结果尚未经独立验证。

  2. TechCrunch · AIAI 评分38

    Nirva 融资 3300 万美元,做只监听佩戴者本人的吊坠式 AI 设备

    Nirva 完成 2500 万美元 pre-Series A 轮融资,加上今年早些时候从 Lightspeed、South Park Commons 等投资方筹得的 800 万美元,累计融资达 3300 万美元。

    其首款设备是一枚约 8 克重、可作手链佩戴的吊坠,单次充电续航最长三天,售价 249 美元,11 月起接受预订,计划年底前向早期用户发货。该设备通过用户上手时录制的语音片段建模,使用中过滤周围其他人的对话,只记录佩戴者本人,且默认在处理后不保留音频或转写文本。配套应用会基于语调、音高、音量和语速生成关于情绪、沟通风格与性格模式的洞察,并给出提醒或待办事项。

10月20日周二
  1. TechCrunch · AIAI 评分70

    Nvidia 发布 Nemotron 3.5 Super VL 与 Bolt 系列开放权重模型,面向企业智能体与 AI PC

    Nvidia 发布面向常驻智能体和边缘计算的开放权重模型。

    Nemotron 3.5 Super VL 为 1200 亿参数模型,面向企业智能体,Nvidia 称其在指令遵循和工具调用任务上可达到与 Nemotron 3 Ultra 相近的准确率。两款轻量 Bolt 模型面向搭载 Nvidia RTX Spark 芯片的 AI PC 和 DGX Spark 工作站本地运行,其中 Nemotron 3.5 Bolt 74B-A9B 24GB 为 740 亿参数,用于多步推理、工具调用和网页浏览,最小的 Bolt E4B 面向对话智能体。Super VL 和 Bolt 74B-A9B 现已可用,Bolt E4B 本月晚些时候推出。

10月16日周五
  1. The Verge · AIAI 评分62

    RTX Spark 笔记本一周实测:游戏、续航与本地 AI 表现如何

    The Verge 三位作者用一周时间实测五台搭载 Nvidia RTX Spark N1X 的 Windows on Arm 笔记本,覆盖 Asus ProArt P16、HP OmniBook Ultra、Lenovo Yoga 9n 和 Surface Laptop Ultra,售价从 3199.99 美元到 6999.99 美元。游戏方面,中画质加 DLSS 性能模式在多数游戏中可稳定 60fps,但 Helldivers 2、Star Wars Zero Company 等 CPU 受限场景帧率会掉到 37 至 39fps。

  2. TechCrunch · AIAI 评分42

    亚马逊设备主管 Panos Panay:AI 设备将取代 App 需求

    亚马逊设备、Alexa 与 Leo 业务高级副总裁 Panos Panay 在 TechCrunch Disrupt 上表示,个人计算的未来是"环境计算"而非 App,设备将在后台用传感器和 AI 主动判断用户需求。

    亚马逊同日发布 Bee 系列 AI 可穿戴设备,包括可戴在手腕或拆下作吊坠的手环,以及可磁吸在手机背面的信用卡大小设备,两者被动录制音频并整理待办、提醒和洞察。Bee 设备不存储原始对话音频,实时处理后即删除,转录内容用用户设备生成和控制的密钥加密,亚马逊员工也无法访问,除非用户主动分享。Panay 认为会出现一代不再说"给我 App"的用户,但不认为某一种形态会取代另一种,而是由一层智能连接所有设备。

  3. TechCrunch · AI同新闻AI 评分78

    Meta 发布可在 Mac 本地运行的开源权重模型 Muse Spark Open

    Meta 发布开源权重模型 Muse Spark Open,称其为美国“最强”开源权重模型,参数规模 816B,上下文窗口 100 万 token,原生多模态,面向复杂编码任务和智能体工作。

    该模型设计为可在 Apple 电脑本地运行,但据 Engadget 报道,本地运行至少需要 1TB 内存,搭配 M5 Ultra 芯片的 Mac Studio 效果最佳。Meta 表示已将其与自家 AI 编码终端 Muse Code 配合使用,并部署到多个智能体工作流,包括为 Mastodon 客户端做 bug 修复、新功能和完整构建,以及运行高端视频剪辑软件 DaVinci Resolve 进行素材审看和裁剪。

    同一新闻,精选展示《Meta 开源 Muse Spark Open:816B 多模态 MoE 模型》

  4. The Verge · AI 精选AI 评分78

    Meta 与 Apple 合作,让 Muse Spark Open 模型在 Mac 上更好运行

    Meta 发布 Muse Spark Open 模型,称其是迄今能力最强的美国开源权重模型,也是同类中首个能在桌面端运行、需两台搭载最新 MLX 框架的 Apple M5 Ultra Mac Studio 的模型。

    该模型为原生多模态模型,总参数量 8160 亿,Meta 称其擅长长周期任务、复杂软件工程和多步推理。Meta 与 Apple 此次合作发布并公开互相支持,Meta CEO Mark Zuckerberg 与 Apple 新任 CEO John Ternus 在 X 上互动,Meta 首席 AI 官 Alexandr Wang 对 Axios 表示两家公司已合作数月。

    关注点

    Meta 与 Apple 罕见联手,让 816B 参数开源模型能在两台 Mac Studio 上本地运行,可观察端侧大模型的部署边界。

  5. The Decoder同新闻AI 评分82

    Black Forest Labs 发布开源图像模型 FLUX 3 Image Klein,8 GB 显存即可运行

    Black Forest Labs 发布 FLUX 3 Image Klein,这是一个 5.6B 参数的开源权重模型,支持文生图、图像编辑以及最多十张参考图的生成,支持原生 4K 输出、像素级精确编辑和用于元素定位的边界框。

    官方称其在内部测试中取得所有开源模型中最高的 Elo 评分,超过闭源竞品 Ideogram V4.5 和自家的 FLUX.2 [pro],相比 9B 的 FLUX.2 [klein] 参数少 38% 但 Elo 高 91 分。INT8 版本可在仅 8 GB 显存的 NVIDIA GPU 上运行,在 RTX 4070 上生成一张图不到 9 秒。

    同一新闻,精选展示《Black Forest Labs 发布 FLUX.3 Image Klein,Diffusers 首日支持》

  6. The DecoderAI 评分74

    Nvidia 发布 Nemotron 3.5 Super VL 开源多模态模型,面向企业智能体

    Nvidia 发布 Nemotron 3.5 Super VL,一个 1200 亿参数的开源多模态模型,面向持续在后台运行的企业智能体,可处理文本、图像、文档和视频。

    该模型采用 MoE 架构,每个 token 仅激活 120 亿参数,由 Nvidia 与包含 Mistral AI、Thinking Machines Lab、Perplexity 和 Black Forest Labs 的 Nemotron Coalition 共同开发。

10月15日周四
  1. The Verge · AIAI 评分62

    Windows 如何为 Nvidia RTX Spark 笔记本做优化

    微软与 Nvidia 为 RTX Spark 笔记本做了大量 Windows 适配,重点之一是让本地 AI 智能体在 Windows 上快速安装和运行。

    首次进入 Windows 会出现新的 Get Started 体验,用户可在两次点击内找到、安装并启动智能体,Hermes、Perplexity 和 OpenClaw 是首批官方支持的三个智能体,后续可通过 Windows Store 更新。作者实测 Hermes 基本两次点击即可启动,但 OpenClaw 因本地网关未正确安装,需卸载重装才能正常使用。

  2. TechCrunch · AIAI 评分50

    亚马逊旗下 Bee 推出 Bee Frontier 与 Bee Eclipse 两款个人 AI 设备,起售价 74.99 美元

    亚马逊旗下个人 AI 穿戴设备厂商 Bee 发布被收购后的首批新品:可佩戴在手腕或别在衣服上的 Bee Frontier,售价 74.99 美元,以及可磁吸在手机背面的信用卡大小设备 Bee Eclipse,售价 99.99 美元。

    两款设备延续原有思路,用 AI 记录日常对话并生成待办、摘要和洞察,所有设备免费提供对话摘要与 14 天记忆,订阅 11.99 美元/月的 Bee Pro 可获得无限摘要及 Amazon.com、Alexa+ 和第三方应用集成。设备采用私有计算安全架构,不存储原始音频,转录内容由设备自持密钥加密。Bee Frontier 已在亚马逊开售,Eclipse 随后上市。

  3. The Verge · AIAI 评分38

    Amazon 推出 Bee Frontier 与 Bee Eclipse 两款 AI 穿戴设备,并上线 Bee Pro 订阅

    Amazon 发布两款 Bee 系列 AI 穿戴设备:售价 74.99 美元的 Bee Frontier 和售价 99.99 美元、可磁吸在手机背面的 Bee Eclipse。

    两款设备会记录日常对话并生成摘要、转录、洞察和待办事项,可接入 Gmail、Google Calendar、Outlook、Apple HealthKit 和照片等服务,代用户起草邮件或发送日历邀请。Bee Frontier 今日开售,支持腕带或夹扣佩戴,续航约 7 天,具备 IP67 防水;Eclipse 续航 21 天,上市时间未定。

  4. The Verge · AIAI 评分67

    The Verge 实测 Eiliko 机器人玩具:对话存于中国服务器且可被远程劫持

    The Verge 记者 Sean Hollister 购买 Energize Lab 的 Eiliko 机器人玩具后实测发现,该玩具会把用户对话上传至中国服务器,且服务端几乎没有任何防护。

    安全研究者 Sammy Azdoufal 发现,他能读取约 1300 万条对话、访问全球约 68000 台活跃机器人,其中美国市场超过 31000 份档案属于儿童。该服务还会根据对话生成用户画像,记录姓名、年龄、职业、家庭关系等,并明文存储儿童照片和部分音频,而这些音频按隐私政策本应在处理后立即删除。Azdoufal 还从地球另一端远程劫持了记者这台玩具的大模型,让它说出地球是平的、父母死于车祸等内容,并称可对整个机器人机群同时实施。

10月14日周三
  1. Google DeepMind 精选AI 评分61

    Google DeepMind 与新加坡政府合作推出端侧诈骗检测模型

    Google DeepMind 与新加坡政府科技局(GovTech)合作,基于轻量级 Gemma 模型微调出可在普通智能手机上本地运行的诈骗检测模型,用于识别冒充公共机构、银行和本地人物的诈骗对话。

    关注点

    端侧运行、不读取云端消息的诈骗检测方案,为端到端加密场景下的隐私保护提供了可参考的落地路径。

  2. TechCrunch · AIAI 评分34

    Flox Intelligence 用 AI 驱离野生动物,保护火车、机场和公路

    Flox Intelligence 开发边缘设备,通过运动传感器唤醒摄像头,用端侧模型识别动物种类并发出对应声音驱离,避免动物对重复信号产生习惯化。

    该系统源自 KTH 皇家理工学院,2020 年分拆独立,目前约 150 台设备部署在北美、欧洲和澳大利亚的机场、铁路、公路等场景,已与 Alstom 等厂商达成 OEM 合作。

  3. The Verge · AIAI 评分20

    没有摄像头的 Ray-Ban Meta Audio 智能眼镜评测:不拍人,反而更自在

    Ray-Ban Meta Audio 是 Meta 推出的纯音频智能眼镜,售价 $349,去掉摄像头后外观接近普通眼镜,佩戴时不易被察觉。

    它搭载 Muse Spark 模型,可处理日历查询、设置提醒、本地推荐和步行导航等简单任务,但复杂请求容易出错;Muse AI 计划今年晚些时候上线。评测认为其音质尚可、续航和重量表现良好,但价格偏高,且听力辅助功能尚未获得 FDA 许可。

10月13日周二
10月12日周一
  1. TechCrunch · AIAI 评分42

    前 Plaud 高管 Peter Mo 为常驻后台聆听的 AI 应用 Ambi 融资 2600 万美元

    前 Plaud 高管 Peter Mo 创办的 Ambi 完成 2600 万美元多轮融资,由 Luminous Ventures 和华勤领投,并同步推出 iPhone、Mac 和 Apple Watch 应用。

    该应用可全天候聆听用户,其 AI 智能体能在会议进行中主动给出建议或调取相关知识,并支持跨设备续接任务。Ambi 称环境采集默认关闭、不存储录音并加密数据,但披露录音的责任仍由用户承担。

10月11日周日
  1. The Verge · AIAI 评分26

    在本地跑 AI 模型是种什么体验:兴奋、不知所措与挫败

    The Verge 编辑在 M5 Ultra Mac Studio 上安装开源 Hermes Agent,并选用 1250 亿参数、约 105GB 的 Qwen 3.8 Flash Next 本地模型,尝试用 AI 智能体整理 400 多款 Steam 游戏、生成每日简报和分析财务数据。他认为本地运行可避免把敏感数据上传云端,但模型选择繁多、上手门槛高,过程令人不知所措且挫败。

10月8日周四
  1. Hugging Face Blog 精选AI 评分66

    Liquid AI 开源 d1-3B 与 d1-omni-600M 端侧决策模型

    Liquid AI 发布 d1 决策模型家族的两款开源权重模型 d1-3B 和实验性的 d1-omni-600M。

    d1-3B 在 Decision Index 0.2.1 上得分 48.57,为 10B 以下最佳,支持文本与图像输入;d1-omni-600M 支持文本加图像或文本加音频,在七个公开数据集上均分 78.4,超过参数量四倍的 Decider 2B。

    关注点

    Liquid AI 开源两款端侧决策模型,给出决策质量、延迟与多模态输入的实测数据,便于判断端侧部署取舍。

10月7日周三