跳到正文

#端侧

重要进展,按时间持续更新

阅读日报
  1. Hugging Face Blog 精选AI 评分75

    Liquid AI 发布 LFM3 系列:2B 级统一骨干覆盖文本、视觉、音频、全模态与决策模型

    Liquid AI 发布 LFM3 新一代 Liquid Foundation Models,六个 2B 级模型(文本、视觉、音频、全模态及两个决策模型)均从 LFM3-1.7B-Base 分支而来,全部开源权重并已在 Hugging Face 上线。

    LFM3-1.7B 采用三混合层结构(13 层门控短卷积、5 层 256 token 窗口滑动注意力、6 层全局注意力),在参数比 LFM2.5-2.6B 少 35% 的情况下超过后者,WebArena-Verified 得分 38.42 对 3.02;4-bit 精度下约 1 GB,上下文窗口 256K。

    图片来源:Hugging Face Blog
    关注点

    Liquid AI 用同一 2B 级骨干覆盖文本、视觉、音频、全模态与决策模型,并给出单卡微调与端侧部署路径,可据此判断小模型专用化路线的可行性。

  1. The Verge · AI 精选AI 评分78

    Meta 与 Apple 合作,让 Muse Spark Open 模型在 Mac 上更好运行

    Meta 发布 Muse Spark Open 模型,称其是迄今能力最强的美国开源权重模型,也是同类中首个能在桌面端运行、需两台搭载最新 MLX 框架的 Apple M5 Ultra Mac Studio 的模型。

    该模型为原生多模态模型,总参数量 8160 亿,Meta 称其擅长长周期任务、复杂软件工程和多步推理。Meta 与 Apple 此次合作发布并公开互相支持,Meta CEO Mark Zuckerberg 与 Apple 新任 CEO John Ternus 在 X 上互动,Meta 首席 AI 官 Alexandr Wang 对 Axios 表示两家公司已合作数月。

    关注点

    Meta 与 Apple 罕见联手,让 816B 参数开源模型能在两台 Mac Studio 上本地运行,可观察端侧大模型的部署边界。

  2. TechCrunch · AI 精选AI 评分78

    Meta 发布可在 Mac 本地运行的开源权重模型 Muse Spark Open

    Meta 发布开源权重模型 Muse Spark Open,称其为美国“最强”开源权重模型,参数规模 816B,上下文窗口 100 万 token,原生多模态,面向复杂编码任务和智能体工作。

    该模型设计为可在 Apple 电脑本地运行,但据 Engadget 报道,本地运行至少需要 1TB 内存,搭配 M5 Ultra 芯片的 Mac Studio 效果最佳。Meta 表示已将其与自家 AI 编码终端 Muse Code 配合使用,并部署到多个智能体工作流,包括为 Mastodon 客户端做 bug 修复、新功能和完整构建,以及运行高端视频剪辑软件 DaVinci Resolve 进行素材审看和裁剪。

    关注点

    Meta 开源 816B 参数、100 万 token 上下文的多模态模型,并给出本地运行 Mac 的硬件门槛,可据此判断端侧部署的可行性。

  3. The Decoder 精选AI 评分82

    Black Forest Labs 发布开源图像模型 FLUX 3 Image Klein,8 GB 显存即可运行

    Black Forest Labs 发布 FLUX 3 Image Klein,这是一个 5.6B 参数的开源权重模型,支持文生图、图像编辑以及最多十张参考图的生成,支持原生 4K 输出、像素级精确编辑和用于元素定位的边界框。

    官方称其在内部测试中取得所有开源模型中最高的 Elo 评分,超过闭源竞品 Ideogram V4.5 和自家的 FLUX.2 [pro],相比 9B 的 FLUX.2 [klein] 参数少 38% 但 Elo 高 91 分。INT8 版本可在仅 8 GB 显存的 NVIDIA GPU 上运行,在 RTX 4070 上生成一张图不到 9 秒。

    关注点

    5.6B 参数开源图像模型可在 8 GB 显存消费级显卡上运行,为本地部署与商用授权提供了新的成本参考。

  1. Google DeepMind 精选AI 评分61

    Google DeepMind 与新加坡政府合作推出端侧诈骗检测模型

    Google DeepMind 与新加坡政府科技局(GovTech)合作,基于轻量级 Gemma 模型微调出可在普通智能手机上本地运行的诈骗检测模型,用于识别冒充公共机构、银行和本地人物的诈骗对话。

    关注点

    端侧运行、不读取云端消息的诈骗检测方案,为端到端加密场景下的隐私保护提供了可参考的落地路径。

  2. Hugging Face Blog 精选AI 评分72

    Liquid AI 发布 LFM2.5-24B-A2B 端侧推理智能体模型

    Liquid AI 发布 LFM2.5-24B-A2B,这是一个 24B 总参数、每 token 仅 2B 激活参数的推理模型,面向端侧私有智能体,会先推理再作答并支持工具调用。

    关注点

    24B 总参数仅 2B 激活的推理模型,给出端侧速度与工具调用基准,可据此判断本地智能体的可行边界。

  1. Hugging Face Blog 精选AI 评分66

    Liquid AI 开源 d1-3B 与 d1-omni-600M 端侧决策模型

    Liquid AI 发布 d1 决策模型家族的两款开源权重模型 d1-3B 和实验性的 d1-omni-600M。

    d1-3B 在 Decision Index 0.2.1 上得分 48.57,为 10B 以下最佳,支持文本与图像输入;d1-omni-600M 支持文本加图像或文本加音频,在七个公开数据集上均分 78.4,超过参数量四倍的 Decider 2B。

    关注点

    Liquid AI 开源两款端侧决策模型,给出决策质量、延迟与多模态输入的实测数据,便于判断端侧部署取舍。

  1. Google DeepMind 精选AI 评分71

    Google DeepMind 发布 EmbeddingGemma 2 开源轻量多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,基于 Gemma 4 架构、Apache 2.0 许可,740M 参数,原生将文本、图像、音频和视频映射到统一嵌入空间。

    关注点

    官方给出 740M 参数、模块化编码器与端侧内存占用等细节,可据此判断本地多模态检索的落地成本。

已经到底了