跳到正文

技术方向

端侧 AI 最新动态

跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。

6 条精选近 30 天 6 条共收录 35 条

更新

端侧 AI的精选

10月28日周三第 1–6 条
  1. Hugging Face Blog 精选AI 评分75

    Liquid AI 发布 LFM3 系列:2B 级统一骨干覆盖文本、视觉、音频、全模态与决策模型

    Liquid AI 发布 LFM3 新一代 Liquid Foundation Models,六个 2B 级模型(文本、视觉、音频、全模态及两个决策模型)均从 LFM3-1.7B-Base 分支而来,全部开源权重并已在 Hugging Face 上线。

    LFM3-1.7B 采用三混合层结构(13 层门控短卷积、5 层 256 token 窗口滑动注意力、6 层全局注意力),在参数比 LFM2.5-2.6B 少 35% 的情况下超过后者,WebArena-Verified 得分 38.42 对 3.02;4-bit 精度下约 1 GB,上下文窗口 256K。

    关注点

    Liquid AI 用同一 2B 级骨干覆盖文本、视觉、音频、全模态与决策模型,并给出单卡微调与端侧部署路径,可据此判断小模型专用化路线的可行性。

10月16日周五
  1. The Verge · AI 精选AI 评分78

    Meta 与 Apple 合作,让 Muse Spark Open 模型在 Mac 上更好运行

    Meta 发布 Muse Spark Open 模型,称其是迄今能力最强的美国开源权重模型,也是同类中首个能在桌面端运行、需两台搭载最新 MLX 框架的 Apple M5 Ultra Mac Studio 的模型。

    该模型为原生多模态模型,总参数量 8160 亿,Meta 称其擅长长周期任务、复杂软件工程和多步推理。Meta 与 Apple 此次合作发布并公开互相支持,Meta CEO Mark Zuckerberg 与 Apple 新任 CEO John Ternus 在 X 上互动,Meta 首席 AI 官 Alexandr Wang 对 Axios 表示两家公司已合作数月。

    关注点

    Meta 与 Apple 罕见联手,让 816B 参数开源模型能在两台 Mac Studio 上本地运行,可观察端侧大模型的部署边界。

10月14日周三
  1. Google DeepMind 精选AI 评分61

    Google DeepMind 与新加坡政府合作推出端侧诈骗检测模型

    Google DeepMind 与新加坡政府科技局(GovTech)合作,基于轻量级 Gemma 模型微调出可在普通智能手机上本地运行的诈骗检测模型,用于识别冒充公共机构、银行和本地人物的诈骗对话。

    关注点

    端侧运行、不读取云端消息的诈骗检测方案,为端到端加密场景下的隐私保护提供了可参考的落地路径。

10月8日周四
  1. Hugging Face Blog 精选AI 评分66

    Liquid AI 开源 d1-3B 与 d1-omni-600M 端侧决策模型

    Liquid AI 发布 d1 决策模型家族的两款开源权重模型 d1-3B 和实验性的 d1-omni-600M。

    d1-3B 在 Decision Index 0.2.1 上得分 48.57,为 10B 以下最佳,支持文本与图像输入;d1-omni-600M 支持文本加图像或文本加音频,在七个公开数据集上均分 78.4,超过参数量四倍的 Decider 2B。

    关注点

    Liquid AI 开源两款端侧决策模型,给出决策质量、延迟与多模态输入的实测数据,便于判断端侧部署取舍。

10月7日周三