Liquid AI 发布 LFM2.5-24B-A2B 端侧推理智能体模型
Liquid AI 发布 LFM2.5-24B-A2B,这是一个 24B 总参数、每 token 仅 2B 激活参数的推理模型,面向端侧私有智能体,会先推理再作答并支持工具调用。
24B 总参数仅 2B 激活的推理模型,给出端侧速度与工具调用基准,可据此判断本地智能体的可行边界。
Liquid AI 发布 LFM2.5-24B-A2B,这是一个 24B 总参数、每 token 仅 2B 激活参数的推理模型,面向端侧私有智能体,会先推理再作答并支持工具调用。
24B 总参数仅 2B 激活的推理模型,给出端侧速度与工具调用基准,可据此判断本地智能体的可行边界。
Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月间新增超过 100 个模型,来自 30 家不同提供商。
贡献最多的是阿里云千问(Qwen),共 29 个模型,覆盖推理、MoE、智能体、代码生成、语音识别、TTS、嵌入向量与重排序;NVIDIA 贡献 17 个,包括 Cosmos3 世界基础模型系列与 Nemotron 系列。Mistral 新增 7 个模型,Google 新增 6 个 Gemma 4 变体,IBM 与 Cohere 各新增 4 个。
Hugging Face 宣布接入 TorchTPU 这一 PyTorch 原生 TPU 后端,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,不再需要 Optimum TPU 或 torch_xla。
加载模型时传入 device_map="tpu" 即可,Diffusers 只需 pipe.to("tpu"),编译模式再加一次 compile 调用;超出单芯片显存的模型可通过 TensorParallelConfig 在加载时分片到多芯片。
Hugging Face 生态原生支持 TPU 后,PyTorch 用户不必再迁到 torch_xla 或 JAX,现有模型代码改一个设备参数即可运行。
Anthropic 研究人员 William Zhou 和 Daniel Freeman 发布研究,测试小模型能否在安全性薄弱的消费级 IoT 设备上自我复制。