跳到正文

搜索“GLM-5”

找到 8 条 · 更新于 01:24
10月29日周四
  1. Mistral AI 精选AI 评分87

    Mistral 开源 1 万亿参数多模态模型 Mistral Large 4(Le Chonk)

    Mistral 发布 Mistral Large 4(Le Chonk)的开放权重,这是一个 1 万亿参数的原生多模态模型,在公开预览基础上继续做强化学习,编码与防御性网络安全能力提升。

    在 Artificial Analysis Coding Agent Index 上得分 48%,与开源领先模型 GLM-5.3 基本持平,但每任务平均少用 47% token;Terminal-Bench 4.0 从预览版提升 13 个百分点至 41%,输出 token 减少 30%。

    关注点

    Mistral 公开了 1 万亿参数多模态模型的权重,并给出编码与安全基准及三种推理档位,可据此评估自托管成本。

10月20日周二
  1. AWS Machine Learning BlogAI 评分55

    AWS 在 vLLM 中实现双向 KV 传输,降低多轮智能体负载的 TTFT

    AWS 团队为 vLLM 加入双向 KV 传输,让 decode 节点在后续轮次把已算好的 KV 缓存回传给 prefill 节点,避免重复计算对话历史。

    在 Amazon EC2 P5en 实例、EFA 网络、1P1D 部署下,最长提示长度时 Qwen3-32B 的 TTFT 降低约 1.6 倍,zai-org/GLM-5-FP8 降低约 3.3 倍,结果随负载和配置变化。该功能由可配置的 KV 缓存保留 TTL(decoder_kv_blocks_ttl,默认 480 秒)和重算阈值(kv_recompute_threshold,默认 64 tokens)控制,并需要配合 KV-cache-aware 路由使用。

今天11月3日周二
  1. AWS Machine Learning BlogAI 评分34

    如何在 Amazon SageMaker AI 上用知识蒸馏构建高效智能体

    在 Amazon SageMaker AI 上,可用序列级知识蒸馏(SeqKD)把前沿"教师"模型的多步智能体轨迹迁移到更小、更快、更便宜的"学生"模型。

    SeqKD 只需教师模型的文本输出,无需 logits、权重或强化学习基础设施,因此对只能通过 API 访问的闭源前沿模型同样适用。做法是让教师生成搜索、读取、校验、决策的完整轨迹,用程序化评分器只保留真正完成任务的样本,再以监督微调训练学生模型,并在留出基准上评估。DeepSeek-R1 蒸馏模型即用教师生成的推理轨迹微调 Qwen 和 Llama 学生模型的知名例子。运行该示例需要具备 S3 读写权限和教师模型调用权限的 AWS 账户与 SageMaker AI IAM 角色。

10月20日周二
  1. Hugging Face BlogAI 评分58

    Hugging Face 发布 AnyLanguageModel 1.0,统一 Apple 平台本地与托管模型调用

    Hugging Face 发布 AnyLanguageModel 1.0,同时推出 swift-huggingface 1.0 和 swift-xet 1.0。

    该库是 Apple Foundation Models 框架的兼容替代品,开发者只需把 import FoundationModels 改为 import AnyLanguageModel,同一段会话代码即可调用系统模型、经 llama.cpp、MLX、Core ML 运行的开放权重模型,以及 OpenAI、Anthropic、Google Gemini、Ollama、Hugging Face Inference Providers 等托管服务。

  2. AWS Machine Learning BlogAI 评分33

    Amazon SageMaker JumpStart 2026 年至今回顾:新增 100+ 模型、覆盖 30 家提供商

    Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月间新增超过 100 个模型,来自 30 家不同提供商。

    贡献最多的是阿里云千问(Qwen),共 29 个模型,覆盖推理、MoE、智能体、代码生成、语音识别、TTS、嵌入向量与重排序;NVIDIA 贡献 17 个,包括 Cosmos3 世界基础模型系列与 Nemotron 系列。Mistral 新增 7 个模型,Google 新增 6 个 Gemma 4 变体,IBM 与 Cohere 各新增 4 个。

10月6日周二
  1. Mistral AI 精选AI 评分82

    Mistral 发布 Mistral Large 4 公开预览,1 万亿参数原生多模态模型

    Mistral 发布 Mistral Large 4 公开预览,这是一个 1 万亿参数、52B 激活参数的原生多模态模型,权重将于本月底开放。

    官方称其在编码、智能体工作流和多模态理解上表现突出,在 Artificial Analysis Cyber Index 上进入全球前五,在 Cybench 上解决 93% 的题目,并在 DeepSWE v1.1 上得分 61.7%。

    关注点

    官方给出 1 万亿参数、52B 激活的开放权重模型在编码、智能体与多模态上的具体基准,可对照现有开源模型判断其位置。

10月4日周日
  1. Hugging Face Blog 精选AI 评分73

    微软与 Hugging Face 发布 ThinkingBox:按数据库终态给 AI 智能体打分

    微软 Copilot Studio 团队与 Hugging Face 联合发布 ThinkingBox,它让智能体在隔离的 MCP 工具会话中运行,再根据终端后端状态和副作用而非生成文本打分,并让每个任务重复 20 次。

    关注点

    微软与 Hugging Face 联合发布的智能体评测基准,用数据库终态而非模型自述来判定任务成败,并给出可复现的 OpenEnv 运行方式。

8月20日周四
  1. Mistral AI 精选AI 评分71

    Mistral 发布 Agentic Search 检索层,FinanceBench 准确率从 26.7% 升至 86%

    Mistral 发布 Agentic Search,作为让 AI 系统在复杂文档中导航、阅读并核验信息的检索层,通过 Mistral Search Toolkit 和 Studio、Vibe 中的 Libraries 提供。

    关注点

    原文给出多步检索循环在 FinanceBench 与 OfficeQA Pro 上的准确率、token 与延迟变化,可据此判断传统 RAG 的边界。